“喀尔喀”一名称，最初见于明代文献，清代以后，漠北蒙古也通称为“喀尔喀蒙古”。13世纪初，蒙古崛起后，大量蒙古人跟随成吉思汗及继承者，西征南下，远走他乡。但蒙古草原上仍有很多留守的游牧居民，元朝末期，游牧在蒙古高原东部哈拉哈河地区（今蒙古国东方省和中国呼伦贝尔市交界处，在阿尔山景区有一景点就是哈拉哈河源。哈拉哈就是喀尔喀）的喀尔喀部由于游牧地域的扩展和人口的增加逐渐强大起来，该部不断向北部和西部扩展，周边的蒙古部落也纷纷加入到这一行列中。据史料记载，当时喀尔喀部在历史文献中出现的鄂托克已经有札剌亦儿、翁吉刺特、亦乞列思、兀鲁兀、忙兀、巴林、扎鲁特、巴岳特等鄂托克，这些鄂托克应该就是当时元朝时期岭北行省的旧有千户，他们由于游牧、联姻、对外战争等等诸多因素联合在一起，组成一个地域广大的部落集团，被称为“喀尔喀万户”。15世纪末，达延汗结束蒙古草原各部异姓万户封建主的世袭封权，分封第五子阿尔楚博罗特与十一子格埒森扎于喀尔喀万户，阿尔楚博罗特领有喀尔喀万户左翼，他的游牧地域分布在喀尔喀万户右翼的东南部。

下面介绍几个影响较大的喀尔喀蒙古万户组成部分：

扎鲁特部是喀尔喀万户内一个重要的鄂托克。关于扎鲁特部的起源，历史上有很多种说法，其中说法之一是追溯到13世纪成吉思汗统一蒙古各部时的札答兰部。关于这个部落，《蒙古秘史》上有记载：“孛端察儿先抓获一孕妇，问：‘你是什么人？’孕妇回答道：‘我是札儿赤兀惕——阿当罕——兀良哈人。’……那位孕妇随孛端察儿后生了一个儿子。因是札儿赤兀惕百姓之子，故名为札只剌歹，后成为札答兰氏祖先。札只剌歹的儿子土古兀歹，土古兀歹的儿子不里不勒赤鲁，不里不勒赤鲁之子合剌合答安，合剌合答安的儿子便是札木合。由此，他们成为了札答兰氏……”，这种说法说明，扎鲁特部是当年成吉思汗的安答（结拜兄弟）札木合的后裔，13世纪成吉思汗统一蒙古各部后，札答兰部自然成为蒙古的一部分。当年的札答兰部被成吉思汗分封给自己的爱将哲勒蔑，以后哲勒蔑的后人统领此部，到了达延汗时代，则由黄金家族再度直接统治了这个部落。《蒙古源流》记载：答兰特哩衮战役是达延汗统一蒙古，平定蒙古右翼三万户叛乱的一次重大战役，在作战取胜以后，达延汗论功行赏中，指出了立功的五个功臣之名，其中提到扎鲁特人巴阿孙塔布囊。可见当时在喀尔喀万户内就有扎鲁特鄂托克，扎鲁特人也参加了达延汗统一蒙古大业的斗争。扎鲁特应该是当时喀尔喀万户的旧鄂托克之一，并且也是喀尔喀内人数众多的鄂托克之一，排在内喀尔喀五部之首。

巴林部也是喀尔喀万户内一个古老的鄂托克。巴林部的历史悠久，最早可以追溯到《蒙古秘史》记载的“巴阿邻”。书中记载：在尼伦蒙古中，以孛端察儿为始祖的乞颜·孛儿只斤氏最为著名。并说：“孛端察儿生了一个儿子，因为是掳来的妇人所生之子，就给那儿子取名为巴阿里歹，他成了巴阿邻氏的祖先”。由此可见，巴林部与成吉思汗的乞颜部是同宗同祖。当时的巴林部游牧于杭爱山与不儿罕山、肯特山之间，称为“毛毡中的百姓”。在13世纪成吉思汗时代，巴林部的首领为豁儿赤，他与巴林部的萨满巫师兀孙一起拥戴铁木真为成吉思汗。孛端察儿去世以后，他的子孙曾一度归属泰亦赤兀惕部，后来在巴阿邻部的失儿古老人率领下，毅然离开了泰亦赤兀惕部，投靠了成吉恩汗。成吉思汗命其部落在额尔齐斯河沿岸“林木中百姓”居住处镇守。到了14世纪初的元成宗铁穆耳时期，斡赤斤（成吉思汗幼弟）玄孙乃颜叛乱被镇压后，居住在额尔齐斯河沿岸部分“林木中百姓”受命迁徙到哈拉哈河一带，巴林部很可能在这时迁徙到了东方。

翁吉刺特部也是喀尔喀万户内历史悠久、名声显赫的部落，原住地在额尔古纳河、根河流域，是古老的蒙古部落中的一支。《金史》称其为“广吉剌”，《蒙古秘史》称“翁吉剌”，《元史》称“弘吉剌部”，是十二世纪前后蒙古高原上重要的游牧部落之一。有资料考证，成吉思汗的母亲诃额仑和妻子孛儿帖都是出自于翁吉刺特部。在蒙元时期，翁吉刺特共走出18位皇后，16位驸马。因此成吉思汗家族世代与翁吉刺特联姻。在《马可波罗游记》中写道：“大汗忽必烈有四个皇后，都是非常美丽的女人。除了皇后以外，大汗还有许多妃子，她们都是从一个叫‘弘吉剌’的地方选来的。弘吉剌的居民以面貌秀丽、肤色光洁著称。”成吉思汗统一蒙古各部后，因翁吉刺特攻城拔寨、浴血奋战有功，特赐地翁吉刺特于呼伦贝尔海拉尔河流域。后来，翁吉刺特部也成为了喀尔喀万户内的一个鄂托克。

16世纪中叶，喀尔喀万户左翼五部随察哈尔部蒙古大汗达赉逊汗南下，成为生活在内蒙古区域的内喀尔喀（现今通辽的扎鲁特旗和赤峰的巴林左旗、巴林右旗就是这么来的），留居漠北喀尔喀右翼七部称为外喀尔喀，发展为今天的蒙古国。