1259年整个冬天忽必烈的军队坚持对南宋作战。他们首先渡过长江，接着围攻坚固设防的鄂州城。这场战役的胜利将支撑忽必烈在蒙古帝国中的声誉，而该城的宋朝保卫者誓死不投降。但是，南宋丞相贾似道希望媾和。他派出一位使者答应每年向忽必烈进贡银两丝帛，所要求的回报是保证把长江维持为他们的共同边界。忽必烈的儒士幕僚赵璧对此事的评论是：“今已渡江，是言何益!” 忽必烈企望胜利。
接踵而来的危机挽救了宋朝。蒙哥死后阿里不哥立即调动军队并且和有影响的蒙古显贵结盟。1260年初，阿里不哥的一个盟友向开平城进军。丈夫出征期间坚守在后方的察必立即派出一位使者将他弟弟的计划和行动通知忽必烈。忽必烈必须放弃对鄂州的围攻，向北回军迎击阿里不哥。忽必烈从鄂州撤出大部分军队，只留下一支象征性的军队保卫已占领的地区。贾似道利用忽必烈的突然撤军命令向蒙古的这支小部队发动进攻，并且迅速击败蒙古军，收复了宋朝领土。贾似道兴高采烈地把这场小规模交战吹嘘为巨大的胜利，错误地引导宋廷拒绝与蒙古和解。
此时忽必烈正在回兵并于1260年春天抵达开平。《元史》说许多宗王“请求”忽必烈继承汗位。在三次正式“拒绝”之后，忽必烈答应他们的请求，在5月5日仓促召集的一次忽邻勒台上被选举为大汗。因为大部分蒙古贵族没有出席这次会议，忽必烈的选举受到异议。例如，一个月之内，阿里不哥在蒙古旧都和林宣布为争位的大汗。在三个其余的主要汗国中，阿里不哥可以得到斡罗斯的钦察汗国和中亚的察合台汗国两个汗国的支持。忽必烈惟一的支持者是他的弟弟旭烈兀，而旭烈兀本人在中东正面临着对他的权威的严重危胁。在返回蒙古的途中，旭烈兀获悉埃及马木鲁克朝统治者于1260年9月在叙利亚的爱音扎鲁特击败了他的军队。另外，钦察汗国为试图把他从沿着斡罗斯—波斯边界的阿哲儿拜占驱逐出去已向他宣战。旭烈兀的注意力被牵制到别的地方，从而在皇位继承的斗争中对忽必烈的帮助是很小的。
为了得到支持，忽必烈不得不依靠汉地的资源和汉人臣民。他发布了一份由他的儒士幕僚王鹗起草的诏书，承认对于统治中国光靠蒙古军事技能是不够的，为了统一中国需要一位仁义的和按照先人传统进行统治的贤人，并且暗示他正是这样的人。他还提出减少百姓的赋税和徭役负担。在发布这份诏书几天后忽必烈采用了汉制年号“中统”，尽管他还没有为他的王朝采用一个汉文国号。他设立的政府机构中书省和宣慰使司类似于传统的中国机构。事实上，忽必烈希望向所有的汉人示意——他想采纳典型中国统治者的服饰和风格。但是南宋的汉人不接受这种让步。他们把忽必烈派来对双方冲突进行外交协商的使者郝经扣押起来。1260年郝经被投入牢中，一直关押到70年代忽必烈成功地发动对南宋的军事征战为止。
忽必烈自己可以利用中国北方的资源，并且利用占据中原的优势封锁向阿里不可提供的物资供应。以和林为基地，阿里不哥需要输入大部分粮食，忽必烈决心切断他弟弟的供应线。甘肃、东北以及更西的畏兀儿是由忽必烈的盟友控制的。阿里不哥供给的主要来源是以中亚为基地的察合台汗阿鲁忽。起初阿鲁忽支持阿里不哥争夺帝位，但是对税收及分配掠夺品的争执使他们反目。因此，1262年以后，阿里不哥没有可依赖的盟友以及可靠的供应来源。对他来说，放弃帝位争夺只是时间问题。在几次小冲突之后，1263年阿里不哥向忽必烈投降。对忽必烈足够有利的是，几年后阿里不哥在被监管中死去，使人怀疑他是被毒死的。尽管阿里不哥死了，忽必烈的权力仍然面临着其他威胁。在把自己扮演成为蒙古帝国(见地图30)的大汗的努力中，忽必烈仍然摆脱不了对他即位的合法性的怀疑。
同样，接受忽必烈为中国的皇帝也是脆弱的，出现了几位权力的竞争者。他的第一个对手是山东益都的李璮。汉文史料描述李璮是一个“反叛的逆臣”，因为他最终倒戈反对忽必烈。从而，他被看成为是一位反叛而不是一位献身建立中国王朝的忠臣。撇开不谈这种错误的表述，李璮的确对忽必烈自称为中国皇帝构成了直接威胁。早期，在对宋朝的战争中李璮和蒙哥合作并且袭击过几座滨海城镇。当忽必烈1260年登上中国皇位时，看来没有理由怀疑李璮对蒙古的忠诚。另外，李璮是王文统的女婿，而王文统刚被忽必烈任命为中书省的平章政事，这是政府里最有影响的官职之一。
1260年和1261年，忽必烈送给李璮金银，作为对宋战争的费用。但在1261年下半年，李璮准备和忽必烈决裂并且实行与南宋的一项和约。由于可以从山东贮藏的盐和铜得到巨大财富，李璮拥有向蒙古统治发起重要挑战所需的资源。他可能已经得到宋朝给予支持的保证并且必然认为和南宋的贸易以及其他经济关系要比与蒙古的友好关系更有实利。另外，在种族上作为一个汉人，他可能具有忠于宋朝的感情。不论出于什么动机，1262年2月22日他背叛了他过去认可的君主。忽必烈立即对此作出反应，派出几支最信任的军队来对付这位麻烦的汉人领导人。忽必烈的两位主要将领史天泽和史枢以及儒士幕僚赵璧前去粉碎李璮的反叛军队。数量上的优势在几个月之内就显示出来，8月初李璮被击败并被抓获。朝廷的士兵按通常为贵族施行的处死方法，把李璮放在一个袋中用他们的马把他踩死。他的岳父王文统在此之后很快也被处死，并且为了对王文统受到的惩罚提供法律根据，公开宣布了王文统在叛乱中的造反及“叛迹”。
李璮的反叛在忽必烈的统治中是一个转折点，因为它增加了忽必烈对汉人的猜疑。在一个重要经济地区发生的由一位重要的汉人领导的并且得到一位受信任的最高层汉人显贵隐蔽支持的叛乱肯定会对忽必烈产生影响。从这个时刻开始，他自然地对仅仅依赖他的汉人助手统治中国产生怀疑，作为替代他从非汉人幕僚中寻求协助。即使在他成为大汗和中国皇帝之前，忽必烈已经召募出身于不同种族的幕僚。但是，李璮的背叛引起更大的对依赖汉人的怀疑，忽必烈更强烈地意识到需要非汉人的幕僚和官吏。
他的妻子察必支持统治上的这种努力。察必渴望成为有权力的皇后，而不仅仅是一个部落首领的妻子。她对不同背景的尤其是吐蕃背景的官吏的庇护也补充了忽必烈的政策。然而，他们两人仍意识到他们的大部分臣民是汉人，从而容纳某些汉人价值观念和制度是必不可少的。
忽必烈早期实行的行政制度意在吸引汉人的支持并且反映蒙古人的利益。但是，和以前的中国朝代不同，忽必烈新设计的政府不实行科举。这种需要对孔子学说进行反复学习和探讨的考试从7世纪起为中国的各朝代提供了许多官员，并且被北方的辽、金所采纳。但是，忽必烈不急于把自己囿于由汉人思想熏陶出的幕僚和官员的圈子之内。此外，他想拥有任命自己官员的权力。不过他所建立的制度应该是他的汉人臣民所熟悉的。
传统的中国政府机构中书省负责大部分行政事务，如接收呈交给皇帝的奏章以及制定法律。中书省的负责人在主要的政治决策上和忽必烈商量，然后由左丞相和右丞相监督的六部执行。枢密院负责军事事务，御史台监察全国官吏的行为并且向皇帝呈写报告。尽管中央事务的大部分框架类似于更早的中国各朝代，但地方控制系统是不同的。中国分成行省，各省由行中书省丞相管理。皇帝还指定蒙古人或中亚人为专门代表(达鲁花赤)检查各省官员及各省180路地方官吏的活动。
忽必烈的政治制度明显地不同于以前中国各朝代的政治制度。首先，他把居民分成为三个种族。蒙古人占据最重要的位置，然后是称为色目人的西亚和中亚人。称为汉人的中国北方居民最初构成最低的阶层，而在征服中国南部之后称为南人的南方汉人变为最低的阶层并且排除在一些最重要的文职之外。忽必烈认识到如果想避免被人口多得多的汉人(数量上至少是30比1)所吞没，蒙古人必须拥有控制权。概括地说，比起以前的中国各朝代对控制的强调要更多。
忽必烈关心的是官员(其中不少人不是蒙古人)保持忠心、诚实和廉洁。“蒙古的监察系统……要比任何一个前朝的系统更为渗透得多，并且它与中央集权紧密联系的程度在中国的监察史上是前所未有的。”忽必烈寻求保持官员的忠诚同时防止他们滥用职权。受贿的官吏、在履行职权时缺乏热情的官吏或者向他们的臣民过分征括的官员受到严厉的惩罚。同时忽必烈需要新的制度来控制和保持蒙古人的统治地位。从窝阔台的时代开始，许多蒙古贵族得到封地的赏赐，在他们自己的封地里他们认为自己是至高至上的并且几乎不允许干预。忽必烈必须使这些封地得到中央政府的监控，坚持使这些统治者必须遵守他的政府制定的法律和制度。另外，他期望由他而不是封地的拥有者来征收赋税和征募国家的军队。
最近的研究提出忽必烈在控制上的努力是徒劳的。一位学者写道：“由于在任命重要官员时常常破例……中央政府在全帝国范围内的行政事务的参与上顶多是短暂的并且仅限于非常有限的活动。”按照这个观点，中书省的作用只在忽必烈的旧分地和首都周围是有效的，对于地方事务的控制不像他所希望的那样遍及各地。同样，他对地方官员和封地领主的控制也是有限的。在他的统治期间，他赦免过腐败的和顽固对抗的官吏，这表明在推行自己的法律时他不时受到挫折。然而这些失败不应该夸大，因为在60年代的前几年忽必烈已经建立看上去切实可行的对中国的行政管理。这种行政管理对于汉人是熟悉的，但它和以前的中国体制相比又有相当的不同，以便容纳忽必烈和蒙古人的价值观念和体制以及他们更大的控制臣民的需求。——费正清《剑桥中国辽宋夏金元史》
按照蒙古传统惯例，选汗的忽里勒台应在鄂嫩河、克鲁伦河之地举行，而且必须有各系宗王参加。忽必烈在汉地自行集会选汗，显然与传统不合。这时，阿里不哥留守和林大斡耳朵，蒙哥死后监国。忽必烈自立为汗后，阿里不哥也随即在和林举行大会。蒙哥诸子阿速台、玉龙答失及察合台系宗王数人，拥立阿里不哥为汗。
蒙古国家军队的主力，原由蒙哥统率侵宋。蒙哥死后，大将哈刺不花率部退据六盘山，与留守这里的浑都海部会合。阿里不哥派出霍鲁怀、刘太平等来陕西，拘收钱谷，企图与六盘山驻军联合，自关中进兵。廉希宪、商挺等来京兆，先发制人。六月，以谋反罪处死霍鲁怀、刘太平，并处死浑都海在四川的党羽乞带不花、明里火者。忽必烈诏令陕西四川宣抚使八春节制诸军，命巩昌权总帅汪良臣统率陕西汉军防御六盘山的军队。
九月，阿里不哥派遣阿蓝答儿领兵南下，至西凉府，与浑都海军会合东来，哈刺不花因意见不和引兵北去。忽必烈命诸王合丹、合必赤与八春、汪良臣等率领蒙、汉军迎战。两军大战于删丹，阿里不哥军溃败。阿蓝答儿、浑都海相继被杀。
忽必烈亲率大军去和林，攻打阿里不哥。七月自开平出发。九月，至转都儿哥之地。阿里不哥败逃，退至乞儿吉思地，派遣使者与忽必烈相约，邀集西北诸王正式选汗。忽必烈命宗王移相哥统领一军国驻和林，以待阿里不哥。十月，忽必烈领兵南返，十二月至燕京，赏赐拥立诸王。一二六一年二月，返回开平。
一二六一年秋，阿里不哥率领斡亦刺等部众，突然袭击移相哥军，乘胜南下。忽必烈得警，急忙征调张柔、严忠嗣、张宏等七处汉军，并令董文炳率射手千人，塔察儿率军士万人随从出征。十一月，忽必烈军与阿里不哥战于昔木上脑儿。诸王合丹、驸马腊真、丞相缐真和兀鲁、忙兀二部军为右军;诸王塔察儿、太丑台和史天泽等将左军;诸王哈必赤将中军，合势进攻，斩阿里不哥的大将合丹火儿赤。塔察儿与合必赤分兵奋战，大破斡亦刺军。阿里不哥后军阿速台复至，再战，两军杀伤相当。阿里不哥北撤，忽必烈也还军。
察合台汗领地(兀鲁思)原由兀鲁忽乃妃子摄政。忽必烈即位后，即派遣察合台曾孙阿必失哈偕弟纳邻合丹去阿力麻里主持政事。二王行至途中被阿里不哥捕获。阿里不哥乃派察合台孙阿鲁忽(拜答儿子)去察合台汗地执政，以为声援，并防御在波斯的旭烈兀。阿里不哥远在漠北，从汉地北运的粮食断绝，给养缺乏，便派遣使者去察合台汗领地征敛。阿鲁忽杀使者，转而拥护忽必烈。
一二六二年秋，阿里不哥领兵往征阿鲁忽。阿鲁忽在普刺城迎战，斩阿里不哥大将哈刺不花。阿鲁忽得胜而回，不再戒备。阿里不哥的后军阿速台突然进至阿力麻里地区，阿鲁忽败走和田、喀什噶尔。阿里不哥军遂驻冬阿力麻里，阿鲁忽西走撤马尔罕。
阿里不哥进驻阿力麻里后大肆屠掠，阿鲁忽部下多被杀死。一二六四年春天，又值饥荒，人民死亡甚多。阿里不哥部下将士多逃至驻在阿尔泰地区的扎布汗河上的玉龙答失，共商归降忽必烈。阿里不哥众叛亲离，又怕阿鲁忽报复，走投无路，不得不投附忽必烈。
阿里不哥来见忽必烈请罪。忽必烈问他说：我和你谁对?阿里不哥回答说：在以前，是我对。今天，算你对。忽必烈命宗王和将领审讯拥立阿里不哥的诸臣，李鲁欢等被处死。忽必烈又分遣使者征询波斯旭烈兀、钦察别儿哥和察合台兀鲁思的阿鲁忽三王，决定赦免阿里不哥及阿速台罪。不久，阿里不哥病死。——范文澜《中国通史》人民出版社2009年版
忽必烈与阿里不哥的争位
蒙哥遗留下三个弟弟：忽必烈、旭烈兀和阿里不哥。旭烈兀自1256年成为波斯汗后，由于远离蒙古，而没有要求继承大汗位。剩下的只有忽必烈和阿里不哥。阿里不哥作为幼子，已经成为蒙古本土上的统治者，并在蒙古都城哈拉和林扎营。作为蒙古地区的统治者，他准备在蒙古召开库里勒台，以确保他被举为大汗。而忽必烈抢在他之前行动。他率军从武昌北上，在中蒙边界的上都府(位于今察哈尔和热河之间的多伦诺尔附近)建大本营，早些时候，他只是在这儿建起了他的夏季驻地。1260年6月4日，他在此被他的党羽，即他的军队，拥立为大汗。当时他44岁。
按成吉思汗的法律，这次仓卒的选举是非正式的。按传统，库里勒台应该在蒙古召开，会前应召集成吉思汗的四个兀鲁思的代表们出席。阿里不哥在蒙哥的丞相、克烈部聂思托里安教徒学鲁合的怂恿下，现在也毫不踌躇地在和林悟取大汗称号。在中国，控制着陕西和四川的蒙军将领们倾向于阿里不哥一边，但忽必烈不久就把这两个省的军队争取到他一边。忽必烈的副将们在甘州东部(甘肃境内)打败了阿里不哥军，这次胜利巩固了忽必烈在对蒙古统治下的中国的所有权。忽必烈把他的优势向蒙古推进，他于1260年年底，在哈拉和林以南的翁金河畔度冬;而阿里不哥朝叶尼塞河上游撤退。接着忽必烈错误地设想战争已经结束，在和林留一支普通军队后，回到中国。1261年年底，阿里不哥卷土重来，驱逐了这支驻军，并进军迎战忽必烈。在戈壁边境上打了两仗。第一仗忽必烈获胜，然而;他再次错误地没有追击阿里不哥，10天后打了第二仗，尽管战斗十分激烈，但却没有决定性的胜负。
站在阿里不哥一边的有窝阔台家族的首领、塔尔巴哈台的叶密立地区的统治者海都和察合台宗王阿鲁忽，阿里不哥曾帮助阿鲁忽从其堂兄妻、兀鲁忽乃手中夺得察合台兀鲁思。由于这一支持，阿里不哥的势力与忽必烈的势力相匹敌，直到将近1262年年底，阿鲁忽背弃阿里不哥投靠忽必烈(看下文，第331页)。这一出人意料的背叛改变了形势。当忽必烈赶走了阿里不哥的人，重新占领和林时，阿里不哥被迫在伊犁河流域与阿鲁忽作战。阿里不哥被两军拑住，最后于1264年投降忽必烈。忽必烈宽恕了他，但是，处死了他的一些主要支持者，包括聂思托里安教丞相孛鲁合。为谨慎起见，他把阿里不哥作为重要俘虏囚禁起来，直到1266年阿里不哥去世。——勒内格鲁塞《草原帝国》
