忽必烈生前精心栽培的有两个人，一个是真金的嫡长子甘麻剌，一个是真金的嫡三子铁穆耳，因为两人各有所长，忽必烈一时难以定夺，生前就没有明确皇位继承人，但各宗王贵戚、朝廷大臣都知道忽必烈的意思，就是要从两人中选出一人继承帝位。
难以定夺，竟然用这种方式选皇帝。汉臣按照中原皇室嫡长子继承制的传统，倾向于推选嫡长子甘麻剌继位，但真金的太子妃也就是两兄弟的生母阔阔真，却更喜欢三儿子，想让铁穆耳继位。蒙古宗王们的意见也不一致，一时间谁来继位难以定夺。最后还是阔阔真拥立铁穆耳的意见渐渐占了上风，但大儿子甘麻剌内心不服气，阔阔真就提议，让兄弟俩当众比赛诵读祖宗训诫，谁赢了谁当皇帝。当娘的自然知道儿子们的底细，患有口吃的甘麻剌败北，铁穆耳于1294年登基称帝，史称元成宗。忽必烈在位时，窝阔台汗国的海都汗、察合台汗国的笃哇汗都不承认忽必烈的蒙古大汗地位，导致蒙古帝国四分五裂。两人还联手在元朝西北地区屡屡制造事端。忽必烈派大军征伐，两人采取游击战术，打不过就跑，元军无法彻底将其剿灭。元成宗上台后，停止对外扩张，着力解决内部事务，派侄子海山率兵彻底击败了海都和笃哇，迫使他们的继承人都哇、察八儿归附了元朝。因为伊尔汗国本就承认元朝宗主地位，钦察汗国离元朝最远，喜欢“随大流”，所以至此，四大汗国一致承认元朝皇帝是成吉思汗的合法继承人，蒙古帝国名义上又归为一统。元成宗少年时有酗酒的恶习，虽然后来他凭着坚强的毅力戒除了酒瘾，但身体已经遭受重创。所以不到40岁，元成宗便大病不断，怠于理政，朝廷政务基本委托给了皇后卜鲁罕处理。卜鲁罕与朝廷里的色目官僚相互勾结，排斥汉族官员，欺上瞒下，倒行逆施，朝政日渐混乱。1307年，元成宗铁穆耳在大都(今北京)玉德殿去世，终年四十二岁。
