中国长江以南地区有当时世界上最大的城市。例如，南宋首都临安（今杭州）是当时世界上人口最稠密的城市，保守估计人口大约有一百五十万。而威尼斯作为欧洲的商业中心之一，当时只有十万居民。蒙古人在中国北方发展出来的围城战术现在面临真正的考验。围攻这些城镇需要重型火炮，尤其急需可抛射巨石的发射机。而蒙古人最擅长的骑兵作战却不适合中国南方的地形和居住区。在这里，他们的成功只能依赖步兵和对主要城市的围攻。为了规划和进行这些战役，他们转而求助于他们的汉人幕僚和回教徒。最后，蒙哥认为，他的军队能够击败并占领中国南方，于是决定让他的军队同时开辟四条战线，使南宋军队不能专注于防卫任何一个区域。为了阻止蒙古人的攻击，他们将不得不把军队分散在一片广阔的疆土上。尽管形势有利，蒙哥仍然丝毫不敢大意，对战役做了严密的部署。他的弟弟阿里不哥留守在哈剌和林保卫首都，并处理蒙古国的日常事务。依据蒙古习俗，家中最小的儿子负责看守灶火或土地，蒙哥按照蒙古习俗把这项工作分配给了阿里不哥。当一切准备就绪，1257年六七月间，蒙哥前往成吉思汗旧殿朝圣。在那里，他举行了祭奠仪式，祈求这次新的军事冒险能够成功。在接下来的一个月中，他又进行了祭天活动，在他宫殿周围的圣地上洒了马奶，这种马奶产自专属于他的马群。
这一切都是作为一个优秀的蒙古大汗必须履行的职责，在举行了这些仪式之后，蒙哥便率军开赴南方。到1258年5月，他已经跨过黄河，在今宁夏固原县南部的六盘山集结他的军队。他所统率的军队数目不详，有一份史料说蒙哥率领一支六十万人的军队，另一份史料则说忽必烈率领九个“万户”（大约九万人）的分遣队。但是汉文史料中的数字一般比较小。蒙哥为四支部队分配了具体的任务，规定了所要达到的特定目标。蒙哥亲自指挥的军队将从他的西北基地出发，向南挺进，占领西南方的四川省，然后向东进攻。忽必烈的军队将从他新建的开平向南方进军到华中，渡过长江到达鄂州（今湖北省武昌），他们要在那里击败南宋军队。在那里他们还将与兀良哈台率领的从云南开来的第三支军队会合。第四支军队由成吉思汗兄弟的孙子率领，从蒙哥六盘山的基地向位于鄂州西北部的襄阳进攻。这支军队最终也要与忽必烈和兀良哈台的军队会合。这个计划显然是要把南宋的东部和西部分割成段，使之首尾难顾。蒙古人打算先集中优势兵力平定西南和中原，对偏安东部的南宋小朝廷的兵力形成压力。他们也希望在西部战役中迅速取胜，迫使宋廷有条件投降，从而减少蒙古人的伤亡损失。起初，蒙哥的军队遇到了巨大的困难。他的进军路线是最艰辛的，要么道路尚未开辟，要么人迹罕至。西南地区的酷热令人窒息，山峦起伏的地带易守难攻。天然环境对防御者十分有利，他们利用熟悉地形的有利条件，成功阻止了蒙哥的进军步伐。骑兵作为蒙古人的主要力量在这次远征中作用不大。相反，包围据点，围攻城镇成了这次军事行动的主要内容。虽然蒙古人已经相当熟悉围城战，但是这种军事战术毕竟不是他们的长项。而且，防御者可能比蒙古人预料的更难缠。蒙哥虽然很不情愿，但仍不得不在西南耽搁了较长的时间。然而他的进攻一开始却很顺利。到1258年3月，他的军队已经攻陷了四川重镇成都。他们的下一个目标是重庆周边地区，这里主要的障碍是合州。南宋将领王坚决心保卫这个城镇，击退蒙古侵略者。他没有被来势汹汹的进攻所吓倒，宁死不投降。结果，蒙哥的军队推进缓慢。
1259年3月，在占领成都一年后，蒙哥召集高级军事将领举行宴会，讨论将来的策略。酒足饭饱之后，他们开始了讨论。蒙哥最信赖的幕僚再次表达了保留意见，认为这些地区和蒙古人较早成功占领的地区实在太不同，他再次强调了疾病和酷热的威胁。然而蒙哥力排众议，表示要坚决推进他的计划，不惜一切代价占领合州。蒙哥在合州打了五个月。从3月下旬到5月初，他的军队反复攻击这个城镇，但是一点作用都没有。根据史料，双方的伤亡都很惨重。然而，蒙哥并没有灰心。虽然他坚持继续进攻，但是在五月和六月初，他的军队被暴风雨所阻，无所作为。他的战役在这阴雨连绵的季节里停滞不前。雨季一结束，他的军队立即发动进攻。8月11日，蒙哥死于钓鱼山下。有史料认为他的死是由于进攻合州时所受的箭伤。其他史料，包括《元史》，则断言他死于痢疾，另有一说蒙哥死于霍乱。不管原因是什么，蒙哥的死震撼了整个蒙古帝国，并对其未来历史进程产生了深远影响。