石勒统率大军南下，计划进攻建业，直取江南地区。琅琊王司马睿带领士卒抵抗。双方相持了三个多月。石勒采取谋士张宾的建议，北上占据襄国（今邢台一带），并妄图谋取幽州和并州。石勒年青时曾被卖为奴，与母亲王氏失散。晋并州刺史刘琨寻得王氏，派人送还石勒，以此感化他。然而石勒只是表示感激，并不归顺晋朝。不久刘琨遭到刘曜等人的攻击，晋阳城失陷，其父母均被杀害。刘琨从代国请来救兵，战败刘曜军。
洛阳、长安被陷落之后，晋安定太守贾匹、冯翊太守索琳 、金城护军鞠允等，归拢残兵，进攻长安，与刘曜战于黄邱，刘曜战败，退守长安，晋军声威大震。贾匹等人立晋武帝孙秦王司马业为皇太子，迎入雍城。
312年，贾匹围攻长安，刘曜接连战败，无奈逃离长安，奔回平阳。贾匹等人奉司马业入长安，组织政府，仍用怀帝永嘉年号，贾匹、鞠允、索琳、荀藩、荀组等皆受封赏。
被俘虏的晋怀帝，受尽了汉主的羞辱。313年元旦，汉主刘聪大宴群臣，令晋怀帝穿着奴仆的青衣斟酒。瘐珉等人忍不住痛哭起来，刘聪甚是厌恶，不久就下令将晋怀帝毒死。怀帝被害的消息传到长安后，司马业即皇帝位，是为晋愍帝。
晋愍帝占据长安一带，经常受到外敌进攻。晋愍帝曾两次下诏，命琅琊王司马睿领兵北上，但司马睿以江东为乐土，姑息偏安，缺乏北伐的愿望和决心。314年，石勒领兵进攻幽州、并州，使用诈降计擒住王浚，夺下幽州，王浚被杀。晋愍帝遂命刘琨督并、冀、幽三州军马，继续抗击石勒军。与此同时，汉主刘聪派刘曜进攻长安。刘曜以赵染为先锋与晋军交战，不胜，越染被鞠允射死，刘曜败退。
晋愍帝孤守长安，形势更加危急。于是封司马睿为丞相、南阳王司马保为相国、刘琨为司空，希望这三股势力来援救长安，但这些人都无心或无力相救。316年，石勒攻破并州。同时，刘曜奉命再次大举进攻长安，鞠允、索琳得不到救兵，无力抵挡，从外城退入内城。后城中粮尽，晋愍帝决定投降，并派侍中宗敞给刘曜送降表。索琳暗自将宗敞留住，并派儿子去见刘曜说：“如果封索琳为万封郡公，索琳就开城投降。”刘曜不准，将他杀了。索琳只好放宗敞去见刘曜。晋愍帝衔璧舆榇，自乘羊车，出城投降。晋臣皆相随号泣，哭声震天，御史中丞吉朗更是头撞东门而死。刘曜将晋愍帝及晋降臣送往平阳，鞠允自杀，索琳被斩。西晋至此灭亡，前后四主，共五十二年。