在石勒和王浚互相交兵，你死我活之际，刘曜驻兵黄白城，任命赵染为先锋，进攻晋军，结果晋军失去贾疋以后，就像失去了主心骨和灵魂，虽然也拼尽全力，结果是屡败屡战，屡战屡败。
晋愍帝一见，一边派兵增援黄白城。一变下了三道诏书：
第一道：诏令刘琨，出兵平阳，剿灭汉国
第二道：诏令司马宝出兵支援长安。
第三道：诏令司马睿，江东出兵，攻取洛阳。
可真是宏图大志，如果这能如晋愍帝所愿，三路大军同时出兵，说不定还真有一拼呢，但是有想法毕竟是好的。
刘琨义不容辞，接到诏书后，立刻带兵与代公拓跋猗卢在泾北会合，商议共同讨伐刘聪汉国，以缓解长安的危局，这也是围魏救赵的意思，但是如果能一鼓作气，马踏平阳，灭了汉国刘聪就更妙了。
时年秋七月，刘琨兵分两路，一路自己亲率，进发占据蓝谷，另一部由监军韩据率领，从西河往南，攻打重镇西平。
拓跋猗卢同时发兵，派遣拓跋普根驻扎在北屈。
汉主刘聪也不敢怠慢，派遗大将军刘粲等人率领部众阻击刘琨，又派遣骠骑将军刘易阻击拓跋普根，同时派遣荡晋将军兰阳等人协助守卫西平。
刘琨等人听闻刘聪安排，觉得无机可乘，只得带兵回师，此行只为牵制汉军，只要汉军分兵而来，长安压力解除，也算达到目的了。
刘琨各路兵马回师的消息传到平阳，刘聪知道刘琨不敢对战，但是也不敢懈怠，他知道刘琨执着，跟自己是不死不休，于是让各支军队仍驻扎原地，不可擅动，等待下一步的作战命令。
晋愍帝的第三路诏书尤为慎重，派遣殿中都尉刘蜀到建康宣诏，朝廷任命琅琊王司马睿担任左丞相、并且为大都督，负责都督陕东诸军事。
诏书说：“现在是时机了，左丞相应当为国效力，扫除反叛，剿灭像刘聪那样的贼子大鳄，踏平平阳，奉迎怀帝的灵柩。为此，朕特命令南阳王司马保任右丞相、大都督，率领秦、凉、梁、雍等四州的军队三十余万人救援长安，令刘琨自幽、并两州，带领三十万兵，直击平阳，令左丞相司马睿率领所属的二十万精锐兵士，不日渡过长江，直取洛阳，共同恢复晋家天下，共建功勋。”
诏书之意，立刻令司马睿过江作战。
秋八月，刘蜀到达建康，传达了晋愍帝的诏书，并说了陛下的殷切期盼之意，司马睿热情接待，但是推辞说，刚刚平定江东地区，实在是立足未稳，没有余暇北伐，请刘蜀代为向晋愍帝陈情。
司马睿此举，急坏了一个人，那就是之前渡江而来的范阳祖逖，他也是刘琨的至交好友，都是少年就有大志之人，与刘琨俱为司州主簿时，同寝共榻，曾经一起闻鸡起舞。
听闻长安被围，晋愍帝被困，心急如焚，又闻刘琨已经起兵，驰援长安，更加坐立不安。
他上表启奏，道：“既然愍帝陛下遣使者而来，未若丞相令我过江，支援长安，也好对晋愍帝有个交代。”
司马睿一听，就烦了，心里话，我是没能力过江吗？救了晋愍帝，我何时才能出人头地？但是看祖逖满腔热忱，又不好明说，就假装为难道：“实在是无兵派于将军啊！”
祖逖立刻起身道：“无需一兵一卒，我自己招募。”
司马睿此时并无北伐之志，也知道祖逖的意思，他必须得出师有名，于是任命祖逖为奋威将军、豫州刺史，这样祖逖才有名头招兵买马，又派发给了一千人的军粮，布匹若干，至于兵士、铠甲、战马、一律没有，也就是意思意思，余下的自己想办法吧。
在司马睿心里祖逖也就是书生意气，一时兴起罢了，吃了亏，也就回来了。
等到渡江之前，祖逖住在京口，聚集起几百骁勇强健的壮士，慷慨激昂道：“晋朝的变乱，不是因为君主无道，横征暴敛，丧失民心，导致臣下怨恨，叛乱起兵。而是皇亲宗室之间争夺权力，自相残杀，结果无暇他顾，使戎狄胡蛮钻了空子，趁虚入华，祸乱中原。
我们都是晋朝的臣民，现在中原百姓正在水深火热之中，遭到摧残伤害，我们一定要励精图治，奋发图强。
如今我们人数虽少，但是个个是英雄豪杰，我们又是正义之师，此行只为祛除胡掳，光复中原，各地的有识之士，听闻此信，一定会闻风响应！”
刚要下令渡过长江，左丞相司马睿又追加任命，任祖逖为军谘祭酒。
祖逖知道这已经是司马睿能做到的最大支持了。于是一声令下，率领着部将数百人开始渡江。
行到长江中流，祖逖怒击船楫而起巨大水浪，他对天盟誓曰：“黄田作证，长江共视，祖逖不收复中原，永不渡江回来！”
见祖逖中流击楫，身边将士无不动容。
祖逖过江之后，遂屯兵淮阴，开始建造熔炉，冶炼浇铸兵器，招兵买马。没多久了，募得二千余人，然后拔营起寨，继续向前进军。
祖逖中流击楫之言，传回建康，司马睿禁不住大为感动，敬佩之情油然而生，他暗自思量，自己也一定会挥师北伐的，只是现在时机还不成熟，祖逖你一定要坚持住啊，等我与你中原会师！
司马睿的思虑不是没有道理的，他这边看上去赫赫扬扬，却当真是一脑门子官司。
江东固有势力，始终有盘踞自重之心，根本不把司马睿放在眼里，此时荆州又乱，好在王敦手下有个耿直果敢，能兵善战的陶侃，带兵镇压收复失地，向王敦报捷。
王敦和司马睿汇报道：“如果没有陶侃，荆州肯定丢了！”乃上表请求司马睿为陶侃加官进禄，司马宝任命陶侃为荆州刺史，一顿奖赏，让他屯并沔江。