东晋实施的数次北伐，主要从三个方向展开∶一个是从荆州北上，另一个是从淮泗北上进入黄河，第三个是从淮河向西北攻击前进，进入河南的东南部，夺占许昌、项城、开封等地。桓温北伐前秦就是从荆州入武关，进入关中；他北伐前燕则是从淮泗北上，进入黄河；而祖逖北伐则大致走的是第三条进军路线。
就打击后秦来说，最捷径的路线当属从荆州北上，入南阳盆地，穿越武关，进入关中腹地。走这条路线的好处就在于∶距离最短，效率最高。但是，不利方面也是显而易见的，道路崎岖，部队补给困难。
除此以外，对刘裕而言，以荆州地区为战役出发点，还有着现实的困难，那就是，刘裕把司马休之从荆州地区赶走还不足一年，而司马休之在荆江地区深得民心。一旦大军来到荆州，势必增加荆州地区百姓的负担，可能会引发新的骚动。
后秦深入在中原的重要据点大致有七个∶
一是许昌。许昌东南距离项城、西北距离洛阳均二百余里，属颍川郡。如果说河南是天下之中，那么许昌就是河南之中，这里不仅是进攻洛阳的必经之路，而且是北伐军的辎重中转站，地理位置十分重要。
二是滑台。滑台是黄河的重要渡口，在此驻军可以监视魏军，又可以保护大军水路的畅通。
三是商丘。它是联络淮河流域与黄河流域的节点。
四是仓垣。它在今天河南省开封市西北，为古汴河尽头的重镇。
五是荥阳、汜水关、阳城。此三地均为屏护洛阳东面的重镇。
六是洛阳和洛阳以西的渑池及潼关，这是进入关中的门户。
七是武关。这是关中平原向东南发展的缺口，又是东南势力进入关中的奇陉。
否定了主力从左路荆州地区北上以后，刘裕就面临两种选择∶一是主力采取中央突破的战法，从寿春斜刺里杀出，直取许昌、洛阳（祖逖路线）；二是主力沿淮泗北上，从青州入黄河，再西进（桓温伐前燕路线）。如果采取祖逖路线，运送大军物资的部队仍将从淮泗入黄河，因为不论是从汴河或者是从陆路运送粮草，都无法满足大部队的需要。这样一来，辎重部队极易受到北魏军的攻击。此时的滑台等地仍在北魏之手，北魏态度暖昧，只有对其保持威压，才能有效地避免双方不必要的冲突。所以，大军只能沿着桓温伐燕的路线北上。
确定了大军的行军路线后，在具体分配战斗任务上，显示出了刘裕独具的匠心。刘裕计划主力大军自淮河泗水北上，开巨野泽，入黄河，再沿黄河一路西上。在此之前，王懿、檀道济、王镇恶等将各自率军从淮河流域，分道北上对后秦中原地区发起全面进攻，夺占后秦中原许昌、仓垣等重要据点，一方面保护大军侧翼安全，另一方面为大军开路。前锋部队的最终打击目标是洛阳，在占领洛阳后，等待主力军队到来；另派荆州部队北上南阳，一部入武关作为一支奇兵，另一部转兵东北，与自淮河而来的晋军协同，攻陷许昌。在以攻陷洛阳为目标的战役第一阶段，刘裕则驻军彭城，起到承上启下，既声援前锋部队的战斗，又监视北魏军的举动，还能起到震慑国内的作用。
在一切准备就绪后，义熙十二年（公元416年）八月十二日，刘裕大军开始从建康出发，踏上了声势浩大的北伐征程。他命令龙骧将军王镇恶、冠军将军檀道济率领步兵从淮河、泗水方向向西北攻击前进，目标直指许昌和洛阳，扫清后秦在豫东地区的各个据点，王镇恶和檀道济两人分配的具体任务是∶王镇恶所部从淝水北上，进攻商丘，向荥阳前进；檀道济所部则是从颍水向西北进发，进攻项城，朝许昌挺进。然后，两部在洛阳城下会师，合围洛阳。
为了配合王、檀两支前锋部队的战斗，刘裕还下令荆州序列的新野太守朱超石、宁朔将军胡藩从荆州地区北上朝阳城，作为进攻中原的这支前锋部队的一支奇兵。这三支部队相互协同，形成三只铁拳，朝后秦的中原地区砸来。
与这三支部队一同出发的还有两支部队∶
一是刘裕还任命王仲德为前锋都督，进号征虏将军，加冀州刺史，由其负责各路前锋部队的协同。王仲德率领龙骧将军朱牧、宁远将军竺灵秀、严纲等人沿着大军即将前行的行动路线，从泗水北上，开挖巨野泽，将淮河流域与黄河流域联系在一起，便于大军通过，然后择机沿黄河西上，为大军行动创造条件。
二是从荆州军队战斗序列中另外划出一支部队，由振武将军沈田子、建威将军傅弘之率领三千人马，入武关进入关中平原，作为整个大军进攻关中的一支奇兵，以牵制后秦军。
从刘裕的部署上看，不仅进攻中原的三支部队之间相互呼应，而且他们又与王仲德的部队相互呼应，安排极为缜密。
为了左右分别支援檀道济、王镇恶的徐洛军和王仲德军，刘裕又命令建武将军沈林子、彭城内史刘遵考（刘裕族弟）从彭城出发，沿着汴水而上，过仓垣，进攻石门，由此进入黄河。
最后，刘裕自率大军北上，暂驻彭城。其实，除了上述进攻部队以外，根据《晋书·姚兴载记》的记载，还有两支从汉中北上的晋军∶姚珍从子午谷北上，窦霸从洛谷攻击前进，每支部队都有数千人。后秦皇帝姚泓命令姚万抵御窦霸，姚彊抵御姚珍。由于晋军的这两支奇兵史书没有下文，一直没有引起史家的注意。
刘裕的上述部署，可谓十分周密。仔细研读刘裕的部署，大约是他在此次伐后秦之中，还有一个不得不考虑的重要因素，那就是北魏的态度。毕竟，北魏与后秦如今已经结亲，北魏的态度不明，假如大军贸然前进，一旦遭到来自黄河北岸北魏军的打击，战斗极有可能演变成魏晋之战。因此，刘裕在部署的五支前锋部队中，就有王懿、沈林子、王镇恶等三支部队，沿着黄河南岸攻击前进。同时，刘裕任命最外围的王仲德作为各路前锋部队的总指挥，意在北魏发动攻击后，王仲德能够迅速调动其他部队向其靠拢进行抵御。并且，刘裕大军驻屯在彭城不急于进攻，目的就是等到王仲德假道成功以后，再决定下一步会师洛阳。同时，刘裕命令各路大军在推进到洛阳以后，停止继续西进，其本意也在于，摸清北魏的真实意思后，再做决定。
整个北伐军的总人数不详，在这数支部队中，仅有沈田子与傅弘之所部和胡藩、朱超石所部，史料明确记载分别为三千人和五千人，其他部队人数均缺载。但后人根据战役的进展情况推测，刘裕的数支前锋部队总人数当在三万到五万之间，而刘裕的主力大军人数当在十万左右，整个北伐军人数不下十五万之众。
义熙十二年（公元416年）九月，刘裕抵达彭城，加领徐州刺史，在这里，他接见了住在当地的王玄谟。王玄谟，字彦德，祖籍太原，为太原王氏的一支。刘裕与王玄谟交谈以后，为其学识所倾倒，立即任命其为从事史。
进入后秦国境的各路晋军均进展顺利。
冠军将军檀道济、龙骧将军王镇恶这两支部队担负从中路直捣许昌、洛阳的任务，他们夺占颍口（安徽颍上东南）后，进入后秦国境。后秦漆丘（河南商丘东北）守将王苟生以漆丘投降王镇恶，徐州刺史姚掌以项城（河南项城东北）投降檀道济。晋军所到之处，后秦守军均望风投降，只有新蔡太守董遵固守不降，檀道济率军将新蔡攻破，将董遵诛杀。晋军乘胜向西北挺进，又一举攻克了许昌、邵陵（河南郾城东），活捉后秦颍川太守姚坦及其大将杨业。
与檀道济、王镇恶之军沿汴河平行推进的晋军建武将军沈林子、彭城内史刘遵考所部，也一路朝仓垣（河南开封境内）杀来。襄邑（河南睢县）人董神虎聚集了一千多名义从，投降了晋军，刘裕将其任命为参军。晋军与董神虎的部队一起进攻仓垣，将其攻克，后秦兖州刺史韦华归降。战后，董神虎擅自脱离晋军，被沈林子诛杀。
至此，在短短不足一月的时间里，晋军进展神速。中路晋军已经进入后秦中原腹地，准备向洛阳进发；同属中路的另外一支军队也扫清了豫东北地区，饮马黄河了。
当听到晋军大举进攻的消息后，后秦东平公姚绍回到了长安。三个月以前，后秦军队刚刚与赫连勃勃的夏军在上邦、阴密、安定、雍城等地激战，与杨盛的仇池军在陈仓等地搏杀，与平阳的数万并州胡鏖战，还没等后秦军稍微喘口气，晋军又铺天盖地地杀来了。
东平公姚绍面见后秦主姚泓，他说∶“晋军已经推进到许昌以西，豫州与安定距离遥远，难以救援，应将安定周边的部众都迁往京师，可选拔十万精兵，即使大夏和东晋一起发动进攻，也不足深忧。如果不如此，晋军进攻豫州，而赫连勃勃入寇安定，那该如何是好机不可失，请从速决断!”
尚书梁喜却提出不同意见，他说∶“镇守安定的齐公姚恢，雄武有威名，素来被岭北各族所忌惮，而镇守此地的部众也都与夏军结下了血海深仇，理应誓死固守。赫连勃勃终归难以越过安定，深入国境进攻长安。假设丢掉了安定，夏军将会很轻易地兵临雍城和郿县城下。如今，关中部队足够抵御夏军，岂能尚无危险，就自我削弱呢?”
安定，是扼守岭北高地向长安的门户，梁喜的话也不无道理，姚泓采纳了他的意见。
这时，吏部郎懿横偷劝说姚泓道∶“齐王曾有功于陛下，但自从陛下登基以来，却没有对其加以赏赐，安抚其心。在外将他置之死地，在内朝政又不容其置喙。安定密迩敌寇，十分之九的居民都想要内迁，假设齐王率领四万精兵，趁机兵临京师，该如何是好?倒不如将其征召回京师，以安慰其心。”
姚泓却说∶“如果姚恢心怀奸计，将其征召回来，恰恰会加速灾祸的到来。”因此，拒绝采纳。
在中路王镇恶、檀道济和沈林子、刘遵考之军顺利攻陷许昌、石门一线的同时，从彭城沿着王仲德率领的水军也挖开了巨野泽的水道，进入黄河，并沿着黄河西上，攻下了北魏黄河以南的控制区东郡凉城。沈林子在石门的晋军不仅起到协同许昌晋军的目的，还起到了配合沿黄河西进的王仲德晋军的目的。北魏驻军一旦与晋军开战，阻挠晋军西上的话，沈林子之军极有可能挥师东下，与王仲德之军合击黄河南岸的北魏军，打开通往洛阳的水路。
北魏驻守在黄河以南的部队甚少，其兖州刺史尉建看到晋军大举前来，不禁胆战心惊，弃守滑台，率众退回黄河北岸，驻守黄河北岸的黎阳，晋军不战进入滑台。王仲德占领滑台后，担心会引起与北魏不必要的冲突，于是，对外宣称∶“东晋政府本打算用七万匹布帛，来换取从北魏国这里借道，我们也没有想到北魏守将会弃城而去。”
北魏明元帝拓跋嗣听说以后，即下诏命令刚刚击破并州叛胡刘虎的叔孙建、公孙表等将从河内东进驰援。
由于北魏态度不明，刘裕没有马上命令王仲德这支军队继续西上，而是命其在滑台停留下来。一个多月以后，拓跋嗣又下诏命令叔孙建等人率领后魏军从枋头渡过黄河，展示北魏军的军威。北魏军一直推进到滑台城下，将尉建就地砍头斩首，把尸体扔进了黄河，然后，派人质问王仲德的士兵为何侵入北魏国境。
王仲德派遣司马竺和之前去交涉，叔孙建则派遣公孙表对话。
此时，晋军还不想与北魏军开战，因此王仲德也一直说话低调，反复说明晋军决无人侵北魏国的意思————仅暂时住在滑台。
北魏军也不敢贸然进攻滑台的晋军，于是，拓跋嗣又下诏命令叔孙建派人前往彭城给刘裕送信，看看刘裕葫芦里究竟卖的是什么药。刘裕当然更是机警，他回答北魏使者∶“洛阳，是我朝过去的京都，而为后秦占据。长期以来，我朝一直都有修复先帝陵墓的打算，可我们内部的变故却此起彼伏，这个打算也一直没有付诸实施。司马休之、鲁宗之父子、司马国璠兄弟、桓氏宗族，都是我朝的害人虫，后秦却豢养他们，与我为敌，我才兴师讨伐。晋军的进军路线势必要经过北魏国国境，出师之初，即打算以重金借道。正巧，遇到贵国郡守弃城而去，我军前锋因此得以西上，并不敢入侵魏国。”
晋军占领滑台时，是最有可能引发魏晋两国冲突的时候。
幸亏刘裕妥善应对，双方没有引发大规模的军事冲突，而此时的北魏国也的确处境艰难，不愿与东晋发生大规模的军事冲突。
当晋魏两军相互不断试探，东线主力晋军停滞不前时，攻陷许昌、石门一线的晋军先头部队并没有停下进军步伐。后秦阳城（河南登封）、荥阳（河南荥阳）均望风而降，晋军前锋已推进到了成皋（河南汜水西虎牢关）。一旦晋军突破成皋一线，将直逼洛阳城下，后秦主的四弟、洛阳守将姚洸赶紧派人向姚泓求救。
得知洛阳危急的消息，姚泓立即命令越骑校尉阎生率领三千骑兵、武卫将军姚益男率领一万步兵火速东下增援，又命令二弟、并州牧姚懿从蒲阪率军南下，驻屯陕津，作为声援。
后秦宁朔将军赵玄对姚洸建议将洛阳周边堡垒的守军全部撤下来，固守洛阳西北的小城金墉城，以等待来自京师的援军。然而，姚汾的司马姚禹打算投降晋军，姚汾的主簿阎恢、杨虔等人全都与姚禹一党，大家同声斥责赵玄，坚决劝说姚汾出城与晋军决战。
姚洸采纳了众人的意见，不仅没有收拢四周的零星守军，相反，还派遣赵玄率领一千多士兵前往洛阳南部的柏谷坞（河南偃师东南）驻守，派遣广武将军石无讳率军戍守巩城（河南巩义）。
姚洸刚刚派出赵玄、石无讳的东进部队，退守成皋的后秦兖州刺史韦华就投降了。晋军长驱直入，进入洛阳盆地。石无讳的部队走到巩城以西八里的石关（一说为西山），闻听晋军已突破了成皋天险，正朝此地杀来，他不敢迎战，狼狈逃回了洛阳。进入洛阳盆地的晋军开始清扫洛阳周边的后秦堡垒，晋南阳太守猛将毛德祖率军进攻赵玄驻守的柏谷坞。
晋军气势如虹，赵玄战死。
十月二十日，檀道济、王镇恶等部一起进抵洛阳城下。此时，偌大一个洛阳城内后秦所剩军民不过四千余人。两天以后，姚洸率众投降。
洛阳被晋军攻陷时，后秦越骑校尉阎生率领的三千骑兵刚刚走到新安（河南滝池东），而武卫将军姚益男率领的一万步兵也才进抵湖城。当他们听说晋军已攻陷洛阳，都停了下来，不敢继续东进。
晋军经过近三个月的连续作战，势如破竹，收复了大片国土，取得了辉煌的战果，圆满完成了第一阶段的战斗任务，于是暂时停止了攻势。驻守洛阳的晋军开始组织修复西晋皇陵。刘裕任命相国右司马毛修之为河南、河内二郡太守，负责修治洛阳城防工事、官府衙门等。
虽然晋军的攻势暂告一段落，留在彭城的刘裕却一刻也没有休息。收复洛阳的捷报传来后,他就派遣太尉左长史王弘前往建康，暗示刘穆之派出使者给刘裕加九锡之礼。
十二月，东晋朝廷下诏正式任命刘裕为相国、总百揆、扬州牧，封十郡为宋公，备九锡之礼，位在诸侯王之上，兼征西将军，司州、豫州、北徐州、雍州刺史如故。司马德宗的祖宗司马昭发明的这个总百揆的职务，如今又出现了，历史也似乎将要重新上演一次禅让的闹剧，然而刘裕却显得十分谦虚，坚决推辞了。
他还在观察。不仅观察国内的风向，还在观察北魏的态度，观察后秦内部及其周边国家的动向。九锡之礼已经第一次推出，拿到它，只是一个时间问题；北魏的态度至今暖昧；至于后秦帝国周边国家的情况，刘裕更是了如指掌，他决无与大夏赫连勃勃、后秦和解的可能北凉的沮渠蒙逊，刘裕在一年前就已经未雨绸缪，指示当时的益州刺史朱龄石与之结好，投桃报李，沮渠蒙逊已表示归顺朝廷，愿意与晋军一起夹击后秦氐王仇池公杨盛，与后秦有灭国之仇，很久之前就接受了东晋的官职，被任命为使持节、北秦州刺史，也是晋军的盟军。
正在刘裕等待的时候，西秦的乞伏炽磐也于同年的十二月向彭城派来了使者，表示愿意攻击后秦。说到乞伏炽磐，他于本年年初与北凉实现和解后，即将目光转向了摇摇欲坠的后秦，企图趁乱打劫，全取秦州。如今，西秦军队已推进到了马头，威胁后秦上邦（甘肃天水）。听了西秦使者的话，刘裕不禁大喜，当即拜乞伏炽磐为平西将军、河南公。
显然，一切对于刘裕而言，都非常有利，接下来，后秦和北魏国内发生的一系列变故，让刘裕更是感觉到发动总攻的时机业已成熟……