刘裕第一次北伐平定南燕后，班师后又彻底击灭孙恩起义的余部，消灭意图割据荆州的盟友刘毅，并派朱龄石收复了益州，国内形势更加巩固。刘裕的眼光再次投向北方。
一、北府军五路出兵
北魏刚刚复国不久，硬碰硬将后燕击灭，显示出勃勃的生机，实在不可小觑。后秦自姚兴死后，诸子都才能平庸，在强敌环伺的危境之中，不仅没有奋发图强攘敌兴国，反而热衷于内斗，北不能拒夏，西不能灭诸凉，南不敢侵东晋。这样一个软柿子，自然逃不过刘裕锐利的眼睛。
义熙十二年（公元416年），刘裕决策伐秦。
后秦的版图像一个不规则的矩形，陇西地区以兰州为西界，关中地区以延安为北界，山西一带以介休为北界，河南一带则只据有黄河以南的洛阳、郑州、商丘一线，南则以信阳、南阳和陕西商南汉中为界。刘裕的计划是，首先切割河南洛阳以东的矩形地区，然后合兵进攻关中。这个计划比较稳妥而科学，河南东部是后秦力所不及的地方，击之易取；后秦的北界正好有宽阔的黄河水道，利于北府军舟师行进。
具体的行军安排上，第一路，北府军头号大将王镇恶、檀道济出寿阳攻项城、颍川方向，目标是洛阳。这一路兵是主力，其行军路线斜向切入矩形地带，所经路途最长，面对的后秦部队也最多。
第二路是偏师，兵力约万余人，由傅弘之和新兴的吴郡将领沈田子率领，进攻武关（今陕西丹凤）方向，目的是牵制关中的后秦军主力。
第三路由朱超石、胡藩率领，从新野北攻阳城（今河南登封）。
第四路是水军，由沈林子（沈田子之弟）、刘遵考率领，从石门入黄河。以上第三、第四两路部队的战役意图都是确保通向关中的黄河水道的安全。
第五路由王仲德率领，从山东后方开巨野泽（在今山东巨野，今已无水泽。）河道入黄河，为前面四路大军提供战役支撑，确保顺利拿下河南，为进攻关中作好准备。
同时，刘裕还派遣蜀地方面的偏师姚珍、窦霸率数千兵力分别从子午谷和骆谷进攻汉中方向，一时间后秦国境线四面闻警，局势大坏。
二、北府军势如破竹
檀道济和王镇恶攻入河南，北府军锐不可当，连克新蔡、项城、颍川，俘虏颍川太守姚坦、大将杨业、新蔡太守董遵等。颍川以北的后秦部队无不望风而降，第一路军成功打到成皋附近。
此时沈林子、朱超石两部也打到荥阳、成皋一带，与檀部会合。王仲德的后军也打通了巨野泽进入黄河水道，并在沿河重镇滑台（今河南滑县）与北魏守军遭遇，不料魏军弃城而逃，王仲德得以继续西进。
刘裕切割河南东部的计策此时收到成效，后秦对于河南东南形势更加没有信心，一度欲将洛阳以东的军民迁入关中以集中兵力、收缩防线。
北府军稍后逼降成皋、荥阳等地的后秦军，大军逼近洛阳。洛阳守将姚洸的部下姚禹与檀道济暗通款曲，意欲投降晋军，极力怂恿姚洸出城与北府军决战。忠于后秦的将军赵玄力劝姚洸不要贸然出战，被拒后带兵与檀道济在柏谷坞大战，结果当场被杀，所部全军覆没，姚洸见势不好便举城而降。消息传到后方，本来要来救援洛阳的后秦军纷纷后撤。
面对前线的不利形势，后秦皇室的诸王们不仅没有团结起来对敌，反而又翻起当年诸子争位的老帐。后秦皇帝姚泓的弟弟姚懿、姚恢先后发动叛乱进攻长安，企图趁乱夺取帝位。
正所谓堡垒先从内部攻破，后秦这口大油锅本来就被北府军煮得滚沸，二姚之乱则是直接把锅里的油给点燃了。姚泓顾不上潼关外黑云压城的北府军，让叔父姚绍率大军抵挡已经杀到长安城下的叛军。所幸二姚兵力不多，先后被姚绍平定。但是如此一来，后秦不仅又消耗了一部分有生力量，还丧失了打击潼关之外立足未稳的北府军的大好时机。
状态越打越有，胜仗越打越多。
按照刘裕的原定计划，北伐诸军要会齐之后，再合力进攻长安，以收泰山压顶之效。
但前锋军诸将看到形势向有利于自己的方向转化，不顾后面王仲德等军尚会未齐，抓住时机快速西进。
王镇恶（网络配图）
王镇恶过洛阳而西拿下宜阳、渑池等地，檀道济分兵进攻晋南的蒲坂，因为地形失利和准备不足，檀部被后秦守将姚成都所败。姚绍是后秦中唯一一个尚有能力的大将，他平定二姚之乱后，率5万援军急驰赶到潼关，与檀、王诸部接战，北府军连克要地，士气正盛，沈林子率大军衔枚夜袭一举击败姚绍军，姚绍力不能支，败退回定城（潼关西三十里）死守不出，分派诸军各扼险要，企图耗尽北府军的粮食后再寻隙出击。
檀、王各部从洛阳西攻时携带粮草本就不多，王仲德的后军又没有跟进，北府军的军粮发生危机。王镇恶亲自到弘农等地劝当地百姓捐献粮食，他本是关中人，在当地甚有号召力，百姓于是竞相捐献军粮，北府军军势复振。
三、收复汉朝故都长安
姚绍抵挡不住北府军的犀利攻势，又忧又气，发病而死。姚绍一死，后秦军失去主心骨，仗打得更加狼狈。沈田子、傅弘之的偏师打进武关，秦主姚泓自引大军要援救定城，见这支晋军偏师攻入，便想先灭沈、傅再救定城，沈田子趁秦军刚到立足未稳，以己部兵力猛冲猛打，后秦军措手不及，大军被杀散，姚泓的御用器物都被北府军缴获。沈田子诸部遂继续进攻关中，郡县多降。
仗打到这个份上，后秦已经没有希望了。姚泓将诸军收合在长安周围，企图做困兽之斗。北府军一时攻不进，王镇恶便以舟师溯渭水而上，北人不惯坐船，看到王镇恶所部的舟师行动迅速，船外都看不到使船的人，都以为南军有神明相助，军心更加溃乱。
王镇恶到达长安城外，把船都扔到渭河里顺流冲走，他激励将士，事已至此，绝无后路，唯有猛攻长安才能有活路。北府将士奋勇冲杀，打败姚丕的防守部队，突入长安平朔门。长安其他防守部队纷纷来攻，均被北府军击败。姚泓无可奈何，只好率宗族出降。
姚泓本人被押送至建康斩首，宗族子弟皆被杀。后秦遂告灭亡。
刘裕北伐南燕、后秦，收复山东、河南、淮北和关中大片失地，将东晋疆土扩至极大，其赖以成事的，都是北府军。刘裕代晋建宋后，北府军完成了最后的蜕变，由地方部队升级为中央军，成为皇帝直接控制的军事力量，成为皇权政治的基础。