义熙十一年（公元415年）四月，刘裕讨灭了司马休之，同月，晋安帝司马德宗即下诏重申先前的任命∶加封刘裕为太傅、扬州牧，拥有佩带宝剑上殿、入朝不用小跑、拜谒皇上不必称自己名讳的特权；另外，授予刘裕前部鼓吹、羽葆，设置左右长史、司马、从事中郎共计四人；加封刘裕第三子刘义隆为北彭城县公，任命中军将军刘道怜为都督荆、湘、益、秦、宁、梁、雍七州诸军事，骠骑将军，开府仪同三司，荆州刺史，领护南蛮校尉，持节，常侍如故。自义熙八年（公元412年）四月刘裕幼弟刘道规去世以后，荆州地区在时隔整整三年、历经刘毅和司马休之两任刺史后，又重新回到了刘裕的手中。
义熙十一年八月十三日，东晋太尉刘裕回到建康，交回了黄钺，坚决推辞了太傅、扬州牧一职，只接受了拥有佩带宝剑上殿、入朝不用小跑、拜谒皇上不必称自己名讳的特权，并以世子刘义符为兖州刺史。同月，刘裕的亲家、尚书左仆射谢裕病死，被追赠为金紫光禄大夫，加散骑常侍，下葬之日，刘裕亲临痛哭。谢裕死后，刘裕即任命刘穆之为尚书左仆射。
义熙十二年（公元416年）一月，东晋朝廷又加刘裕为平北将军、兖州刺史，都督南秦州，至此，刘裕一共都督二十二州诸军事。刘裕认为，平北将军府文武佐吏较少，不宜单独设置，就将平北将军府的文武合并到大府。
当月，后秦主姚兴命令鲁宗之率军骚扰东晋襄阳，途中，鲁宗之病死，其子鲁轨带兵继续南下，被东晋雍州刺史赵伦之击退。司马氏残余势力还不时侵扰东晋边境，而司马休之等人的幕后支持者就是后秦帝国，这让刘裕十分恼火，遂决心实施北伐了。
概括起来，刘裕北伐的有利条件很多∶他已经完全控制了东晋内部；后秦已经四面楚歌；东晋已经控制青州多年，可以以此为战役发起地，并给部队提供后勤补给。
而刘裕实施北伐的理由大致如下∶
一是建立更大功业、为实施篡位打牢基础。虽然目前刘裕已经剪除了东晋内部的各个异己势力，但建立这种“功业”更多的是带着满足个人私欲的色彩，多多少少欠缺了那么一点正义性，而消灭异族政权能够得到广大基层民众的拥护，为下一步的篡位做好铺垫。
二是伐秦的条件已经成熟。国内，刘裕已经消灭了大部分的异己势力；国外，北魏帝国连年旱灾，遍地饿，各地叛乱不断，北魏明元帝焦头烂额，无暇与晋军争锋后秦的局势更是岌岌可危，刘裕北伐之前，后秦帝国关中地区的疆域仅剩长安附近的几个重镇，且后秦军队实力并不强，也都是龟缩于若干个军事要点，便于被各个击破。
三是必须尽快解决以司马休之为首的东晋流亡皇族。借出师之机，大肆提拔亲信，诛灭司马氏皇族成员，也是刘裕此次北伐中需要做的事。
当刘裕与群臣商议北伐事宜的时候，东晋群臣大多揣摩不透刘裕的心思，纷纷劝谏，只有徐羡之缄默不语。有人问徐羡之何以不劝阻，徐羡之回答∶"我的官位已经到了二品，官职也高居二千石，对此我已经心满意足了。如今益州、南燕业已被我朝平定，国家开拓了上万里的国土，只有后秦尚未被消灭，而大人却废寝忘食，念念不忘。大人的心思非同寻常，我等岂可轻率介入”
刘裕没有听从群臣的建议，其实，他早已内断于心，咨询群臣也不过是个形式而已。早在去年年初刘裕平定司马休之以后，就已为下一步对后秦的讨伐做准备了，一个重要的信号就是∶在讨平司马休之后，刘裕即免去了益州刺史朱龄石的职务，将其召回自己的身边，任命其为太尉谐议参军，加冠军将军，而以朱龄石的司马沈叔任接任益州刺史。将背景复杂的朱龄石调回朝廷，而以名望较低的沈叔任担任益州刺史，就是为了避免在晋军北伐时益州发生动乱。除此之外，在北伐前夕，刘裕还进行了一系列令人眼花缭乱的安排，以确保后方的稳定。
一是命令司马氏皇族人员随军北上。刘裕指示司马德文上书皇帝，“主动”请缨，要求随军，拜谒洛阳皇陵，晋安帝当然同意了；与司马德文一样，其他让刘裕不放心的司马氏皇族子弟，也都被刘裕以各种名目接到太尉府中，一起随军北上。见诸史料的有梁王司马珍之、吴兴太守司马珣之，司马珍之和司马珣之都是司马氏皇室中的翘楚，深为刘裕所猜忌，北伐前夕，刘裕将两人都招聘为谐议参军。不久以后，就随便找了个借口，诛杀了二人。
二是妥善安排后方。带走了司马皇室子弟，建康城内的晋安帝司马德宗当然难以兴风作浪，然而，后方的安全依然不能掉以轻心。刘裕进行了一系列的人事安排∶留下世子刘义符为中军将军，全权负责太尉府的工作；将刘穆之提拔为尚书左仆射，具体负责后方的军政事务，甲仗五十人入殿，入居东城。张邵听说北伐的消息，请求拜见刘裕。他见到刘裕以后问道∶“世事无常，凡事应当深谋远虑。假如刘穆之在后方有个三张两短的，谁能代替他大人已经建立了此等家业，一旦出现闪失，将如何是好?”刘裕回答∶“这事就托付给刘穆之和你了。”也就是说，让张邵作为刘穆之的副手。其实，刘穆之还有一个副手，那就是徐羡之。刘裕给予徐羡之的官职是太尉左司马，主要掌管太尉留府的军事事务。
留守的将领们主要有∶任命北中郎将、姨家表弟刘怀慎为中领军、征虏将军，负责保卫皇帝；留下亲信将领蒯恩负责侍卫世子刘义符；加封被召回的益州刺史朱龄石为左将军，令其负责政府的安全；留下刘钟负责整个京师及其近郊的安全。
刘裕走后，还需要装点朝廷门面的人，于是，他还任命袁湛兼任太尉，尚书范泰兼任司空。刘裕选择这两个人装点门面，主要是他们家族都是书香门第，与东晋各个门阀士族都有着千丝万缕的关系，且都没有实权，不用担心他们会反叛。
三是提前部署屯田，为北伐做好准备。据《宋书·毛修之传》记载，在刘裕北伐之前，就提前命令毛修之到芍陂，开垦了数千亩良田。
此外，刘裕还下书称∶“我率先举义，兴复王室，建立大功，外平南燕，内灭奸凶，这都是国人齐心协力所致。如今，将讨伐后秦，弱子又留给众人辅佐，就拜托大家了。这些年来，军务繁多，刑罚不断，让我又增叹息。故此，下令判处五年以下有期徒刑的罪犯，全部予以赦免；文武官员任满未曾晋升的，按照规定一律予以提拔。”
一切准备就绪，就等大军出发了。