元兴三年二月二十七日，桓玄登基仅仅两个月二十七天。刘裕对外宣称将要出城打猎，与何无忌等人集合义军。同谋骨干分子共计二十七人，以这些人为核心，又聚集了一百多人。
第二天凌晨，京口城门刚一打开，这队人马就来到了京口城下，何无忌身穿传达诏书的朝廷使者衣服，骑着一匹快马，走在队伍的最前面，高声叫喊有紧急诏命!众人狂奔入城，齐声鼓噪，事出突然，京口将吏不知何事，均惊恐逃散，无人敢动。刘裕一行人直接奔进刺史府，臧熹的同族侄儿臧穆生干净利落地斩杀了桓修，拿着桓修的人头传示全城。
刘裕毕竟是桓修的下属，看到桓修被杀，不得不做做样子，对着尸体，他放声大哭，命令厚加殡葬。
与此同时，江北的刘毅也进展顺利。
青州主簿孟昶劝说桓弘当日一早出城打猎，天还没亮，桓弘即命人打开广陵城门，让猎人先出城。看到城门打开以后，在城外的刘毅、刘道规等人率领五六十名壮士，突入城内。桓弘正在兴冲冲地吃早饭，准备出发。只见刘毅等人闯入堂中，手起刀落，将其诛杀。然后，刘毅等人集合广陵的军队，南渡长江与刘裕会合。
刘裕刚刚拿下京口，桓修司马刁逵的三弟刁弘即率军前来，刘裕登上城楼，对下面喊话说∶“江州刺史郭昶之已经在浔阳奉安帝复位，我等均接到密诏，诛杀奸党，今日一同举事，桓玄的人头已经高悬于朱雀桥上了。你们大家难道不是大晋的臣民吗?来此要干什么?”城下的刁弘等人不辨真假，犹疑了一会儿，最终整军退去。刁弘的二哥刁畅为桓玄的右卫将军，刁弘很快便证实了刘裕所说是假，两人密谋起兵平定叛乱。然而，最好的时机已经丧失，刘毅率领广陵之军已南渡京口。刘裕命令刘毅率军讨伐，刁畅临阵被杀，刁弘逃跑，不知所终。
刁氏是京口的大财主，奴仆宾客众多，在京口为非作歹，被称为“京口之蠹"。刘裕年少时就曾因欠下刁氏赌债而被鞭打。在刁畅被杀以后，刘裕下令查抄刁家，任凭百姓到刁家搬粮食、财物，全城的人搬了一天还没有搬完。刘裕此举一是解了自己的心头之恨；二是为民除了一害，争取民心；三是解决军资，可谓是一举数得。
京口和广陵两处均进展顺利，可是，历阳和建康两处却遇到了不小的麻烦。
刘裕在起事前，即派遣周安穆前往建康，将起事的消息向刘迈作了通报，要求刘迈同时举义。刘迈虽然口头上应允，内心却十分犹豫。见到刘迈这种表现，周安穆担心他会泄露消息，果断脱身，离开了建康。正巧，桓玄任命刘迈为竟陵太守，惶恐不安的刘迈也急于离开这一是非之地。当晚，桓玄让人给刘迈捎去一封书信，信上说∶“今日北府人心咋样爱卿近日见到刘裕，说了些什么呢”周安穆到达京师，也许已被桓玄的密探侦知。不过，桓玄根本没有想到刘裕会叛变，因为，前不久桓玄才刚刚下诏要求有关部门整理北府将士在讨伐卢循中的战功材料，准备进行大规模的封赏，桓玄也仅仅是随口一问罢了。
然而，心里有鬼的刘迈以为桓玄已经得知了内情。他直接入宫面见桓玄，将刘裕起事的绝密情报，向桓玄和盘托出。
听了刘迈的汇报，桓玄一下子惊呆了。他当即加封刘迈为重安侯，并立即组织人力，将京师之中的王元德、辛扈兴、童厚之等人悉数逮捕，予以诛杀。一天过后，桓玄突然想到，刘迈没有扣留周安穆，又下令将刘迈杀掉了事。
两人的恩恩怨自此了结。
刘裕在元兴三年（公元404年）二月二十八日清晨顺利拿下京口城以后，当天即被大家推举为盟主，总督徐州事务。他以孟昶为长史，守卫京口，以檀凭之为司马。彭城中有应募当兵的，刘裕让彭城主簿刘钟统领。刘裕说∶“彭沛之人有想参加起义的，都到刘主簿这里登记。”组成“义队”作为自己的亲兵。
二月二十九日，刘裕亲率徐兖二州之众，共计一千七百人推进到竹里（江苏句容北），向远近发出檄文，称益州刺史已经平定荆州、襄阳；江州已经迎立晋安帝复辟；镇北参军王元德等人，率领部曲占据了石头城；扬武将军诸葛长民也占领了历阳；征虏参军庾赜之等人已暗中与义军同谋，许为内应。
桓玄从东宫搬回到皇宫，百官徒步跟随，并命令值班侍从官员全部吃住在衙门。他下诏赦免扬州、豫州、徐州、兖州、青州、冀州等六州，加桓谦为征讨都督、假节，以殷仲文接替桓修，担任徐兖二州刺史。
桓玄召桓谦、卞范之等人商议对策，桓谦等人均表示∶"应当派兵火速进击。”
桓玄却说∶"不然。刘裕之兵，锐不可当，进展迅速，因为他们深知自己命悬一线，势必要拼死一战。如果派遣水军，则不足与之相抗。而且如果大军前去，一旦出现闪失，那么，敌人的气势就会百倍，而我们将大势去矣!不如将大军集结在覆舟山，以逸待劳。他们白白奔跑了二百多里地，什么都没遇到，锐气将会受挫。等他们到来之后，突然看到我严阵以待的大军，必然会惊慌失措，乱成一团。届时，我仍然按兵不动，不与其交战，刘裕求战不得，必然会慢慢散去，这是上策。”
桓谦等人坚决主张主动进击，桓玄这才派遣顿丘太守吴甫之、右卫将军皇甫敷等人率军北上，抵御义军。
刘裕以区区一千七百之众，就把桓玄吓得不敢主动出击，似乎有些奇怪。当时，就有人劝说桓玄∶“刘裕等人不过是乌合之众，力量十分薄弱，岂能办成大事，陛下多虑了!”
可是，桓玄却回答∶“刘裕此人足以成为一世之英雄；刘毅家中穷得连一石粮食都没有，可是他赌博起来一掷就是百万钱的输赢；何无忌乃刘牢之的外甥，性格酷似其舅舅，这三个人聚集在一起，行此大事，谁说不会成功!”
三月一日，刘裕的义军在江乘与前来应战的楚军吴甫之部遭遇。吴甫之是桓玄手下的一员骁将，所率之兵十分善战，是楚国的王牌军。
刘裕同样是一位百战百胜的常胜将军，而且，他总能险中求生，善于打恶仗，以少胜多，以寡击众。
面对吴甫之军，刘裕提起精神，他手持惯用的长刀，狂呼着朝楚军杀去。在战场上如同凶神恶煞的刘裕，挡者死，遇者亡，如入无人之境。身后的义军也都喊杀着，冲入楚军军阵之中，楚军顿时大乱，四散溃逃。吴甫之临阵被斩杀，义军初战告捷，一直追杀到江乘以南的罗落桥。
在这里，刚刚取胜的义军又遇到了桓玄的第二支军队————皇甫敷之军。据《建康实录》记载，当时，皇甫敷所率之军有三千人，是精锐之师。刘裕与檀凭之各领一支义军，檀凭之是刘裕的先锋，罗落桥之战又是一场恶战。
檀凭之与皇甫敷之军接战以后，被楚军击败，檀凭之战败被杀，所部溃散。照理说，一部失败势必会对另一部产生十分不利的影响，然而，历史总有出人意料之处。檀凭之战败并没有让刘裕丧失必胜的信心，他率领自己的这一部反而越战越勇。
在这千钧一发之际，刘裕的随从前来解救，一箭射中皇甫敷的额头，皇甫敷一头从马上栽了下来。刘裕提刀跨步上前，皇甫敷说∶“君自有天命，请求您好好照顾我的子孙。”皇甫敷言毕，刘裕即一刀砍下了他的头颅，对皇甫敷的子孙厚加抚恤。刘裕让檀凭之的侄儿檀祗统领檀凭之所部。
桓玄在听到前方败讯、两将已死的消息后，更是非常恐惧，招来术士推算，巫师施法。
他询问群臣道∶“朕会失败吗?”吏部郎曹靖之回答∶“民怨神怒，臣确实十分担忧。”桓玄又问“百姓也许会抱怨，神灵为何要恼怒”曹靖之回答“将晋室的宗庙迁往他处，先迁琅邪国，又迁浔阳，流落在长江之滨；我大楚皇室的祭祀，却上不及祖父辈，这就是神灵恼怒的原因。”桓玄又问∶“当时爱卿为何不劝谏?”曹靖之回答∶“朝廷重臣都是一片颂扬之声，都说如今是尧舜再世，臣怎敢说”
桓玄被噎得无话可说。他又气又惧，只好派遣桓谦及游击将军何澹之率领军队驻守东陵，命令侍中、后将军卞范之率军驻守在覆舟山以西，两军共计二万余众。
双方即将迎来决定生死的覆舟山之战!