1928年四月份，蒋介石的南京国民政府发动了二次北伐，主战场在华北地区，由于此前，吴佩孚和孙传芳已经被打败，所以二次北伐的主要对手是张作霖的奉军以及张宗昌的直鲁联军（包括部分孙传芳的残部）。首先说说直鲁联军是啥。
1924年九月份，第二次直奉战争爆发，奉系的杂牌部队李景林、张宗昌各率抢先入关，大量收编直系军阀残兵，扩充势力，迅速成为奉军中实力最强的两个。不久，李景林、张宗昌二人先后被段祺瑞的北京临时执政府任命为直隶军务督办和山东军务督办，并将部队改称直军和鲁军。为了对付势力愈加强大的冯玉祥，张李二人于1925年12月将所部联合，改称“直鲁联军”，李景林任总司令，张宗昌任副总司令。所以说，这所谓的直鲁联军的前身就是奉军中的杂牌部队，张宗昌本人实际上就是直系投奔奉系的将领。
杂牌部队入了关，沿途大量收编直军残兵，简直就是杂牌中的杂牌，这样的军队除了多，似乎也没什么明显的优势了。果不其然，在1928年的4月9号蒋介石下达了总攻击令，第一集团军接连攻占了台儿庄、郓城、韩庄、枣庄、临城等城镇。
在4月上旬，不死心的孙传芳部由济宁出动，向丰沛二县一带发起进攻，以应援张宗昌部。结果国民革命军第一集团军（总兵力29万左右）方振武、第二集团军孙良诚（为冯玉祥部下，之前驻扎在山东西部，冯玉祥部总兵力31万左右）两军乘虚袭占济宁，孙传芳反攻并且夺回济宁，虽然孙传芳的直系残部仍然有战斗力，但张宗昌的直鲁军实在是扶不起上墙的烂泥，刚跟北伐军一交手就被击溃，孙传芳被迫向泰安、济南方面撤退。国民革命军第一集团军各部于是乘胜追击，连续攻克滕县、界首、鱼台、汶上、邹县、曲阜、兖州、宁阳、济宁、泰安，5月1日拿下济南，直鲁军和孙传芳军共计四万人被俘虏，结果5月3号，日本人就制造了济南惨案，中国居民死伤7000余人，而北伐军士兵被俘后，惨遭虐待而死的人数就有1000多人，冯玉祥劝蒋介石在济南消灭当地日军，然而蒋介石还是命令北伐军绕道。
与此同时冯玉祥的第二集团军以及阎锡山的第三集团军在山西以及河南一带与奉系军队展开血战，四月初，奉军攻克井陉、大同一带，阎锡山被迫退回山西，冯玉祥军的境况也不乐观，南乐、濮县等阵地相继失陷，按照冯玉祥回忆录的说法，奉军的装备优势对于冯军是压倒性的“勇猛拼杀。全体官兵，在千辛万苦、衣服弹药极端匮乏的境况中，能抱定有我无敌，有进无退的决心，以血肉之躯与敌人的坦克车大炮机关枪搏斗。他们没有懦却不前的，没有不严守纪律的，没有不爱护百姓的。这次会战，我们连死带伤约有一万人之多，沿途各车站上都挤满了死尸和伤兵，牺牲之壮烈，视上数次会战尤甚。但是他们的牺牲是有价值的，他们终于击溃了敌人，他们鲜红的热血，写出了一页页光荣的战史!”。虽然有很明显的抒情成分，但也确实说明奉军拥有强大的火力支援，这对于当时火力贫弱的其他军队来说是不可忽视的威胁，然而对于当时真正的强国（比如苏俄）就......
蒋介石令阎锡山第三集团军（总兵力15万左右）向正太路方面出击。阎锡山于是指挥所部分向平山、井陉发起攻击，威胁奉军后路，奉系军队被迫由彰德撤围北退。冯军乘机反攻，于5月3日攻占顺德，5日再次攻克大名。阎锡山军也于8日攻克平山，9日又一举占领石家庄。
5月12日，第一集团军陈调元、方振武、贺耀祖等部及第二集团军孙良诚部渡过黄河，便连下高唐、禹城等地，17日攻占德州。第二集团军和第三集团军于5月11日在石家庄会师后,商定沿京汉路继续北进,第二集团军向京汉路以东地区发展,第三集团军沿京汉路正面及其以西地区前进。然而，沿津浦线北进的蒋介石第一集团军因受日军阻挠而进展迟缓，而沿京汉线溃退的奉军实力并未受损，冯玉祥第二集团军因为害怕孤军深入忽然南撤，已经至方顺桥（在今天河北保定市满城县）附近的阎锡山所部第三集团军顿时就陷入孤立无援之中，奉军将晋军包围，并向满城经康关之线出击。阎锡山被迫向蒋介石、冯玉祥求援。5月19日，蒋介石亲抵郑州。
5月28日，各路北伐军奉命发起总攻,津浦线第一集团军各军团及第二集团军东路军由衡水、饶阳、肃宁、雄县之线迤东地区向沧州、河间之线攻击前进；京汉线第二集团军北路军由衡水、饶阳、肃宁、雄县之线以西地区向高阳方面攻击前进；第三集团军重新反攻方顺桥，进取保定；白崇禧率领的第四集团军则集结于新乡、郾城一带，以备东西策应。
一直到6月2日，保定、高阳、肃宁、河间、沧州等地先后被北伐军占领。北洋军退据琉璃河、固安、永清、胜芳、马厂一带，准备为保全北京、天津地盘。由于京、津地区各国势力犬牙交错，蒋介石与冯玉祥等人不得不商讨军事进展及避免外交纠纷的妥善办法，蒋介石认为济南事件仍然没有解决，其本人不不适合身当其冲，而冯玉祥因一九二六年大沽口事件（1926年三月，国民军在大沽口反击帮助奉军军舰的日军船队），因此也为帝国主义各国所反对，因此准备派遣阎锡山和平接收京津，以避免引起外国驻军的干涉。在一切善后事宜备准备好之后，蒋介石在5月31日下达追击令。第一集团军由津浦路前进，第二集团军由任邱、文安、雄县、霸县前进，第三集团军由京汉路前进，各路大军直捣京畿，张作霖的“安国军政府”即将土崩瓦解。
眼见京津不保，张作霖被迫在6月2号，放弃北京，逃往关外，结果6月3号就在皇姑屯被日本关东军炸死，奉系军阀在关内的统治土崩瓦解，1928年12月29日，继任东三省保安总司令的张学良宣布东北易帜，服从南京国民政府的命令，至此，蒋介石在形式上基本统一了中国。