奉系军阀中的打手
1924年秋，第二次直奉战争爆发。奉系军阀组织“镇威军”，张综昌为第二军副军长，率部在热河一带作战。攻下凌源后，他由第三旅旅长升为暂编奉天第二师师长。
不久，冯玉祥发动“北京政变”，直系军队防线动摇，被迫后退，张宗昌趁势攻下冷口。10月23日，他先率奉系“镇威军”各部，由冷口插入关内，进占滦州，切断了榆关方面直系军队的退路，将直军四个旅
的六、七万人缴械后收编，使他的军队一下子就扩大了七八倍。为此，他将原来的营长、连长、排长一律提拔为将校级军官。由于提拔的人多面广，时间仓促，来不及更换新肩章，就以假代真，用锡箔纸糊成黄色肩章，手工粗糙。戴上后，一个个像演戏的。令人捧腹。
张宗昌升任“宣抚军”"第一军军长，继续南下，进兵江苏，去抢占直系军阀齐燮元的地盘。
张宗昌南下的第一关是徐州。徐州镇守使陈调元，在江苏都督冯国璋手下当宪兵司令时，就与张宗昌有交往。因此，张宗昌一枪未发地就占了徐州。之后，他又直逼浦口，分路渡江。当他抵达南京下关时，齐燮元早已逃之夭夭了。
张宗昌狼吞虎咽地占领了江苏后，便与盘踞浙江的军阀孙传芳对峙。张宗昌在上海，虽是故地重游，但今非昔比，处处摆出胜利者的姿态，天天吃喝嫖赌，大有乐不思蜀的样子。
段祺瑞执政府1925年1月任命张宗昌为苏皖鲁三省剿匪总司令，驻徐州。在张作霖的关照下，张宗昌于4月24日又当上了“督办山东军务善后事宜”。
张宗昌占据了山东地盘之后，更加穷兵黩武，好战成性，几乎是哪里有他，哪里就有战争；他走到哪里，就把战祸带到哪里。
1925年10月，孙传芳受到奉系军阀的威胁，率部反奉，发动了浙奉战争。奉系将领杨宇霆、姜登选、邢士廉等仓促应战，不堪一击，大败而逃。为此，张作霖大发雷霆，召集张宗昌、褚玉璞、施从滨等重要将领开会。会上，张宗昌自告奋勇，要求亲率白俄匪军收复南京，于是，张作霖当即委派他为江苏督办。
张宗昌先胜后败，11月初，被迫放弃了徐州，退回山东境内。
1926年1月5日，张作霖与吴佩孚又互相谅解，共同“讨赤”，并由张宗昌代表奉系与吴佩孚的代表靳云鹗在泰山订立了合作条约。于是，张宗昌指挥直鲁联军和奉军共同行动，夹击冯玉祥的国民军，渤海舰队也北上助攻。
3月23日，直鲁联军和奉军进占天津。4月28日，他们又进入北京，国民军退至南口。张宗昌对国民军咬住不放，联合吴佩孚、阎锡山的军队继续向南口发动进攻。8月，国民军为了保存实力，放弃南口后撤，张宗昌于14日首先率部进入了南口。
由于他在镇压进步力量的过程中，成了名副其实的打手和急先锋，所以受到反动势力的格外青睐。19日，经吴佩孚向北京政府荐举，授予张宗昌“义威上将军”衔。当时，就连早已被抛进历史垃圾堆的清朝逊位的末代皇帝溥仪也写信赞扬他，鼓励他，甚至把复辟的希望寄托于他。