1945年日本投降后，中央任命林帅为东北民主联军（四野前身，最初名东北人民自治军）总司令。他在濮阳接到命令后，立即冒雨骑马上路，奔赴东北。四野战士习惯地称林帅为“林总”，就是因为这个东北民主联军总司令的职位。
当时，东北的154个县，其中100多个县有土匪盘踞。迎接他这位总司令的，除了先期到达东北的少量八路军部队外，就是土匪的枪炮。
刚到东北不久，他在阜新的一个农家院子里召集高级将领开会，黄克诚、李运昌等来了，可左等右等就是等不来李富春和吕正操。侦察员报告，他们在路上被土匪阻击，过不来了。土匪闹得他连个高干会都开不起来，而且差点端了他的司令部。
有天晚上，林帅正在煤油灯下看地图，突然听到村子里传来急促的枪声。参谋报告：“土匪摸到村里来了！”“打上门来了，这还得了？”林帅边说边穿大衣，命令“集合队伍，去打土匪。”当时他身边的队伍仅有一个排，由他亲自指挥把土匪打跑了。幸好土匪不知道这里就是“东北人民自治军总司令部”，否则就悬了。
那时，几乎天天都有我军队和地方干部被土匪杀害，被俘官兵被土匪活埋的报告。在路上遭土匪袭击成了家常便饭，住在城里的也不安全。
佳木斯市副市长孙西林、公安局长高英杰等正在开会，被突然冲进会议室的匪特乱枪打死。中共北满分局委员、哈尔滨中苏友好协会会长、原抗联著名将领李兆麟也在哈尔滨被匪特杀害。至于虎口脱险的更是难以计数。东满临时指挥部司令员萧华（开国上将，曾任总政主任）在安东（丹东）坐车外出，行驶在大街上，突然一个炸弹从楼房上扔向他的汽车，只因掉在汽车屁股后爆炸，他才捡回一条命。
根据统计，当时东北的各类土匪武装共有22万，有16个系统、37种番号，蒋介石在东北任命了33个正、副总司令，32个军长，158个师长，其他如总指挥、支队长之类更是多如牛毛。
蒋介石对他们寄予很大希望，说过一句充满自信的话，共产党军队“在一二年内，决不能消灭这20余万武装的部队，将东北平安占领下去。”
土匪的确给林帅带来了极大的麻烦，他不仅认识了土匪的凶狠残忍，而且领教了土匪的反复无常。佳木斯土匪的“四大旗杆”谢文东、李华堂等人就是典型代表，他们政治色彩的变化之快（农民——土匪头子——抗联军长——汉奸小头目）可以令变色龙自愧不如。
日本投降后，他们又又搞“明八路，暗中央”“先八路，后中央”的把戏，表面上接受共产党领导，同意接受改编，暗地里却接受了国民党的委任。
1945年底杜聿明进攻山海关特别是进占锦州后，哗啦啦打出一片国民党的青天白日旗。前面响大炮，后面打黑枪。原来已经接受我改编的土匪部队，纷纷易帜叛变。
我军进入东北后的头两个月，扩充的新部队有八九万人，十有八九都叛变了。李运昌部进入东北最早，扩充的新部队有4万余人，几乎全部叛变了。
东北我军在国民党进攻面前，开始阶段所以显得处处被动，原因很多，其中最要害的一条是土匪没有肃清，屁股坐不稳，全身都摇晃。
于是不得不把剿匪摆到头等重要的位置。开始是主力部队负责正面作战，地方部队负责剿匪，效果有限。为了彻底肃清匪患，林帅下了大决心，改变部署，抽调一半的主力部队投入剿匪，三分之二的的各级机关干部下乡参加剿匪和土改。
如此一来，剿匪这招关键子下对了，下面的棋就比较好下了，基层解放区政权建起来了，土改进行了，兵员和后勤供给的问题也就解决了。
林帅当初出关时，中央军委交给他的部队是从各解放区抽调出来的10万余人，而辽沈战役后入关时，他麾下的东野却早已经是百万大军了。