1940年8月20日，在八路军副总指挥彭老总的一声命令下，我军120师、129师、晋察冀军区一共20多个团，同时向华北的日军发起进攻，百团大战第一阶段正式开始，也是正太路破袭战。
此次我军的进攻效果十分明显，各进攻部队采用搬拆、爆破、火烧、水淹等方法，破坏铁路、车站及其附属设施，日军的正太路，同蒲路都遭到了不同程度的破坏，严重打击了日军的气焰。到9月2日，八路军总部发布命令：从3日起结束正太战役；各集团按8月26日命令的第二步行动方针转移兵力，趁着正太路遭破坏后，敌人不能转移兵力的有利时机，完成第二步计划的任务。
此次破袭战战果不菲，延安的毛主席也发电给彭老总表示“此类的大战斗能否再发动一两次”，于是在1940年9月16日，总部下达了百团大战第二阶段作战命令，此次战斗晋察冀军区主要进行了涞灵战役，第129师主要进行了榆辽战役，第120师主要破击了同蒲路。各方战斗也非常顺利，歼灭了不少日军部队。
接连的打击也让日军开始报复，随之而来的就是日军疯狂的大“扫荡”，为了反扫荡，八路军总部开了百团大战以反扫荡为目的第三阶段。第三阶段的战斗是艰苦的，但是我军依然取得了不错的成绩，经过40天的反扫荡，歼敌2500余人，破坏公路125公里，桥梁23座，在战役中被敌侵占的所有城镇全部收复。
整个百团大战是我军在抗日战争期间进行的最大规模战役，也取得了不俗的战果，然而自百团大战结束后，关于百团大战斗的争论就一直不少，一度百团大战还消失在历史中，成为了一段尘封的记忆。
百团大战之后，首先针对百团大战提出辩证看法的是刘伯承元帅，刘帅率领的129师作为百团大战的主要参入力量，他对百团大战是有发言权的。刘帅首先肯定了百团大战的成绩，但是同时也认为百团大战在进行过程中过分注重战斗，而忽略了游击的本身，造成了我军的伤亡过大，日军的报复严重。
第二个对百团大战提出异议的是毛主席，虽然第一阶段之后，看到战绩斐然，毛主席也致电彭老总，希望彭老总能“再组织一两次这样规模的战斗”，但是当时还没有“百团大战”这样的称呼，对第一阶段的战斗当时八路军对外宣传的是“正太路破袭战”。
毛主席认为“百团大战”这种称呼，对一种战略失误，用这样的宣传很不满，后来延安整风期间，毛主席遇到了聂荣臻元帅，毛主席就说：“破袭正太路或者破袭平汉路，这都是游击战中经常搞的事情，也不涉及战略问题，军委是不会干涉的，但是用“百团大战”这样的宣传，暴露了我们的力量，引起了日军对我们的力量重新估计，会集中兵力来搞我们，蒋介石也会提高对我们的警惕。”
后来的事情也的确与毛主席所预料的一样，日军从其它战场抽调了三到五个师团前往华北，对华北实行前所未有的围剿，而国民党还趁机制造摩擦。抗日根据地随之而来的是日军对我根据地实行连续两年的大“扫荡”，日军从其它战场调集了重兵来围剿抗日根据地，而国民党还时不时闹摩擦，此时的抗日根据地陷入到最困难的时期，遇到了空前的挑战。
此后关于百团大战的争论一直没有消停，由于刘帅在七大上对此事的意见，彭老总为此还对刘帅产生了极大的误解（建国后刘帅的苦难，可能也是原因之一），而彭老总为此也不得不在会议上做出检讨，此事才算是暂时过去了。
建国后，首先是教条主义问题造成刘帅辞去军事院长的职务，然后两年不到，彭老总又在庐山会议上蒙冤，被解除相关职务，此后关于百团大战的宣传就更少了。
到了特殊的动荡时期，百团大战几乎就成为了一个禁忌词，百团大战成为了一个被全面否定的战役，历史的文献中，百团大战也几乎不出现了，即使到1982年出版的《刘伯承军事文选》，有关百团大战的文章一篇也没有收录，而即使有一两篇文章提到了“百团大战”的战役内容，“百团大战”的字样也用其它的战役名称替代，可以说百团大战消失了。
百团大战已经成为了禁区，而首先突破这个禁区的是聂荣臻元帅，他于1984年出版的《聂荣臻回忆录》，其中就专门写了一章题目为“百团大战”的内容，并且其后又发表了讲话，认为百团大战不可被否定。
当然聂帅对百团大战的提出也是采用辩证的方式看待，在回忆录中他提出：“我的看法是，战果是巨大的，总体来说是应该肯定的，但是胜利之中也有比较大的欠缺和问题，首先是在宣传上出了毛病。”
可以看到即使聂帅在对待百团大战的问题上依旧比较谨慎，但是他正面肯定了百团大战，突破了禁忌，从此百团大战开始在各种回忆录、历史书籍中出现，可以说聂帅“拯救”了百团大战。而从1966年到1984年，百团大战整整被历史尘封了18年，消失在人们的视线中，但是历史终究是历史，总有拨云见日的一天。