1937年8月，聂荣臻出席了洛川会议，在会上听取了毛泽东关于军事问题和国共两党关系问题的报告。毛泽东在报告中分析了抗日战争的形势和任务。会议一结束，聂荣臻就被任命为八路军一一五师政治委员，和师长林彪立即奔赴抗日前线。
聂荣臻初到晋察冀
平型关大捷后，党中央决定留下聂荣臻在五台山地区开展游击战争，创建晋察冀抗日根据地。
山西省五台县境内的五台山，与四川的峨眉山、浙江的普陀山和安徽的九华山合称中国佛教的四大名山，并且以其历史最悠久而被列在首位。
聂荣臻高度重视文物保护，他反复给部队讲保护寺庙文物的意义：日军最会乘虚，最惯攻弱，军事上是这样，政治上也是这样。他们常在宗教和民族问题上挑拨离间，所以我们共产党的部队，一定在保护好爱国僧侣。对爱国僧侣进行保护，是我们除了军事之外，取得胜利的关键。
英姿雄发聂荣臻
晋察冀边区的发源地五台山
在反复对部队进行教育之后果，所属部队特别注意和讲究规矩，尽管当时天气很冷，但住进寺庙的部队，绝不在寺庙内生火取暖，更没有人将空殿的门窗卸下来搭床铺。不仅如此，八路军还把寺院的枯叶和杂草清除清理干净，真正体现了八路军是守纪律的部队。八路军的言行，深深感动了五台僧人，他们称八路军是“真正的仁义之师”
聂荣臻在五台山保护寺庙文物的行为，深得毛泽东赞赏。
1938年，毛泽东在延安接见即将奔赴晋察冀抗日根据地的加拿大著名外科医生白求恩时，说：“中国有部非常著名的古典小说，叫做《水浒传》。
1938年4月白求恩从延客观存在出发前往晋察冀
《水浒传》写了鲁智深大闹五台山的故事，五台山就在晋察冀。”接着,毛泽东非常幽默地对白求恩说：“五台山，前有鲁智深，今有聂荣臻，聂荣臻就是新的鲁智深。聂荣臻是新的鲁智深，他不同《水浒传》上的那个鲁智深。鲁智深醉打山门,把寺庙破坏了,聂荣臻教痛部队爱护寺庙，保护并团结僧侣，一道抗日。这就是军事之外的又一大胜仗。我们共产党干部、我们的八路军，不仅要保护五台山的庙宇，要保护所有的庙宇、保护所有的古建筑。”
毛泽东的这番话，让白求恩听得热血沸腾，他要马上见到聂荣臻，要和聂荣臻一起战斗在抗日的第一线，去治疗伤病员。
聂荣臻在五台山热情接见白求恩
白求恩抗战行军图
白求恩的足迹
1938年6月，白求恩来到晋察冀考察，见到聂荣臻。从一见面，到在聂荣臻的部队里工作，抢救伤员，与聂荣臻结下了深厚的友谊。
白求恩总是称呼聂荣臻“亲爱的聂司令”。
聂荣臻对白求恩的评价是：“白求恩大夫是一个能够让人的灵魂得到净化的人。”
白求恩追悼大会
纪念白求恩
当白求恩不幸逝世后，聂荣臻写下《纪念白求恩同志》一文，文中称白求恩是“无产阶级最英勇的战士之一和被压迫民族最忠诚的战士。”
这种真挚的情感，是铭记于心的。在白求恩逝世40周年的1979年，聂荣臻元帅写了一篇《“要拿我当一挺机关枪使用”——怀念白求恩同志》。在白求恩逝世50周年的1989年，又写了《今天仍然需要提倡白求恩精神》一文，并接受《人民日报》的采访，追忆白求恩。足见他们的情谊之深。