1937年11月,由聂荣臻担任司令员兼政治委员的晋察冀军区在山西省五台县成立。不久,日军纠集两万余兵力对晋察冀发动二十五路围攻。聂荣臻率部从山西五台县一路转战到平山县,平山县蛟潭庄成为晋察冀军区的指挥中枢。反围攻胜利后,1939年4月,聂荣臻和晋察冀军区离开蛟潭庄,迁往阜平县。
百团大战后,日军对晋察冀边区实施“铁壁合围大扫荡”。聂荣臻率领晋察冀军区机关从阜平向平山的滹沱河两岸机动,指挥军民坚持反“扫荡”斗争。
在紧张的反“扫荡”间隙,聂荣臻登上西黄泥村附近的一座大山,望着滹沱河两岸大片的稻田,他情不自禁地对随行人员说,这里真是晋察冀的乌克兰啊。早年曾在莫斯科求学的聂荣臻,深知“粮仓”乌克兰对于苏联的重要意义。在他眼里,平山就是晋察冀的大粮仓。
在艰苦的反“扫荡”岁月里,由于日军的严密封锁和自然灾害,晋察冀军区部队的粮食供应出现严重短缺。1942年春,聂荣臻发出训令,要求部队不能采摘榆树叶、杨树叶,不能在村庄附近挖野菜,宁可饿肚子也不能与民争食。春耕时节,聂荣臻号召官兵帮助乡亲们发展生产,部队的战马也成了春耕的主力。
1942年9月,聂荣臻在平山县宅北村主持召开晋察冀边区党政军高级干部会议,发出“到敌后之敌后”的号召,这对扭转边区的被动形势、收回被日军“蚕食”地区起到了重要作用。1943年4月,聂荣臻率领晋察冀机关再次离开平山,安全转移到阜平。
在艰苦的抗战岁月,聂荣臻率领晋察冀党政军领导机关,两次驻扎在平山共三年多时间,晋察冀军区部队从3000人发展到32万人,成功开辟了晋察冀模范抗日根据地,为抗战胜利建立了不朽功勋。