浦铁路、胶济铁路、陇海铁路进行破袭，爆破铁路大桥、车站，路基，扒掉铁轨，瘫痪日军铁路运输。选择一些据点拔除，迫使日军调回部分军队到后方守护铁路线。
沂蒙军区发动民众分区包干，广挖抗日沟，彻底破坏蒙山南北公路线，并广设地雷、陷井，开展冷枪运动，让日军在根据地内得不到片刻宁静，而且在根据地内坚壁清野。
战役之初我军的主要任务是将日军尽量分散。115师负责平邑、新泰、蒙阴之敌，引诱军进入山区，确保不让东进。同时调出部分兵力进入鲁南军区待命，沂山军区主力部队随时准备南下。滨海军区抽调部队进入鲁中，并派部队在沂河东岸威胁沂水、莒县、临沂之敌。鲁南军区牵制临沂之敌。沂蒙军区集中兵力，炮营待命，选择实力较弱的日军，一步一步将分散的日军吃掉。
反扫荡构想写完后，李振华致电了沂蒙军军区。
此时山东根据地军政委员会、沂蒙军区、115师也已经察觉到了形势的严峻。这是山东根据地开辟以来遇到的最大的挑战。军政委员会召紧急会议，商议对策。
沂蒙军区杨文翰以李振华的反扫荡构想为蓝本制订了详细的作战计划。他在会议中提交了计划供军政委员会讨论，讨论中大家日军的攻击目标没有异议，对外围根据地破袭交通、根据地战前准备没有什么意见，但但对要打击哪一股敌人存在分歧，毕竟大扫荡还未开始，日军如何行动大家还不能明确，大家不好判断。会议最后决定战前按李振华的方案行动，战斗过程中看日军的下一步行动再做打算。
军政委员会向各根据地军区下达了命令，各根据地行动了起来。日军大扫荡还未真正开始，就像捅了马蜂窝一样。山东各地抗日军民活跃了起来，特别是各铁路沿线频繁遭到袭击，桥梁、车站被爆破，铁轨被偷、被扒，胶济、津浦、陇海铁路山东段全面停运。日军不得不抽调重兵驻扎各站点，加强铁路沿线的巡逻、布控。平邑、新泰、临沂、沂水也抽调了不少部队进驻铁路沿线。
沂蒙军区、115师动员了根据内的百姓，在地方部队的带领下也大力破坏公路、挖掘抗日沟。日军在根据地边缘修筑的据点频受到攻击，不少据点被拔除，日军为避免受到更大的损失，离县城稍远的据点都被迫