下午鬼子又发动了炮击，这一次炮弹并没有爆炸，而是冒出了大股白烟，这是鬼子的毒气弹，17军、27军将士们纷纷用肥皂水或尿打湿的毛巾、口罩掩住口鼻，向后方撤退。来不及反应的将士倒在了战壕里，死状恐怖。很多将士把自己的喉咙都抓破了，睁大双眼。日军穿戴着防毒面具在毒气稍散时冲上一线阵地，有些还未咽气的士兵挣扎着拉响了手榴弹。
天空忽然下起了雨，毒气迅速消散。趁着这个机会，17军14军立即发起了反击。冲上一线阵地和日军肉搏，先期冲上阵地的日军穿戴着防护面具，视野受限行动有些不便。国军人数又占优，日军纷纷被刺倒。后续日军也冲了上来，两军在阵地上发生了大规模的肉搏，鲜血夹杂着雨水在战壕里汇集。经过半个小时的混战，国军将士终于把日军从阵地上赶了下去。就这半个小时的时间。国军阵亡3000余人。鬼子也不好过，损失超过了1200多人。
将士们迅速打扫战场，没死透的鬼子一一补刀，或者把他们扔到还有毒气弥漫的低洼处，让他们也好好感受一下他们自己的毒气。将士们又赶紧收集鬼子的防毒面具，武器弹药。
对于在中国使用毒气弹，日本后来解释说，他们在对待技术上落后的敌人时，没有把不遵守禁令视为问题。这种说法让人恨得牙根痒痒。
中路日军在这种天气下暂时无法使用毒气，又恢复了常规进攻方式，双方部队在这个狭窄的区域都都杀红了眼。
西线第3军、第14日军也遭到了第36、第37师团、独立混成16旅团的攻击。在防御战中，唐淮源的第3军和陈铁的14军虽然也遭到了日军的毒气袭击，但还是在顽强的抵抗下守住了阵地，消灭了大量的日军，自身的伤亡也很大。
在晋南阳城一带，日军第33师团为牵制国民党刘茂恩第14集团军，派部分兵力于5月7日向守卫在阳城西董封东西一线的第15军武庭麟部、第98军武士敏部发起攻击。由于这两个军作战勇猛顽强，日军不能攻克。
中条山守军有惊无险的度过了会战的第二天。外围的战斗也在进行，八路军虽然在前期扫荡中有不小的损失损，但还是应军委会、卫立煌之请，展开了根据地周边公路、铁路的破袭。庞炳勋二十四集团军一部