不过就在鬼子炮兵还击的时候，772团早已经发起了进攻。120毫米的重型迫击炮弹落下，还是高爆弹，不是杀伤性炮弹，碉堡里的鬼子不是被震晕震死，就是眼冒金星，双耳嗡嗡直响。120毫米的迫击炮弹，要是在开阔地炸开，能直接炸出两三米深，5米左右的圆坑，所以碉堡里的鬼子这个时候可是不好受。772团的战士们趁机冲了上去，靠近鬼子的碉堡，顺着碉堡的射击口就把手榴弹扔了进去，轰，手榴弹炸开，火光闪过，里面的鬼子纷纷倒地。稍微远一点的，先扔个烟雾弹，投得准的，直接一个辣椒弹就扔了过去，鬼子一时没意识到，被辣的哇哇大叫，特别是手榴弹炸开的风吹过，不少鬼子都觉得皮肤上痒痒的，接着就有些火辣辣的感觉，越抓越火辣。一些鬼子忽然叫出特种弹，然后其他鬼子立即转身抓起防毒面具就戴上，但是这皮肤还是火辣辣的，于是再也忍不住，纷纷跑了出去战士们则趁机压上来，攻占了不少的碉堡。
最后这些鬼子被滕本带领的宪兵挡住了，毕竟几个月前的攻打顽军辣椒弹就流传出来了的。鬼子也以为是特种弹，但是深入探查后才知道就是辣椒弹，但是鬼子几乎不吃辣椒，所以对付这种弹只需要戴上防毒面具，皮肤不接触就行。所以在滕本的压制下溃败的鬼子停下了脚步，但是回到碉堡已经来不及了。而且，由于鬼子西北角的溃败，新一团也趁机用无后坐力炮打开了一条路，冲进了堡垒，滕本见此情景，无奈的只好带着残兵往城东的榆社中学转移，不过，转移前，他让一个分队的鬼子带着城内剩余的伪军去阻拦八路军的进攻脚步，可是伪军这群贪生怕死的人，怎么会真心抵抗呢，于是，等这个分队的鬼子带头冲到阵前，一回头差点没当场气死，除了十来二十个死忠和被裹挟来的，其余的伪军不知道什么时候都不见了身影。于是，这么点人怎么能阻挡得住八路军前进的脚步，不到十分钟，这些鬼子都被消灭了，战士们顺着鬼子撤退的方向继续前进着。
经过一个多小时的恶战，鬼子的核心阵地西北角及西面的碉堡，都被八路军攻克，守敌大部被歼。滕本下令向城东的榆社中学转移，因为炮兵阵地就在学校，并利用西南角和东北角残余堡垒继续负隅顽抗，这大大减缓了进攻的速度。此时天已经开始蒙蒙亮了，知道鬼子飞机的厉害，为了打扫战场，清理残余鬼子，而且也是为了避免我军产生过大伤亡，只好决定夜间再行攻击。参谋长看着城东中学的地方，因为鬼子作为军营，不仅靠近峭壁，而且城内的缓坡处还布置了两层铁丝网，后面还有堡垒状的阵地，不知道具体布置的他只好将情况先报给旅长，并让各部主力注意隐藏，留下小股部队清理残敌，但是务必修建好阵地，以防白天鬼子反扑。