28日天刚亮，三架日军九七式重爆击机就飞临五寨县城，再次对五寨县城展开狂轰滥炸。
李宏现在城楼上，看着头顶上不断盘旋投弹的日军飞机，心里恨得咬牙切齿。这些日军飞机很狡猾，他们全都在500米以上高度投弹，使得李宏连夜安排的防空阵地失去了作用。部队中的马克沁重机枪、捷克式轻机枪虽然理论上说可以打到500米高，但是面对高速飞行的飞机，在这个高度上，重机枪还能起到点微弱作用，轻机枪就完全是浪费子弹。因此，李宏只能眼睁睁看着日军飞机耀武扬威。好在城内百姓已经连夜疏散，虽然不少房屋起了大火，但伤亡并不大。
与此同时，在县城东面5公里处的老牛坡，驻扎于此的千田联队已经整队完毕，开始沿着原路返回。千田联队的头顶上，日军飞机不断向四周盘旋侦察，一旦发现可疑目标，就会俯冲攻击。与此同时，飞机上的飞行员在发现敌情之后，会向千田联队投下一个纸筒，里面是具体的敌情内容。
千田联队行动很迅速，为了提防被袭击，他们派出一个中队担任前锋，对前方3公里的地形进行仔细侦察，并且公路两侧的制高点事先派人占领，确保大部队可以安全通过。在两翼，日军各有一个小队担任警戒，并对公路两侧可疑地形搜索警戒，避免大部队行进时遭到袭击。
上午9时，李宏派出去的侦察兵返回县城，带回了日军的最新情报。
李继贤听完侦察兵报告后，佩服地说道：“旅长，还真和您说的一样，小鬼子果然撤兵了。”
李宏的脸上却没有多少喜悦，不甘心地说道：“继贤，小鬼子是撤兵了，可他们的警惕性却非常高，从他们的布置来看，我们几乎没有任何偷袭的机会。”
李继贤听出了李宏的意思，劝道：“旅长，不必过于在意，总归来说小鬼子撤兵对我们是一件好事。就算这次没有办法痛打他们，也不代表以后不能，我们下次找机会再收拾他们就行，不必执着于一时得失。”
李宏自然明白这些道理，于是他迅速调整好心态，下令道：“继贤，马上通知副旅长，让他率领城外的部队倾巢追击敌军，寻找机会偷袭。切记不可强求，若敌人防备严密，不可强行出击，以保全部队为主。部队尾随敌军，可向神池县境内追击，若敌军主力撤出神池县，我军可相机收复。”
“是。”李继贤立刻下去传令。
随后李宏又命令城内的785团做好救火准备，等日军飞机离开，立即扑灭城中大火，并巡查全城，若发现伤员，立刻送出城外抢救。
与此同时，八路军各部化整为零，一路尾随日军，沿途不断设置障碍、陷阱，埋设地雷，给日军造成不小麻烦。不过摄于头顶上的飞机，始终无法对日军大部队展开袭击，只能眼睁睁看着日军撤退。
小河头镇，李宏率一部兵力进城后，留下大半兵力由罗大山指挥，本来是让其在日军攻城时在城外机动作战，袭扰日军，配合守军防御。如今日军撤兵，原先的部署失效，于是李宏果断下令他们追击敌军，趁机收复失地。
罗大山接到命令后，当即集结部队，向东南方向的李家坪乡疾行。大军以旅直属骑兵连为前锋，抛弃大部分辎重，只携带武器弹药和三天粮食，轻装前行，一路上风驰电掣，马不停蹄。
入夜之后，日军停止了撤退，开始原地修筑工事，抱团防御。日军休整的地点是一处荒村，村里的百姓早就尽数逃难，日军占领这里的时候已是空无一人。这里南北两面各有一座山头，东西都是开阔地，日军在两个山头上分别布置了一个步兵中队，东西村口各布置一个机枪小队配属两门九二式步兵炮警戒，防御十分森严。
当天半夜，罗大山追击到此地，试探性的对日军发起夜袭，但是由于日军控制了山头，部队还未靠近就发现，夜袭以失败告终。罗大山见状，立即改变策略，命令主力趁夜绕到日军前方，在路上埋设地雷、设置路障，同时以炮兵原地修筑阵地，对日军村庄实施骚扰式炮击，干扰日军休息。
于是，整个后半夜，日军所在的荒村不断遭到炮火袭击。炮声隆隆，连绵不断，面对突如其来的炮击，日军自然不甘示弱，立马进行了强有力的反击。敌我双方的这场炮战一直持续到凌晨五点，村庄的大部分建筑被毁，日军损失2门九二式步兵炮，阵亡士兵14人，398旅这边由于采取分散射击且不断机动，只有一门炮在转移时不幸被日军炮弹击中，炮架被毁，阵亡4人。同时，这场炮战严重影响了日军睡眠，使得所有日军在第二天早上都是无精打采，眼睛红的像兔子。
天亮后，千田联队再度出发，有了飞机的掩护，千田联队的撤退速度非常快，一个小时差不多5公里。尽管前方不断遇到地雷，但是在日军工兵的努力下，大多数地雷都被排除，并没有给日军造成多少伤亡。相比之下，反倒是八路军的自制土地雷起到的作用更大，他们制作工艺虽然落后，但是却令日军的探雷器难以发觉，炸死炸伤了不少日军。
28日晚上，日军成功撤回神池县城。29日一大早，黑田重德旅团长重整队伍，大摇大摆地往朔县方向撤退，未在神池县留下一兵一卒。
罗大山一路尾随日军，始终没有机会偷袭，在千田联队和神池日军会合后，便放弃了偷袭的想法，驻兵在神池县城西北方向，监视日军。日军撤出神池县后，罗大山于当天下午派补充2营收复县城，主力继续尾随监视日军，直到日军彻底退出神池境内才返回。
至此，这场驻蒙兵团对晋西北的进攻彻底结束。前后历时一周左右，日军集结上万人，不仅未能达到目标，反而损兵折将，可谓是偷鸡不成反蚀把米。