1940年初，日军在临城县平汉铁路以西修筑了一条南北封锁沟，并在胶泥沟村建立了据点和炮楼，驻扎有日军一个小队、伪军一个中队和一个警察所，还有便衣汉奸、密探等。据点里的日伪军经常外出对附近的村庄烧杀抢掠，群众恨之入骨，迫切希望八路军除此祸患。

这年10月中旬，吕正操领导的冀中警备旅从冀南开往太行山区，经过临城时，为消除敌人对临城西北部的威胁，保护人民群众的生命财产安全，吕正操决定，立即拔掉这个据点。

在县独立营和保家民团的配合下，吕正操率警备旅一连除掉了胶泥沟据点日军布置在各村的汉奸密探，严密封锁消息，并化装前往炮楼附近观察敌情，还找到经常为敌人据点搬运物品的老乡了解情况。经调查，吕正操他派警备旅侦察连长携带“慰劳品”前往据点，称是替生病的汉奸前来报告情况。侦察连长进入后送上礼物，又说要请伪军排长到村里“玩上几天”。伪军排长就带着几个伪军跟随侦察班长出了炮楼，向村里走来。这伙伪军行至半路，被八路军埋伏人员全数抓获。

按照吕正操的部署，侦察连长除将伪军排长交地方审判外，对被俘的伪军进行了说服教育，在成功将他们策反后立即释放。

当夜，吕正操率领部队秘密接近敌人据点，迅速实施包围。被策反的伪军从里面打开坚固的大门，几十名手持短枪和手榴弹的八路军战士悄悄进入据点，直扑日军营房。里面的日军根本没有防备，见八路军犹如天降，只得投降。日军军官企图顽抗，被当场击毙。