1940年初，日軍在臨城縣平漢鐵路以西修筑了一條南北封鎖溝，并在膠泥溝村建立了據點和炮樓，駐扎有日軍一個小隊、偽軍一個中隊和一個警察所，還有便衣漢奸、密探等。據點里的日偽軍經常外出對附近的村莊燒殺搶掠，群眾恨之入骨，迫切希望八路軍除此禍患。

這年10月中旬，呂正操領導的冀中警備旅從冀南開往太行山區，經過臨城時，為消除敵人對臨城西北部的威脅，保護人民群眾的生命財產安全，呂正操決定，立即拔掉這個據點。

在縣獨立營和保家民團的配合下，呂正操率警備旅一連除掉了膠泥溝據點日軍布置在各村的漢奸密探，嚴密封鎖消息，并化裝前往炮樓附近觀察敵情，還找到經常為敵人據點搬運物品的老鄉了解情況。經調查，呂正操他派警備旅偵察連長攜帶“慰勞品”前往據點，稱是替生病的漢奸前來報告情況。偵察連長進入后送上禮物，又說要請偽軍排長到村里“玩上幾天”。偽軍排長就帶著幾個偽軍跟隨偵察班長出了炮樓，向村里走來。這伙偽軍行至半路，被八路軍埋伏人員全數抓獲。

按照呂正操的部署，偵察連長除將偽軍排長交地方審判外，對被俘的偽軍進行了說服教育，在成功將他們策反后立即釋放。

當夜，呂正操率領部隊秘密接近敵人據點，迅速實施包圍。被策反的偽軍從里面打開堅固的大門，幾十名手持短槍和手榴彈的八路軍戰士悄悄進入據點，直撲日軍營房。里面的日軍根本沒有防備，見八路軍猶如天降，只得投降。日軍軍官企圖頑抗，被當場擊斃。