于是，湘军就开始了大规模的土木作业，虽然说着容易，但是真到挖地道的时候就不那么简单了。
首先在哪里挖？离城墙太近的话容易受到太平军的攻击，太远挖掘量又太大。
地道离地面太近容易塌方，太深不太容易掌握方向。
挖出的土运出来很容易引起太平军的注意，地道太长空气污浊湘军也不得不打开多个通风口这样就会增大了暴露的风险。
太平军知道湘军在挖地道就采取了反制措施，守城的太平军在城上和城下埋了许多大缸，当湘军挖地道的时候，振动会传到缸上，人把耳朵贴在缸上就可以听到是否有挖掘的声音，从而根据声音判断那里有人在挖地道、挖掘方向在哪里。
李秀成还往城上派了许多经验丰富的斥候，斥候们善观察、懂地形。城外的太平军会在斥候的引导下，和湘军对挖地道，当地道挖穿的时候，太平军就会向坑道引入护城河的水，或者灌入烟，在坑道内点燃炸药对地道进行破坏。
城内的太平军也会根据观测到的地道预测爆破点，然后在城内再修建新的城墙，当老城墙被炸药炸塌之后，内部还有新的城墙阻拦湘军的进攻。
通过这样的反制，湘军的地道战没能攻破天京城，反而损失了五千多人。
1864年7月3日，湘军拿下了南京外围的最后一个太平军要塞——地堡城，地堡城建于1853年，当太平天国建都南京的时候。地堡城是在紫金山南麓的富贵山上修建的，地堡城控制着东北方向尧化门、岔路口以及东南方向的麒麟门、上坊门。
地堡城依山而建，和天京城的守军互相配合，地堡城扼守龙脖子隘口以及靠近城墙的山麓，地堡城位置极为险要。
地堡城有石垒三座，在石垒周围有濠沟三道，每道壕沟都深三米宽五米，濠外又密密麻麻的栽梅花桩十几层，石垒上的炮台坚固，给养充足，守军都是精兵强将。
湘军攻克了地堡城，城外的太平军只能退回天京城。湘军居高临下，俯瞰全市，太平军在城内的活动尽收眼底。