此时已觉胜券在握的曾国荃力排众议云：“贼（指太平军）以全力突围是其故技，向公（向荣）、和公（和春）正以退致挫，今若蹈其覆辙，贼且长驱西上，何芜湖之能保？况贼乌合无纪律，岂可见其众而自怯？”他还谢绝了白齐文指挥下的“常胜军”的支援。是时江南流行瘟疫，曾国荃军中也开始蔓延，湘军元气大伤。1863年能够连战连捷，几年夺下天京城外所有的战略据点，都是在极为艰难困苦的条件下取得的“战绩”。
到了1864年2月，曾部已将天京合围，7月19日午后，曾国荃的心腹、亡命徒李臣典点燃埋在天京城墙下面的三万斤火药，一时间“但闻地中隐隐若雷声，约一点钟之久。忽闻霹雳砰訇，如天崩地圻之声。墙垣二十馀丈随烟直上……”，天京陷落。湘军入城后，在曾国荃纵容下，肆意践踏妇女，屠杀无辜百姓，到处挖掘窑藏，掠夺财宝。
湘军所为，令人发指。曾国荃所得金银细软、稀世珍宝盈筐满箱，难计其数，其贪婪残暴之名于是遍闻天下。民间流传曾国荃的吉字营湘军掳掠的金银如海、财货如山，一时间，长江上成百上千艘舟船，满载这些财宝驶向湖南。在城市被洗劫一空后，为了消赃隐罪，他还纵兵放火烧房，使天京城顿成一片火海，破坏极为严重。曾国荃还命令湘勇把洪秀全的尸首挖出，拖到长江边上浇油烧掉，然后将骨灰填进火炮，点烧引信，打到江中。
接着斩杀被俘的太平天国忠王李秀成、福王洪仁达（洪秀全二哥），并大肆杀戮无抵抗能力的太平军。攻下天京后，清廷赏加太子少保衔，封一等威毅伯。但曾国荃并没有青云直上，反倒受到官绅的非议和清廷的追究。一是因为当时朝廷财政困难，都指望夺取太平天国的国库来救济，而他却报告洪秀全圣库已经没有金银，拒缴所得窑金；二则是他谎报洪秀全之子洪天贵已死，其实正是他的疏忽，才使他们得以脱身。
曾国藩当然要比其弟深思熟虑得多，也更谙熟为臣之道。他急忙以曾国荃病情严重为由，请求将九弟开缺回籍。曾国荃开缺回籍后，心绪不佳，不久得了一场大病，直到1866年才奉清廷之谕，起任湖北巡抚、陕西巡抚、山西巡抚。在任山西巡抚期间，正逢晋地久旱无雨，赤地千里，曾国荃多方借款、筹粮，办理救灾度荒事宜竭尽全力。当地百姓对他感恩戴德，曾专门修建生祠，以纪念他。
光绪三年（1877），曾国荃来山西上任。那一年，正是华北、华东、西北九省发生罕见灾荒之年（时称“丁丑奇荒”）的第二年。“丁丑奇荒”，起于光绪二年（1876），止于光绪四年（1878），山西等一部分地区拖到光绪五年（1879）。灾害蔓延北方九省，受灾人口多达两亿。直接饿死及无力掩埋人畜尸体引起的大瘟疫夺去的人命达1300万！其中山西省1600万居民中就死亡500万人，还有几百万人口逃荒或被贩卖到外地。
真可谓是“千里无鸡鸣，生民百余一”。是年（1877）的大致情形是：农田颗粒无收，蝗虫铺天盖地而来，把树叶野草都吃光了。旱情不断发展，可食之物殆尽，发生了“人食人”的惨剧。九个省份遭灾，山西、山东、河南、陕西、直隶五省是重灾区，山西最严重，到处都有人吃人的现象。有活人吃死人肉的，还有将妇女或孩子活活杀死吃掉的。
就在曾国荃为山西巡抚时，清政府发给他虚衔实职空白执照各2000张，命他数日内离京赴任。五月，朝廷一次给山西的灾民划拨了20万两赈灾银，令曾国荃采买粮食，运往山西赈济。从此之后，朝廷中枢开始大规模的赈济灾民。曾国荃起程奔赴山西之际，清政府已经下令：允许各省开设捐局。所以，曾国荃到山西时，手里已经拿上了户部发放的两千张空白“鬻爵”文本，可以筹措款项了。
自此，山西得到清政府的多项赈灾政策，不能不说与曾国荃有关。史料记载：当年8月，同样灾荒的河南、山西两省，其得到的赈灾救济是不一样的。山西其时已经得到了国家的二十万两赈银、未藉京饷和漕折银十四万七千余两救济银两。同时，朝廷又把八万多石粮食给了山西，给河南的仅仅是四万多石。除了原有的二十万两赈银、未藉京饷和漕折银十四万七千余两之外，山西还得到李鸿章筹措的十万两银子。
之后，朝廷又拨了二十万两赈银，而且又明确：七成归山西，三成归河南。几天之后，不知通过何种渠道，清政府认识到河南的灾情也一样厉害，而给山西的赈银似乎还不足以体恤民艰，所以就改为原有的二十万两赈银不再分配，全部划给山西，另外追加二十万两拨给河南。由此，曾国荃与山西百姓结下了不解之缘，同时也与以太原为中心的晋商巨子接下了不解之缘。
