曾国藩为了表明自己敢作敢当，所有布告都署上自己的姓名。他接连给各地下发文件，要求各级政府招贤纳才。各地的知府和知县一下子适应不了这种雷厉风行的作风，但畏惧心理令他们努力地改变风格。见到曾国藩与乡民秀才平等相处，基层官员稍有悔悟，不敢高高在上，脱离民众。他们开始做一些调研，摸清本地的民生疾苦，向上级报告兴利除弊的情况。
曾国藩广泛听取民众的呼声，感动了民间的有识之士，一些绅士找他讨论行政事务，对恢复治安提出了行之有效的见解。湖南的社会秩序很快就有了好转。
骆秉章添柴加火
战火烧到湖北以后，湖南暂无大的战事。代理巡抚潘铎立足于他的本位思考，不愿意多养军队，多供军饷，奏请朝廷撤兵二千多人，只留下一千七百名沅州兵防卫本省。省城所招湘乡练勇一千多人，潘铎也要撤销，令湘勇还乡。
潘铎的做法阻碍了湘军的建设。曾国藩要依靠乡勇的武力整顿全省的治安，与潘铎的想法背道而驰。好在曾国藩已经调取三百多人，以王珍统领，在衡州和永州各地剿匪。
潘铎的裁军迫使曾国藩走精兵路线。兵员不足，更要重视训练。这是曾国藩对湘军建设的重大贡献。他从王珍和李续宾创办乡勇的实践中吸取了经验，决定狠抓军训。在潘铎的大刀阔斧之下，只有少数团勇留在长沙，曾国藩要求他们每天操练。曾国藩还向正规军伸手，命令绿营的城防部队每月六次集合操练。
军训带来了实效，团勇的战斗力大大增强，实力超过绿营，随时可以投入实战。曾国藩每次接到州县报警，立即派出几百名团勇。部队轻装出发，路上不许停留，所到之处，事端立即平息。团勇不但镇压会党，还就地逮捕不法官吏。
曾国藩要抓正规军的训练，需要有军官配合。大多数绿营军官对曾国藩不买账，只有塔齐布支持他的工作，服从他的号令。每当曾国藩检阅部队，他总是脚踏草鞋，带刀侍卫，勤勉有加。曾国藩记得，左宗棠和张亮基曾向他推荐此人。
曾国藩与塔齐布交谈，发现这个武夫虽然官职不高，却是见识不凡。考试他所带的兵勇，基本上训练有素。他想，左季高和张石卿所言果然不虚。通过了解，他得知塔齐布是满洲镶黄旗人，此年三十六岁，官职为五品守备，代理长沙营都司。他在广西接受过战火的洗礼，善于识拔优秀的士卒，鲍超就是被他延揽到旗下的。
曾国藩为了进一步考验他的能耐，令他密捕几名巨盗，塔齐布顺利完成了任务。
潘铎没有裁撤的团勇部队中有一支几百人的辰州勇，带队军官是千总诸殿元。这支乡勇在操练中表现出色，曾国藩对诸殿元另眼相看。他令塔齐布兼管辰勇，与湘乡勇会同操练。这支部队在两名优秀军官的带领下，练得胆技精强，成为曾国藩手下的劲旅。
潘铎在三月份发了一个指示，为湘乡勇重新组建提供了机会。朱孙贻奉巡抚之令，派湘乡团勇捕诛本地会党。他趁机将本县的团勇增加到六百人，绅士们共推罗泽南担任总指挥。李续宾增募三百人，率部驻扎云门寺，打算前往衡州和耒阳之间阻击会党，后来没有成行。
在湘乡的团练元老中，有人从一开始就对曾国藩不感冒。大家聚在一起，谈到曾侍郎时，王珍说道：“此人京官做久了，动不动就发公文，打官腔，真是看不惯！跟他交谈，话不投机半句多。”
李续宾把王珍拉到一边，说：“部队必须团结，才能打胜仗，哪里有工夫计较这些小事？何况曾公是朝廷的钦差，单凭这一点，我们也该尊重他。”
湘乡勇此时有了九百人的队伍，每天每人发一升米和二十钱的柴费菜钱。官府负担不起这项开支，李续宾就从自家拿钱，由父亲李登胜与王宗麓提供。
正在这时，潘铎具折告病，湘乡勇如何发展，要看新任巡抚的态度。他们又走到了一个十字路口。咸丰这时想起了骆秉章，决定让他回到湖南巡抚的任上。
骆秉章自从清明节跟新任湖北巡抚崇纶办好交接之后，遵照皇帝以前的旨意前往北京，三月十六日行抵汝宁，在廖亲家衙门内小住。两天后接奉上谕，令他代理湖南巡抚。几天后他便起程南下，于四月十一日在长沙接收官印。
骆秉章经历过长沙的战事，对团练颇为上心。他改变了潘铎的政策，支持曾国藩加强省城的团练建设。塔齐布得到曾国藩的器重，对公务十分热心，给骆秉章送来一纸建议书。骆秉章正与曾国藩商谈公事，把建议书接过来一看，一句话也没看懂。于是，他递给曾国藩过目，说道：“这个塔守备，倒是对军事非常上心，可惜我一句也看不懂。涤公你看看，究竟说了些什么？”
曾国藩接过建议书看了一阵，也是一头雾水。
骆秉章说：“看不懂吧？粤贼北上长沙时，塔守备也曾上书讨论军事，他的文章写得实在不敢恭维，老夫几乎一句也读不通。”
曾国藩说：“你这个大秀才看不懂，曾某自然也看不懂。”
但是曾国藩心里并未将此事放下，回到审案局之后，把塔齐布召来，说道：“你写的建议，我和骆大人都看不懂，现在你给我讲一讲，或许我能听懂。”
曾国藩没想到，塔齐布虽然不通文理，说话却甚为明白。原来他是想改革选拔基层军官的制度，不拘一格选拔人才。曾国藩听后大为高兴，连忙与骆秉章商议，予以批准。
塔齐布的建议通过了，他令宝庆勇到校场集合，树起四面旗帜，下令道：“谁能最先夺得这四面旗帜，我就让他做哨官！”
队列中奔出数人夺旗，夺到旗帜的那四个人，果然当即被委任为哨官。四人当中，鲍超是其中之一。他进入吃战斗粮的正规军之后，决定靠战功来继续攀升，训练时格外勤奋，在塔齐布不拘一格选拔人才时，他立刻拔得头筹。
塔齐布又树起八面小旗，下令：“夺得小旗者，就是队长！”
就这样，下级军官很快选拔出来，塔齐布当天就率领部众在校场开始训练。骆秉章决定犒赏他，在巡抚衙门设宴，亲自为他斟酒，说：“骆某只看文章，没能听你当面陈述，险些错过了人才，先饮此杯，聊表歉意。”
从此，塔齐布名声大振。骆秉章听从曾国藩的劝告，奏委塔齐布代理抚标中军参将。
在骆秉章的支持下，曾国藩一手抓军训，一手抓严打。各州县捕送到长沙的匪徒渐渐增多，曾国藩严刑鞫讯，每天都有斩枭杖毙的大案，前后杀掉了二百多人。湖南的匪徒闻风敛迹。严打违背了儒家倡导的仁恕之道，连曾国藩的门生都看不下去了，替他捏着一把汗。李鸿章的长兄李瀚章在益阳担任代理知县，给曾国藩上书，劝他减轻刑罚。曾国藩把他的信函扔到一边，没有理睬。
骆秉章刚刚回到湖南巡抚的位子上，就遇上了一些严重的治安问题。但是由于团练得法，所有问题几乎都能迎刃而解。安化县境内的兰田市有串子会聚众造反，曾国藩令朱孙贻亲自上阵，率团勇前往缉捕，擒拿一百多人，事情平息下去。
接着，湘南的桂东县送来紧急军报：江西和广东边界有土匪窜入县境，占据了县城。曾国藩与骆秉章共同行文，派知州张荣组带三千兵勇前往攻剿，又调候补盐道夏廷樾率领七百多名湘乡勇随后增援。这支湘勇的指挥官还有邹道坤、吴坤修、县丞王珍和训导罗泽南。
罗泽南所部开到衡山，听说附近的草市有会党起事，集结了一千多人。罗泽南连忙赶赴草市，擒捕了会党头目刘积厚、龙念七等二十多人，处以死刑，会党溃散。
王珍于六月一日抵达桂东，得知张荣祖已经收复桂东县城，王珍奉令留守。会党向永兴和兴宁等县进军。罗泽南从草市来到桂东，与王珍会师，连日追击，迭获大胜，将会党赶回江西上犹、龙泉等县。骆秉章综合汇报罗泽南的战功，保奏以知县使用。
但是江西的会党并未沉寂，又从万安攻击龙泉。王珍和罗泽南率部越境迎击一百四十多里，进军大汾圩。会党正在竹坑集结二千人，大肆抢掠，气焰十分高涨。王珍令乡勇把守隘口，分兵左右进攻，自己从蕉山绕到会党后方夹击。哨官（连长）钟开诚、易普照驰入阵内，斩杀会党首领三名，会党大败。此战共活捉八十五人，斩杀二百多人，夺取大量武器，将会党根据地全部扫平。
把守隘口的本地民兵也俘虏了逃跑的会党四百多名，全部斩首，会党余部溃散。这次江西会党袭击湖南，不到两个月便被湘勇扫平。
骆秉章切实感到了团练的好处，觉得团勇是一件称手合心的好工具。他下令增募一营湘乡勇，令监生邹寿璋率领。
江忠源奏请招募三千名湖南乡勇随他到江南大营，咸丰批准之后，曾国藩大力支持，函致江忠源之弟江忠浚和江忠淑，请他们操办此事，同时令宝庆府知府魁联支持江氏兄弟招募宝庆勇，又令朱孙贻招募湘乡勇。他计划在长沙对这两批乡勇加以训练，然后派赴江南大营，与江忠源旧部合成一军，使江忠源手中有一支劲旅。但是这个计划没有实施，因为江忠源没有前往金陵，而是从九江去了南昌。
五月份，曾国藩最小的弟弟曾国葆奉令招募一营湘勇，驻扎在长沙南门外。这时接到永州府报告：广西兴安、全州、恭城等州县聚有匪徒，请兵防堵。骆秉章派代理衡永道徐嘉瑞前往。正好张荣祖率部从江西凯旋，骆秉章与曾国藩商议，即派张荣组所部赶赴永州作战。恭城会党接着挺进永明，兴安会党挺进零陵县界，江蓝厅也有会党进入，贺县的会党又挺进江华。兵勇分头作战，不久就将会党镇压。
赖汉英从金陵西进到长江上游时，咸丰警告湖南：逆贼有可能回攻长沙，并会袭击南昌，曾国藩与骆秉章必须会筹防御。湖南的高官得到了一个大力充实地方武装的机会。骆秉章通知提督鲍起豹，叫他调兵来长沙，并把江氏兄弟招募的宝庆勇和朱孙贻招募的湘乡勇共三千人留在省城，听候调动。在将张荣祖派赴永州的同时，骆秉章和曾国藩命令夏廷樾、罗泽南带领湘乡勇返回长沙。
太平军舰队开到南昌城外的消息传来，咸丰令湖南派兵增援江西，骆秉章立刻派出镇筸等绿营兵八百名前往增援。紧接着，江忠源在南昌向湖南求救，朱孙贻和夏廷樾都主张增援江西，曾国藩则在认真考虑江忠源、左宗棠等人的提议，准备组建水师，在衡州造船。骆秉章听从了朱、夏等人的提议，决定征调二千名湘乡团勇，加上一千名新宁团勇，由夏廷樾、朱孙贻、江忠淑、罗泽南、李续宾等人率领开往江西。
江忠淑的千名新宁勇和朱孙贻的一千二百名湘乡勇陆续抵达长沙集结。李续宾于六月三日领到官府发给的军费，当即从湘乡出发。勇丁们脸上有了笑容，他们每人每天有一百钱的伙食费了。这支勇队于六月五日抵达长沙，驻扎在城南书院。
骆秉章去看望湘乡勇，他们还没来得及换装，衣裳褴褛，面目朴野。巡抚的随从们见了，都捂着嘴发笑。骆秉章对朱孙贻和罗泽南说：“孤军远行，兵力还得增强。服装要添置，军队嘛，就得穿上衣甲。”
