回到江宁后，曾国藩和彭玉麟、黄翼升、李朝斌等人进一步商量长江水师的永久保留问题。曾国藩的最大顾虑是：将团练改为经制之师，这是没有先例的事，不知朝廷能否同意。芥航法师的所谓"以老衲冷眼观之"的话，毕竟只是他的看法，是不是朝廷的意思，实在显得很玄虚。黄翼升、李朝斌说，不管怎样，先上个折子再说。彭玉麟思考良久，说出一套完整的设想来："团练改为经制之师，没有前例可援，若是陆军，此事万万不可提，但现在是水师，却可望获得准许。一则朝廷鉴于从宣宗爷开始，海疆屡受夷人侵凌，需要建一支海防水师。二则长江水师组建十余年，有一个现成的规模，有良好的西洋装备，最有改为海防水师的条件。三则这些年长江水师的名声毕竟比陆军要好些，朝廷对它的猜忌少。"由长江水师分统出身后任淮扬水师、太湖水师统领的黄翼升、李朝斌完全赞同彭玉麟的分析。黄翼升说："这么好的一支水师队伍，想必朝廷也舍不得把它长期当团练看待。"李朝斌说："把长江水师改为海防水师，真的让朝廷捡了大便宜。"曾国藩想：雪琴前两条有道理，至于第三条，那是出于他的偏爱，长江水师的名声比吉字营、霆字营也好不了多少。便笑着说："依雪琴看来，长江水师改为经制之师是有十成把握咯！"彭玉麟说："十成把握说不上，五成可以打包票。"黄翼升说："不只五成，少说也有八成。"曾国藩摇摇头说："八成？我看未必有，还是雪琴估计得稳当，大概五成左右。"彭玉麟说："不再走别的途径，便只有五成把握；若再走一条路，就有可能达到八成。""再走哪条路？"李朝斌急着问。
"有一个人，向来支持涤丈和湘军，找他，一定行。"彭玉麟慢悠悠地说。
"哪一个？"李朝斌脱口问道。
黄翼升说："你是说找武英殿大学士贾桢？"曾国藩心里明白，但不做声。
"找恭王。"彭玉麟自己回答了。"恭王东山再起，虽失去了议政王的头衔，但仍是军机处领班大臣。这说明太后对他既有隔阂，但又不能缺少。湘军能建大功，一向仰仗恭王的鼎力支持；且恭王在与洋人的交涉中，倍感国势柔弱的耻辱，多次提出要建海军，办工厂，徐图自强。他一定会全力支持将长江水师改为国家的海防之师。""雪琴，你刚才说恭王和太后仍有隔阂，何况又失去了议政王的头衔。这样一件大事，太后会让他一人作主吗？"曾国藩问。
"是的，我为此想了很久。"彭玉麟说，"恭王经前次挫折，处事的顾虑会多一些，很可能不会一人独自决定。我有一个替恭王着想的主意：请恭王对太后说，长江水师改经制之师，是一件很大的事，可援朝廷处理大事的旧章，由军机处发文征求各省总督意见，然后再作决定。""假若各省总督意见不一怎么办，岂不反而误了大事？"黄翼升说。
彭玉麟笑着说："昌歧顾虑得有道理，但没有具体分析。两江之外的其它七省总督，我都一一作了揣测。直隶总督刘长佑出于我们湘军，有利于湘军的事，他决不会反对。陕甘的杨岳斌就更不用说了，两广的毛鸿宾是涤丈的同年，云贵的劳崇光，我们湖南的乡贤、涤丈的老友，四川的骆秉章，多年来为长江水师筹过上百万两饷银，他们三个都不会反对，稍有点麻烦的是湖广的官文和闽浙的左宗棠。"这的确是两个关键人物。大家都注意听彭玉麟的分析："官文这个人很复杂。他既仇视湘军，又沾了湘军的光。不是湘军的胜利，哪有他的一等伯爵？他是个聪明人。据涤丈说，他上次来江宁，背地里行陷害，表面上对涤丈恭敬，还要说湘军的好话。此人的特点是贪名贪利，无定识，无风骨，你给他点好处，他就会站在你这边。我想给太后、皇上的折子里，干脆建议改制后的长江水师统领让他官文做，我们都做他的副手，他一定会乐意。"曾国藩想起他创办湘勇以来，便一贯采取推出一个满人来领头的做法，对彭玉麟此计甚为赞许："雪琴，你的这个办法很高明。"彭玉麟快活地笑道："这是向你老学来的。"李朝斌说："官文那家伙对水师狗屁不通，弟兄们哪里会服他！"黄翼升说："你不要急，他只是挂个空衔的。"李朝斌说："万一他要乱干涉呢？"彭玉麟说："他这个人聪明就聪明在这里。知道自己不懂水师，只要有这个空名他就高兴了，不会具体插手的。他岂止不懂水师，陆军他也不懂，钱粮刑谷他样样不懂，但他偏偏就当了十多年的湖广总督，还升了大学士。你说他是草包？他的聪明之处，恰恰表现在他什么都不管，只管吃喝玩乐、图享受、讨姨太太。凡他挂名的职分内，有了功劳，他是头一份；出了差错，都是具体办事人的。这正是官文做官的诀窍。"一番话说得这样的一针见血，大家都开心地笑起来。
"至于左季高，以他的脾性，很可能会反对此举。不过，左季高毕竟不是官文之流。他识大局，有远见，懂得建海防水师的重要性。我想，只要跟他说清楚，他也不会盲目反对的。万一他硬要说我们是私心，也不怕，大家都同意，他一人的力量究竟有限。""雪琴的想法很好，不过，这个折子我不能上。我提出裁撤湘军，还说一个人都可不留，现在又说要把长江水师改为经制之师，难以自圆其说，还是请雪琴给太后、皇上上个折子。"曾国藩望着彭玉麟说，"你看如何？""好，我直接向太后奏请。"彭玉麟答得很痛快。
"恭王府那里最好派一个人去为好，有些话不便明写。"隔一会，曾国藩又想起一件事。他脑子里浮现当年派康福进京的往事，叹息康福已死，身边缺少这样一个文武双全的人才。
"大人，可以派薛福成去。"黄翼升说，"这个人聪明灵活，兄长又是专给王公大臣看病的名医，派他去最合适。"是的，薛福成是个合适的人选，他虽然缺少康福的武功，但在京师，靠着兄长的特殊身份，他又比当年康福有利得多。
"左季高那里是写信，还是派人去？"曾国藩自言自语道，那神态看似颇有点为难。
"左季高目前正在杭州，我自己去走一趟。"彭玉麟自告奋勇，"好几年没见面了，我还蛮想他哩！""太好了！其它几位总督那里，就由我写信。长江水师的事有雪琴料理，真比我强多了。"曾国藩放下心来，他佩服彭玉麟的经纬之才，又感激他的仗义之情。
*****************
彭玉麟亲自为长江水师的改制写了一份折子。先简述长江水师自组建到壮大的过程，历数它十多年来的重大战功；然后转笔写自道光中叶以来海疆不宁，屡遭侵袭的惨痛历史，从中得出建立强大海防之师的重要性；继则写长江水师组织严密，将才众多，装备精良，战斗力强，已初具海军规模；最后讲自己本拟终老退省庵，现在决心为建设大清王朝自己的海军不辞辛苦，再度出山，鞠躬尽瘁，死而后已。通篇奏折立论光明磊落，无懈可击，洋溢着为国远虑、为君分忧的耿耿志士忠心，全无半点要保存一支属于自己的武装的私心杂念。曾国藩看后击节赞叹。他觉得这篇奏折是如此地卓尔不群，简直为自己所有的奏章所不可及。有这样一份折子奏上去，谁还能有理由阻止长江水师的改制呢？他对着奏章沉吟良久，始终不能从两种推测中把握一种：究竟是彭玉麟聪明绝顶，善于以最冠冕堂皇的理由掩盖自己的私人目的呢，还是他的确胸中充塞着忧国忧民的浩然正气，至情所激而发为至文呢？不过，有一点是曾国藩最后所确认的，那就是无论是出于前者还是出于后者，他都自叹不如！
曾国藩由彭玉麟这篇奏疏得到启发：如果将道光中叶以来，洋人与我们海上接仗的历史如实地排列出来，把它作为这个奏疏的附件的话，它将会以惨重的教训使阅读此奏者，更为清醒地认识到建立海军的必要性，而不得不从心里赞同长江水师的改制。
两江总督幕府有的是这方面的人才，以汪士铎为首的编纂处立即组成。他们苦干了七日七夜，终于编成一篇四万字的《华夷海战三十年大事记》，并誊抄两份。一份存底，一份连同彭玉麟的奏疏，由薛福成亲自送到北京恭王府。
大衔借补小缺之事可参见王之春著《椒生随笔》："江督曾公国藩奏武职各员大衔借补小缺，前经奏准，嗣经部驳。此次奏补长江水师各缺，甚至以提镇之衔而借补千把之缺，以入营之资格极久，列保之次数较多，而家中贫寒如故，情愿一小缺为终生衣食之资。统计各省军营保至武职三品以上者，不下数万人。将来军事大定，各路撤兵，此项有阶无缺之员，难保不滋生事端。同治三年，沈葆桢请安置此项人员，自提镇至都守，照实缺例给予俸银米石。饬下臣议，臣以糜费太巨，未经议准。或每年将借补者酌补六七成，序补者酌补三四成，截至同治二十七年止，此后仍按班序补。请旨将绿营将备借补小缺一案，一并饬部核议。见同治三月京抄。"果然如曾、彭所料，这篇奏疏连同附件引起了恭王奕、军机大臣文祥等人的高度重视，连两宫太后也为之动容。恭王建议，为慎重起见，命军机处将彭奏和《大事记》一并发给直隶、陕甘、四川、闽浙、湖广、两广、云贵各省总督，要他们就此事各抒己见。这时，彭玉麟也亲赴杭州游说左宗棠。出乎彭玉麟的意料，左宗棠听完他的陈述后立即表态：完全赞成长江水师改编为朝廷的经制之师。至于建海军一事，左宗棠劝彭玉麟不必着急。第一步要借此良机将长江水师整顿好，把不称职者尽行汰去，宁缺毋滥。第二步再做好长江两岸的巡守，保卫内河商船、民船的航行，并认真训练人才。第三步则以狼山镇为基地，筹备外海水师，保卫海疆，扺御外寇。现在先行第一步。并说他将以此复奏军机处。彭玉麟为左宗棠光风霁月般的胸襟所感动，临别时紧握老朋友的手说："今后长江水师的整顿、建制等方面，还请你多多指导。"左宗棠当仁不让地点头应允。
官文也给曾国藩、彭玉麟来了信，说我大清王朝早就应该建海军了，长江水师已是海军雏形，理应改为经制之师，永远存在下去。又说自己于水师不懂，假若今后真的兼了海军统领，那是无比荣幸的事，还请曾、彭多多辅佐，共创伟业。曾国藩、彭玉麟阅后，会心一笑。
杨岳斌接到军机处的咨文后十分激动，连夜命幕僚起草，以最坚定的态度支持此事。并说它将是我中国千古未有之大事，必会使宣宗爷、先帝含笑于九泉。又说自己宁可不当陕甘总督，愿去改制后的水师充当一个偏裨将校。
刘长佑、骆秉章、毛鸿宾都明确表示赞成此事。只有年迈的劳崇光态度比较含糊，既表示同意，又说要慎重，读完全篇，也不知他究竟是赞成还是不赞成。不过，劳崇光在七位总督中的地位，只与毛鸿宾相上下，都是属于没有战功一类的，远不如左、杨、官、刘、骆，何况他也没有明白反对。长江水师改为经制之师，就这样顺顺当当地通过了。皇太后接受了左宗棠的建议，筹建海军一事暂缓，先把水师整顿好，以巡守长江为主要职务。更令他们兴奋的是，朝廷任命彭玉麟为统领，并没有官文的名字，那个好名的大学士空喜了一场。
彭玉麟日夜与黄翼升、李朝斌等人计议，拟出了一个章程：统领之下设提督两员，由黄、李分任；建岳州、汉阳、湖口、瓜洲、狼山五镇，设总兵五人；立营二十四个，战船七百七十四号，营官二十四员，哨官七百七十四员，兵士一万二千人。鉴于水师中受赏大衔的很多，而实际营哨官只有八百来名，僧多粥少，不够分配，彭玉麟又想出一个点子：以大衔藉补小缺。按衔高低排，同衔的按资历排。这样排下去，许多衔位高达参将、游击的，也只能当千总、把总。虽略觉委屈，他们也乐意。衔是空的，职务才是实的，千总、把总虽低，总比那些有衔无职的要强多了。长江水师原有二万人，彭玉麟对这支人马作了整顿。没有战功的，疲沓的，走私的，吸食鸦片的，有结党嫌疑的，统统予以裁撤。长江水师开始有了新气象。曾国藩对彭玉麟的整顿完全放心，他自己则把主要精力放在吏治上。
曾氏在《原才》一文中说："风俗之厚薄奚自乎?自乎一二人之心之所向而已。民之生，庸弱者，戢戢皆是也，有一二贤且智者，则众人君之而受命焉；尤智者，所君尤众焉。此一二人者之心向义，则众人与之赴义；一二人者之心向利，则众人与之赴利。众人所趋，势之所归，虽有大力，莫之敢逆。故曰挠万物者莫疾乎风。风俗之于人之心，始乎微，而终乎不可御者也。"他素来服膺王阳明的"破山中贼易，破心中贼难"的观点，认为正人心、厚风俗、扭转世风要比破长毛下金陵更难，而世风的好坏主要系于当政者。最高当政者以自己的人格和才能为表率，默运于渊深微漠之中，慢慢地引起身边人效法，再向全国各级官吏推广，这样就可以形成一种强大的势力。凭着这股势力，人心可正派，风俗可淳厚。因而，他自己尽量做到以身作则，试图以此来感染身边的幕僚们，把他们培养成好的种子，撒到两江三省去，影响各府州县的官吏，从而逐渐把两江的风气扭转过来。为达此目的，他自己办事比先前更加勤勉。州县凡命案都要由他最后裁决，又经常派幕僚们下去查访吏治民情。继裕祺之后，又革掉了几个民愤很大的贪官，代之以幕僚中德才兼备者。
这时容闳从海外回来，大批从英美购来的机器母机也运到吴淞口。曾国藩大力表彰了容闳的忠心和才干，并安排他和杨国栋、徐寿、华蘅芳、李善兰等人，在上海筹办机器制造总局，把安庆内军械所的大部分机器迁过去，小部分留下，作为上海总局的分局。
曾氏同治四年四月二十一日日记："是日接奉廷寄，一等侯之上加'毅勇'二字，李少泉伯之上加'肃毅'二字。"又《曾国荃年谱》"同治五年"中有如下记载："准湖广总督咨，内阁抄出同治四年四月十四日具奏，赏曾国藩等侯伯荚名，奉御印印出曾国荃加'威毅'名号。"皇上念及功臣，特为降旨，为曾国藩的一等侯之上褒加"毅勇"二字，曾国荃的一等伯之上褒加"威毅"二字，李鸿章的一等伯之上褒加"肃毅"二字。曾国藩心中欢喜。
正当曾国藩为两江的振兴而努力的时候，清军与捻军交战的前线传来令人震惊的消息。这个消息打乱了他的全盘计划，逼迫他不得不重上战场，最终使他由一个胜利者变为失败者。