四、临危挑大梁 受命组淮军
8个月的分离，使李鸿章和曾国藩有了说不完的话题，尽管两人都一身疲惫，但彻夜热切的交谈，使两人胸中的激愤与意气都得以冰释。
曾国藩觉得李鸿章在外面经过大半年的磕绊，依然像从前那样壮志雄心不减，对老师的意思领悟深透，书生意气却无影无踪，咄咄逼人的锋芒小心隐藏，这不正是自己刻意要塑造的吗？此时曾国藩虽身带疾病，但脸上的病容却一扫而光。李鸿章从他那兴奋的眼神中真切地感受到了恩师的情谊，也隐约地感到自己的政治生涯也许将就此出现转机。
不过，他并没有对未来前景的美好憧憬，没有欲充“栋梁材”的兴奋，只有几许“济时谁识栋梁材”的伤怀。那种历时劫而尚存的“忠孝性”是他爷爷长期以来教导的，也是从父亲身上遗传的。磨去了浮夸的劣性，他变得更加务实了，开始扎扎实实地工作。
不久，朝廷中发生了变故，咸丰十一年（1861年）八月，咸丰皇帝奕病逝，他的儿子载淳继承皇位。因载淳年方6岁，于是推举了载垣、肃顺等8人为赞襄政务王大臣。同年十一月，政治野心一向不小的慈禧太后利用回銮的机会，联合居京的恭亲王奕䜣，在英国公使卜鲁斯等外国势力的支持下，回到北京即发动了震惊中外的宫廷政变，诛杀肃顺，赐死载垣、端华，革职或流放其他赞襄政务大臣，篡夺了清朝最高统治权。慈禧为载淳举行了登基大典，改次年为同治元年，自称西太后，任命恭亲王奕䜣为议政王，主持军机处及刚刚设立的总理各国事务衙门，随即实行东西两宫太后共同垂帘听政。
是年，国内形势对南方子民来说极为严峻。长江中下游一带的战事越来越紧张，太平军在“合取湖北”、保卫安庆的战斗失败以后，采取了西线防御、东线进攻的战略，以闪电之势击破官军东面防线，快速攻占浙东、浙西数十城镇，直捣杭州，上海随即陷入太平军的重重包围之中。浙江巡抚王有龄兵败自杀，江南除镇江和上海为朝廷掌控外，大部分地区都被太平天国占领。江苏的官僚和士绅惶惶不可终日，他们一面倡议向英法等国“借师助剿”，迅速成立“中外会防局”，以期依赖洋人的武力来保卫上海；一面又选出士绅代表——前清名臣钱宝琛（浙江巡抚）的儿子法部主事钱鼎铭与厉学潮等人前往安庆向曾国藩求援。
此时，湘军已收复安庆，曾国藩被赏加太子少保衔，声威正盛。钱鼎铭、厉学潮等人效法春秋时楚国贵族申包胥到秦国痛哭求救的故事，于十一月十八日乘外轮到达安庆，拜见曾国藩，呈递沪绅公启私函，声泪俱下地表示上海将怯卒惰、旦夕不可依恃的情形，并诉说上海士绅们渴盼曾帅，犹如久旱之地盼甘霖。钱鼎铭、厉学潮哀求曾帅早早派兵，以解上海之围。曾国藩左右为难，他既担心上海距安庆千里迢迢，兵派少了，无济于事；若多派兵，又深感手下无兵可分，因而不敢贸然应允。
钱鼎铭见曾国藩犹豫不决，便以“世交”的身份去拜访李鸿章，求他出面说情。钱鼎铭鼓动李鸿章说：“上海是一块大肥肉，富得流油。那里是商贾云集、财赋收入超过几千万两的膏腴之地，而且还有从海上源源不断运来的洋玩意。如果巨大的财富落入贼寇之手，未免太可惜了，而且还会给官军剿贼带来更大的困难。”他怂恿李鸿章主动请缨。大上海是人间天堂，李鸿章听了怎会不动心？他爽快地答应与钱鼎铭一起去做曾国藩的工作。他深知自己的老师生性“儒缓”，每有大计常犹豫再三，需要有人帮他下决心。于是，李鸿章见到曾国藩后直奔主题，强调分兵援沪，既能控制饷源重地上海，保证每月得到白银10万两济军；“由下捣上”，又可以达成东西两线互相配合、分进合击之势，迫使太平军陷入两面作战的困境。十一月二十一日，曾国藩在日记中写道：“少荃商量救援江苏的方法，因钱鼎铭来此请兵，情辞深痛，不得不考虑答应下来。”
其实，与其说是“情辞深痛”打动了曾国藩，倒不如说是巨大的利益诱惑使他无法抗拒，其中包含了政治、军事、经济等实际利益。同时，朝廷屡诏敦促，令曾国藩移师东指，收复苏、常、杭失陷郡县，五日之中，严谕四下。曾国藩几经掂量，决定派左宗棠率兵前往浙江作为南翼出击，准备为收复江浙建立一支新的军队。随后，他开始考虑组建新军的人选问题。
曾国藩对领兵援沪的统帅，做了周密的遴选和安排，起初决定派其弟曾国荃前往，继而改为以曾国荃为主帅，辅之以李鸿章、黄翼升。但十二月三十一日，曾国藩接到曾国荃拒绝援沪的信件。原来，曾国荃正在围攻太平天国都城天京，一心想尽快攻克而立首功，不想去援救上海。据说，曾国荃在这场大战中抢得大量金银财宝。曾国藩不得已，又邀请湘军老将陈士杰出山，陈士杰已在家乡招募了上万子弟兵并积极训练，但他以老母需要照顾为由，就是不发兵。曾国藩赶紧命令距离上海很近、正驻扎在镇江的清军总兵冯子材火速援沪，但军令发下去后，如石沉大海，一直得不到冯子材的回信。
去上海是剿匪而不是巡游，所以这些人找了种种由头加以拒绝。曾国藩无奈，只得重新选派一个值得信赖又有军事才能的人去。由于连年征战，三湘地区的兵源已经枯竭，如果能利用两淮将领组建新军，在某些方面辅佐或者代替湘军作战，将是一个不错的选择。最后，曾国藩想到了李鸿章，只是不知怎么向他开口。
此时，李鸿章仅管着湘军一支小小的水军。他重返曾幕后，从政务到军务，在曾国藩的调教下，获益匪浅，进步很快；而李鸿章的独特见解更是让曾国藩十分赏识。他们一快一慢，一急一缓，真可谓相得益彰、珠联璧合。但是，湘军中的指挥官大多是湖南人，他们的老乡情谊非常深厚，而李鸿章作为安徽人，即使得到了曾国藩的赏识重用，也无法得到更大的军权，让他带湘军去上海，更会引起湖南帮的嫉妒和不满。毫不夸张地说，在湘军军营中，李鸿章可谓举步维艰。
李鸿章不仅与左宗棠关系不好，与胡林翼的关系也很微妙，还与彭玉麟玩过“摔跤”。有一次，彭玉麟对他的生活作息进行攻击：“少荃每日晚睡懒起，想必安徽的民风便是如此，难怪安徽人以担货贩卖为生，很少走上仕途的。”李鸿章则抓住彭玉麟的父亲曾在安徽当官一事，反唇相讥：“雪琴（彭玉麟字）有所不知，安徽民风勤勉，但自从令尊执政数年，竟让百姓做慵懒之态。”彭玉麟听了，立马挥拳打向李鸿章，李鸿章也不甘示弱，还手相向，两人在地上扭打成一团……这种经常发生的不愉快的经历，让李鸿章有一种寄人篱下的感觉，他因而郁闷地写道：
昨梦封侯今已非，四海无家行路难。
戈马飘零为何过，青山沦落十几年。
在这种情况下，李鸿章虽然很想得到这个难得的机会，但他选择了静观局势，耐心等待。在曾国藩预选的将领都拒不领命后，他才主动请缨。据说李鸿章“欣然以肃清自任”。曾国藩笑道：“少荃你若去了，我当高枕无忧。只是身边少了一个得力助手，怎么办呢？”李鸿章仍坚请前往上海。这种变化，为李鸿章日后创立淮军从而掌握兵权、控制饷源重地上海、登上江苏巡抚的宝座开辟了道路。
不过，此时的李鸿章仍是光杆司令一个，短时间内去哪里拉起一支可以打仗的队伍呢？考虑到“徒党星散”“立时募练”困难重重，他首先想到了两个地方：一是老家庐州肥东，那一带旧有团练十分强悍，而他对当地人情也较为熟悉，所以罗致并改编庐州一带旧有团练，可以作为新军的基础；二是淮南安庆，借助曾国藩的影响力和庐江进士刘秉璋的人际关系，招兵应该不会太难。他打定主意后，立刻从安庆动身返归故里，准备在两淮地区同时征募新兵。
两淮自古就是一个神奇的地方。这个以道路、山脉和放射性河流组成的地方，连接着中国的北部、中部和东部，地理位置尤为重要。更神奇的是，这块土地居然还培养了两种性格截然不同的人。
淮南多出商人和文人，如精明世故的胡雪岩等；而淮北则多出军事人才，说白了就是大兵和悍匪，如骁勇善战的刘铭传等。原因很简单，两淮耕地少，而且耕地比较贫瘠。土里种不出吃的，就只能外出找门路，而外出只有两种选择：打工或者当兵。对此，淮南人多选择前者，而淮北人多选择后者。尤其是合肥西乡，民风彪悍，个个争勇好斗。他们有自己的武装组织，头儿称为圩主。太平军只要敢来，他们就会群起而攻之；太平军一走，圩主之间常常为了争夺战利品而再次开战。
这么一块神奇的土地，注定要出现无数传奇的人物。周公山上的张树声、张树珊兄弟，哥哥善谋，弟弟善战，兄弟二人配合默契，无往而不利；紫蓬山下的周盛波、周盛传兄弟，经历大小200多次恶战，6个兄弟战死4人，手下死伤数千；大潜山的刘铭传，更是一个闻名遐迩的传奇英雄。另外，还有吴长庆及唐殿魁、唐定奎兄弟等，也是不可小觑的地方势力。
李鸿章坐镇庐州，先是将目光投向了庐州一带的旧有团练。咸丰十一年（1861年）十二月十二日，他给自己的学生、当地团首潘鼎新写了一封私信，不过信中所谈的都是公事：
曾帅有意令阁下按照湘军营制募练500人，口粮与张遇春的淮勇一样。只是考虑到楚军不用长杆火枪，专用抬炮小枪，轻重大小完全一致，步伍连环亦有约束，而阁下所部未必能马上降心相从。如愿学习楚军纪律及行军扎营的神速，请回信告知，再以专札调赴安徽，勤加训练。楚军招募，准领枪炮、器械、帐篷，起程时支小口粮，勇夫每日给钱百文，到营点名后给大口粮。此前已寄给阁下营制刊本，可覆案照请……
此时两淮地区早已是山头林立，圩主横行。三山的首领、周公山上张树声的团练是合肥诸多团练中声势最大的，他听说李鸿章回皖招募新勇，马上召集当地各团练头目开会商议，几位兄弟一合计，觉得李鸿章给出的好处不少，都同意抱团加入新军。于是，张树声写信给李鸿章，表达投效之意。李鸿章阅信，大喜过望，立即请张树声前来安庆面商。
在席间，他们畅谈用兵方略、规复计划，相谈甚欢，十分默契。张树声不仅自己募勇相从，还左提右挚，动员刘铭传、潘鼎新等人“各建旗鼓”。安庆一带又有刘秉璋的鼎力相助，招募新勇之事进行得非常顺利，大大出乎李鸿章的预料。
与此同时，李鸿章还命令三弟李鹤章回合肥招募旧部团练，响应投军的有内亲李胜、张绍棠，昔年好友德模、王学懋，以及李文安的旧部吴毓兰、吴毓芬等。庐州一时盛传一句顺口溜：“会说合肥话，就把洋刀挎。”在这样的煽动和蛊惑下，一批批跃跃欲试的两淮子弟，开始源源不断地投身于淮军之中，淮军队伍迅速壮大起来。
同治元年（1862年）二月，李鸿章所募淮勇数营陆续抵达安庆，其中有刘铭传的“铭”字营、张树声的“树”字营、潘鼎新的“鼎”字营、吴长庆的“庆”字营。除上述4营外，还有从湘军中调来的张遇春的“春”字营。这些凶猛无比的乡勇小头目，注定会成为淮军的主要将领，成为李鸿章的左膀右臂。
当曾国藩站在安庆北门外阅兵时，不禁大吃一惊！李鸿章就像变魔术一样，一下子变出几千名两淮官兵。
当然，要使这支以团练乡勇为主的队伍成为正规化的军队，李鸿章和曾国藩还花费了一番工夫。
首先，他们给这支部队取了一个响亮的，在历史上不输湘军甚至完全取代湘军的名字——淮军。同治元年（1862年）三月四日，一个永载史册的日子，这一天，淮军正式成立。
其次，健全建制章法。淮军在器械、薪粮方面，全部按照湘军章程，同时用楚军营规加以训练。但因时间紧迫，李鸿章深知淮军弁勇素质差，人心不齐，训练时间短，装备落后，战斗力有限，尤其缺少有勇有谋的统领，于是向曾国藩提出从湘军中调拨一批人来充实淮军的领导力量。他对曾国藩说：“敝部除张遇春一营外，均为新勇，战守难恃，远征异地，如果没有精兵良将，难免有倾覆败亡的危险。”曾国藩也有同样的看法，既担心淮勇不堪一击，又打算以湘军作为榜样，改变淮军风气，因此满口答应李鸿章的请求，陆续调拨湘勇10营归其节制。其中整营拨归淮军的有：
1.属于湘军系统的“春”字营（张遇春）和“济”字营（李济元）；
2.太平军降将程学启的“开”字两营；
3.湖南新勇“林”字两营（滕嗣林、滕嗣武）以及后到的“熊”字营（陈飞熊）和“垣”字营（马先槐）；
4.曾国藩送给李鸿章作为“赠嫁之资”的亲兵两营（韩正国、周良才）。
这样一来，李鸿章手下便有了15营，共有6500多弁勇和2300多名长夫。
湘淮“本系一家，淮由湘出，尤育水源木本之谊”，因而湘军和淮军在体制上基本一致。湘军是仿照明代戚继光的治军方法，分营立哨。而淮军又是比照湘军体制，也以营为相对独立的作战单位，设营官一员，每营分前、后、左、右4哨，每哨设哨官、哨长各一员，每哨正勇分为8队，1、5两队为抬枪队，2、4、6、8各队为刀矛队，3、7两队为小枪队。刀矛、小枪每队正勇10名，抬枪每队正勇12名。每队又置什长、伙勇各1名。每一哨官有护勇5名，伙勇1名。合计每哨官兵共有108名，4哨官兵共有432名。此外，营官还有亲兵6队，不置哨官、哨长，各队直属营官调遣。其中1、3两队为劈山炮队，2、4、6各队为刀矛队，5队为小枪队。各队均置什长1名，亲兵10名，伙勇1名，合计6队共有72名。连亲兵与4哨合计，每1营官统带504名。综合一营作战兵力，包括劈山炮2队、抬枪8队、小枪9队、刀矛19队，共有38队。每营除正勇外，还额外设长夫180名，用来运送辎重、粮草和干粗杂活，协助正勇，使他们出征时无误战事，平常驻防则可致力操防，这就是长夫制度。此外，淮军还因袭了湘军的薪粮、恤赏、濠垒、营务处、粮台等制度。
在管理、指挥权限上，原则上是兵为将有。淮军各营的头目一般是招募者，先设营官，然后以营级将领为中心招兵。这些弁勇与地方官府没有多少关系，各营一般以营官的名字命名。后来，李鸿章对李宗羲说：“涤帅与弟，治军十余年，皆先选将，而后募营，其营哨须由统将自择，呼应较灵。”之所以“呼应较灵”，就是因为这种制度使统领、营官、哨官成了大帅的私属，一营之中环环相扣，弁勇听从营官和哨官指挥，营官和哨官听从统领指挥，统领则听从大帅指挥，因此，湘军只服从曾国藩指挥，现在淮军成了李鸿章“私产”，自然是听他指挥。不仅其他省区的将帅指挥不了，就是朝廷也难以直接调遣。
不过，淮军组建仓促，在很多方面与湘军存在差距。
第一，兵将冗杂。湘军的组建原则是“选士人，领山农”。湘军将领一般是一些追名逐利但政治地位不高的地主阶级知识分子，其中有科名的多达30人。曾国藩曾经洋洋自得地说：“我的这些手下，可以白天打仗，晚上讲学。”淮军则有所不同。李鸿章的淮军将领中，只有刘秉璋一人是进士，另有举人、廪生各一人。他的同党唐殿魁、唐定奎家，打仗能行，读书不行，200年间，整个唐氏家族仅考中了一个秀才。张树声兄弟、周盛波兄弟介于土匪和刁民之间，吴长庆则兴于行伍……李鸿章本人身为翰林，但却鄙薄那些以科名相标榜的人。他重视的不是门第身世，而是才能韬略；加之急于成军，饥不择食，广收杂揽，因此淮军头目多为地方团首、降将、盐枭、防军等，比如郑国魁，他是合肥人，巢湖上的盐枭出身，因触犯族规杀死族长，从家里逃了出来，成为太湖上的土匪头子，太平军得势的时候曾在太平军里混过，淮军新建，他又投奔了淮军。
第二，志在利禄。曾国藩是一位理学家，特别注重对湘军灌输忠勇思想及进行军事训练。在将士素质上，曾国藩要求“凡招募士勇，取技艺娴熟、年轻力壮、朴实而有农人气质者；不用有市井衙门气者”；而在将官任用上则选择绅士与儒生，其主要将领大多是有同乡、同学、师生、亲友关系，且气味相投，是讲求“忠君”“卫道”的程朱理学忠实信徒。归根结底，他们必须肯为维护封建统治秩序做出个人牺牲，即具有“忠义血性”者，以能为封建主义制度效忠的政治标准为根本原则。而李鸿章的手下将领大都是“山大王”，他们更多的是讲义气、讲利益，所以李鸿章就像刘邦一样，舍得将利益馈赠给部下，“重赏之下，必有勇夫”，虽然他也“辨等明威”，但主要还是以功利作为激励手段，用功名利禄诱使将士为朝廷流血卖命。正因为主帅的判断标准不一，湘军和淮军表现出两种不同的气质。
第三，太重情面。李鸿章深知安徽人的心性，面子比天大，乡情比地深，只要够交情，要头也能给。哪怕有一丝八竿子打不着的“关系”，说有用的时候就有用了。所以，他尽可能把老乡的关系用足用透。利用这种动之于乡情的手段，曾国荃的手下悍将、安徽桐城人程学启也被他“挖”了过来。他的大哥李瀚章，湘军粮台（后勤部）出身，这时也崭露头角，在他担任广东布政使、两广总督期间，一直是淮军最坚定的后援；他的三弟李鹤章、六弟李昭庆也是他的好帮手，他们在家乡时就统带乡勇出战。即使如此，还是远远不够，李鸿章又想到了从小玩到大的同乡好友蒯德模和蒯德标兄弟、王学懋等人。
此外，李鸿章还发掘了身边的人才。
周馥，字玉山，安徽建德（今东至）人，才华横溢。周家重视读书，虽然家道因战火而没落，但仍然不废学业。为维持生计，周馥先在八卦门正街摆个测字摊，还兼帮人写书信，后又搬到李鸿章安庆寓所马王坡附近。曾国藩在咸丰十一年（1861年）打下安庆后设木匦（意见箱）时，周馥投的意见稿让他看了大加赞赏，因此，李鸿章为拉拢周馥，把自己每月为数不多的几两银子薪水与周馥共享。此次前往上海，周馥自然拼死也要追随李鸿章一起去。
凌焕，与李鸿章关系非比寻常，是道光二十年（1840年）的乡榜同年，曾进过临淮袁甲三、都兴阿的幕府充当文案，沉稳干练，后来负责办理淮军的后路粮台。
刘瑞芳、刘含芳兄弟，安徽贵池人，刘瑞芳擅长与人打交道，后来担任过驻外公使，而刘含芳到上海后则负责军械粮饷的供应。
李鸿章脑海中还浮现出此次和他接洽的上海名流，开始盘算到上海后如何拉拢这些人。
淮军体制建立起来后，李鸿章遵循老师曾国藩的成法，亲自对他们进行了短期的强化训练：基本功是要能攀得上高楼，跳得过宽沟，以便能踹破敌营设哨；要能手抛火球到数丈外；要能腿绑沙袋日行百里。还要淮军学习扎营设哨：无论攻城还是野战，必先扎营，无论风雨寒暑，不厌其烦，营没扎好不准休息，也不准去搦战。淮军站墙子（营垒站哨）的弁勇较多，白天十分之三、晚上十分之一，这种设哨之法增加了快速发现来敌的概率，也提升了部队的反应速度。
直到此时，李鸿章才真正拥有了可以独立行使指挥权的队伍——淮军。