在武装反击阿古柏余孽侵扰的同时，清廷以崇厚为出使大臣，前往俄国办理收回伊犁事宜，而俄国方面，也将驻华公使布策调回国内，预备谈判。一场谈判桌上的没有硝烟的战争即将打响。
崇厚当年协助曾国藩办理天津教案，一味委曲求全，遭到不少人的谩骂。此番他再次被赋予外交重任，很多人，尤其是那些坚决主张对外强硬的清流派很是不满。
崇厚这次前往俄国的路线是从南洋取道红海、地中海、黑海直达俄国。清流干将张佩纶对此提出了异议。张佩纶说：“使臣前往俄国谈判新疆问题，应该首先明白新疆的形势。所以，出使的路线必须经过新疆。实地考察一番，才能对形势有深刻体会，才能做到知己知彼，才能在谈判桌上缓急自如，取得先机。然而现在，使臣经海路前往俄国，不明白边塞的实情，不知道将帅的谋略，怎么能谈判好？”
清廷这次派崇厚出使，还给予了他全权大臣便宜行事的名号。张佩纶坚决反对这一点。他说：“按照西洋的惯例，使臣有了全权大臣便宜行事的名号，就可以在关系重大却来不及详细商量的事情上自作主张。我恐怕俄国人会利用这一点，逼迫崇厚迅速签约。到时候，国家将遭遇重大的损失。”
从事后来看，张佩纶的这些主张都是很有先见之明的。正是因为崇厚不了解新疆的形势，不明白伊犁南面特克斯河流域对伊犁防御的极端重要作用，所以才没有力争这一重要区域，导致他擅自与俄国人签订的《里瓦几亚条约》遭到了主战派大臣的猛烈抨击。
特克斯河流域是伊犁与南疆取得联系的重要通道。从伊犁出发，前往阿克苏、乌什等南疆城市的道路，都要经过特克斯河流域。一旦特克斯河流域被俄国占领，伊犁将变得异常孤立，完全不能防守，而且南疆也会因为不能和伊犁联系，变得更加孤立。这样一来，中国就徒有收复伊犁之名，而没有收复伊犁之实。崇厚之所以遭抨击，主要就是因为他轻易地放弃了特克斯河流域。后来的曾纪泽之所以被视为民族英雄，也主要是因为收复了特克斯河流域。
除了轻易让出特克斯河流域外，崇厚与俄国签订的《里瓦几亚条约》还使中国丧失了不少利益。长期以来，俄国一直谋求扩大对华陆路通商范围，但是迫于广大人民群众的抗俄情绪，清政府一直不敢答应。然而这次，崇厚在俄国人的逼迫下，终于将这一重要权益出卖。根据《里瓦几亚条约》的规定，俄国人的通商权益深入到了长江流域的汉口。俄国人不费一兵一卒，所得的权益比打一次大胜仗还要大得多。
《里瓦几亚条约》签订的消息传到中国，引起了轩然大波。本来，左宗棠率部成功收复除伊犁以外的新疆地区，后来又取得反击阿古柏余孽斗争的胜利，中国人民的民族自豪感得到了极大的张扬。然而此时，《里瓦几亚条约》的签订就像一盆冷水，一下就浇灭了人们心中熊熊燃烧着的烈火。于是，人们不得不寻求一种途径，发泄自己的不满。这样一来，丧权辱国的崇厚被全国痛骂，也就是很正常的事情了。
清流派向来是最不愿妥协的，所以他们的骂声也最为激烈。作为清流派中坚人物的张之洞上了一道洋洋洒洒的折子，一口气提出不能应允《里瓦几亚条约》的十大理由，在当时产生了很大的影响。
张之洞说：“《里瓦几亚条约》不修改，中国将难以立国。要想成功修改条约，中国必须做到四点：当机立断、气势如虹、理由充分、谋定后动。为了表明中国的决心，应该立马将崇厚诛杀，这就是当机立断；把条约交给天下百姓公议，获取百姓的支持，这就是气势如虹；崇厚虽然已经画押，但朝廷尚未应允，依据这一点驳斥就是理由充分；命令左宗棠、李鸿章积极备战，整顿军备，训练士卒，这就是谋定后动。”
张之洞还说：“朝廷应该迅速起用宿将。彭玉麟、杨岳斌、鲍超、刘铭传这些人，都是久经战阵的老将，起用他们带兵对抗俄国，绝对靠得住。”张之洞的这一策略后来被清廷采纳，刘铭传不久之后就再度出山，鲍超率部北上，曾国荃也重新带兵，彭玉麟也参与了东北以及长江布防。
左宗棠的看法与清流派基本一致。本来，左宗棠是不想用武力解决伊犁问题的，在收复除伊犁以外的新疆地区的过程中，他一再反对乘虚袭取伊犁。但是，俄国强迫崇厚签订《里瓦几亚条约》，攫取众多利益，令他改变了对这一问题的看法。左宗棠觉得有必要做好军事解决伊犁问题的准备。
左宗棠得知《里瓦几亚条约》的内容后，非常愤怒，上奏清廷说：“伊犁虽然收回，但霍尔果斯河以西、特克斯河以南的大片领土却丢了。伊犁处在俄国的包围之中，根本无法防守。这样一来，中国徒有收复伊犁之名，而没有收复伊犁之实。更为紧要的是，特克斯河以南是伊犁联系南八城的重要通道，丢了这块地方，伊犁驻军的军粮将无法运送，南八城也将直接处在俄国的威胁之中。一个国家在战败的时候，固然有割地求和的事，但从来没有听说过未交一兵未发一箭，就把险要地方拱手让给敌人，以满足敌人欲望的。这就好比投一块骨头给狗，狗吃完了骨头依旧咬你一样。”
最后，左宗棠提出了伊犁交涉的总方针，那就是先用外交的手段解决，外交解决不了那就付诸武力。左宗棠坚信，中国一定能够取得最后的胜利。
此后，左宗棠即着手军事准备，调兵遣将，制定了一个三路进兵武力收复伊犁的方案。东路由伊犁将军金顺率领所部一万人，严守东面，防止俄军东窜；中路由提督张曜率领五千人，由阿克苏北上，沿着特克斯河直取伊犁；西路由刘锦棠率领湘军一万人，取道乌什，经布鲁特游牧地北上，直取伊犁。同时，左宗棠又命谭上连、谭拔萃等将领率部稳固后防。
与左宗棠、张之洞等人力主强硬对抗不同，李鸿章一如既往地主张妥协退让。在这一片叫战、喊杀声之中，李鸿章的这种态度算是非常另类的了。
李鸿章在给清廷的奏折中表明了他对崇厚擅自签约一事的态度。李鸿章说：“从目前这个局势来看，与其收回伊犁，还不如不收回。崇厚是出使全权大臣，有便宜行事的权力，现在他已经和俄国人订约，我们就不好反悔了，否则理亏的是我们。如果朝廷一定要推翻崇厚订立的这个条约，那么肯定会招致战争。中俄边界漫长，超过万里。俄国攻击我们，我们将防不胜防。到时候，中国战败，想要签订现在这样的条约，也是不可能的了。”
李鸿章不仅在奏折中公然倡导妥协退让，在给朋友的信件中，他也不忘兜售他的妥协理论。他写信给山东巡抚说：“这次中俄伊犁交涉，坏事就坏事在张之洞等人的慷慨陈词上。当然，最根本的还是左宗棠。张之洞等人也是受了左宗棠的影响才如此的。”
李鸿章又给当时任驻英、法公使的曾纪泽写信说：“《里瓦几亚条约》中的分界条款，中国稍微吃了点亏。主要是特克斯河流域让给了俄国，中间有些通往南疆的道路因此被阻断。这就是左宗棠、张之洞等人认为不能应允这个条约的主要原因。其实吧，伊犁不收回，对大局并没有什么妨碍。左宗棠、张之洞等人竟然公开主战，未免太猖狂了。”
作为曾经的中国驻英公使，郭嵩焘无疑是当时中国最了解外国的人之一。他也就伊犁交涉发表了意见。他既不赞同左宗棠、张之洞等人的主战思想，也不赞成李鸿章的妥协思想。他的看法总结成一句话，那就是：开诚布公，努力争取，通过外交途径和平解决争端。
虽然郭嵩焘也和左宗棠、张之洞等人一样，认为清廷应该拒绝承认《里瓦几亚条约》，但他认为，中国绝对不能因为这件事与强大的俄国开战。郭嵩焘说：“两次鸦片战争的时候，中国的实力不错，却都遭遇到惨败。现在中国实力不如当年，又怎么可能击败俄国？中俄边界，长达万里，一旦开战，中国需要处处设防，这是根本无法做到的。所以，开战绝对不是明智的选择。当务之急，应该首先明确告诉俄国，崇厚擅自签约，中国政府不能承认，然后再派使臣去与俄国人慢慢商谈，挽回一些国家利益。”
郭嵩焘的看法得到了清廷中枢的高度赞赏，他的这一策略实际上成为了后来清政府解决伊犁问题的根本方针。
就在清政府内部为伊犁问题辩论不休的时候，贪婪的俄国政府加强了对中国的军事讹诈。俄国驻华代办凯阳德经常闯入总理衙门疯狂咆哮，恣意干涉中国内政，并扬言动武。凯阳德狂妄地叫嚣：“俄国不该让的就决不让，越让越不好，俄国并不是没有力量。至于条约中国批不批准，俄国全不在乎。”与此同时，俄国军队也频繁调动，对中国形成了军事高压态势。
1880年初，俄国土耳其总督考夫曼奉命做好向中国开战的一切准备。随后，考夫曼即在漫长的中俄边境上加强兵力部署。他将本来驻守在塔什干等地的大批正规军队和预备队调往伊犁等地，并把各种战备物资源源不断地运送到伊犁及其毗邻区域。
很快，俄国就在伊犁地区集结了一万两千多名士兵，配备五十门火炮。士兵数量超出了前几年盘踞伊犁的俄军总数六倍多。同时，驻守伊犁的俄国侵略者在伊犁外围的塔勒奇山上修筑了许多堡垒，开辟了通往乌鲁木齐方向的军用道路，以便随时向东推进，攻打乌鲁木齐。
为了补充兵力以迅速占领中国已经收复了的北疆地区，考夫曼给俄国的西西伯利亚总督写信，要求他准备从斋桑湖方向派兵协同作战。俄国很快就在这一带的边境线上部署了一万九千多名士兵，配备六十二门火炮。
同时，俄国还拟定了攻占喀什噶尔的作战计划。为此，在临近南疆的费尔干省，俄军集结了五千士兵，配备三十门火炮。
考夫曼深知逃往俄国的阿古柏余孽在南疆一带还有些号召力，于是他准备利用阿古柏余孽作为对中国发动新的侵略战争的帮凶。考夫曼亲自接见了伯克胡里，煽动他说：“中俄如果因为伊犁而开战，那就是你最好的复‘国’时机。只要你一声令下，号召喀什噶尔的浩罕人驱逐中国人，南疆各城都将传檄而定。”
以上说的都是俄国在西线的军事布置。和西线一样，俄国在东线也集结了大量军队，试图攻占我国东北。
在东线，俄国将大量军队布置在黑龙江以北及乌苏里江以东地区。按照俄军的规划，一旦对华宣战，这些军队将迅速攻占珲春、宁古塔等地，兵锋直指沈阳。
此外，俄国还策划了一个以海军袭击中国海岸和港口的计划。为了完成这一计划，俄国海军出动了数十艘军舰，其中包括：四艘装甲舰、三艘快速巡洋舰、三艘海防舰、六艘炮舰、四艘运输船和相当数量的驱逐舰。这支舰队的指挥官是列索夫斯基上将。出动如此众多的军舰并以上将统率，可见俄国为了讹诈中国，是舍得下血本的。俄国扬言以这支舰队封锁渤海、黄海，攻打大沽口、长江口，直接威胁当时中国最重要的两个城市，即北京和江宁。
面对俄军咄咄逼人的进攻态势，清廷被迫做好迎战准备。清廷的布防主要在四个区域，即京畿、山海关、长江口以及西北。
京畿海防，由李鸿章负责，湖南乾州人罗荣光隶属之。罗荣光是湘军出身，后来加入淮军。参与镇压太平天国及捻军起义。后任副将，长期驻守京畿门户大沽口。
山海关一线的防守，由湘军名将曾国荃负责，另一位湘军名将鲍超率部驻守乐亭，为后路。
曾国荃原为湘军陆师重要将领。1867年，因所部新湘军覆灭，“剿捻”失败，开缺回籍。1874年重新出山，后担任山西巡抚。任期内，山西发生严重旱灾，曾国荃积极赈灾，活人无数，深受百姓爱戴。此时，因俄国军事讹诈，形势严峻，将才缺乏，清廷命他重新带兵，前往主持山海关防线。
本来，清廷是命曾国荃率部驻守营口的。但曾国荃仔细思考并与李鸿章商议后，认为山海关的战略地位比关外的营口重要百倍，不守山海关而守营口，是不可取的。另外，一旦军队出关，就不能与天津、昌黎等地的清军构成掎角之势，互相呼应，这在军事上也是大忌讳。清廷接受了曾国荃的意见，命他率部驻守山海关。当时，曾国荃有病在身，虽然抱病前往山海关筹划防守，但实际上做的事情不太多。他的职责主要是由李鸿章代替完成的。
与曾国荃一样，鲍超原来也是湘军陆师重要将领。1867年，他在尹隆河一战中与淮军将领刘铭传发生激烈矛盾。清廷偏袒刘铭传，致使他非常愤怒，称病辞职。1874年重新出山。此时，率兵驻守乐亭，担当曾国荃部的后继之师，同时屏障京城。
长江口的防御，由两江总督刘坤一、湘军名将彭玉麟、长江水师提督李成谋等负责。
刘坤一原为湘军江忠源、刘长佑系的重要将领。后历任江西巡抚、两江总督、两广总督等职，是当时重要的封疆大吏。
彭玉麟原为湘军水师统帅。将太平天国镇压下去后，他与曾国藩奉旨将湘军水师改造成为国家的经制部队，也就是后来的长江水师。1872年，奉旨每年巡阅长江一次。此后，他一直是清廷负责长江防御的重要将领。
李成谋原为湘军水师将领。1872年，彭玉麟巡阅长江，参劾官员两百多名，长江水师提督黄翼升被迫引咎辞职。随后，彭玉麟向清廷推荐李成谋担任长江水师提督，获得朝廷批准。此后，李成谋一直是清廷负责长江防御的重要将领。
西北的防御，主要由左宗棠负责，刘锦棠、金顺等人协助。为了更好地指挥新疆布防，挫败俄国侵略者的阴谋，左宗棠不顾年老体衰，准备将大本营由甘肃的肃州移动到新疆的哈密。
当时，左宗棠已经六十九岁了。多年的戎马生涯，使他患上了多种疾病。来西北前就患上了长期腹泻。在肃州大营期间，由于不服水土，全身长满了风湿疹子，夜间抓挠不止，还曾经忽然吐血十余口。
虽然身体已经大不如以前，能不能活着回到关内都很难说，左宗棠依旧饱含着巨大的爱国热情，奔赴抵御俄国侵略者的前线。在跟随他前往哈密的队伍中，有几名壮士抬着一口空棺材，跟在他的乘舆后面。那是他为自己准备的！他对部下说，一旦他在关外病亡或在对俄战争中为国捐躯，那就将他装进这口棺材，然后运回湖南老家！
当年班超深入虎穴，定西域三十六国，却以生入玉门关为幸事，而左宗棠功劳与班超相等，未出玉门关，就已经做好了不能生入玉门关的准备，他的爱国热忱，比班超还要强烈几分！可惜的是，当时的清朝，像左宗棠这样的人物实在太少了，偌大的一个国家，只能靠这么一位白发苍苍的老将支撑着。要是当时所有的中国人都能像左宗棠这样强硬，后来的清廷何至于在对外战争中一败再败，乃至签订丧权辱国的《马关条约》及《辛丑条约》，赔那么多款，割那么多地呢？
左宗棠率部进驻哈密的那一天，哈密各族人民听说左宗棠来到，都纷纷拥挤在路旁迎接张望，有些人是从百余里外连夜赶过来的，还有一些人，年纪比左宗棠还大，行动已经很不方便，却也拄着拐杖来看。人民群众都知道，是左宗棠将他们从阿古柏侵略军的威胁之中解救出来的，他们都急切盼望能够亲眼见到这位可以称得上中国脊梁的伟大人物。
左宗棠到哈密后，积极布置反击俄国侵略的相关事宜。他写信给前敌将领刘锦棠，说：“俄国当局虽然在伊犁增强兵力，但是，据探报不过增兵数千，其中夹有不少阿古柏余孽，这种军队的战斗力非常薄弱，不堪一击。现在我国政府派曾纪泽出使俄国，谈判即将重开，怎么订约不得而知。但是，俄国居心叵测，无论是战是和，我们都应该未雨绸缪，做好战斗的准备。有些人说中俄边界万里，一旦开战，中国将防不胜防。对于我们来说，是防不胜防，对于他们来说，难道不也是这样吗？谁怕谁啊！”
左宗棠又给总理衙门写信说：“俄国地大民少，兵力不敷分布，对我国不可能构成致命威胁。俄国国内的情况很糟糕，由于军费激增，他们不得不加重对老百姓的盘剥，老百姓因此怨声载道，造反的此起彼伏。这样的一个国家，我们完全用不着怕。中俄对抗，胜利一定是属于中国的！曾纪泽去俄国谈判，一定不能妥协退让。”
由于左宗棠的大声疾呼，当时清廷内部主战的呼声很强烈，一向主张妥协退让的李鸿章感到非常孤立。为了推行他的妥协外交路线，他请来了曾经帮助清廷镇压太平天国的英国人戈登，试图通过他对清廷施加影响。
戈登风尘仆仆地来到天津后，立即前往拜见李鸿章。李鸿章向他详细说明了目前的局势。李鸿章说：“总的来说，在对俄和战的问题上，目前主要有三派。我代表一派，朝廷代表一派，文官代表一派。我这一派以及朝廷一派，都是主张和平解决的。但是你也知道，中国的文官是很厉害的，能够左右社会舆论，我和朝廷都惧怕他们，不敢开口说议和。”
戈登沉思了一会儿，对李鸿章说：“这样看来，中堂大人应该设法联合朝廷派，以制服文官派。”
李鸿章笑道：“这正是我请你来的目的。你去朝廷中帮我活动，促使朝廷下决心与俄国议和。”
戈登听罢，说：“能为中堂大人办事，我感到很荣幸。我当尽力而为，阻止一场将要毁灭中国的战争。”
四天以后，戈登前往北京，受到了一向主张对外强硬的醇亲王奕譞的热情接待。另有一位军机大臣也参加了会见。
寒暄几句后，戈登即向奕譞等人兜售他从李鸿章那里得来的和平解决中俄争端的方案。他对奕譞等人说：“中国要是能做到这一点，那就可以对俄国开战了。”
戈登这种卖关子的说话方式，引起了奕譞的浓厚兴趣。略微沉思一会后，奕譞问道：“哪一点？”
戈登听罢，大声说：“摧毁北京郊区，将皇帝和朝廷迁移到安全的地方去。”
奕譞听后，大为吃惊，沉思良久后，他说道：“大沽炮台的防守非常稳固，北京不会有危险的。”
戈登听罢，哈哈大笑道：“他们能从大沽的背后攻占要塞，中国的陆军能够抵挡得住吗？老实说，北京真不是一个建都的好地方。只要北京还是中国的首都，中国就不能和外国开战。因为北京距离入海口太近，外国军队很容易长驱直入，直逼北京城下。”奕譞听到这句话，惊愕得半天说不出话来。
戈登在北京的活动使得清廷中枢失去了抗战到底的信心。以慈禧太后为首的妥协派本来就不愿与俄国开战，现在被戈登这么一吓唬，更加不敢招惹俄国了。他们准备把主战派的中坚人物左宗棠从新疆调到北京来，以打压主战派的蓬勃气势，创造与俄国议和的良好环境。
不久之后，清廷就正式下诏，命左宗棠即刻回京。清廷在诏书中说：“左宗棠到达哈密已久，关外的军事，应当已经布置妥当了。现在局势很危险，朝廷急需一个懂军事的老将做顾问。左宗棠立即准备回京担当顾问。关外军事，由谁来接替指挥，另行具奏请旨。”清廷不敢在诏书中直接说是为了向俄国求和才将左宗棠召回，而是找个了冠冕堂皇的理由，美其名曰回到京城来当顾问，迫使左宗棠不得不接受清廷的摆布。
左宗棠接到诏书后，非常气愤。他刚刚得到侦探的情报，俄国去年发生了天灾，粮食极度匮乏，又因与土耳其打仗，花费巨大，导致财政枯竭，而且到处都有造反者，目前完全不能以全力对抗中国，俄国派驻到中俄边境及中国沿海的军队，都只是虚张声势而已。事实证明，俄国国内的情况很糟糕，中国执意与俄国一战的话，胜算还是蛮大的。可是现在，朝廷却要他立即回京！他才刚刚来到哈密，关外的军事部署才刚刚有点眉目，朝廷却要将他召回，真是岂有此理！这与宋高宗十二道金牌急召岳飞回京有什么区别!
左宗棠很清楚，如果不是朝廷的政策发生了重大变化，朝廷是不可能这么做的，一定是李鸿章在背后使坏，致使朝廷改变了主意，一个李鸿章，真是比十个俄国将军还坏。
愤怒归愤怒，作为大清王朝的忠臣，左宗棠不得不接受清廷的命令，收拾好行装准备回京。他的督办新疆军务一职，由他麾下最重要的一员将领刘锦棠接替。他的陕甘总督一职，由他的老部下、湖南湘乡人杨昌濬接替。
杨昌濬原为左宗棠麾下名将。后历任浙江巡抚等职。1875年，因错判杨乃武与小白菜案，遭革职处分。后重新复出。1880年因左宗棠的奏请，得以护理陕甘总督，与刘锦棠一起办理新疆善后事宜。
当时，刘锦棠在南疆的喀什噶尔，左宗棠便在哈密等刘锦棠前来。虽然被剥夺了陕甘总督、督办新疆军务两项重要职责，左宗棠依旧关心当时的中俄局势。他给总理衙门写信说：“鸦片战争以来，有两种人最可恶。一种是不知洋务盲目排外的，这种人不知道外国的真实情况，盲目自大，在对外战争中总想侥幸取胜，结果一败涂地。另一种是自以为懂洋务的，认为中国远远落后于西洋各国，绝对不能和洋人开战，否则必将惨败，于是在外交事务中一味妥协，结果我退一寸，敌进一尺，结果大局越来越坏。只要摒弃这两种思想，谋定而后动，就一定能够战胜俄国。”
刘锦棠来到哈密后，左宗棠对他面授机宜，反复叮嘱他要立足于战。随后，左宗棠办理好交接手续，便率领着他的亲兵，重回关内了。
这时候，俄国正在东北便将炫耀武力，在珲春边境构筑工事，兵舰也开入新开河。左宗棠得知东北危急的消息后，派出他手下的三名重要将领，即刘璈、王德榜、王诗正三人，率军二千五百人，先期入关，屯驻在张家口，准备与俄国决战。
刘璈原为左宗棠麾下重要将领。1874年时，清廷命他跟随沈葆桢前往台湾办理海防事宜以及日本侵台善后事宜。沈葆桢命刘璈分管建筑城邑的事务。刘璈很好地完成了任务，为台湾的初步开发做出了重要贡献。此后协助左宗棠收复新疆。
王德榜原为左宗棠麾下重要将领。久经战阵，深得左宗棠信任。后协助左宗棠收复新疆。王诗正是湘军名将王錱的儿子。1875年入左宗棠军中。后协助左宗棠收复新疆。刘璈、王德榜、王诗正是左宗棠后期重点培养的三个将才。在日后的中法战争中，这三人都将是风云人物。
面对着俄国步步紧逼的态势，左宗棠愤怒不已。他在给刘锦棠的信中说：“中俄之间的争端，我看最终还是要以战争的手段来解决。我通盘筹划了好几天，得出了一些作战计划，这次一定要让俄国把自康熙年间以来侵占我国的土地全部交还我国！”
这边左宗棠还在做着击败俄国、要回被占领土的美梦，那边清廷早已被俄国的军事讹诈以及戈登等人的游说所吓倒，准备向俄国屈膝求和了。左宗棠回到北京后不久，中俄之间的和平协议就达成了。虽然由于曾纪泽的努力，中国最终收回了特克斯河流域，但中国失去的还是很多很多。