康熙二十七年(1688年)五月二十日,清政府在商討與沙俄談判方針時,索額圖提出:“察鄂羅斯所據尼布楚,本系我茂明安部游牧之所,雅克薩系我達呼兒總管倍勒兒故墟,原非羅剎所有,亦非兩界隙地也。”“尼布楚、雅克薩、黑龍江上下,及通此江一河一溪皆屬我地,不可棄之于鄂羅斯”。他認為:如果沙俄能歸還逃人,承認尼布楚、雅克薩、黑龍江是清朝領土,即“與之畫疆分界,貿易往來。否則,臣當即還,不與彼議和矣”?滴醯弁膺@一談判方針,遂命索額圖、佟國綱出發,前往色冷格,與沙俄使臣戈洛文談判。六月,索額圖等使臣行至喀爾喀地方,正值準噶爾領袖噶爾丹大舉侵犯喀爾喀蒙古,道路被阻,便退回了北京。
康熙二十八年(1689年)四月,經中俄兩國代表重新商定,談判地點改在尼布楚。索額圖等人在出發前向康熙帝奏陳:“尼布潮(楚)、雅克薩既系我屬所居地,臣等請如前議,以尼布潮為界,此內諸地均歸我朝。”康熙帝指示:“今以尼布潮為界,則鄂羅斯遣使貿易無棲托之所,勢難相通。爾等初議時,仍當以尼布潮為界。彼使者若懇求尼布潮,可即以額爾古納為界。”康熙帝考慮到噶爾丹正在進攻喀爾喀,希望盡早與沙俄劃定國界,騰出手來對付噶爾丹,為此作出了重大讓步。索額圖率領包括傳教士徐日升、張誠在內的清朝使團啟程前往尼布楚,經過兩個多月的艱苦跋涉,六月抵達尼布楚,駐扎在尼布楚河南岸,與尼布楚城相距三里。
七月初五日,中俄兩國代表在尼布楚郊外開始談判,關于尼布楚地區的歸屬問題成為談判的焦點。清方代表一開始即指出“貝加爾海這邊的全部土地,則完全屬于中國汗所有,因為貝加爾海這邊的土地全是蒙古汗的領地”,“而所有的蒙古人自古以來就是中國汗的臣民”。戈洛文則強調不久前俄國人才知悉并予以侵占的這個地區“自古以來即為沙皇陛下所領有”。索額圖予以駁斥,要求俄國人退到色楞格河以西去。但俄方堅持其要求。