康熙二十七年（1688年）五月二十日，清政府在商討與沙俄談判方針時，索額圖提出：“察鄂羅斯所據尼布楚，本系我茂明安部游牧之所，雅克薩系我達呼兒總管倍勒兒故墟，原非羅剎所有，亦非兩界隙地也。”“尼布楚、雅克薩、黑龍江上下，及通此江一河一溪皆屬我地，不可棄之于鄂羅斯”。他認為：如果沙俄能歸還逃人，承認尼布楚、雅克薩、黑龍江是清朝領土，即“與之畫疆分界，貿易往來。否則，臣當即還，不與彼議和矣”。康熙帝同意這一談判方針，遂命索額圖、佟國綱出發，前往色冷格，與沙俄使臣戈洛文談判。六月，索額圖等使臣行至喀爾喀地方，正值準噶爾領袖噶爾丹大舉侵犯喀爾喀蒙古，道路被阻，便退回了北京。
康熙二十八年（1689年）四月，經中俄兩國代表重新商定，談判地點改在尼布楚。索額圖等人在出發前向康熙帝奏陳：“尼布潮（楚）、雅克薩既系我屬所居地，臣等請如前議，以尼布潮為界，此內諸地均歸我朝。”康熙帝指示：“今以尼布潮為界，則鄂羅斯遣使貿易無棲托之所，勢難相通。爾等初議時，仍當以尼布潮為界。彼使者若懇求尼布潮，可即以額爾古納為界。”康熙帝考慮到噶爾丹正在進攻喀爾喀，希望盡早與沙俄劃定國界，騰出手來對付噶爾丹，為此作出了重大讓步。索額圖率領包括傳教士徐日升、張誠在內的清朝使團啟程前往尼布楚，經過兩個多月的艱苦跋涉，六月抵達尼布楚，駐扎在尼布楚河南岸，與尼布楚城相距三里。
七月初五日，中俄兩國代表在尼布楚郊外開始談判，關于尼布楚地區的歸屬問題成為談判的焦點。清方代表一開始即指出“貝加爾海這邊的全部土地，則完全屬于中國汗所有，因為貝加爾海這邊的土地全是蒙古汗的領地”，“而所有的蒙古人自古以來就是中國汗的臣民”。戈洛文則強調不久前俄國人才知悉并予以侵占的這個地區“自古以來即為沙皇陛下所領有”。索額圖予以駁斥，要求俄國人退到色楞格河以西去。但俄方堅持其要求。
