黑龙江流域就自古以来就是中国的土地，黑龙江流域生活着女真族，他们历史上叫做肃慎、靺鞨、扶余等。曾经建立了扶余、渤海、金国等民族政权。

明朝永乐年间在东北地区设有奴儿干都司，来统治广大的东北地区。

奴儿干都司，前身为元朝辽阳行省的征东元帅府，明朝在这里是承旧制，奴儿干都司治所位于今黑龙江下游恒衮河口汇合口东岸的特林地区，下距黑龙江口约150千米。

在17世纪之初，努尔哈赤建立后金国，黑龙江一带的“野人女真”都表示臣服于后金。到了皇太极时期，又四次北征黑龙江，将这一带实质纳入清朝版图。

俄国在占据了叶尼塞河和勒拿河后，就开始进入黑龙江流域了。1643年，俄国雅库茨克督军戈洛文派遣132人翻过了外兴安岭，结果被达斡尔人赶走了。后来清军入关，东北的防务空虚，俄国乘机入侵。1651年哈巴罗夫击败达斡尔人，建立了雅克萨城。1658年，清朝军队歼灭了这支军队。之后，俄国又从贝加尔湖一带向东推进，打败了黑龙江支流石勒喀河一带的蒙古族茂名安部，占据了尼布楚，修建城堡。1664年，喀尔喀蒙古围攻尼布楚，俄国人被迫放弃，于是转移到雅克萨，重建基地。

俄国人在东北的侵略引起了康熙的不满。80年代，“三藩之乱”已经平定，台湾也回归，于是康熙将收复黑龙江作为目标。他在1685年和1686年两次发动了雅克萨之战，将俄国驱逐出了黑龙江流域。随后，双方派遣代表进行了谈判。最终，双方签订了《尼布楚条约》，规定了外兴安岭以南属于中国。

在谈判中，准噶尔汗国葛尔丹乘机兼并了喀尔喀蒙古，使得清朝无法索要蒙古族茂名安部之地，只能规定以外兴安岭作为东部的边界。在后来康熙平定击败噶尔丹、吞并了喀尔喀蒙古后，茂名安部已经被俄国实际上占据，所以两国最终签订了《恰克图条约》，划分了在蒙古高原的边界线。

可惜，中国最终还是没有守住黑龙江以北。第二次鸦片战争和太平天国运动期间，清朝东北的军队基本都被调往外地作战，于是俄国乘机侵入东北，逼迫清朝签订了《瑷珲条约》《北京条约》，占领了黑龙江流域100万平方公里土地。