得知祖、父遇害的消息，努尔哈赤悲痛之余，意识到自己实力薄弱，难以直接对抗强大的明王朝。他将矛头转向了建州左卫图伦城主尼堪外兰，指责其与明军勾结，导致了悲剧的发生。努尔哈赤请求明军将尼堪外兰交出，但这一要求被明军断然拒绝，反而使尼堪外兰的声望在女真人中急剧上升，甚至有人发誓要杀努尔哈赤以效忠尼堪外兰。
面对困境，努尔哈赤并未屈服，而是利用自己的影响力，得到了额亦都等人的支持，他们以努尔哈赤祖、父遗留下来的十三副甲胄起兵，决心统一建州女真各部。努尔哈赤返回建州后，质问明军为何杀害其亲属，明廷为平息事态，归还了努尔哈赤祖、父的遗体，并授予他“龙虎将军”的称号，同时给予敕书和马匹作为补偿。
三、统一建州
从万历十一年（1583年）开始，努尔哈赤踏上了统一建州女真各部的征途。最初，他率部攻打图伦城主尼堪外兰，尽管未能当场捕获尼堪外兰，但成功收编了他的部众。在接下来的几年中，努尔哈赤展现出了卓越的军事才能和政治手腕。
万历十二年（1584年），努尔哈赤攻陷了由李岱驻守的兆佳城，不仅取得了军事上的胜利，还生擒了李岱，扩大了自己的影响力。翌年，他继续扩张，对苏克苏浒部和董鄂部发起攻势，接着将矛头指向哲陈部。在玛尔墩城之战中，努尔哈赤面对敌人突袭，以一敌多，斩杀敌将，巧妙运用疑兵之计，令敌军不敢紧追。这场战斗不仅展现了努尔哈赤的勇猛，也体现了他出色的战术运用。
万历十四年（1586年），努尔哈赤终于攻克了尼堪外兰的最后据点——鹅尔浑城，迫使尼堪外兰逃入明朝境内。努尔哈赤向明朝请求引渡尼堪外兰，最终得以亲手复仇。同年，努尔哈赤在“建州老营”的废址上修建新城，此城后来被称为佛阿拉，即“旧老城”。
在统一建州的过程中，努尔哈赤不仅依靠武力征服，还善于笼络人心。万历十五年（1587年），他攻克巴尔达城，额亦都因在此次战役中的英勇表现，被赐予“巴图鲁”勇号。次年，苏完部长索尔果、董鄂部长何和礼、雅尔古部长扈尔汉率部归附，努尔哈赤以厚待来投的策略，不仅增强了自身实力，还树立了良好的声誉。其中，费英东、何和礼、扈尔汉与额亦都、安费扬古并称为“五大臣”，成为努尔哈赤政权的核心支柱。