1916年，王永江担任奉天警察厅长后，汤玉麟怒气冲冲地去找张作霖：“天下是我们这些老兄弟打下来的，王永江凭什么在奉天耀武扬威，处理我们的人？” 原来，张作霖就任奉天督军后，感到仅凭以前那帮带兵打仗的弟兄已经远远不够，这些人大多出身绿林，对治理地方一窍不通，于是网罗了一批文人谋士为其所用，时任奉天警察厅长的王永江便是其中之一。 汤玉麟时任五十三旅旅长兼省城密探队司令，由于与张作霖是患难之交，在奉系发展中立下过汗马功劳，因而有恃无恐，其部下设局赌博、走私贩私、作奸犯科等胡作非为已非一日。 以往的警务处长对其所部恶行均睁只眼闭只眼。王永江上任后，为维护省城治安，突击抓捕罪犯，结果许多绿林出身的军人被抓，其中大多是汤玉麟的部下。 汤玉麟闻讯暴跳如雷，找到张作霖大吵大闹，声称：“天下是军人提着脑袋打下来的，姓王的凭什么抓捕军人？” 张作霖一听非常气愤，怒斥说：“这里是省城，不是绿林！” 汤玉麟一看张作霖竟然站在王永江一边，指责张作霖过河拆桥，鸟尽弓藏，一跺脚奋然离去，准备发动兵谏攻打张作霖。 汤、张反目，奉天帮办兼二十八师师长冯麟阁立刻抓住机会，联合汤玉麟，向张作霖提出，任命冯麟阁为奉天省长，汤玉麟为二十七师师长，否则将采取行动，并通电北洋政府，要求罢免张作霖奉天督军兼省长的职务。与此同时，两人一边招募土匪，一边策反张作霖的二十七师，并不断派兵到省城作乱。 张作霖为了稳定军心，立即召集二十七师营、团级军官会议，通报汤玉麟作乱情况。此前曾一度附和汤玉麟的孙烈臣等人见汤、张将兵戎相见，纷纷表示支持张作霖，冯麟阁、汤玉麟的策反宣告失败。 而此时，袁世凯已病死，继任总统黎元洪与国务总理段祺瑞的“府院之争”愈演愈烈。黎元洪支持冯麟阁、汤玉麟对付张作霖，曾派秘书持其亲笔信函到新民县与汤玉麟联系，不料此信被张作霖属下截获，张作霖将此信转交段祺瑞，段祺瑞立刻表示调两个师协助张作霖。 在此变化下，冯麟阁自知不是对手，赶紧偃旗息鼓。汤玉麟失去依靠，而手中仅有残兵千余人，只好重又上山落草。张作霖下令免去汤玉麟第五十三旅旅长之职，派兵追剿汤玉麟，汤玉麟被迫逃往徐州投奔张勋，得到一个挂名营务处处长的头衔。 赶走了汤玉麟，还有一个冯麟阁，既然冯麟阁已经宣布休战，张作霖也只好等待时机。令张作霖没有想到的是，不仅机会很快便到了，而且未动一兵一卒，冯麟阁便垮了。 原来，张勋在策划复辟时，张作霖作为张勋的儿女亲家也曾表示支持，但到复辟开始时，张作霖发现支持者甚少，随即转持中立态度。张勋对此非常气愤，只好电请冯麟阁入京支持复辟，并许诺事成之后任命冯麟阁为东三省总督。 冯麟阁接电后欣然前往，并随后调所部二十八师驰援京城复辟。 然而，张勋复辟顷刻间就土崩瓦解了。冯麟阁一看情况不妙，赶紧乘车出逃，结果火车行至天津被抓获，押回北京拘禁。 张作霖为争取冯部官兵的好感，与二十七师、二十八师全体军官联名致电段祺瑞，要求释放冯麟阁。段祺瑞见张作霖出面求情，便将人释放。冯麟阁返回奉天后，成了一个无职无权的人物。 兼并了二十八师，张作霖又将视线放到黑龙江与吉林，由于吉林督军孟恩远经营吉林多年，省内局势稳定，一时难以插手，而黑龙江则内部争斗不断，有乘虚而入的可能，于是张作霖舍近求远，决定先从黑龙江下手。 当时，黑龙江督军毕桂芳因没有实权，处处受到陆军第一师师长许兰洲掣肘，许兰洲在黑龙江经营近10年，又手握兵权，一直觊觎黑龙江督军的宝座。 1917年6月，许兰洲与两位旅长英顺和巴英额商定，由他们将毕桂芳拉下督军宝座，事成之后，英顺兼任镇守使，巴英额升任师长。重奖之下，英顺和巴英额直接闯进督军署，以武力逼迫毕桂芳让位。6月14日毕桂芳被迫通电宣布下野，许兰洲以黑龙江督军兼省长自居，将师长一职给了其亲信旅长任国栋。 英顺和巴英额见许兰洲不守承诺，立即将毕桂芳追回，让他在呼兰继续主持督军兼省长的公务，并代为发表通电斥责许兰洲。 许兰洲与英、巴的相争，给张作霖提供了机会，他向段祺瑞发电，举荐儿女亲家鲍贵卿出任黑龙江督军，段祺瑞当即应允，7月26日，鲍贵卿继任黑龙江督军兼省长。 张作霖知道许兰洲不会善罢甘休，随即与段祺瑞商定，将许兰洲所部5营骑兵、3营步兵调至奉天张作霖麾下，任命许兰洲为东路剿匪总司令，驻屯西丰县。 走许兰洲，黑龙江还有英顺、巴英额，两人为了获得镇守使和师长的职务，采取武力胁迫的老办法逼迫鲍贵卿就范。张作霖得知后，派出师长吴俊升以剿匪名义率军进驻黑龙江，进行武装调停。英、巴想继续反抗，结果被段祺瑞下令免职。至此，黑龙江纷争终于平静下来，鲍贵卿终于也稳稳地坐在了督军位子上。 之后，张作霖又设法扳倒吉林督军孟恩远，迫使孟恩远自动交权，张作霖这个“奉天王”终于如愿成为“东北王”。
