。张作霖略施手腕，挤走了新民府的巡警局长王奉廷。这样，没费太大的劲儿，张作霖就控制了新民府的军事实权。在这方面，他表现了巧于应对的能力。
这个能力还表现在残酷的日俄战争中。1904年2月，在我国东北爆发了日俄战争。两个帝国主义国家在我国东北展开厮杀。腐败的清政府竟然宣布辽河以东为战区，以西为中立区。战争打响后，哪还管什么中立区。日俄匪军烧杀淫掠，无恶不作。东北土匪蜂起，百姓遭殃。处在辽西的新民府是个重镇，张作霖除了要维护境内的治安外，还在盘算如何增强自己的实力。他的原则是谁给我好处，我就帮助谁。一开始，俄军强大，他就接受俄军的枪械和金钱，帮助俄军。因为这个缘故，后来他还曾被日军俘虏，差点被处死。可被释放后，他又同日军签订誓约，“立誓援助日本军”。
正因为他识实务，1905年日俄战后，他的部队不但没受损失，反而扩编为3个营。在日俄两大帝国主义战争夹缝中生存的张作霖，充分显示了处理复杂问题的能力。因为政声颇佳，1906年张作霖又升官了。新任的盛京将军赵尔巽和新任的新民府知府沈金鉴一齐下令，将张作霖的部队由3个营扩编为5个营，张作霖当上了统管5个营的统带（团长）。