他哪里知道此去是有去无回了。张作霖为了不出意外，事先做了周密布置。
杜立三只身赴会，十分警惕。在晋见委员殷鸿寿时，他坐在背靠墙壁面对诸人的位置，同时两手插入兜内，握住枪柄，观察动静，以应突变。谈话完毕，殷鸿寿高声喊道：“送客！”杜起身告辞。殷鸿寿把他们送到里屋门口，杜立三正要转身请殷鸿寿“留步”时，刹那间，被汤玉麟等几个壮汉按倒，收缴了双枪，死死捆住。
事不宜迟，他们当晚就把杜立三在新民府西门外枪决了。其实，在这之前，张作霖早已派张景惠率大队人马，绕道台安八角台，做好进击杜立三老巢的准备。得到处决杜立三的消息后，张景惠等迅速出击杜立三的老巢。群龙无首，杜立三的老巢辽中县青麻坎，被一举端掉。除掉了杜立三，扫除了一大害，人心称快。
得此消息后，总督徐世昌喜出望外，上报清廷，为张作霖请奖。清廷除赏银五千两外，还将张作霖升为奉天巡防营前路统领（旅长），张作霖成为东北旧军5个举足轻重的武装力量之一，势力更加壮大了。
1908年，徐世昌把剿匪得力的张作霖调到辽宁西北部的通辽、洮南一带，去剿除被沙俄收买的蒙古叛匪。据有关人士记载：