拒绝接纳鲁王一行，没办法鲁王只得逃往福建长垣。不久，鲁王去厦门依托郑成功，张名振留舟山待机。待局势稍定后，被鲁王授予右佥都御史的张煌言立即重返浙东与舟山地区，和张名振一起组织招募义军，积极筹划进军长江的战役。
永历七年（伪清顺治十年)秋,张名振、张煌言统军乘船由福建北上,九月到达长江口.当地百姓纷纷响应，清江宁巡抚周国佐不得不亲自带领军队赶赴上海。张名振和张煌言统率明军屯驻于崇明岛一带的三尖沙、稗沙、平洋等处,安营扎寨,积极联络内地的复明势力,并没有立即发动长江战役。
永历八年（顺治十一年)正月，几乎是和李定国在广东发起新会战役同时，张名振、张煌言率明军乘船分批进入长江口,冲过清军江防汛地到达镇江瓜州。明军在金山上岸,缴获清军防江大炮十位和火药、钱粮等物。张名振、张煌言、总兵刘孔昭又带领五百名军士登金山寺,朝东南方向遥祭明孝陵,题诗寄慨,泣下沾襟:
十年横海一孤臣,佳气钟山望里真。
鹑首义旗方出楚,燕云羽檄已通闽。
王师枹鼓心肝噎,父老壶浆涕泪亲。
南望孝陵兵缟素,看会大纛纛龙津。
张名振