远不愿与同僚手足相残，便逃离东江，安家在莱州。
甲申国变之后，王德远举家南迁，后入定西侯张名振部抗清，被授副将。永历三年，王德远战死在舟山，其部由王行知接管，其后参与浙军抗清诸役，深得定西侯张名振及尚书张煌言赏识。王行知好使长枪，永历九年随定西侯在金厦时曾得泰西人邓肯指点枪阵，于军中练有百余人的枪阵。
浙军随延平大军入江败亡之后，王行知一直跟随尚书张煌言左右，后浙军余部得太平军相救。随太平军攻克南京后，浙军大部被改编为长江水师，余下少数擅陆战的将士则被编入太平军各镇，王行知便调往驻苏州的第六镇任旅校。其在浙军挂的是副将衔，太平军的旅校却只千户衔，属于高职低配。不过浙军上下却无怨言，这一方面固然是太平军比浙军强大得多，另一方面也是因为太平军于浙军乃是救命恩人。当然，其中张煌言的协调也发挥了重大作用。
太平军江北大战后，周士相便一直在整合清军降兵及浙军、郑军，力求建制化，最重要的一点便是取消原各军的官衔职司，一律以太平军为准。诸如从前哪怕是总兵官的，到了太平军中，也只能以太平军的军职为准，如王行知这种副将改任千户旅校的大有人在，总兵任副旅的更有其人