王世充起初很看重罗士信，后来又疏远了他。更让罗士信难以忍受的是，王世充还夺取了罗士信的骏马送给自己的亲属。所以罗士信趁王世充派他进攻谷州的时候，率领部下千余人投奔了唐朝，被唐高祖李渊任命为陕州道行军总管。
罗士信不贪财，凡有所获，都赏赐部下，所以部下乐于效命，但是他持军严谨，对人对己要求都很高，因而终失军心，部下和他的关系并不密切，这不能不说是罗士信治军的一大遗憾。
但是，罗士信非常重情义，裴仁基对他有恩，后来裴仁基在东都洛阳企图杀王世充，拥立隋朝皇室，反被王世充所杀。在攻破洛阳以后，罗士信出家财，收殓裴仁基的尸首，厚葬在北邙山上，以报答当初礼遇之恩。
后来，窦建德余部刘黑闼在河北起兵，李世民率军征讨。李世民在过去的作战中所向无敌，所以注重对敌人进行军事打击，而忽视了同时采用政治手段进行瓦解。
而李建成则不同，他宽厚仁明，后来接替李世民，用政治怀柔手段分化瓦解了刘黑闼。
刘黑闼猛烈围攻河北南部一城，李世民率军三次救援，都被刘黑闼所阻击，不能前进。李世民恐怕守将王君廓不能支撑，罗士信主动请缨，请求接替王君廓。