附李密当裨将。
李密失败后，被王世充俘虏。
王世充一直听说他勇猛强悍，让他当了骑将。
他看着王世充干的一些事就偷偷笑话他，知道他成不了气候，当下逃离王世充去投靠窦建德。
窦建德给了他将军的头衔，汉东郡公的封号，命令他率领一支突袭部队四出偷袭。
刘黑闼跟各叛军首领打遍了交道，善于观察时局变化，一向勇猛强悍，非常奸险狡诈。窦建德有了什么谋划，必然命令他一个人负责侦察，经常乘隙钻进敌方偷看虚实，有时出乎对方意料之外，乘机猛攻，战果丰硕，部队里把他叫作“神勇将军”。
他到窦建德失败后，赶紧躲藏在漳南县老家，闭门不出。
这时，李渊发出诏书，敦促窦建德的将领范愿、董康买、曹湛、高雅贤等人到长安去。
范愿等人一起商议说：“王世充献出东都洛阳投降唐朝，他手下的将领杨公卿、单雄信一类人都被消灭了，我们这些人如果到长安去，必然没有活命的理由。再说我们的夏王往日捉住淮安王李神通，保全了他的性命，送他回了唐朝。唐朝如今得到夏王，就杀害掉，我们这些人残存性命，如果不起兵报仇，实在是无脸再见天下英雄豪杰