熙十三年三月，在福建宣布起兵反清。
与其他响应吴三桂反清的将领不同的是，他并不接受吴三桂所封的江南王，而是自称总统兵马大元帅。耿精忠为人耿直，又自视甚高。他要自称总统兵马大元帅的道理很简单，即吴三桂是藩王，我耿精忠也是藩王！他可以自称为兵马大元帅，我耿精忠为何不能？我为何要接受他的封号？
耿精忠起兵之后，以福建为中心，向浙江、江西、广东三方面发展，是反清力量的右翼。耿精忠的势力如同其野心一样迅速膨胀，立即将浙江，江西和广东的大部分地盘控制在自己手里。与此同时，耿精忠与台湾的郑成功之后代结成互相援助之同盟。
康熙帝见其势力骤涨，心里便着急起来，立即命令康亲王杰书与浙江总督李之芳共图进击。
康亲王杰书率兵南下之后，耿精忠之势力立即得到抑制。加之耿精忠无钱发军饷，军士逃跑者增多。耿精忠只能以剥削民众来补充军饷，百姓便对他们恨之入骨，而此时的耿精忠恰又与台湾的郑经发生矛盾，互相攻杀，耿精忠立即陷入困境之中，其斗志也销蚀干净，其野心也逐渐枯萎。
康熙十五年八月，康亲王杰书率兵将耿精忠包围在浙江和福建的交界处的仙霞岭。