余胜军起义之前，林哲就已经对余胜军各部进行指挥体系上的调整，这种调整并不涉及到现有部队的具体编制，只是一种指挥体系上的调整。￠￡￠￡，
余胜军各混成团、协防团等团级规模的部队加起来总数已经超过了二十个，而余胜军军部，或者说林哲个人已经不可能直接指挥这么多团级部队，因此建立起更高级别的固定作战编制已经成为了必然，这也是林哲年初建立第一步兵师的直接原因。
按照道理来说，余胜军应该是按部就班把诸多的混成团、协防团逐步改变为师或旅级的固定战斗编制。
然而随着1856年清廷大肆编练新军，尤其是李鸿章的江淮新军快速扩编，导致林哲被迫加快了起义的步伐，而这也就让林哲没有足够的时间对各部队一一改编然后整编为固定的师旅战斗编制。
为了不影响现有部队的战斗力，林哲只能是继续沿用现有部队作战编制，只是又建立了三个师级指挥机构，用以统一指挥某个地区的部队而已。
由此就是诞生了余胜军内的第二步兵师、第三步兵师、第四步兵师。
上述三个师和第一步兵师不同，第一步兵师乃是林哲亲自率领的部队，筹建之初就是打破了各混成团的作战编制，编成了单纯