宜川被攻克之后，国民党西安“绥靖”公署主任胡宗南为确保西安，胡宗南为确保西安，急调原据守潼关至洛阳段的裴昌会兵团全部增援西安。原在郑州南下的孙元良兵团，也龟缩回郑州，准备以两个旅加强汜水、黑石关一线的防御。
原位于平汉线上遂平、驻马店的胡琏兵团，正以一部袭扰集结在沙河、淮河之间休整的刘邓大军。在鲁西南地区监视在黄河以北休整的华东野战军的邱清泉兵团有回师陇海路郑州以东的征候。
胡、邱两兵团，是当时敌人在中原地区可用于机动作战的主要兵团。这样，在洛阳以东至郑州，以西至潼关370余公里的沿线上，只剩下据守在洛阳的国民党青年军206师，别无其它正规部队。
洛阳已陷入孤立，实为趁机攻取的良机。3月初为了掩护刘邓大军和粟裕兵团的休整，配合西北野战军的行动，消灭敌人的有生力量，中央军委不失时机地决定，由陈赓、陈士榘、唐亮指挥华东野战军第3、第8纵队和晋冀鲁豫野战军第4、第9纵队10余万兵力立即发动洛阳战役。
拟定兵团指挥部随三纵、四纵，由襄城、宝丰地区出发，经临汝进到伊川、龙门附近集结待命，准备负责攻城；8纵由禹城出发，经登封、嵩山进至