5月17日，菊兵团各部队全部到达洛阳周围。兵团长野副昌德决定18日开始进攻洛阳。当天，除城北邙岭区仍为第65师防守外，城西、南、东三面日军均已迫近城垣。在守军坚强抵抗下，日军的多次突击均被击退，激战终日，毫无进展。
“华北派遣军”于20日晚下达命令:“应以目前态势继续进攻，并纳入第12军司令官指挥。”
21日至23日，日军先后攻占邙岭区内后洞、上清宫、苗家岭等各要点，守军退入城中。5月24日13时，日军在航空兵、炮兵及坦克支援下，对城垣发起猛攻。激战约1小时，日军战车第3师团及其机动步兵即突破城西北角。17时，第63师团亦突破城东北角。18时20分左右，日军的坦克冲入城内，中、日双方军队展开激烈的巷战。第15军军长武庭麟下令各部队各自夺路突围。黄昏后，大部撤出，未接到命令及未及撤离的官兵仍英勇地进行逐屋争夺战。激战彻夜，至25日8时，日军完全占领洛阳。
豫中会战仅37天，损失了38座城池，日军即打通了平汉路南段，并占领了沿线各要点及古城洛阳，击溃了第一战区的主力部队，实现了战役企图。第一战区的军队损失严重，第36集团军总司令李家钰在撤退