8月4日，日军第68、第116师团对衡阳第3师及预10师阵地发起总攻。5日，第58师团(从长沙增援到来)由衡阳西北投入战斗，猛攻第190师阵地。激战至6日拂晓，第190师退守小西门及其以北的城垣。当日夜，日军第58师团一部从城西北角突入城内，西南方面岳屏山、天马山等阵地亦为日军第116师团突破。
7日6时起，日军集中炮火先对守军进行了约2小时的炮火准备，尔后发起冲击。守军阵地大都被毁，官兵伤亡惨重，五桂山、接龙山等阵地先后失守。但第3师及预10师的官兵仍顽强抵抗。为了抵抗日军进攻，所以的马夫、伙夫、文书、轻伤员等等，凡是能扛起枪的都上了前线。
第10军此时尚有数千人，但因弹尽粮绝、伤员众多，而日军大兵压境，全军危险重重。苦守了四十多天，没有了补给，吃饭都成为了成绩，阵地上几处池塘的鱼鸟，都被捕食一空，天空的鸟儿都不敢飞过衡阳上空。地里的野菜早曾经连根都吃光了，油盐也成为了绝迹，很多兵士都是用清水煮菜根过活。
这类环境简直是过活如年，对得救的盼望，由失望而失望，末了由失望而仇恨。8月7日凌晨，方先觉召开紧急集会，评论辩论三个计划:是包围?