據守株洲的沈發藻部暫2軍，只遭到中路日軍先遣部隊的攻擊，就全部退守到了淥水南岸，讓出了這座湖南境內唯一的重工業城市。
因師團長不幸殉國，而由116師團師團長巖永汪統一指揮的第68師團第133聯隊，奉命西進，矛頭指向了湘潭，沈發藻代管的新23師，也同樣是只作了稍稍抵抗之后，便退至漣水以南，轉移到東臺山一帶。
一路高歌猛進，又同時能指揮兩個師團，使得巖永汪變得異常驕橫和猖狂，他親自率領第116師團和第68師團的第57旅團，從株洲附近西渡湘江，分兩路各沿湘江西岸及易俗河向衡陽前進；而第68師團其余的部隊則由石亭附近強渡淥水，先是擊退了沈發藻部暫2軍裝模作樣的防御，然后沿著湘江東岸向衡陽急進。這部日軍，最先于抵達衡陽城郊，現今屬于衡南縣的泉溪鎮，并且在國軍暫54師唯一的一個團的火力阻撓下，強行渡過了耒河，突破了阻擊陣地。稍作休整之后，于次日傍晚，巖永汪命令第58旅團115大隊繼續西進，進攻五馬槽衡陽外圍陣地，其余主力經赤水塘西渡湘江，向衡陽以南迂回。
第二天，赤鹿理的第116師團先遣部隊進至衡陽城西郊，突破了守軍第3師在衡陽城外的警戒陣地，逼抵瓦子坪、虎形山主陣地前；而第68師團58旅團第115步兵大隊，迅速突破五馬槽第190師前進陣地，進抵馮家沖主陣地之前，并試圖攻擊衡陽江東的軍用機場；68師團主力則突破衡陽城南黃花嶺、歐家町預10師的警戒陣地，進至鐵路線預10師的主陣地前。
發生這一切的時候，孫玉民所率領的十二軍主力還在日夜行軍的途中，所部除了張小虎的二十師外，其余的部隊離衡陽最近的也都還有著百余里的路途。
日軍動作之快，既在方先覺的意料之中，又在他的設想之外，他原本以為自己在城外的警戒和阻擊陣地，至少能延緩日軍一到兩天，好讓自己能有多點時間進行備戰！
歷史上原本只有第十軍孤軍守城，現在因為有著孫玉民的出現，多添了一整個軍的兵力，所以原本很多兵力薄弱卻非常重要的地方，都由張小虎部二十師去防守，重新布置過后，自然得添加工事，這肯需要時間來準備，可現在已然是不可能再有充沛的時間，不管行不行，都得趕鴨子上架了。
對于防守衡陽城，方先覺原本是心里一點底都沒有，可自從二十師進城后，又得知孫玉民會親自過來協防，頓時信心百倍，和自己心目中的偶像并肩作戰，哪怕就是拼光家底，他都不會覺得可惜。
張小虎是個謹慎小心的人，他在日軍尚未到來之前，就領著旅長團長們把分配給自己的防區全部轉了一遍，決定全師在停兵山、高嶺、江西會館一帶設置主陣地。
他這些年受到孫玉民的強烈影響，經常會做出一些令人匪夷所思的事情來，就像現在，他竟然命令師工兵營把主陣地所在的所有山坡都削成了絕壁。
衡陽城區處于衡山余脈中，雖然首峰迴雁峰也在市區內，但是所有的山坡其實都算不得很高，通海拔都不超出200米。
但別小看這百余米的山坡，若想將其削成絕壁，那也不是個小工程，而且還不只一處山坡。