1944年6月28日拂曉，日軍第116師團和68師團，在師團長巖永汪的指揮下，對衡陽城發起了第一次總攻。
首當其先的就是重炮的轟擊，東面和北面幾乎同時傳來了令人發麻的炮彈破空的尖叫，東城和北城的守軍陣地立刻就籠罩了猛烈的炮火中間。日軍105口徑榴彈炮和150榴彈炮口徑榴彈炮所產生的轟擊效果，遠遠不是80迫擊炮和擲彈筒所發射的炮彈所能夠比擬，那震耳欲聾的響聲和大地的強烈震感，都在宣告著，這里馬上將會是一片修羅場。
即使是在指揮所里，張小虎都能感覺到鬼子炮擊的強度，炮聲一響之后，他反而是靜下心來，因為他最擔心的事情不會發生了，那就是鬼子的飛機不會來，相對于飛機扔的航彈，他真的寧愿部下忍受炮火，至少鬼子的榴彈炮打不出燃燒彈，鬼子的榴彈炮打不出上百斤的航彈，他嘗試過這種巨型炸彈，爆炸點的幾十上百米范圍內，真的是不可能再有生命存活。
炮擊的時間從拂曉一直持續到了八九點鐘，鬼子的炮彈像是不要錢似的，不停地往守軍的陣地上落，好在第十軍的各支部隊經過了殘酷的長沙會戰和常德會戰，日軍的炮擊雖然聲勢很大，但是對早有防備的守軍，造成的傷害并不是很大。雖然有不少的新兵在防炮洞內不停哆嗦，但是時間一久，他們也就適應了這種巨響。
也不是說躲在防炮洞和工事里，就會絕對的安全，在日軍密集炮火的轟擊下，有不少的工事連同內里的守軍一起被“點名”，也有著幾個大藏兵洞被直接轟塌，躲在里面的守軍將士們相當于被活埋，別的藏兵洞內的士兵們搶出來挖人時，又被炮彈落在近前，造成二次傷亡。
日軍炮火停歇時，方先覺一統計傷亡，才知道鬼子的這通炮火，干掉了他部下將近大半個團。
“狗娘養的小鬼子，一上來就下死手啊！”方先覺在作戰室里罵罵咧咧。
“是啊，軍座，看來鬼子擺出了一副不拿下衡陽不罷休的姿態。”參謀長回應道。
“我看他們是把衡陽當成長沙，以為轟這幾炮，就會嚇炮我們。”方先覺冷笑了一聲，接著又說道：“就算是橫山勇親自來督戰，我第十軍也不會后退半步，想攻下衡陽，你得先付出點代價再說。馬上命令各部進入陣地，鬼子步兵要開始進攻了！”
“是，軍座！”參謀長回答得很響亮。
首先投入步兵開始攻城的是日軍第68師團，正是那個被陳侃碰巧“斬首”的那支倒霉師團，此時他們的新任師團長尚未上任，雖然劃歸116師團師團長巖永汪指揮，但是實際指揮部隊作戰的是參謀長原田大戰。
這個原田雖然只是個參謀長，但是卻是在基層帶個兵，是個實實在在的軍事主官，而且還是個膽大妄為的好戰份子，佐久間為人中將玉碎時，他正率領68師團的其他部隊南下，并沒有參與到攻擊長沙的戰斗中，也因此幸免于難。
這家伙并沒有以佐久間的罹難視為警戒，反而是更加的狂妄，他居然把自己的指揮部放到了幾乎最前沿的陣地上，按照他的話來說：中國軍は粘り強いが、68師団でトラブルを起こし、數年間訓練しなければならない。（中國軍隊雖然頑強，但若想對68師團造成麻煩，還得再訓練幾年。）
日軍驕橫的時代早已經一去不復，中國軍隊也早已經不是戰爭初期任捏的柿子。原田派出第一波攻擊的步兵62大隊一個中隊，向黃茶嶺上的預十師28團主陣地發起進攻，可是尚未接近到一百米范圍內，就被守軍的火力給打退，灰溜溜地扔下了幾十具尸體，狼狽而逃。
原田自然不會奢望一波攻擊就能拿下中國軍隊的陣地，他之所以第一波只派出了一個中隊，是想把守軍的火力點全暴露出來，然后再命令配屬給其作戰的山炮第五聯隊實施精確打擊，這樣一來，只需要下一波進攻多派出點兵力，中國守軍的陣地“肯定”會被攻占。