阿南惟几吸取了第一次长沙会战的教训，并没有一上来就投入大量的兵力进攻湘北主战场，而是最先向新墙河以北的大云山地区发动进攻，以试探中队的虚实。
大云山位于湖南北部岳阳市所属的岳阳县和临湘市交界处，属幕阜山西北支，自古为江南名胜，道家洞天，志称盘旋七十二峰，海拔9111米。这大云山往南数公里便是长沙门户新墙河,自武汉失守之后，这里就成了第九战区的重要前进阵地之一。
由于大云山地理位置的特殊性，易守难攻不说，距离日军的势力范围还比较近，于是薛岳就把这里当做第九战区的一个前沿观察哨，并且派重兵驻守这里。得知日军准备发起第二次长沙会战，第九战区紧急向大云山增派了守军。
除了山是薛岳作为总指挥，但是抗敌的思路却是杨森与罗卓英提出的，所以杨森极为重视，他可不愿意自己再被老蒋点名痛骂了，那句“轻弃名城，腾笑友邦”的评语时刻萦绕在他心头。
在得知第四军将大云山主阵地丢了之后，杨森当即电告第四军军长欧震和第59师张德能：“大云山可以丢，但是第四军决不能撤，不但不能撤，还得想办法拖住日军的脚步，为战区部署争取时间，拖住日军第六师团一个星期，第四军可记一功，反之欧震和张德能自己和军委会解释吧！”
在杨森的高压下，第59师以