黄百韬听说第七十四师继续孤军冒进,就给张灵甫和前线总指挥汤恩伯分别打了电话,要张灵甫不要继续深入了,同时告诉汤恩伯,张灵甫部可能已经被解放军合围,要他命令张灵甫撤退。汤恩伯回答说顾祝同也指挥不了张灵甫。见第七十四师不肯撤退,黄百韬首先命令自己麾下的第二十五师,第六十五师迅速靠拢,并加速追赶第七十四师。不等第六十五师和第二十五师靠拢,黄部与第七十四师之间的联系便被切断。黄百韬随即命令第一四八旅发动强攻,以图打通与第七十四师联系,一路并未遭遇解放军强力阻击,但当第二十五师抵达附近唯一的高地天马岭一线时,终遭遇解放军坚决阻击,第一四八旅在损失几百人之后,停止了攻击。黄百韬亲临前线督战,第一四八旅一个团参谋告诉黄百韬附近一条小路或可偷袭。黄于是派他带一个营过去偷袭,并命令如发现解放军扼守小路,则原路返回,不要进攻。该团参谋冒险摸到那条小路附近,发现大约有一个班的解放军已经驻防在此,遂率部撤退,该部退回大路的时候,却被国军空军误以为是向后方穿插的解放军,遂进行轰炸,该团参谋被炸死,另损失士兵数名。黄于是又指挥第一四念戚者八旅对解放军阵地发动了两次攻击,解放军虽然顽强固守,然而兵力有限,防守显得非常勉强。第七十四师被困孟良崮的第二天深夜,黄百韬从国防部得到第七十四师的布防图,看后大惊,赶紧命令战力强大的第四十旅、第一○八旅迅速推进,并命令第一四八旅不惜一切代价强攻天马岭。后来四十旅一部以仔迅损失500多人的代价,用了7个多小时内攻克天马岭的主峰,第一四八旅亦损失巨大,而解放军阻击第二十五军的兵力此时已经伤亡殆尽。就在第二十五师、第六十五师准备向孟良崮全线推进的时候接到了国防部的电报,说第七十四师已经全军覆没。黄百韬赶紧指挥部队迅速撤退,粟裕在歼灭第七十四师后,本来准备在歼灭第二十五师一部,然而发现第二十五师突然之间就无影无踪了。整个孟良崮战役,第二十五师损失近3,000人。第七十四师即被全歼。黄百韬找到汤恩伯,主动表示仔薯自己愿意承当全部责任,后来各路将领都将责任推卸到张灵甫身上,加之顾祝同的力保,黄百韬受到了一个撤职留任的处分。