大王庄、尖古堆战斗结束后，七纵队十九师把尖古堆下面几个村庄的敌人也消灭了，接着又传来了华东野战军十三纵队把平谷堆敌人消灭的捷报。这样一来，黄维兵团的双堆集阵地便赤裸裸地暴露在我军的火力下。黄维兵团像一个反扣着臂膀、被五花大绑押向刑场的死囚。这种可悲的形势，黄维心里也是明白的，他便和胡琏、副司令员吴绍周与十八军军长熊伯涛秘密商议找条出路。黄维一见大家心里不糊涂，却有话不肯说出口，便让胡琏坐架小飞机，飞到南京去找蒋介石讨问计策。
胡琏到南京见了蒋介石，他不叫总统而叫校长，蒋介石听了挺喜欢，对他说：“你可是我最喜欢的学生。”胡琏把黄维兵团所处的危险情况半吐半隐地说了一遍，蒋介石故作镇静地回答胡琏：“我派空军司令员周至柔来掩护你们转进(国民党军队把撤退叫转进)到徐州。”
周至柔来了，蒋介石便对他说：“这一回你可以用甲弹来帮他转进。”
所谓甲弹就是毒瓦斯，既包括催泪弹，也包括窒息弹。只是战场上释放毒气是国际上禁止的，在蒋介石眼里这却是个屁，他哪管这些。黄维坐上小飞机，又一次回到双堆集。准备第二天国民党空军大量释放毒气弹的时候趁势突围。谁知天公不作美，第二天中午，周至柔的飞机飞到了双堆集的上空，同黄维进行陆空对话，周至柔告诉黄维：“今天风势不顺，甲弹不能放，原定计划取消，我这就回南京去了，你们该怎么行动自己决定吧。”
就这样，一次大规模犯罪行为胎死腹中。
第二天一早，黎青同团长到师部接受作战任务时，才知道华东野战军又增援来两个纵队，还有特种纵队的全部坦克和榴弹炮都开过来了。由华东野战军参谋长陈士榘把华东野战军来的四个纵队，加上中原野战军的六纵队，组成一个突击兵团，同中原野战军的陈赓兵团，对黄维兵团展开钳形攻势，把黄维兵团切成两段，再由中原野战军组成东西两个集团军把被切成的两股敌人分别吃掉。
就在向黄维兵团发起总攻时，陈毅以个人名义写了一封信，规定这封信只许华东野战军的团长、政治委员看，信上说，这次总攻时，华东野战军夺下的阵地，只把敌人的俘虏官兵和轻武器带走，对敌人留下的重武器一件也不许动，等中原野战军部队来收缴。
当日黄昏，我军对黄维兵团的总攻开始了。黄维一看形势不妙，便召集几个军长下了一道命令：各自突围吧，突围出去后，到蚌埠集合。
黄维调来三辆坦克：第一号坦克归他，第二号坦克归胡琏，第三号坦克归吴绍周。三辆坦克从铺天盖地的炮声中向西开去。一路上，只见整个兵团散兵四处乱跑，粗言恶语和炮声火光混成一气，飘荡在双堆集的原野里。
黄维顾不了这些，只让坦克绕开大队伍，向平谷堆西面的玉皇庙飞奔过去。吴绍周的第三号坦克跑在最后，他的坦克一过玉皇庙，机械便发生了故障。吴绍周从坦克里跳出来，命令坦克停在一旁，他也不跑了，就在玉皇庙外等着当俘虏。
吴绍周在俘虏营里休息了两天，终于见到了黄维。黄维坐着他的一号坦克，从玉皇庙的南面开进了浍河里。坦克冲向了河水深处，河水把发动机熄灭了。黄维从坦克里爬出来，游到浍河南岸，这时天色已亮，他被巡夜的民兵逮住，送到俘虏营里，这样他便跟吴绍周见了面。
只有胡琏的第二号坦克平安渡过了浍河，坦克爬上了浍河的南岸，又爬上了去蚌埠的公路，他一个人溜回了蚌埠，最后溜回了南京。
黄维兵团十二万人马只一夜工夫便烟消云散，被消灭干净。国民党在徐州的李弥、邱清泉、孙元良三个兵团在副总司令员杜聿明的率领下，向西边的潇县突围。总司令员刘峙昨天借口有事，早逃到了蚌埠。华东野战军一发现徐州的敌人向西突围，便在粟裕的一声号令下，尾追的尾追，包抄的包抄，拦头的拦头，掐腰的掐腰，断尾的断尾。敌人在潇县东面城关庄一带二十多华里的地方挤成一团，陷在重围之中。
华东野战军参加歼灭黄维部队的任务已经胜利完成。由邓小平、刘伯承、陈毅、粟裕、谭震林五位组成的淮海战役总前敌委员会便命令华东野战军四个纵队回归原先的建制。