1948年7月，许世友命令山东兵团三个纵队把兖州城拿下来。兖州城位于津浦线中段，是徐州、济南两城的枢纽，自古便是兵家要地，号称八省通衢、鲁南重镇。如今的兖州城里驻扎着国民党东北军十二军。十二军军长霍守义知道这一仗对东北军的利害关系，要是这一仗打败了，东北军最后一支部队也就没有了，所以他会拼死命地打。许世友也知道这支部队军官的老婆、孩子都在兖州城里，只要城一破，那些军官们都要保护自己的老婆、孩子逃命，所以他把城东面、南面留出来，不围不攻，好让这些军官的老婆、孩子逃命。霍守义苦心经营，把城墙工事修得格外坚固。城内还修了一条能环城一周的公路，公路上有铁甲车。他用大石头把城北的几道门封死了。城北面是一片大平地，他料定我军不会从北面来攻城。城东门有条大河，河上只有一座大铁桥，这里也不便于我军进攻。他把城西面作为主要防御阵地，在城西北角的一个大碉楼上镌刻了五个大字“天下第一碉”。
许世友命令七、十三纵队派出五个团从城西面进攻，却留下东南角上一片空地，作为敌人逃生之路。他在这里布下了兵法上从来没见过的奇形怪状的阵地。
邹县城一打下来，许世友便命令七纵队二十一师对兖州城西关做试探性的攻击。霍守义一见我军从西关来进攻，便用大炮和飞机炸弹把西关炸成了一片瓦砾场。七、十三纵队五个团踩着瓦砾，布下了攻坚兖州城的阵势。
兖州城西关是一座大城楼，内外两个瓮城，瓮城上盖着三层高楼，十分威武。城墙很厚，城墙顶上两匹马可以并行。城墙下绕着又宽又深的外壕，外壕里灌满了从东面沂河引来的河水。凭解放军当时的装备，要拿下这样城坚壕宽的城池，的确不易。
七纵队司令员成钧奉命负责总指挥前线部队。成钧把十三纵队司令员请到自己的指挥所，两位司令员面对面坐在一起，指挥这场攻城战。两人商定，派十三纵队一个师夺取西城门楼。西城门楼的北边二百米处有个大突出部，这个突出部归十三纵队去突破;城门楼的南面二百米处也有一个突出部，这个突出部作为七纵队的主攻方向，归七纵队二十师部五十八团去突破。在城门楼与五十八团大突出部之间，有个小突出部，由二十师六十团去突破。
六十团团长杨世忠指定第一营为突击营。黎青看了城西门底下有几座大碉堡，还有一些神秘的工事，便力主派三营缜密侦察，随时准备应付意外情况。
张怀忠见到城墙外的民房已被摧毁殆尽，料定敌人会用最强的火力来抵抗我军从西面的进攻。他便命令两个主攻团花大力气搞近逼作业，要求把交通壕一直挖到城壕边。他把纵队的炮兵团全用在五十八团攻击的正面，只给了六十团两门平射炮。
杨世忠和黎青看出了首长的用心：是要五十八团最先突破西城门，借机登城。六十团的干部战士都在暗中使劲，把爆破、架桥、登城的一切准备工作都布置妥当。他们在黑夜冒着敌人的炮火，不怕牺牲，硬把进攻阵地的交通壕挖到了护城河边上。这是张怀忠对攻城部队的要求，但五个攻城团只有六十团做到了。
7月8日，总攻的信号弹飞到半空，兖州城陷在一片激烈的枪炮声中。六十团在激烈的枪炮声中，利用近逼工事，开进到了护城河边。他们把护城河两岸的附属防御扫清，又把一张大梯子抬到护城河上，准备架桥登城。哪知河水太深，桥腿扎不到河底。架桥班班长杨树宽发了急，便向突击连连长张坚(最前线的指挥员)拍着胸脯说：“让部队踏着我们架桥班战士的肩膀过河。”他的一班人在齐胸深的城壕里，用肩膀把桥顶住，大桥被他们稳稳当当地架在肩上。张坚一看这阵势，叫了声好，便让爆破班拿着高杆炸药到河对岸炸城墙。爆破组几个人利用护城河隐蔽在护城河岸，一步步地把城墙下的暗堡、铁丝网、鹿砦都扫除干净了。这时，西门城下的暗堡凸显出来，敌人的暗堡修在高大的碉堡之间，暗堡上的枪眼都用泥巴糊了起来。六十团三番五次去侦察都没发现。此刻城堡下的大碉楼都炸平了，隐蔽的工事便张开大嘴，每个枪眼里都喷射出密集的子弹，军事上把这叫侧防机能。攻城作业的许多战士被这侧防机能发出的火力打倒在血泊中。
三营营长一看，领着爆破组冲上前。默不做声的韩安才高举起手一挥，带着几个爆破手，脑袋上顶着炸药包，从护城河里蹚水过河，到西门城楼下面，把这些隐蔽工事一个个炸飞了。
西门城楼底下的侧防机能消灭了。六十团爆破手们便拿着碗口粗细、一丈多长的木杆向前冲，还有两个战士抬着一个老大的炸药包紧随其后。三个人冲到城墙底下，把大木杆稳稳当当地靠在城头的女墙下面，从高杆上解下一根绳索，绳索从高杆上面的滑轮上滑了下来。一个战士伸手把绳头上系着的大铁钩拿过来，挂在炸药包上。三个爆破手一起使劲拽起绳索，只见那个炸药包从地面飞起，稳稳当当地贴在了城墙顶上。
轰隆一声，炸药包响了，一团黄褐色的烟紧压在城墙上。突击连连长张坚忙把手上的红旗高高举起，猛力一挥，两发平射炮弹先后在爆破口处爆响。炮声刚一消失，城墙下的第二个高杆炸药又竖了起来。高杆炸药里的爆破声一响，张坚手里的红旗又飞了起来。随着这红旗一上一下，两发炮弹又在爆破口上把城墙炸开了花。
张坚手上的红旗不断地一上一下，那城墙口上的高杆炸药便一次又一次地炸在爆破口里。炸药的硝烟一飘散，城下的炮弹又飞了出来。
这是一次精心设计的爆破和炮弹紧密结合的战术，是第一次攻城技术的新创造。
过去攻城都是把沉重的炸药包绑在粗大且长的大木梯上，七八个人抬着这个沉重的大木梯竖在城墙上去炸城。架木梯的爆破班，八九个人挤成一堆，城上的敌人便于集中射击，所以往往难以成功，即使成功了，代价也很大。
这次六十团搞诉苦三查，把战士们的觉悟提高了。在提高觉悟的基础上，又大力发扬军事民主，对攻城一事献计献策。一个解放过来的战士报告连长，他在国民党军队受过专门训练，专门研究在我军攻城的爆破口上怎么打反扑，把最先冲进爆破口的我军战士打倒。后来张坚根据他这个意见，只用两门炮便把突破口上的敌人打得缩回去了。这个高杆炸药战术就是一连战士在军事民主中集思广益出来的。这些战士入伍前都是长江和巢湖上驾船的水手，他们把桅杆上用滑轮吊风帆的经验运用到爆破上来。所以这两条大计把攻城的人数减少了，动作加快了，威力却大大提高了。
高杆炸药炸到第四包时，一个爆破手想去看这爆破口能不能架梯子攻城了。他从一大堆城墙的残砖破瓦上爬进缺口一看，不用架梯子，一个冲锋便进城了。他便跑到护城河边向张坚一挥手，爆破口就都炸了开来。
张坚立即命令尖刀连随着这个战士一边去占领突破口，一边向上级报告，只管登城，不用架梯子了。
六十团从架桥班战士的肩膀上冲过了城壕，爬上了城头，把第一面红旗牢牢地插在缺口上。
五个团的攻城部队像一股大潮，拥上了城头。攻城的炮弹呼啸着落在了城北的凌霄塔下，凌霄塔下是敌人的军指挥所，凌霄塔上架着望远镜，是敌人的眼睛。如今，这一切都在炮弹声中化为灰烬。兖州城几万敌人只得逃命。
六十团突破东城的办法，令许世友大为欢喜。他后来在一次干部会上说：“六十团进步很快，去年年底打莱阳城时，他们最先突破莱阳城，却拿不下城隍庙这个核心工事。今年打兖州城，就是另一副模样了。”