4月9日，解放军开始同时挖掘四条坑道，至4月10日凌晨，解放军完全控制了突击地段的外壕，并且挖好了坑道和药室，并在一夜之间将一万二千六百斤炸药安装好。
10日18时，三条坑道同时爆破，将东关城墙打开缺口，同时，炮兵掩护步兵冲锋，突击队趁着掩护迅速冲锋，迅速登上城头，并向纵深发展，于11日晨拿下东关，国民党军被迫西撤，解放军完全扫清了临汾城的外围。
此时，国民党方面因总统、副总统选举而导致的派系矛盾公开化、白热化，作为晋省最高长官的阎锡山没有赶回晋省坐镇指挥，因为他暗中支持桂军首领李上将竞选副总统，所以他继续留在南京参加会议。当时国民党各方面要人齐集南京召开国民大会。
但阎锡山也不是完全不管临汾战场，南京方面派遣更多的飞机支援晋省，给临汾城内投放物资，猛烈轰炸攻城的解放军。
解放军为了尽量减小伤亡，也为了让部队得到锻炼，更是让攻城部队轮番休整，以便未来连续作战，徐司令决定让参战部队轮流进攻临汾城。
5月2日。
徐向前下达了对临汾的总攻命令。
临汾前线部队开始挖掘坑道，守城的国民党部队则进行着反挖掘和破坏，坑道作业需暗中通过外壕，一直挖到城墙底下，长度达百余米，所以作业量大。
为了加快掘进速度，解放军战士们用胸部顶着铁锹把挖掘，胸部顶起了一块块紫色血迹，运土的战士，膝盖上包着垫有棉花的布，跪在地上来回运送。
为了保证坑道作业的进行，其他部队在火力掩护下，展开了外壕争夺战，挖了多条暗道，同时伸向战壕底部，解放军就是在极其危险和艰苦的条件下，在主攻方向上挖了破城、争夺护城阵地等不同战术目标的十二条坑道。
5月16日。
坑道终于挖掘成功，徐司令决定提前发起最后的总攻，工兵开始向两条坑道内填充炸药，由于国民党空军白天的狂轰滥炸，所以解放军在夜幕降临后，成功爆破坑道。
解放军不怕牺牲的登上城垣、并立即向临汾城内的纵深发展，经过激烈的巷战，守城国民党部队开始四处逃窜，凭借各种战壕、碉堡、居高临下的楼顶据点负隅顽抗。
战至5月18日，临汾城内的巷战逐渐平息，残余的少量国民党守军从西门逃出，国民党守城总指挥梁培璜及协助其指挥的两名日本军官均被活捉。
临汾战役胜利结束。