心胸狭隘，忘人大恩，记人小过。将军折损了那么多军马钱粮，他怎会不追究您的罪责？如今韩滔、彭玘、凌振都已在我们山寨入伙，倘若将军不嫌弃山寨简陋，我宋江情愿把寨主之位让给将军。等朝廷任用我们，接受招安后，那时再尽忠报国，也为时不晚。” 呼延灼沉思了许久，一来他本就是天罡星之数，与梁山众人自然义气相投；二来见宋江对他十分恭敬，不禁叹了口气，跪在地上说：“并非我呼延灼不忠于国家，实在是仰慕兄长义气过人，让我不得不从。我愿追随兄长，鞍前马后。事已至此，我也不会再回朝廷了。” 有诗为证：
亲受泥书讨不庭，虚张声势役生灵。
如何世禄英雄士，握手同归聚义厅？
宋江十分高兴，带着呼延灼与众头领相见，还让李忠、周通把那匹踢雪乌骓马还给呼延灼骑。众人接着商议解救孔明的计策，吴用说：“只有让呼延灼将军赚开城门，才能轻易拿下青州城，同时也能断了呼延灼回朝廷的念头。” 宋江听了，来跟呼延灼陪话说：“并非我宋江贪图攻打城池，实在是孔明叔侄被关在狱中，若不是将军赚开城门，实在无法救出他们。” 呼延灼回答道：“小将既然承蒙兄长收留，理当效力。”
当晚，点起秦明、花荣、孙立、燕顺、吕方、郭盛、解珍、解宝、欧鹏、王英十个头领，都扮作军士模样，跟着呼延灼，一共十一骑军马，来到青州城边，一直走到护城河前，大声喊道：“城上快开门！我逃得性命回来了！” 城上的人听出是呼延灼的声音，慌忙报告给慕容知府。此时，知府正为折损了呼延灼而烦闷，听到呼延灼逃回来了，心中大喜，连忙上马，奔到城上。远远望去，只见呼延灼带着十几骑马，看不清面容，只听得出呼延灼的声音。知府问道：“将军怎么逃回来的？” 呼延灼说：“我被那伙人用陷马坑捉了去，幸好有原来跟随我的头目，暗中偷了这匹马给我骑，我就带着他一起逃回来了。” 知府听呼延灼这么一说，便叫军士打开城门，放下吊桥。十个头领跟着呼延灼进到城门里，迎面碰上知府，秦明眼疾手快，一棍就把慕容知府打下马来。解珍、解宝立刻放起火来。欧鹏、王矮虎冲上城头，把守城的军士杀散。宋江见城上火起，率领大队人马一拥而入。宋江急忙传令，不许残害百姓，先去收缴