第二日一早，豆盧毓便在總管府擺下了鴻門宴，以自己和朱濤二人的名義招眾文武前來議事。晉陽城中文武到了之后，豆盧毓便圖窮匕見，自言自己奉天子之命，討伐楊諒，現率領晉陽城撥亂反正。同時豆盧毓又拿出來天子的詔書，勸眾人隨他一同反正。
眾人畏懼豆盧毓的兵權，也同樣擔憂楊諒怕是難以翻身，因此紛紛景從。當然其中也有楊諒的心腹，不愿背叛楊諒者，皆被豆盧毓派人直接當場殺死，以殺雞儆猴。
之后被豆盧毓從監獄里放出來的皇甫誕來到眾人面前，眾人乃舉皇甫誕總攬政務，又由豆盧毓總領晉陽城中的兵權，為皇甫誕之佐，握有實際權力。
皇甫誕等人乃征調城中壯丁，準備守城。乃令宿勤武守衛東門，宇文永昌守衛西門，元世雅守衛北門，長孫恒布則配合稽胡人守衛南門。
稽胡人進城之后，因軍紀渙散，在城中無惡不作，百姓不堪其苦。奈何豆盧毓等人要依靠這些稽胡人來守衛城門，因此對于城中百姓的怨言，只得裝作不知。而晉陽城中百姓本來因為漢王地位素來驕傲，受到稽胡人如此騷擾更是不滿，因此民心渙散，皇甫誕、豆盧毓等人并不得晉陽城中百姓的支持。
剛開始眾人為豆盧毓所執，只得同意豆盧毓的反叛計劃，跟隨他一同反叛。但之后眾人眼看豆盧毓等人并沒有那么強的實力，因此不少人起了別樣的心思。
而且楊諒的王妃豆盧氏知道兄長背叛了楊諒之后，帶著兒子楊顥親自當著眾人的面質問豆盧毓的背叛，逼得豆盧毓啞口無言，進退不能。豆盧毓無奈，只得將妹妹和外甥囚禁到楊諒的宮中，使之不能與外界接觸。
豆盧毓此舉，更是讓楊諒一些的舊部不滿，城中氣氛壓抑，人心動蕩。
也不知是不是豆盧毓等人運氣不好，本來眾人預計楊諒要和朝廷大軍相持一段時間，但楊諒敗的太快，豆盧毓在晉陽城根本就沒有做好防備。而且晉陽城中有楊諒的親信偷偷潛出城去，向楊諒報信。
楊諒率領二萬大軍北上之事，豆盧毓毫無防備，等到楊諒到了晉陽城外十余里，豆盧毓等人才發現楊諒大軍。眾人大吃一驚，這才準備抵抗楊諒。
城中本就只有數千士兵，而且經過豆盧毓等人對軍官的清洗，倉促之間，戰力羸弱。皇甫誕又征發上萬民夫守城，但因為稽胡人禍亂晉陽城一事，哪怕皇甫誕在晉陽城威望顯著，百姓也對其嚴重不滿。
含怒而來的楊諒驅兵至晉陽城下，眼看晉陽城城門緊閉，不納其入，勃然大怒，乃令豆盧毓出來見他。
楊諒的大旗在城南高懸，南門的守卒皆是大驚，紛紛詢問長孫恒布。楊諒在并州七年，朝廷盛選僚佐，前后長史、司馬，皆一時名士，因此百姓負擔不重，安居七年，使得楊諒在此頗得人心。
長孫恒布不敢直言對面的乃是楊諒，因此便說這些都是前來詐城的賊人。眾人半信半疑，勉強應戰，但兵無戰意。
楊諒眼看豆盧毓不來見他，南門守將也沒有應答的，因此命紇單貴率軍攻城。
此時南門守衛的除了長孫恒布麾下，還有一群稽胡人，這些人并不認識楊諒。長孫恒布見自己麾下沒有戰力，便對這群稽胡人說道：“大敗對面的賊軍，并州府庫任憑爾等搬運。”
稽胡人聽到長孫恒布竟然要把并州的府庫都給他們，紛紛大喜，乃拼命力戰。
長孫恒布將并州的弩具一一分發給這些稽胡人，等待楊諒的士兵靠近之后，這些稽胡人便用弩機、弓箭射擊城下。稽胡人可不管你是不是漢王，只有有好處，照殺不誤。