1631年(崇禎四年)農歷十月初七,皇太極再次致書祖大壽,又派降將姜新赴城中面談。祖大壽派出一位叫韓棟的將領到金營中談判。農歷十月二十五日,祖大壽最后下了決心,他邀后金將領石廷柱進城商議降金事宜,當晚祖可法、祖澤潤、劉天祿、張存仁等四人隨石廷柱一同到了金兵大營,皇太極親自迎接,四人跪倒便拜。皇太極急忙上前一步攙扶,以女真人最高貴的禮節抱腰禮相見。然后設盛宴款待,四人被請至座中。
1631年(崇禎四年)農歷十月二十八日,祖大壽殺死寧死不降的何可綱,大開城門,率眾將來到金營。皇太極與代善、莽古爾泰及眾貝勒眾大臣,一齊隆重迎接祖大壽一行。后雙方登壇發誓祭天,盟誓祭天畢,皇太極攜祖大壽手進入大帳,為祖大壽設宴慶賀。
逃回錦州
投降后的祖大壽向皇太極建言:自己妻子兒女均在錦州城里,趁錦州不知自己已經投降,愿帶一支兵馬去錦州,在城里當內應,奪取錦州城。皇太極同意放祖大壽去錦州城。
祖大壽一回到錦州城就組織防御,抗擊清軍。遼東巡撫丘禾嘉向朝廷參奏祖大壽率隊獻城投降,崇禎皇帝不僅沒有降罪,反而提升祖大壽為左都督,領錦州。
崇禎皇帝三次下詔,命祖大壽進京覲見,祖大壽都借故推辭,始終堅守在錦州城里。
后金方面,皇太極三番五次派密使前來,提醒祖大壽不要忘記以前的約定,即刻動手奪下錦州城。祖大壽以各種理由搪塞,并且多次與清兵激戰。皇太極對留在后金軍營中的祖大壽之子祖可法等人,一直以禮相待,并且頻繁給祖大壽寫信。
1638年(明崇禎十一年,清崇德三年)農歷十月,皇太極親自率領部隊進攻明朝,率領鄭親王濟爾哈朗、豫親王多鐸出寧遠、錦州大道;睿親王多爾袞為左翼,自青山關入;貝勒岳讬為右翼,自墻子嶺入。祖大壽在中后所(今遼寧綏中縣城)屯兵,領兵偷襲多鐸,多鐸戰敗。第二天,多鐸與濟爾哈朗合兵出戰,祖大壽收兵回中后所。不久,皇太極親自來到中后所,派使者給祖大壽帶話:“自大凌河一別后已過數年。我不畏艱苦而來,就是希望與將軍見上一面。至于將軍是歸降我大清還是仍留在大明,絕不勉強,將軍自己決定去留。上次是我釋放了將軍,如借會見之名誘捕將軍,我還憑什么取信天下之人呢?這些年將軍雖然屢次率隊與我軍發生沖突,但我知道你是在執行命令,盡自己的職責,我不會放在心上的,請將軍不要懷疑。”
第二天,皇太極又命令釋放抓獲的明軍俘虜,并讓他帶信給祖大壽。信上說:“我在大凌河釋放了你,我的大臣都說我看不清人。現在,將軍應該出城與我相見,證明我沒有看錯你。如果將軍不放心,我們各帶一兩名親信隨從,在兩營的中間處會晤。我這么做,只是為了自我解嘲罷了,同時也讓將軍的子侄和大凌河的將帥都知道將軍是履行諾言的人。”
祖大壽卻始終沒有露面。
再次降清
1639年(明崇禎十二年,清崇德四年)農歷二月,皇太極再次進攻明朝,以武英郡王阿濟格為前鋒,親自督軍包圍松山。明朝崇禎帝下召命令祖大壽前去支援松山,祖大壽剛剛行軍,清軍就到了,于是祖大壽去寧遠駐守。
皇太極派遣使者去錦州告訴祖大壽的妻子,叫她以利害誘導祖大壽投降。祖大壽選蒙古、漢族兵各三百,命令祖克勇及副將楊震、徐昌永等取道邊外進取錦州,到烏欣河口;清軍將領阿爾薩蘭以滿、蒙兵一百六十人與明軍交戰,清軍勝,斬明軍八十四人,得馬一百五十匹。
皇太極下令停止進攻松山,后金軍返回盛京(今遼寧沈陽)。于是祖大壽又進入錦州駐守。
1640年(明崇禎十三年,清崇德五年)農歷五月,皇太極到義州視察,蒙古蘇班岱等請求歸降,皇太極命濟爾哈朗等率軍一千五百人前去迎接。祖大壽得知清軍人少,命令游擊戴明與松山總兵吳三桂、杏山總兵劉周智合兵七千人出擊,卻被濟爾哈朗打敗。
于是皇太極命多爾袞、濟爾哈朗等帶兵輪番攻錦州。1641年(明崇禎十四年,清崇德六年)農歷三月,皇太極再次發兵圍攻錦州。明薊遼總督洪承疇率吳三桂等八總兵領兵十三萬來援,駐扎在松山。皇太極親率軍隊切斷明軍糧道,明軍大亂。清軍趁勢掩殺,總督洪承疇等被圍于松山。