夏侯淵則說道“你做的對，周瑜就是想拿我當誘餌，引你們出城，只要你們一打開城門，他們就會大舉進攻，合肥若再失去，則整個淮南不復為朝廷所有。”
于是，劉馥與蔣濟繼續守合肥，夏侯淵休息之后，率十幾個騎兵趕往淮河上游處，等待并接應曹操到來。
曹操自從宛城率五萬精銳部隊出發后，一路疾行來到汝南，又令汝南太守李通率五千汝南兵隨軍出征。
來到淮河北岸后，張合向曹操請罪。
曹操說道“江東水軍封鎖河面，騎兵無法過河，罪不在你。只是如何渡過這淮河，諸位有何辦法”
荀攸建議道“丞相，江東水軍人數不多，我們又占據上游，可以用鐵鎖連船來對付他們。”
曹操大喜，說道“公達此言正合我意，傳令李通搜集船只，李典、樂進督造鐵鎖連船，張合繼續吸引江東水軍注意。”
程普也發現曹操大軍前來，但他毫不在意，只要控制好淮河，你軍隊再多也過不了河。
但半月后，曹軍忽然從上游隱蔽處推出三個大鐵鎖連船，以剩余的一萬余名水軍駕船，搭載了許多弓箭手。
曹軍在上游，程普不能抵擋，也無法用火攻，只好迅速撤退回壽春報信。曹操大軍陸續渡過淮河，與等在河南岸的夏侯淵匯合，知道了詳細情況后，分兵兩路，一路由夏侯淵帶領，率張遼、李典、樂進去合肥。另一路由曹操親自率領向壽春進軍，毛玠率水軍駕駛鐵鎖連船在淮河上順水而下。
周瑜剛率軍與孫權匯合，正在思考如何守住壽春，并以壽春為據點逐漸收服東面九江、臨淮等地，卻收到程普派快船送來的消息。
曹軍使出鐵鎖連船，抵住江東水軍的進攻，大軍已經渡過淮河。
“又是鐵鎖連船，可惡”周瑜怒道，沒辦法，處在下游就是不如上游有優勢。
曹軍這一大舉過江，還有那么多騎兵，使得周瑜的一切打算都作廢了。壽春離江東太遠了，不管是援兵還是糧草物資都不方便運過來，萬一曹軍再設法封鎖住淮河，自己這伙人連跑都跑不了了。
于是，周瑜只好建議孫權撤兵回江東，孫權雖然舍不得放棄壽春，但壽春再好也不如自己的命重要，只好趁曹軍還未來到之前，從淮河之上坐船又繞洪澤湖回到江東。臨走前將壽春城洗劫一空，回來后又派人給潘璋傳令，讓潘璋也率軍退了回來。
至此，江東軍第一次攻打合肥之戰便結束了，雙方都損失較大。
江東這邊損失了兩萬多士兵，老將黃蓋戰死，尸首都沒搶回來。而曹操這邊則損失了一千虎豹騎，壽春被洗劫破壞，沒有年是恢復不過來了。
在這次合肥爭奪戰中，蔣濟謀劃有功，被曹操調到丞相府任主簿，夏侯淵伏擊孫權、突襲黃蓋并將黃蓋斬殺，升為行護軍將軍。原壽春守將雷緒作戰有功，升為廬江太守。
孫權回去后，派闞澤為使者，討回了黃蓋的尸體，以厚禮下葬，程普等人皆悲痛萬分。，，