在曹操赤壁之战失败之后，东吴想要北伐，合肥就成为了阻挡大军前进的重要障碍点。

东吴的五次北伐最终皆止步于合肥，其中第二次合肥更是让孙权损兵折将，史书称终吴之世，也未能有淮南尺寸之土。

公元215年，曹操出征张鲁，担心孙权会借机北伐，派护军薛悌送函到合肥，写到“贼至乃发。

而这个时候，孙权与刘备的荆州之争，最终以平分荆州作为条件，两军撤退。孙权见曹操远在汉中，定然不能及时回到东边，在八月率十万人北至陆口，出征合肥。

于是，张辽等便打开曹操之函，信函之上只有两句话。

若孙权至者，张、李将军出战，乐将军守；护军勿得与战。

护军即是指送信函的护军薛悌，众将疑惑，不知曹操这是何意。

张辽久随曹操，深知其意，便对众将道：“公远征在外，比救至，彼破我必矣。是足以教指及其未合逆击之，折其盛势，以安众心，然后可守也。成败之机，在此一战，诸君何疑？”

大意是要在东吴军集结完毕前突袭对方，先挫折敌人锐气，以安定军心，然后才可以顺利守城。

李典认同张辽，于是夜间募集勇士，杀牛犒赏全军。

翌日，张辽披甲持戟，冲锋陷阵杀死数十人，斩孙权二员大将。张辽大呼自己的名字，冲入军垒，到达孙权旗下阵营。东吴军队猝不及防，部将陈武战死，宋谦、徐盛军都不敌张辽所部，士兵开始溃散。

东吴将领潘璋在后压阵，驰马追上，在马上斩杀宋谦、徐盛军中的逃兵，士兵见此才肯回头再战。

孙权见状大惊，无所适从之下只好登山以长戟固守。

张辽在山下搦战，孙权不敢轻动，见张辽率军甚少，便下令众军将张辽所部团团围住。张辽勇猛突击而出，东吴军被打开缺口，张辽及麾下的数十人得以逃出，这时其余军士皆大声呼喊：“将军弃我乎？”张辽心生不忍，于是回头再战，孙权军望风披靡，无人能挡，再次突出重围。

战斗从日出到中午，吴军士气全失，回军修整守备，曹军由此士气大震。

东吴大军围合肥十多日，因合肥城高墙固，因此久攻不下。这时疫病在合肥等地大行，孙权无奈只得率大军班师，他自己率千多虎士与凌统、甘宁、吕蒙、蒋钦为后。

至此合肥之战就进入了高潮部分。

孙权等行至逍遥津北，张辽观察敌军撤退，便果断率军追击，吴军猝不及防，孙权被围。

凌统亲率三百近兵冲入重围，甘宁则引弓掩护，吕蒙、蒋钦死战拒敌。

此刻东吴人少，但三军用命，拼力死战终于救出孙权。

凌统率少量军士断后，孙权与甘宁蹴马趋津，但后路的索桥已被张辽军所毁，有一丈于没有木板。当时孙权近监谷利在马后，让孙权抓着马鞍、松开缰绳，谷利在后面加鞭，以助马势，孙权这顺利跃马过河，与在津南率三千人防备的贺齐会合。

负责掩护的凌统战况极其惨烈，为拖住敌军，左右人马皆已战死，自己也受伤多处，杀死数十人，在知道孙权已安全，才披甲潜行逃走，成功逃生后，在津渚上痛哭流涕。

合肥之战，是张辽军旅生涯的巅峰之作，可谓一战威震魏吴两地。令孙权一生都背负此战的阴影。

史书记载在此战多年之后，张辽已年老多病，孙权仍称：“张辽虽病，不可当也，慎之！”