公元３８３年八月，苻堅親自帶領八十七萬大軍從長安出發。向南的大路上，煙塵滾滾，步兵、騎兵，再加上車輛、馬匹、輜重，隊伍浩浩蕩蕩，差不多拉了千把里長。
過了一個月，苻堅主力到達項城（在今河南瀋丘南），益州的水軍也沿江順流東下，黃河北邊來的人馬也到了彭城（今江蘇徐州市），從東到西一萬多里長的戰線上，前秦水陸兩路進軍，向江南逼近。
這個消息傳到建康，晉孝武帝和京城的文武官員都著了慌。晉朝軍民都不願讓江南陷落在前秦手裡，大家都盼望宰相謝安拿主意。
謝安是陳郡陽夏（今河南太康）人，出身士族，年青的時候，跟王羲之是好朋友，經常在會稽東山遊覽山水，吟詩談文。他在當時的士大夫階層中名望很大，大家都認為他是個挺有才幹的人。但是他寧願隱居在東山，不願做官。有人推舉他做官，他上任一個多月，就不想幹了。當時在士大夫中間流傳著一句話：「謝安不出來做官，叫百姓怎麼辦？」
到了四十多歲的時候，他才重新出來做官。因為謝安長期隱居在東山，所以後來把他重新出來做官這樣的事稱為「東山再起」。
苻堅強大起來以後，東晉的北面邊境經常遭到秦兵的騷擾。朝廷想找一個文武全才的將軍去防守邊境。謝安把自己的侄兒謝玄推薦給孝武帝。孝武帝把謝玄封為將軍，鎮守廣陵（今江蘇揚州市），掌管江北的各路人馬。
謝玄也是個軍事人才。他到了廣陵以後，就招兵買馬，擴大武裝。當時有一批從北方逃難到東晉來的人，紛紛應徵。他們中間有個彭城人叫劉牢之，從小練得一身武藝，打仗特別勇猛。謝玄派他擔任參軍，叫他帶領一支精銳的人馬。這支人馬經過謝玄和劉牢之的嚴格訓練，成為百戰百勝的軍隊。由於這支軍隊經常駐紮在京口（今河蘇鎮河市），京口又叫「北府」，所以把它叫做「北府兵」。
這一回，苻堅率領百萬大軍進攻東晉，謝安決定自己坐鎮建康，派弟弟謝石擔任征討大都督，謝玄擔任前鋒都督，帶領八萬軍隊前往江北抗擊秦兵，又派將軍胡彬帶領水軍五千到壽陽（今安徽壽縣）去配合作戰。
謝玄手下的北府兵雖然勇猛。但是前秦的兵力比東晉大十倍，謝玄心裏到底有點緊張。出發之前，謝玄特地到謝安家去告別，請示一下這個仗怎麼打法。
哪兒知道謝安聽了像沒事一樣，輕描淡寫的回答說：「我已經有安排了。」
謝玄心裏想，謝安也許還會囑咐些什麼話。等了老半天，謝安還是不開腔。
謝玄回到家裡，心裏總不大踏實。隔了一天，又請他的朋友張玄去看謝安，托他向謝安探問一下。
謝安一見到張玄，也不跟他談什麼軍事，馬上邀請他到他山裡一座別墅去。到了那裡，還有許多名士先到了。張玄要想問，也沒有機會。
謝安請張玄陪他一起下圍棋，還跟張玄開玩笑，說要拿這座別墅做賭注，比一個輸贏。張玄是個好棋手。平常跟謝安下棋，他總是贏的。但是，這一天，張玄根本沒心思下棋，勉強應付，當然輸了。
下完了棋，謝安又請大夥兒一起賞玩山景，整整遊玩了一天，到天黑才回家。
這天晚上，他把謝石、謝玄等將領，都召集到自己家裡，把每個人的任務一件件、一樁樁交代得很清楚。大家看到謝安這樣鎮定自若，也增強了信心，高高興興的回到軍營去了。
那時候，桓沖在荊州聽到形勢危急，專門撥出三千名精兵到建康來保衛京城。謝安對派來的將士說：「我這兒已經安排好了。你們還是回去加強西面的防守吧！」
將士回到荊州告訴桓沖，桓沖很擔心。他對將士說：「謝公的氣度確實叫人欽佩，但是不懂得打仗。眼看敵人就要到了，他還那樣悠閑自在：兵力那麼少，又派一些沒經驗的年青人去指揮。我看我們準要遭難了。」
謝安派出的將領胡彬，率領水軍沿著淮河向壽陽進發。在路上，他得知壽陽已經被前秦的前鋒苻融攻破。胡彬只好退到硤石（今安徽鳳臺西南），紮下營來，等待謝石、謝玄的大軍會合。
苻融佔領壽陽以後，又派部將梁成率領五萬人馬進攻洛澗（在今安徽淮南東），截斷了胡彬水軍的後路。晉軍被圍困起來，軍糧一天天少下去，情況十分危急。
胡彬派出兵士偷偷送信給謝石告急，說：「現在敵人來勢很猛，我軍糧食快完，恐怕沒法跟大軍會合了。」
送信的晉兵偷越秦軍陣地的時候，被秦兵捉住。這封告急信落在苻融手裡，苻融立刻派快馬到項城去告訴苻堅。
苻堅一連得到秦軍前鋒的捷報，更加驕傲起來。他把大軍留在項城，親自率領八千名騎兵趕到壽陽，恨不得一口氣把晉軍吞掉。
他到了壽陽，跟苻融一商量，認為晉軍已經不堪一擊，就派了一個使者到晉軍大營去勸降。
那個派出的使者不是別人，恰恰是前幾年在襄陽堅決抵抗過秦軍、後來被俘虜的朱序。
朱序被俘以後，雖然被苻堅收用，在秦國當個尚書，但是心裏還是向著晉朝。他到晉營見了謝石、謝玄，像見了親人一樣高興，不但沒按照苻堅的囑咐勸降，反而向謝石提供了秦軍的情報。他說：「這次苻堅發動了百萬人馬攻打晉國，如果全部人馬一集中，恐怕晉軍沒法抵擋。現在趁他們人馬還沒到齊的時候，你們趕快發起進攻，打敗他們的前鋒，挫傷他們的士氣，就可以擊潰秦軍了。」
朱序走了以後，謝石再三考慮，認為壽陽的秦軍兵力很強，沒有把握打勝，還是堅守為好。謝安的兒子謝琰勸說謝石聽朱序的話，盡快出兵。
謝石、謝玄經過一番商議，就派北府兵的名將劉牢之率領精兵五千人，先對洛澗的秦軍發起突然襲擊。這支北府兵果然名不虛傳，他們像插了翅的猛虎一樣，強渡洛澗，個個勇猛非凡。守在洛澗的秦軍，不是北府兵的對手，勉強抵擋一陣，敗了下來，秦將梁成被晉軍殺了。秦兵爭先恐後渡過淮河逃走，大部分掉在水裡淹死。
洛澗大捷，大大鼓舞了晉軍的士氣。謝石、謝玄一面命令劉牢之繼續援救硤石，一面親自指揮大軍，乘勝前進，直到淝水（今淝河，在安徽壽縣南）東岸，把人馬駐紮在八公山邊，和駐紮壽陽的秦軍隔岸對峙。
苻堅派出朱序勸降以後，正在洋洋得意，等待晉軍的投降，突然聽到洛澗失守，像頭上挨了一下悶棍一樣，有點沉不住氣。他要苻融陪著他到壽陽城樓上去看看對岸形勢。
苻堅在城樓上一眼望去，只見對岸晉軍一座座的營帳排列得整整齊齊，手持刀槍的晉兵來往巡邏，陣容嚴整威武。再往遠處看，對面八公山上，隱隱約約不知道有多少晉兵。其實，八公山上並沒有晉兵，不過是苻堅心虛眼花，把八公山上的草木都看作是晉兵了（文言是「草木皆兵」）。
苻堅有點害怕了，他轉過頭對苻融說：「這確實是強大的敵人啊！怎麼能說他們弱呢？」
打那以後，苻堅命令秦兵嚴密防守。晉軍沒能渡過淝水，謝石、謝玄十分著急。如果拖延下去，只怕各路秦軍到齊，對晉軍不利。
謝玄派人給苻堅送去一封信，說：「你們帶了大軍深入晉國的陣地，現在卻在淝水邊擺下陣勢，按兵不動，這難道是想打仗的嗎？如果你們能把陣地稍稍往後撤一點，騰出一塊地方，讓我軍渡過淝水，雙方就在戰場上比一比輸贏。這才算有膽量呢！」
苻堅一想，要是不答應後撤，不是承認我們害怕晉軍嗎？他馬上召集秦軍將領，說：「他們要我們讓出一塊陣地，我們就撤吧。等他們正在渡河的時候，我們派騎兵衝上去，保管能把他們消滅。」
謝石、謝玄得到苻堅答應後撤的回音，迅速整好人馬，準備渡河進攻。
約定渡河的時刻到來了，苻堅一聲令下，苻融就指揮秦軍後撤。他們本來想撤出一個陣地就回過頭來總攻。沒料到許多秦兵一半由於厭惡戰爭，一半由於害怕晉軍，一聽到後撤的命令，撒腿就跑，再也不想停下來了。
謝玄率領八千多騎兵，趁勢飛快渡過淝水，向秦軍猛攻。
這時候，朱序在秦軍陣後叫喊起來：「秦兵敗了！秦兵敗了！」後面的兵士不知道前面的情況，只看到前面的秦軍往後奔跑，也轉過身跟著邊叫嚷，邊逃跑。
苻融氣急敗壞地揮舞著劍，想壓住陣腳，但秦兵像潮水般地往後湧來，哪裡壓得住。一群亂兵衝來，把苻融的戰馬衝倒了。
苻融掙紮著想起來，晉兵已經從後面趕上來，把他一刀砍了。主將一死，秦兵更是像脫了韁繩的驚馬一樣，四處亂奔。
陣後的苻堅看到情況不妙，只好騎上一匹馬拚命逃走。不料一支流箭飛來，正好射中他的肩膀。苻堅顧不得疼痛，繼續催馬狂奔，一直逃到淮北才息了口氣。
晉軍乘勝追擊，秦兵沒命的潰逃，被擠倒的、踩死的兵士，滿山遍野都是。那些逃脫的兵士，一路上聽到風聲和空中的鶴鳴聲（文言是「風聲鶴唳」，唳音同力，就是鶴鳴聲），也當作東晉追兵的喊殺聲，嚇得不敢停下來。
謝石、謝玄收復了壽陽，派飛馬往建康送捷報。
這一天，謝安正跟一個客人在家裡下棋。他看完了謝石送來的捷報，不露聲色，隨手把捷報放在床上，照樣下棋。
客人知道是前方送來的戰報，忍不住問謝安說：「戰事情況怎麼樣？」
謝安慢吞吞的說：「孩子們到底把秦人打敗了。」
客人聽了，高興得不想再下棋，想趕快把這個好消息告訴別人，就告別走了。
謝安送走客人，回到內宅去，他的興奮心情再也按捺不住，跨過門檻的時候，踉踉蹌蹌的，把腳上的木屐的齒也碰斷了。
經過這場大戰，強大的前秦大喪元氣。苻堅逃到洛陽，收拾殘兵敗將，只剩下十幾萬。但是慕容垂的兵力卻絲毫沒受到損失。不出王猛所料，鮮卑族的慕容垂和羌族的姚萇終於背叛了前秦，各自建立了新的國家──後燕和後秦，苻堅本人也被姚萇殺了。
