“闻鸡起舞”、“中流击楫”，是中国人耳熟能详的典故。但真正了解这两个典故主人公祖逖事迹者，则不会太多。
西晋末年，大族擅权，豪强肆虐，民不聊生，表面上的繁荣已经掩盖不住日益加深的社会危机了。西晋惠帝时（291—306年），汝南王亮、楚王玮、赵王伦、齐王冏、长沙王乂、成都王颖、河间王颙、东海王越等八个诸侯王之间，为争夺中央最高权力，发生了一连串的相互残杀和战争，历时16年之久。西晋皇族中参与这场动乱的王不只八个，但八王为主要参与者，且《晋书》将这八王汇编为一列传，故历史上称为“八王之乱”。这场动乱从宫廷内权力斗争开始，而后引发战争，祸及社会，造成了较大的破坏，也加剧了西晋的统治危机，成为西晋迅速灭亡的重要因素，之后的中国进入五胡十六国时期。
“八王之乱”的最终结局是东海王司马越夺取大权，他毒死了惠帝，另立惠帝的弟弟豫章王司马炽为帝，是为晋怀帝，改年号为永嘉。
311年，晋怀帝与荀晞密谋杀害司马越，并且发出诏书讨伐。司马越在这年3月病死在军中。而司马越的军队在护送司马越的灵柩回到东海封国时，与匈奴石勒的军队于苦县作战大败，十万人全被歼灭，西晋的最后一支可用兵力也被消灭，已再无可战之兵。
很快，匈奴大军攻陷洛阳，晋怀帝被俘虏，中原地区顿时大乱，史称永嘉之祸。北方人民纷纷逃亡到南方避难，祖逖也被迫带着亲族宗党几百家南下淮泗（今江苏徐淮地区）。一路上大家风餐露宿，历尽艰辛，祖逖主动把车马让给老弱和病人，又把粮食、衣物和药品分给别人。他和大家同甘共苦。大家对他敬佩有加，一致推举他担任流人队伍的“行主”。
在南下的过程中，祖逖目睹了老百姓的惨壮。南下江南后祖逖多次向江南的实际领导司马睿建议北伐，满足于偏安一隅的司马睿对祖逖敷衍了事，就任命其为徐州刺史，军咨祭酒，移居京口（今江苏镇江）。当时的徐州已经沦落到了匈奴人手中，祖逖的徐州刺史实际上就是个虚职罢了，其实就是个光杆司令。
不过，倔强的祖逖还是不断的向司马睿上书请战，力请北伐。祖逖的要求，代表了人民的愿望，但却不是司马睿的选项。司马睿自移镇建邺，为拼凑江南小朝廷而不遗余力，他和拥戴他的门阀士族都无意北伐。从司马睿来说，虽然国土沦丧，他仍不失为偏安之主；如果北伐成功，这皇帝的宝座还不知究竟属谁呢？但面对祖逖大义凛然的请求，他又不愿落下阻止北伐的恶名，于是，便消极对待此事。为了敷衍天下人耳目，司马睿乃任命祖逖为奋威将军、豫州刺史、前锋都督出师北伐，只拨给他一千人的粮食与三千匹布，不给铠甲兵器，而不给一兵一卒，让他自募士众，自制刀枪。
于是，祖逖便带着辎重和自愿跟随他南下的几百人一起北上。
祖逖率部到达江北的淮阴后，一方面派人冶铸兵器，一方面派人招募流民。祖逖面临的对手不仅是割据冀、豫一带，拥兵十多万的羯族首领石勒，河南地区还盘踞着为数众多的汉族地主豪强武装，即所谓“坞主”。这些坞主修筑坞堡，自称刺史、太守，称霸一方，依违于晋、赵之间，情况非常复杂。他们可能成为北伐军的盟友，也可能成为北伐军的敌人。这种形势决定祖逖北伐的道路是一条充满了艰难险阻的道路。
不久之后，祖逖新组建的北伐部队就达到了两千多人，随后祖逖率部行进到屯雍丘（今河南杞县）。当时在河南地区，匈奴汉只是名义上的统治者，其实在各个地区的坞主都是拥有自己独立的武装力量。这些人没有统一起来打匈奴，反倒是经常的互相攻击，经常在汉与晋之间做墙头草，哪边势力强就依违于哪边。
祖逖得知情况后，派人和这些钨主进行谈判，表示愿意联合共同防石勒。一些小的坞主迫于石勒的威胁，不得不送其子弟到襄国为人质，祖逖十分理解他们的处境，任由这些小坞主既服从石勒，又服从自己。这些坞主对祖逖十分感激，石勒军有什么军事行动，都提前告知祖逖，因此祖逖的部队经常打胜仗，其声望越来越高。
石勒统治范围内的很多汉人将领纷纷向祖逖归附，而留在北方仍然效忠于晋室的将领李矩、郭默、上官巳、赵固等人也表示愿意听从祖逖的指挥，共同打击石勒。祖逖的声势顿时大振！在此后的一段时间，由于要为北渡黄河作准备，祖逖下令严整军纪；自奉俭约，不畜资产，劝督农桑，发展生产，深得百姓爱戴。
祖逖自身生活俭朴，不畜私产，其子弟与战士一样参加耕耘、背柴负薪。他还收葬枯骨，加以祭奠。因此，北伐军得到河南地区人民群众的拥护和爱戴。一次，祖逖摆下酒宴，招待当地的父老兄弟，一些老人流着眼泪说：“吾等老矣！更得父母，死将何恨”！乃在座上歌曰：“幸哉遗黎免俘虏，三辰既朗遇慈父。玄酒忘劳甘瓠脯，何以咏恩歌且舞”。
石勒不敢和祖逖纠缠。于是石勒派人修葺了祖逖的祖宗陵寝，同时还派遣使者向祖逖请求互市。祖逖虽然没有直接答应，但他也没有拒绝，对双方通商贸易睁一只眼闭一只眼。这一举措，使豫州的税收都达到了田赋的十倍。史称，“听互市，收利十倍，于是公私丰赡，士马日滋”。
其时匈奴刘耀与羯族石勒互相攻击，时机对晋朝很有利，但东晋内部迭起纠纷，对祖逖不支持，反而派都督戴渊相牵制。他因朝廷内明争暗斗国事日非而忧愤终日。321年，祖逖病死在雍丘（今河南杞县），终年五十六岁。
据史书记载，中原老百姓听到祖逖病逝的消息后，如丧考妣，万分悲痛，许多地方的民众为他建了纪念祠堂，表示了对这位北伐英雄的尊敬。宋人胡曾有首咏史诗，表达了对祖逖病亡的历史遗憾：“策马行行到豫州，祖生寂寞水空流。当时更有三年寿，石勒寻为阶下囚”。
