1980 年2月，十一屆五中全會以前，中央常委經過多次討論，一致認為應把國務院總理的職務進行調整。決定補選胡耀邦、趙紫陽為政治局常委，同意華國鋒辭去國務院總理兼職，而由趙紫陽接任。 1980年9月，五屆人大三次會議接受了中共中央的提議，解除了華國鋒的總理兼職。從權力配置上看，中共中央主席和國務院總理這樣重要的職位由一個人兼任並不合適，這一變動，即使是在華國鋒沒有錯誤的情況下，也應屬正常調整。在這一事關重要的總理人事變動同時，鄧小平宣布他和李先念、陳雲、徐向前、王震、王任重等人亦不再兼任副總理職務。而另一位副總理陳永貴也提出瞭解職的請求。
1980 年11月19日，在中央政治局會議上，胡耀邦發言說:國鋒同志是1938年參加工作的，也應該說是一個老同志了。國鋒同志也是一級一級上來的，40多年來，國鋒同志也是積累了相當豐富的工作經驗，也有一定的水平，我看也是應該肯定的。國鋒同志在粉碎"四人幫"這個問題上，確實是做出了很大貢獻的。這是歷史事實。粉碎"四人幫"後，全黨、全國人民，包括老同志，確實是真心誠意擁護國鋒同志的。但是，我覺得，國鋒同志沒有正確對待一個黨員對黨和人民應該做出的貢獻。
胡耀邦在談到華國鋒同黨同人民的關係擺得很不正確的時候，將他的表現列舉了五條，即:
第一條，對個人在粉碎"四人幫"鬥爭中所起的作用的認識上，表現得很不正確。
第二，粉碎"四人幫"以後，撥亂反正一開始，或者叫一起步，國鋒同志就離開了當時全黨、全國人民的迫切願望。
第三條，在幹部方針上，脫離了全黨絕大多數同志的意志。
第四條，在對待毛澤東同志的問題上，確實採取了實用主義的態度。
第五條，在突出個人問題上，造成了十分有害的影響。此外，胡耀邦也談到了經濟問題，認為一個高指標，一個大轟大嗡，華國鋒也負有責任。
鑒於此，1980年11月19日，胡耀邦在政治局會議上指出:國鋒同志繼續當黨的主席、軍委主席，看來黨內多數同志是不會贊成的。因此，國鋒同志自己提出要辭去這兩個職務，我覺得好。這對黨、對華國鋒同志自己都有好處。
在 1980年的11月12日的中央政治局會議期間，許多人都建議鄧小平擔任中央主席兼中央軍委主席，鄧小平婉言謝絕。他認為，在60多歲人當中，胡耀邦政績顯著，所以力薦胡耀邦擔任中央主席並對胡耀邦說要"當仁不讓"。 1980年12月5日，是中央政治局會議的最後一天。華國鋒發言，表示歡迎對他的批評，並再次提出辭去現任職務。 1981年6月，在黨的十一屆六中全會上，華國鋒正式辭去中央主席和中央軍委主席的職務，但仍保持了中央副主席和中央常委的職位。1982年，中共十二大時，華國鋒保持了中央委員的席位，但沒有進入中央政治局。
1987年，中共十三大，華國鋒繼續被選為中央委員。黨的十四大、十五大，華國鋒繼續當選中央委員，至此他已是連任七屆中央委員。
鄧小平評論華國鋒時指出:"華國鋒只是一個過渡，說不上一代，就是‘兩個凡是'也是繼承了毛澤東晚年的治國方略。他本身沒有一個獨立的東西。"晚年的華國鋒，生活很有規律，心情很平靜。偶而外出轉一轉，有時過年過節也看看老領導、老戰友、老部下。
