本次機構改革后不再保留的環境保護部，最早可追溯到1974年國務院環境保護領導小組的成立。據環保部主管的《環境教育》雜志報道，1972年聯合國在瑞典首都斯德哥爾摩召開第一次人類環境會議。當時，周恩來總理非常重視，派出了20 多人的代表團。自斯德哥爾摩會議之后，1973年8月，中國召開了第一次全國環境保護會議，會議產生了3項主要成果，一是作出了環境問題“現在就抓，為時不晚” 的結論；二是審議通過了“全面規劃、合理布局、綜合利用、化害為利、依靠群眾、大家動手、保護環境、造福人民” 的環境保護工作方針；三是會議審議通過了中國第一個環境保護文件《關于保護和改善環境的若干意見》。
會議之后，由當時國家計委牽頭，經李先念副總理和周恩來總理批準，1974 年10月25日，國務院環境保護領導小組正式成立。領導小組的主要職責是負責制定環境保護的方針、政策和規定，審定全國環保規劃，組織協調和督促檢查各地區、各部門的環保工作?！董h境教育》雜志稱，小組由計劃、工業、農業、交通、水利、衛生等有關部委領導人組成，這也給后來環保工作與其它部門職能重疊交叉，埋下了歷史伏筆。但自此環保行政正式成立。
從1982年到1988年這6年里，環保工作長期由城鄉建設部內設的環境保護局承擔。1982年5月，第5屆全國人大常委會第23次會議決定，將國家建委、國家城建總局、建工總局、國家測繪局、國務院環境保護領導小組辦公室合并，組建城鄉建設環境保護部，部內設環境保護局。1984年5月，國務院環境保護委員會成立。其任務是研究審定有關環境保護的方針、政策，提出規劃要求，領導和組織協調全國的環境保護工作。委員會主任由副總理兼任，辦事機構設在城鄉建設環境保護部（由環境保護局代行）。同年12月，城鄉建設環境保護部環境保護局改為國家環境保護局，仍歸城鄉建設環境保護部領導，同時也是國務院環境保護委員會的辦事機構，主要任務是負責全國環境保護的規劃、協調、監督和指導工作。
獨立的國家環境保護局（副部級）是在1988年成立的。1988年7月，環保工作從城鄉建設部分離出來，成立國家環保局，并被明確為國務院綜合管理環境保護的職能部門，作為國務院直屬機構，也是國務院環境保護委員會的辦事機構。1998年6月，國家環境保護局升格為國家環境保護總局（正部級），是國務院主管環境保護工作的直屬機構。撤銷國務院環境保護委員會。
2008年7月，國家環境保護總局在當時的國務院機構改革中，升格為環境保護部，成為國務院組成部門。據《環境教育》報道，十一屆全國政協人口資源環境委員會副主任，國家環?？偩衷本珠L、黨組成員，國家核安全局原局長王玉慶表示，升部后的職能調整是環保機構改革的重點。比如治水問題就涉及到環保、城建、農業等部門，升部后職能劃分將更加清晰。但也應看到，不管職能如何劃分，不管職能范圍有多大，總會存在與其他部委有交叉的地方，需要各部門的配合。
中國工程院院士魏復盛認為，總局升為部這個變化最重要的是，環保部擁有國務院參事議事的表決權，可以參加國家決策，這就使得中國對環境污染進行事后追懲之外，更多了一道對環境項目進行事前評估和預防的衙門。
十年后的2018年，新組建的生態環境部，將整合環保部，以及國家發改委、國土資源部、水利部、農業部、國家海洋局、國務院南水北調工程建設委員會辦公室等部委的相關職責。環境保護部這個國務院機構名稱，淡出歷史舞臺。