根據《尚書·禹貢》之劃分，鄭州在上古時代屬九州中的“豫州之域”。隋開皇三年（583年），實行州、縣二級制，并將滎州改名為鄭州，鄭州作為州一級行政區名稱，開始用指于今鄭州地區（549年，東魏孝靜帝將穎州改名鄭州，謂最早的鄭州）。北宋時期，鄭州屬京畿路。清承明制實行行省、府（直隸州）、縣三制，鄭州在清代曾兩次升為直隸州。1954年10月30日，河南省政府由開封遷往鄭州，鄭州市成為河南省省會。

截至2023年12月31日，鄭州市轄6個區（其中包括1個民族區）、5個縣級市、1個縣，分別為中原區、二七區、管城回族區、金水區、上街區、惠濟區、鞏義市、滎陽市、新密市、新鄭市、登封市、中牟縣。

鄭州市縣級以下行政區劃變更情況：

隸屬關系變更：大馬鄉隸屬新鄭市，原區劃代碼：410223203，現區劃代碼：410184204（2022年調整）

隸屬關系變更：崗李鄉隸屬新鄭市，原區劃代碼：410223204，現區劃代碼：410184205（2022年調整）

新設：金水源街道，現區劃代碼：410103016（2022年調整）