夏朝禹分九州時，山東屬于青州。清朝初設置山東省，“山東”才成為本省的專名。1949年8月，華北人民政府通令，山東部分地區劃出，與河南、河北的部分地區成立平原省。新中國成立后，今山東的菏澤、聊城等地區劃歸平原省管轄；1952年撤銷平原省，菏澤、聊城、湖西3專區劃歸山東省。

截至2023年12月31日，山東省下轄16個地級市，共有58個市轄區、26個縣級市、52個縣，合計136個縣級區劃。共有693個街道、1072個鎮、57個鄉，合計1822個鄉級區劃。

地級市：濟南市、青島市、淄博市、棗莊市、東營市、煙臺市、濰坊市、濟寧市、泰安市、威海市、日照市、臨沂市、德州市、聊城市、濱州市、菏澤市。

山東省縣級以上行政區劃變更情況：

一、山東省煙臺市部分行政區劃調整

撤銷蓬萊市、長島縣，設立煙臺市蓬萊區，以原蓬萊市、長島縣的行政區域為蓬萊區的行政區域，蓬萊區人民政府駐登州街道鐘樓東路1號。（2020年）

二、山東省聊城市部分行政區劃調整

撤銷茌平縣，設立聊城市茌平區，以原茌平縣的行政區域為茌平區的行政區域，茌平區人民政府駐振興街道中心街5226號。（2019年）