合肥在新石器時代，就有人類在此活動。唐高祖武德三年（620年），改廬江郡為廬州，治合肥。清朝順治二年（1645年），改南京直隸為江南省，合肥縣屬江南省廬州府，為府治。民國元年（1912年），廬州府廢，合肥縣直屬安徽省。民國十七年（1928年），廢道，合肥縣直屬安徽省。1949年1月21日，合肥縣和平解放，同年2月，合肥設市。

截至2023年12月31日，合肥下轄4個市轄區、1個縣級市、4個縣，分別為蜀山區、瑤海區、廬陽區、包河區、巢湖市、長豐縣、肥東縣、肥西縣、廬江縣。

合肥市縣級以下行政區劃變更情況：

撤鄉設鎮：撤銷高店鄉，新設高店鎮，現區劃代碼：340123111（2022年調整）

撤鄉設鎮：撤銷嚴店鄉，新設嚴店鎮，現區劃代碼：340123112（2022年調整）