1924（大正13）年9月1日、郡山町は隣接する小原田村と合併、人口3万9,003人で市制施行した。その時の市庁舎は、燧田(ひうちだ)（駅前）にあったそれまでの町役場を使用、看板のみ「郡山市役所」と掲げた。翌25年、桑野村（現開成地区）とも合併し、人口4万2,984人となる。

　この頃第二次移庁運動が盛りあがり、また郡山西部耕地整理事業が完成、蜘蛛(くも)の巣状態の作場道は整然とした基盤の目の道路と変わり、赤木や虎丸周辺は住宅地となり、多くの人が移り住み、活気あふれる市の姿となった。昭和になると全国的に昭和恐慌の嵐が吹くが、郡山は県庁移庁の機運にあふれ、人口5万人を目指し、県内一の庁舎建築に取りかかり、1930（昭和5）年駅前から麓山に新市庁舎を新築移転（現合同庁舎）させた。この年の福島市の人口4万5,691人、若松市4万3,731人で、郡山市は県下一の人口を誇る都市になった。

　新市庁舎の総工事費3万1,800円、総2階建、一部塔屋部分が3階、4階（ここに1944（昭和19）年市立図書館が開館する）建、鉄筋コンクリート造、仕上げは花崗(かこう)石張り、漆喰塗(しっくいぬり)の白亜の殿堂となって完成。

　1945（昭和20）年の終戦後は、1953（昭和28）年町村合併促進法が公布、日本列島改造論がとびだすなか、昭和30年代は高度経済成長期となり、郡山は交通通信の発達と共に工場が集積、新産業都市構想に名乗りをあげる。そして1965（昭和40）年1市12町村が大合併をとげ、現在の市域を誇り、人口22万3,183人の仙台に次ぐ東北第2位を有する大郡山市となった。市域の拡大に伴い新庁舎の要望高く、1968（昭和43）年麓山から現在の朝日一丁目に新市庁舎が新築移転となった。

　市制施行70年となった1994（平成6）年、さらなる市民サービス向上を図るため、市庁舎の西隣りに分庁舎建設となる。分庁舎は総工事費68億円、地下1階地上8階建、2階部分で本庁舎との連絡通路がある。分庁舎は市民の身近な課がおかれ、待合室には証明書交付番号を知らせる電光掲示板が設置、7階には市議会議場がある。

　少子高齢化社会の到来となり、2009（平成21）年分庁舎隣りにニコニコこども館が開館。子育て支援の殿堂となっている。