宋代以前，全县曾分为15个乡。明代全县编为37里，明洪武十年（1377）五月至洪武十三年（1380）十一月定陶县并入成武县。清代划分为24社23集。中华民国时期，全县分为5个区。中华人民共和国建立初期，全县分为8个区，1958年，撤区设1镇16乡（1958年11月底至1961年定陶县的陈集、马楼、杜堂、城关、黄店、冉堌、王店、马集8个公社曾并入成武县）。后将乡镇改建为10处人民公社，1979年，增至18处人民公社，1984年，政社分开，改为19处乡镇：成武镇、大田集镇、汶上集镇、天宫庙镇、南鲁集乡、伯乐集乡、苟村集乡、孙寺乡、郜鼎集乡、白浮图乡、张楼乡、孙庙乡、宝峰乡、桃花寺乡、九女集乡、党集乡、康集乡、智楼乡、徐庄乡。1988年，撤销徐庄乡，归属汶上集镇。1996—1998年，南鲁集乡、苟村集乡、白浮图乡、伯乐集乡、孙寺乡分别撤乡建镇。全县计有成武、大田集、汶上集、天宫庙、苟村集、南鲁集、白浮图、伯乐集、孙寺9个镇，郜鼎集、张楼、孙庙、宝峰、桃花寺、九女集、党集、康集、智楼9个乡。