春秋时为柏子国，后为楚，战国时属韩国，称合伯。秦置柏亭，汉代分属汝南郡西平县、南阳郡舞阴县。北魏时为西舞阳，隋为北舞县。唐开元四年为舞阳县，后历代沿袭未变。

1970年，国家在马鞍山北麓、石漫滩水库北岸兴建舞阳特厚钢板厂，按冶金工业部原直属的下放项目归口建设，由河南省成立平舞工程会战指挥部，负责其全面领导。

1972年3月，成立河南省平舞工区市政建设处。1973年12月，成立河南省革命委员会舞阳工区办事处，划舞阳县南部6个公社为其辖区，属河南省革委会直辖，为独立行政区域。

1977年5月，河南省革委舞阳工区办事处撤销，划归平顶山市，同年11月，以当地最大的企业舞阳钢铁公司命名，称原平舞工区、舞钢区。

1979年10月，改属许昌地区。1982年10月，复归平顶山市。1990年9月，经国务院批准，撤销舞钢区，设立舞钢市。