商代中期，郑州曾为都城，城址在今商城。郑州也是夏、商、管、郑、韩时的都城。

北宋建都汴京后，郑州属京畿路（今开封市），崇宁四年（公元1105年），建为西辅，成为宋代四辅郡之一。金代，隶南京路（今开封市）。

金贞祐四年（1216），管城更名故市，后复名管城县。清雍正二年（1724）郑州升为直隶州，隶河南省。明初，郑州划归开封府。