五代时期，郑州辖管城、新郑、荥阳等7县，后梁时将阳武划归开封府，后晋时将中牟划归开封府。管城作为郑州地区的政治中心，至唐代开元年（713-741年）以后，达到了经济鼎盛时期。

北宋时期，郑州属京畿路。皇祐五年（1038年）京畿路所辖的曹州、陈州、许州、郑州、滑州被定为辅郡。熙宁五年（1072年），宋朝废郑州建制，“以管城、新郑隶开封府，省荥阳、荥泽县为镇入管城”。元丰八年（1085年）又复置郑州，下辖管城、新郑、荥阳、荥泽、原武5县。崇宁四年（1105年），改开封府为京畿路，并于京畿四面置四辅郡，郑州为西辅，此后，郑州作为宋代四辅郡之一，处于重要的地位，“西辅”也一度成为郑州的别称。靖康二年（1127年），北宋灭亡，金国占据中原，郑州所辖的新郑县被划入钧州，孟州汜水县划入郑州，郑州隶属南京路。

元初将新郑县划归郑州，郑州属汴梁路。至元二年（1265年），新郑、密县改属钧州，荥泽、原武划归开封府。郑州仅领管城、荥阳、汜水、河阴4县。

明朝，对全国地方建置进行改革，实行省、府（直隶州）、县三级制，管城县裁入郑州。时郑州虽仍领有荥阳、荥泽、河阴、汜水四县，但却是作为属州（县级）。同中牟、新郑、密县同隶属于开封府。

清承明制实行省、府（直隶州）、县三制，郑州在清代曾两次升为直隶州。第一次是在雍正二年（1724年）升为直隶州，直接隶属于河南省，雍正十二年（1734年）仍隶于开封府。第 二次是在光绪二十九年（1903年）升为直隶州，直到1913年改州为县。宣统三年（1911年），辛亥革命后，河南省行政区划分为4道、9府、1直隶厅、5直隶州、5散州和106县。郑州直隶州归属于开归陈许道。