谈少林寺的历史要先从登封的历史沿革说起，少林寺在登封境内，登封最初属于阳城（现登封市的告成镇）。

历史上的登封长期隶属洛阳管辖，汉武帝刘彻游嵩山，为了祭祀正式设立崇高县专司祭祀嵩山之责，隋代改为嵩阳县，属河南郡（郡所洛阳）。公元696年，武则天登嵩山、封中岳，以示大功告成，改嵩阳县为登封县，改阳城县为告成县，俱属河南郡。五代属汴州，宋代属河南府（府治洛阳），金代将两县合并为登封县，属金昌府（府治洛阳）。元明清三朝均属河南府（府治洛阳），民国期间隶属洛阳，1913年属豫西道(次年豫西道改称河洛道)，1927年直属河南省。

1932年属第十行政督察区。郑州解放后，1949年属郑州专区，1955年改属开封专区。

1958年12月，划归郑州市管辖。

1961年12月，复归开封地区。

1983年8月改属郑州市。

1994年4月，撤销登封县，设立登封市，所以少林寺也就随着登封经历了变迁，划给了郑州。但在历史上登封及少林寺绝大多数时间属于洛阳。

少林寺是属于登封的境内，但是登封原来就是属于洛阳市的，毕竟洛阳是属于古都，在郑州没有成为省会之前，洛阳和开封的名气都是要大于郑州的，而洛阳也是全河南省的经济中心，但是由于郑州被划成了省会城市之后，郑州就吸纳各地的资源，所以就把登封划入了郑州的管辖之内，而少林寺也理所应当归了郑州管辖。