前身是牛首山。

东晋就拥有“天阙山”美名的牛首山，一直以来还是一座佛教名山。这也是它被称作“半部南京史”的一个原因。从南朝到唐代，牛首山上最鼎盛时修建了寺庙三十余座；唐代，有“东夏达摩”之称的法融和尚在牛首山创立了牛头禅宗，是印度禅真正中国化的开始。梁代高僧宝志和尚曾经对梁武帝说，文殊菩萨夏居五台、冬居牛首，牛首山是文殊菩萨的冬宫，所以牛首山是文殊菩萨的另一个道场。这也让牛首山成为佛教信徒朝圣之地。