马衔山矗立在榆中与临洮之间，受万年风雨，经万世沧桑，它的名字也随历史风云不断演变。

马衔山，乍听其名，似有天马当空，呈衔山之势。《说文解字》云：“衔，从金，从行，表示横在马口中用来控制马行止的金属棒，即马嚼子”，后引申为“含在口里”，马衔山有天马衔山的雄壮的魄力。另有一解释，马衔为一海神名。《文选·木华·海赋》中曰：“若其负秽临深，虚誓愆祈，则有海童邀路，马衔当蹊。” 唐代著名学者李善对此注解为：“ 马衔 ，其状马首一角而龙形。”马衔山蜿蜒伸屈，婉若游龙。无论“马衔山”寓意取自于天马衔山还是海神游动，都与马有着千丝万缕的联系，然而在马衔山主峰之巅，确有两座巨石马，石马高大耸立，人称“大石马，小石马”，两马相距百米之远，各居山头，面向南方，盾立守望。两座石马虽不衔山，《金县志》对这两匹马有记载，“昔有野马数群，土人围之，马皆化石马，即大石马，小石马，山下有大马甲，小马甲二村庄，即其地欤，山下有泉” 马衔山初名，似乎与这两匹马有关。 此山最初并不叫“马衔山”，《狄道州志》云：“山顶俗名空头山，殆即古之空同也”，《汉书.武帝记》中：武帝元鼎五年（公元前211年），汉武帝“行幸雍，祠五畤，遂踰陇，登空同，西临祖历河而还” ，可见，此山在汉代应叫空同山。北魏郦道元《水经注》曰“天水北界，苑川水出勇士县之子城南山，东北流，历此成川”，南北朝时期，榆中曾被先后命名为“金城县、子城县”，据方位，出苑川水的地方应该是今天的马衔山，故而，这里的“子城南山”即就是今天的马衔山。唐代时，此山又名“薄寒山”。

1972年，在马衔山北支——兴隆山北坡的朱家湾村，出土的一座唐代的贵族墓葬，其墓志铭《故交河郡夫人慕容氏墓志序》中称，“夫人葬于薄寒山之北原”，“薄寒山之北原”就是今天的“朱家湾村”，这证实了“薄寒山”亦就是今天马衔山。

马衔山历史悠久，文化灿烂，留传有大石马、小石马、石棺材、金龙池等民间传说。据《榆中县志》记载：唐代《故交河郡夫人慕容氏墓志序》中称马衔山为“薄寒山”；宋、明称“马御山”；明太祖洪武二十五年，肃庄王朱楧将“马衔山”辟作避暑山庄；清代称“马寒山”，以“寒山积雪”列入榆中八景；民国年间改称“马衔山”，沿用至今。