五泉山因有甘露、掬月、摸子、惠、蒙五眼清澈甘美的泉水而得名。相传汉武帝元狩三年（公元前20年）霍去病征西，曾驻兵于此，士卒疲渴，霍去病手著马鞭，连击五下，鞭响泉涌，遂成五泉。