马鞍山，市名来源于历史，相传楚汉战争时，楚霸王项羽被困垓下，四面楚歌，败退至和县乌江，请渔人将心爱的坐骑乌骓马渡至对岸，后自觉无颜见江东父老，自刎而亡。

乌骓马思念主人，翻滚自戕（qiāng），马鞍落地化为一山，马鞍山由此而得名。在马鞍山市现有的地方史料中，最早有马鞍山山名记载的是明代《太平府志·舆地志》：马鞍山在府城西北慈湖港口。旧有神祠，赤乌二年所建。马鞍山历史悠久，早在六朝时期（六朝(222–589年)，一般是指中国历史上三国至隋朝的南方的六个朝代。即孙吴(或称东吴、三国吴)、东晋、南朝宋(或称刘宋)、南朝齐(或称萧齐)、南朝梁、南朝陈这六个朝代。），许多名公巨卿、贤达雅士就流连驻足于此，留下众多古迹和文化遗存，其中最为有名的还属采石矶风景名胜区。

马鞍山以前就是一个村庄金家庄。