因南宋名将刘琦大败金兀术，在此划界为沟而得名。

抗战时期，界首由于交通闭塞，未受日军侵犯，上海、南京等城市商人纷纷迁往界首，一度人口剧增，商贾云集，贸易兴旺，故有“小上海”之美誉。界首是县级市，所属地区为安徽阜阳市，所以叫阜阳界首市。