在地质历史上，天山地槽形成于震旦纪晚期，经加里东运动，特别是华力西运动，地槽发生全面性回返，褶皱隆起形成古天山山地。

构成山地的主要岩石是古生代变质岩和火山碎屑岩及华力西期的侵入岩等。中生代至早第三纪末，古天山被剥蚀夷平成为准平原。晚第三纪，特别是上新世以后，准平原发生断块抬升，形成多级山地夷平面，后经冰川与流水交替作用，成为现代天山。是中国重要的地震带区。