建筑工地上的焊工需要取得以下证件才能合格上岗：

焊工特种作业操作证：

也称为“IC卡”，由应急管理局（原安监局）颁发，是从事焊接作业人员必须持有的上岗证书。

建筑焊工证：

适用于建筑工地施工现场使用，由建设厅或人社部门颁发。

特种设备焊接证：

也称“压力容器焊工证”，由质监局颁发，证明持证人具备焊接压力容器的能力。

焊工特种设备安全管理和作业人员证：

由质监局颁发，四年一审。

焊工职业资格等级证：

由人社部颁发，可申领技能补贴，一般可作为劳动者技能等级证明。

这些证书通常需要经过相应的培训和考试，并且需要定期进行复审和更新。