1958年4月，为促进海军海洋及航海科学技术工作的发展，海军部队组 建了海洋航海科学技术研究所，即国家海洋局第一海洋研究所前身。

1964年12月，划归海洋局建制，更名为国家海洋局第一海洋研究所，并从1965年1月1日起由国家海洋局实施全面领导。

1965年11月，国家海洋局批准海洋一所由天津塘沽搬往青岛市山东海洋学院内，搬青岛市后，院、所合一，由山东海洋学院实施全面领导。

1967年5月，国家海洋局党委转发海军指示，海洋一所党政工作由国家海洋局和北海舰队实行双重领导，脱离海洋学院领导。

1987年4月，国务院学位委员会批准研究所为海洋生物学硕士学位授予点。

1993年11月，海洋一所“青岛海洋工程勘探设计和环境开发中心”成立。