历史上由于地震、火山喷发、海啸等自然灾变，一些位于水边的居址、港口、墓葬等沉没于水中；在一些古代航线下，还保存有大量古代沉船和文物。水下考古除发掘水下的古代遗址、打捞沉船和水下文物外，还研究古代造船术、航海术、海上交通和贸易等。工作中使用大量专门技术，以解决水下作业的难题。20世纪初已有水下考古调查，但直至第二次世界大战后，潜水技术和装配获得发展，水下考古学才得以建立。同时，水下考古学又是一门边缘学科，需要诸多相关学科的技术支持，如海洋勘探技术、潜水工程技术等等。

自19世纪中叶近代考古学发生以后，随着瑞士湖上居址的确认，并进行了水下古代遗迹的科学调查和发掘，标准着水下考古学的确立。潜入水下进行调查和发掘工作，成为考古学家的一个梦想，但在潜水技术发展起来前，这个梦想终难实现。到了1943年法国海军发明了水中呼吸器，人们在水下才有了较多的自由，获得了进行水下考古的基本条件。1960年美国考古学家乔治·巴斯（George Bass）应邀对土耳其格里多亚角（Cape Gelidonya）海域的公元7世纪拜占庭时期沉船遗址进行调查和发掘，由此开始了第一次的考古学家将考古方法应用于水下遗址的发掘和研究，开创性地在水下实践了考古学方法，是水下考古学发展史上的一个里程碑。