哈尔滨工程大学水声工程学院源于1953年哈军工声呐专业，是我国水声行业科学研究和人才培养的发源地，是国家“优势学科创新平台”建设项目的核心单位，是我国“三海一核”(船舶工业、海军装备、海洋工程、核能应用)领域重要的人才培养和科学研究基地。拥有国家最早的水声工程国家重点学科、最早的博士点和博士后科研流动站，第一批国家级重点实验室，第一个水声工程院士，有“五星级学院”之美誉。

水声工程学科是围绕各种海洋声学设备的设计的需求开展对海洋中声波的产生、传播、接收及信息处理等方面的机理、规律和方法的研究，以不断满足海洋科学研究、海洋资源勘探与开发、海军作战等对水下远距离、大范围的海洋环境参数监测与观测，水下目标探测与定位，水下航行器的定位与导航，水下数据传输与通信等方面日益增长的需求。哈尔滨工程大学水声工程学科自1954年创立以来60多年间，通过几代人的不懈努力，总体水平不断提升，在水下定位、水声换能器、声隐身、水声探测、水声传播、水声通信等多个领域和方向上的研究代表了我国基础研究和应用基础研究的最高水平。1987年水声工程学科评为第一批国家重点学科，2001年又免答辩再次被确定为国家重点学科，2007年再次被确定为国家重点学科。在水声工程优势学科的带动下，学院还在电声、超声、环境声等多个专业方向开展了大量的科研和教学工作。

水声工程实验教学中心的发展同步于水声工程学科的发展，起源于哈军工初期(1954年)就在原苏联专家帮助下建立的声呐专业换能器测试实验室，并从苏联海军基地接收了一批声呐器材提供实验教学使用；1997年水声技术国防科技重点实验室的建成和投入运行，为实验教学中心发展搭建了一个更高的平台；为了更好地发挥水声工程学科优势对人才培养的支撑作用，2007年，学院对科研实验室和专业基础实验室进行整合，成立了水声工程实验教学中心；2010年，建立了水声技术创新中心；2012年，和山东共达电声股份有限公司联合建立了电声实验室；同年，依托水声技术国防科技重点实验室，结合国家和社会对水声工程专业人才培养的新要求，在学校的支持下，水声工程学院对水声工程实验教学中心重新规划，下辖声学实验教学基地、电学实验教学基地和水声工程创新实验室三部分，共计八个实验室。