从台东市最繁华的中华路转入中正路，在路的尽头，离海不远的地方，矗立着台东最古老且远近驰名的海山寺，全寺面积约有一甲，寺内环境幽美，建筑气派辉弘，俨然成为东台湾的佛教重镇。

海山寺原名为观音祠，因其朝山傍海改名为「海山寺」，大雄宝殿高72公尺、面积高达100坪，气势相当庄严，主祀三尊佛像以及三尊菩萨，其中的三尊大佛－释迦牟尼佛、阿弥佗佛和药师佛，是从日本殖民统治台湾时期留传下来，是相当珍贵的历史文物，旁祀的伽蓝菩萨、韦驮菩萨、地藏王菩萨也年代久远，使得海山寺成为台东市的当地佛教祭祀中心。

 
大雄宝殿的左侧是一栋4层楼的建筑，内部设置斋堂、讲堂、驻寺法师起居室；而在大雄宝殿的右侧则是公益组织海山寺护法委员会、悲愿妇女会、普贤行愿会办公室及图书馆；大雄宝殿后方有一栋高为三层楼的弥陀殿，是安置信徒遗骨的地方，在两殿之间设有一个花园，树木、花草、流水等庭园设施相当丰富。