公元1910年由三重宝海法师创建,主祀千手观音,因加入日本临济宗妙心寺派称「临济宗妙心寺派观音山凌云禅寺」。当时与月眉山灵泉寺派、大湖法云寺派、大冈山超峰寺派并称日治时代佛教4大门派。
整体建筑中西合璧,倚山而建,尤其寺后火山地形景观独具特色,山形有如大鹏展翅之势,倚着绝壁,极为壮观。
寺前群峰环绕,风光秀丽,景致极佳;寺旁老树枝繁叶茂,配合周边摆设之石雕佛像及石桌椅,更显古意盎然,且虫鸣鸟叫不绝于耳,为最佳避暑胜地,天气好的时候,还能在此看见大冠鹫的芳踪。
紧邻开山院的楞严阁,是凌云禅寺为提供信徒禅修的地方,「楞严」两字乃出自于佛教经典中的《楞严经》(《金刚经》),这个地方则是供寺中小沙弥们安心静修、潜习佛法之境,同时也兼作招待宾客、信众的场所。
其由第二代住持本圆法师于公元1926年兴建,建材采观音山石砌成二层石屋,建筑的形式融合了中西合并的多种不同风格,骑楼廊道呈现出的是北台湾的地方色彩,石柱的柱头则是带着典雅巴洛克造型的风味,屋顶的三角顶立面,呈现出的是强烈的印度佛教风格,加上院内老树林立,更彰显出建筑的厚实与典雅。