公元1910年由三重宝海法师创建，主祀千手观音，因加入日本临济宗妙心寺派称「临济宗妙心寺派观音山凌云禅寺」。当时与月眉山灵泉寺派、大湖法云寺派、大冈山超峰寺派并称日治时代佛教4大门派。
整体建筑中西合璧，倚山而建，尤其寺后火山地形景观独具特色，山形有如大鹏展翅之势，倚着绝壁，极为壮观。
寺前群峰环绕，风光秀丽，景致极佳；寺旁老树枝繁叶茂，配合周边摆设之石雕佛像及石桌椅，更显古意盎然，且虫鸣鸟叫不绝于耳，为最佳避暑胜地，天气好的时候，还能在此看见大冠鹫的芳踪。

紧邻开山院的楞严阁，是凌云禅寺为提供信徒禅修的地方，「楞严」两字乃出自于佛教经典中的《楞严经》（《金刚经》），这个地方则是供寺中小沙弥们安心静修、潜习佛法之境，同时也兼作招待宾客、信众的场所。
其由第二代住持本圆法师于公元1926年兴建，建材采观音山石砌成二层石屋，建筑的形式融合了中西合并的多种不同风格，骑楼廊道呈现出的是北台湾的地方色彩，石柱的柱头则是带着典雅巴洛克造型的风味，屋顶的三角顶立面，呈现出的是强烈的印度佛教风格，加上院内老树林立，更彰显出建筑的厚实与典雅。