靈山雖美，但靈山寺的名氣更大。位于靈山麓的靈山寺始建于唐朝，由唐明皇之女受命在此營建，建成后在此修行?；使霉屎?，被封為國廟。明朝開國皇帝朱元璋，貧困時在此受到寺僧的施舍，登上皇帝寶座后，朱元璋親往降香，敕封金碧峰禪師為主持僧，并親筆題定了“圣壽禪寺”4個大字。靈山寺與東南亞佛教往來甚密，在東南亞，尤其是在印度享有盛譽，印度總理赫魯訪華時提出拜謁靈山寺，因交通不便而未能成行。寺院分為三進，中院有一水井，其味甘美無比，為靈山泉之一竅，名為“圣井”。傳說這股山泉是從后殿佛祖座下噴出，經(jīng)中殿流入院內(nèi)而得名，列靈山入景之冠，名為“圣寺圣景”。寺內(nèi)西廂院有一株上粗下細的“倒栽柏”傳說為宋時寺內(nèi)主持和尚昊英所栽。昊英和尚是否得道無人知曉，但倒栽柏至今枝茂葉碧，無限生機。靈山寺僧源于北京西山，主持“鵝頭禪師”終日靜坐修行，頭發(fā)長久不剃，以后代代相傳，都不剃頭，許多佛門人稱他們?yōu)椤昂揞^僧”，靈山寺還是全國屈指可數(shù)的僧尼合一寺廟。農(nóng)歷三月一日是靈山寺的傳統(tǒng)廟會，逢會的數(shù)天之中，彎彎的山道上車水馬龍，游客絡(luò)繹不絕，高峰時期日逾數(shù)萬人。
靈山寺還是革命戰(zhàn)爭年代的歷史見證。1939年，李先念同志在此住，并在此主持了鄂豫皖邊界重要軍政會議，我軍不少高級將領(lǐng)都在這里留下了戰(zhàn)斗的足跡。