魯山大佛這裏原是唐朝的佛泉寺，年久失修，已經破敗不堪。相傳貞觀初年，李世民夜做一夢：夢見佛祖站在中州之玉枕山上，下爲娑婆湯池（湯池意爲：地下涌出的溫泉）向衆生遍灑甘露。李世民爲之一震，知是佛祖點化，遂依境畫形，命臣子到中原大地去尋覓。
自魯山縣過下湯進中湯而尋自上湯（上湯亦稱亂湯，意指地下溫泉處處奔涌，縱橫交錯而無固定的走勢。），臣子們見玉枕山巒與圖形相爲吻合不禁喜出望外。此山的河南邊有多處溫泉噴發，水質極好，溫度適宜，能治百病，利於衆生的健康。河北面則見山勢軒昂，紫氣沖天，即于山前的最佳處建成了“佛泉寺”，了卻了唐太宗的一樁心願。彼時唐太宗正勵精圖治，開創“貞觀之治”。
當初在選擇建造大佛時候，在河南境內也是尋遍了許多名山大川，這個地方也是來來去去好多次，最後還是選擇在這裏建造。因爲當時檢視選址的釋延佛大和尚感覺：這個玉枕山龍脈，源自伏牛山之石人山，奔騰止此，遂形成玉枕，然後開帳，個字中出，形成此勢。觀之可見，青龍蜿蜒雄居於左，白虎頻顧蟄伏於右，於盡頭處則形成犀牛望月之局。寺前大河迴環，嘎然成湖面前羣山連綿，萬蓮竟開，形成雲水大案之天然屏障。四周羅帳周密，八風不透，山上經年祥雲繚繞，紫氣氤氳升騰。所謂：靈光源自天簌，根基接通須彌。誠爲世間稀有之佛國寶地也！
