黃山，主體成分及岩石性質爲花崗岩，而花崗岩爲玄武岩的一種，大約幾千幾百萬年前，黃山一帶爲古特提斯海的一部分，那時還沒有中國大陸南部地區，後又經印度板塊向北漂移，擠壓亞洲板塊，地形擡升，海水退去，又經百萬年風化和日曬雨淋，黃山才形成今天的形態與狀況。
黃山的成因應該是巨大的地殼運動和火山噴發形成的吧！
傳說從距今約8億年的震旦紀開始，海水繞過晉寧運動中形成的江南古陸，從東南方向進入黃山地區，黃山這是黃山地區在地質歷史上首次露出海面。
在經歷了5000萬年的相對穩定後，到了石炭紀，柳江運動又引海水捲土重來，黃山地區又重新沉入海平面以下。地質專家曾在黃山腳下譚家橋等地發現三葉蟲化石，證明黃山地區4億年前確爲海洋。
在距今2億年前的三疊紀末期，最終結束了黃山地區漫長的海侵歷史和海相沉積，從而進入了陸相地史發展的新階段。進入侏羅紀以後，影響遍及我國的燕山運動，以強烈頻繁的活動，不斷地改造、雕塑着黃山地殼的地貌。
黃山經歷了造山運動和地殼擡升，以及冰川和自然風化作用，才形成其峯林結構。山體主要由燕山期花崗岩構成，垂直節理髮育，侵蝕切割強烈，斷裂和裂隙交錯，長期受水溶蝕，形成花崗岩洞穴與孔道。
