山谷地勢較低，在高山上的降水透過地表徑流和地下徑流流入山谷，在山谷就會形成徑流，而山谷處的岩石往往比較堅硬，在流水的衝擊下日積月累就會形成河道，再有小的徑流匯入，河流就產生了.像長江三峽這樣的山谷，還是由於河流的衝擊作用形成的呢，也就是說，山谷和河流兩者的形成是一個互相促進的過程.
形成山谷的不一定是斷層，也有可能是褶皺，不管是哪種地質構造，從地形來講，山谷中間地勢低，容易集水，山頂積雪融水、高山永久性積雪或冰川融水、大氣降水等各種形式的水容易在山谷中彙集此外，山谷的潛水位離地層近，在缺少大氣降水時可以透過地下水進行補給，從而形成河流。相反，山嶺是分水嶺，不容易彙集水源。
山谷是兩座山脈之間的狹長谷地，一般是某個區域內的海拔最低的地方，所以山谷成爲集水線（與之對應的是分水線，即山脊），因而在降水量比較多的地方容易發育成河流。
