宋代，大運河的作用發揮得更加明顯，宋代出名的詞人幾乎都與大運河有密切的聯繫。范仲淹既是詩詞名家又是政治家與水利家，他曾在運鹽河畔的揚州府海陵縣(今鹽城東臺境內)築捍海堰，帶領民衆抗洪水，又曾在蘇州治水。他爲好友滕子京所作的《岳陽樓記》因名句“先天下之憂而憂，後天下之樂而樂。”而傳頌千古，被歷代廉吏奉爲圭臬。
歐陽修與蘇軾這師徒倆都曾在運河城市揚州做文章太守，留下了平山堂與谷林堂的佳話。而蘇軾與秦觀、孫覺、蘇轍、黃庭堅、張耒、晁補之等“七賢”在運河之畔的邵伯鬥野亭作詩，使鬥野亭成爲文壇聖地。目前，鬥野園內集蘇(軾)、黃(庭堅)、米(芾)、蔡(襄)宋代四大書法家字跡的“七賢”詩鐫刻在碑壁上。
蘇軾曾寫過一首關於大運河的詩《自河北放舟歸江南》:“曉來銅雀東風起，春風凌亂漳河水。郎官驚起解歸舟，一日風帆可千里。侵晨鼓舵發臨清，薄暮乘流下濟寧。南宮先生先我去，花時想達瓜洲步。尋君何處典春衫，杏花煙雨大江南。”這首詩與他先後在運河畔的徐州、揚州、常州、杭州等地爲官有密切的關係。
秦少游這位運河之子就出生在古邗溝旁，他曾號稱邗溝處士。他在家鄉的運河邊留下了衆多的詩詞，同時他和老師蘇軾在大運河沿線城市遊歷，留下了許多美麗詩詞和運河佳話。蘇軾曾到高郵看望秦少游，他們二人與孫覺、王鞏會集於東嶽廟附近，飲酒論文。後人就建了文遊臺而紀念這次四名士的雅聚。
唐宋八大家的另一位代表王安石仕途的起點就在揚州，任淮南節度使通判時，他曾與當時的太守韓琦等一起留下了“四相簪花”的故事。曾做過揚州司理參軍的北宋科學家沈括，將這個故事記載在他的《夢溪筆談·補筆談》中，後來，“揚州八怪”之一的黃慎還曾以此爲主題繪製了一幅《四相簪花圖》條軸和一幅《金帶圍圖》扇面，可見這故事的影響之久遠。今天，揚州將芍藥花作爲市花。此外，王安石在運河入江口瓜洲寫下的《泊船瓜洲》和在浙江鄞縣知縣任滿回江西臨川故里時，途經杭州，寫下的《登飛來峯》都成爲千古傳頌的名詩。
而奉旨填詞的婉約派詞人柳三變也長期在運河沿線遊歷，柳永的詞展現了一幅大運河畔的都市風情畫，以至於有水井的地方就詠柳詞。宋代詞人湯式一首《憶維揚》，以“天上人間”比喻揚州，描繪了當時揚州的繁盛與運河的氣派。
