清遠史前已有人類棲息繁衍。清遠先民爲古百越中的南越族。
清遠的瑤族、壯族，他們的祖先原爲古百越的一部分。地處粵西北的清遠同時也呈現鮮明的地方文化特色及獨特的民俗民風。秦統一六國平定嶺南後爲鞏固帝業，強制徵發大批中原人移民嶺南。
清遠爲中原進入嶺南的必經之路，古日孔道，故其中部分中原人流入清遠。此後，歷代均有避戰亂的中原移民徙居清遠，經過長期的同化與融合，形成了清遠漢民族的主體。秦朝清遠地屬南海郡，西漢武帝元鼎六年（前111年）設定中宿縣，爲清遠建制之始，南北朝時期（420~589年）朝代更替頻繁，郡縣時廢時興，沿襲複雜。樑承聖四年（555年）新設清遠郡，這是歷史上清遠行政級別最高的時期，轄中宿、威正、廉平、恩洽、浮護五縣，清遠之名由此而始。元朝至正二十二年（1362年），清遠主簿白太平主持修築土城以拒賊匪劫掠，這是歷史最早的清遠縣城。
至明朝洪武二十二年（1389年），清遠指揮使李英將清遠城加固，改爲磚城，置東西南北四大城門。元朝天順年間，官兵多次鎮壓
少數民族，激起更大的反抗，致瑤族人三次攻陷清遠城，此後清遠城歷代兵患不止。千百年來，清遠城幾經興廢，現古城遺址有兩處，一在清城，殘存城基另一在龍頭鎮的城國村。1988年1月7日經國務院批准設立清遠地級市。
