五原這個古地名源于夏朝。相傳四千多年前天下洪水泛濫，大禹采取疏導(dǎo)之法，根治洪水，待水勢減退后，在高埠處首先出現(xiàn)了若干個丘狀原所，其中有五個較大的原所，人們在原所之上辟田、造屋、繁衍、生息、耕作。五原稱謂始而至此。

戰(zhàn)國以前，相傳唐虞、三代時期，五原地區(qū)是北方少數(shù)民族繁衍生息的場所之一。商朝時期河套地區(qū)為鬼方轄域。西周屬昆夷、熏粥、獫狁諸民族牧區(qū)。周赧王16年（前301年）趙武靈王置云中郡。九原是云中郡的一個屬縣，五原為九原的西部地區(qū)，自此，五原地域始有隸屬。為了鞏固新開拓的疆宇，公元前298年“趙武靈王命吏大夫奴遷于九原”并實行移民屯墾。

戰(zhàn)國末年，當(dāng)中原諸侯國互爭雄長，激烈交戰(zhàn)，無暇顧及北方地區(qū)之際，占據(jù)陰山南北一帶的匈奴族乘機南下，占領(lǐng)了河南地（“河”指黃河，當(dāng)時在陰山下，現(xiàn)在河套平原的北端。之后才逐漸移至現(xiàn)在位置）。

秦統(tǒng)一六國后，為了解除匈奴對秦王朝的威脅，始皇33年（前214年）派蒙恬將兵三十萬北擊匈奴，經(jīng)過兩年的爭戰(zhàn)，收復(fù)了“河南地”，迫使匈奴向北退卻七百余里。從此“胡人不敢南下牧馬，士人不敢彎弓而報怨”。為了加強邊境防御，秦“因河為塞，筑三十四縣城。”（又一說為四十四座縣城）。分天下為三十六郡，將九原升為九原郡，郡址設(shè)在五原。五原為九原郡之西部地。秦王朝還采取了修直道、筑長城、墾北假等相應(yīng)措施來鞏固北疆。公元前210年，始皇駕崩，趙高殺蒙恬，楚漢相爭，中原大亂，匈奴乘機復(fù)越長城，渡河南下，占據(jù)河套地區(qū)和陰山一帶，在冒頓單于的統(tǒng)馭下，匈奴的部落聯(lián)盟更加強大，它東滅東胡，南并樓煩、白羊、燕代，北并丁零、堅昆，往西擊走月氏，征服塔里木盆地西域諸國，雄居在兩漢王朝的北方，控制了整個蒙古草原。此時，河套是匈奴的主要活動地區(qū)。

西漢初期，經(jīng)過數(shù)十年的休養(yǎng)生息，到漢武帝時，為了徹底解除匈奴的威脅，派衛(wèi)青反擊匈奴，元朔二年（前127）收復(fù)了河南地。由于九原郡是匈奴南下的要沖，為了加強防御，將九原郡一分為二，東部地區(qū)改名五原郡，西部地區(qū)改稱朔方郡。五原郡治九原縣，領(lǐng)縣十六，即：九原、固陵、五原（此五原并非今五原，當(dāng)在包頭孟家梁故城西，《水經(jīng)注》載“九原縣西北接對一城，蓋五原縣之故城也”即今包頭孟家梁故城西郊哈德門故城）臨沃、文國、河陰、浦澤、南興、武都、宜梁、曼 柏、成 宜、禾固陽、莫黑旦、西安陽、河目。這些縣大部分設(shè)置在黃河河套東部兩岸的臺地上。朔方郡治朔方縣（在今西山咀黃河南岸伊盟杭錦旗北獨貴烏拉鄉(xiāng)境）領(lǐng)縣十，即朔方、修都、臨河、呼遒、渠搜、沃野、廣牧、臨戎、三封、窳渾。這些縣除三封、臨戎、窳渾在西套外，大都設(shè)置在鄂爾多斯北境的黃河兩岸，五原隸屬朔方郡臨河縣之東部地。漢宣帝后（前58年）匈奴內(nèi)部五單于爭立，并繼續(xù)南侵，襲擾陰山南北地區(qū)，呼韓邪單于戰(zhàn)敗后降漢，留居光祿塞下（今昆都侖后口子小召門梁故城），曾三次到長安朝見天子求婚，漢王室為保持邊塞久安，采取了和親政策，于元帝競寧元年（前33年）以宮女王嬙嫁單于，即歷史上名傳的昭君出塞。此后數(shù)十年間，使沿邊諸郡出現(xiàn)了偏安局面。西漢末年，王莽覆滅后，匈奴支持盧芳稱帝，占據(jù)了五原、朔方、云中、定襄、雁門五郡，建都于九原。由于長期爭戰(zhàn)，使北方“邊陲蕭條，靡有孑遺，障塞破壞，亭墜絕滅。”

東漢光武帝建武十六年（公元41）收復(fù)五原、朔方諸郡復(fù)置郡州。建武二十五年（公元49）匈奴內(nèi)爭，分為南北兩部，南單于附漢仍入居塞內(nèi)，活動于陰山南麓河套一帶，并于鄂爾多斯之美稷建南單于庭，命左賢王屯朔方。東漢末年，三國鼎立，隨著匈奴、鮮卑等的不斷南進，漢王朝無力顧及邊遠地區(qū)，于獻帝建安二十年（215）放棄了五原、朔方等沿邊諸郡，將百姓遷到山西，置新興郡以統(tǒng)轄之。從此，河套一帶為匈奴族牧地。

魏、晉、南北朝時期，活動在蒙古大草原整個北方民族，有匈奴、鮮卑、羯、氐、羌，名稱五胡，大多進入長城，移居黃河流域，他們彼此互相爭伐，河套地區(qū)先為前趙匈奴遺族劉虎、劉衛(wèi)辰所據(jù)。繼而由鮮卑族拓跋氏所占領(lǐng)，后趙又為羯族石虎所攻占，前秦氐族符堅得其地，后秦為羌族姚興部所轄領(lǐng)。東晉安帝義熙二年（407）匈奴族鐵弗劉武復(fù)進入河套、陜西一帶，建立夏國，后由赫連勃勃統(tǒng)領(lǐng)，建都統(tǒng)萬城（今伊克昭盟烏審旗南）。此后，鮮卑族拓跋部勢力日漸強大，從東北大興安嶺南遷大澤，向西進入河套地區(qū)，最后統(tǒng)一了北方各部落。天興元年（398）建立北魏王朝，北魏為了防御柔然民族的侵襲在塞北一帶建立七個軍事重鎮(zhèn)。河套地區(qū)為沃野鎮(zhèn)之轄境。北魏時，黃河南遷，故道改稱烏加河，至此，始有黃河后套之說。孝武帝永熙三年（534），北魏王朝復(fù)分為東魏、西魏，五原屬西魏轄境。他們統(tǒng)治的時間很短，很快就被北齊、北周所取代。北周宇文氏置銀、夏兩州，分領(lǐng)今河套鄂爾多斯全境，并于今巴彥淖爾市河套地區(qū)置永豐鎮(zhèn)（今臨河區(qū)境內(nèi)）。

公元581年，隋文帝纂周滅陳，統(tǒng)一宇內(nèi)，建立隋王朝，開皇三年，廢郡置州，五原屬豐州。州初不領(lǐng)縣，仍稱永豐鎮(zhèn)，至五年始廢鎮(zhèn)置永豐縣。六年又于州東南四十里置豐安鎮(zhèn)，五原隸屬之。隋煬帝大業(yè)三年（607）又改州為郡，五原屬五原郡（郡址在城南西土城故城），后因戰(zhàn)亂，近邊難守，未久即廢。

唐朝初年，突厥又復(fù)強盛，“控弦百萬”，五原為突厥所踞。唐貞觀四年（630）命將李靖、徐　　 分道北伐，逐突厥于潮海之北，唐王朝將全國分為十道，二百九十三府州，五原屬關(guān)內(nèi)道豐州所轄。唐中葉沿邊增設(shè)六都護府以治理邊疆各少數(shù)民族。貞觀二十一年（647），在今內(nèi)蒙古西部一帶改設(shè)燕然都護府，轄狼山羈糜府州二十七處，河套地區(qū)屬豐州都督府。高宗永徽年間（650），在河套地區(qū)置永豐、九原兩縣，后又增置豐安縣。武則天時期，突厥默啜可汗連年犯邊，景龍二年（708），張仁愿任朔方大總管，當(dāng)默啜可汗出兵新疆之機，乘虛奪取河南地，在黃河北岸修筑屯兵城堡，即東、中、西三受降城，以絕突厥南進之路。迨至唐中葉以后，五原為西受降城（今烏拉特中旗烏加河鎮(zhèn)北圐圙補隆古城）轄境。后改為定軍制，府州悉由節(jié)度兼領(lǐng)，五原隸屬于天德軍使節(jié)度兼安北都護府統(tǒng)領(lǐng)。唐末，黨項族拓跋部（羌族的一支），趁宋遼連年交戰(zhàn)之機，不斷擴張勢力，據(jù)有銀、夏、綏、宥、靜五州之地（今陜西西北部、寧夏東部及內(nèi)蒙古河套、伊克昭盟、阿拉善盟境域），成為五代時期西北一大強國。公元1038年，元昊稱帝，建立大夏（又稱西夏），定都興慶府（今寧夏銀川市）共傳十世，歷時194年。五代及宋、遼、金、夏時期，五原皆為西夏屬地。

自12世紀(jì)始，游牧在北方草原的蒙古族部落日趨強盛，鐵木真（成吉思汗）經(jīng)過十年征戰(zhàn)，于公元1227年滅夏，1260年成吉思汗的孫子忽必烈繼汗位，公元1271年正式定國號為元，定都燕京（今北京）。元代施行行省制，省下設(shè)路，路下設(shè)州，五原屬中書省大同路云內(nèi)州西部地。

明代270多年間，北方蒙古草原，兵連禍結(jié)，蒙古各封建領(lǐng)主之間，互爭雄長。明初，套內(nèi)則為元將擴廓鐵木兒（小字王保保）占領(lǐng)。洪武中期，王保保被逐，收其地。洪武末，置衛(wèi)所，巴彥淖爾市西部河套屬寧夏轄境隸陜西統(tǒng)領(lǐng)。明中葉以后，河套全境為元裔達延汗之子孫轄領(lǐng)。天順、弘治時為蒙古族阿羅出、毛里孩、滿都護等相互攻占之地。成化四年（1468），阿羅出為其黨　加思蘭所殺，并其眾屬，與滿都護結(jié)合居套內(nèi)。未幾，火篩部復(fù)入套地，號稱鄂爾多斯，服屬于察哈爾部，有子九人，分牧而居。河套東部則為俺答（阿拉坦汗）之部，名叫土默特。隆慶五年（1571），俺答議和，明朝封為順義王，萬歷中始改其所居庫庫忽洞為歸化城（即呼和浩特市舊城）。明末河套內(nèi)外悉為蒙古之游牧駐地。

公元1644年，滿族入關(guān)，推翻明朝統(tǒng)治，建立清王朝。太宗于天聰六年（1632）征服土默特部，歷崇德、順治至康熙三年（1664），清政府以戈壁為界，將塞北蒙疆先后劃定內(nèi)外蒙古牧地，內(nèi)蒙古設(shè)置二十五個部、六個盟、五十個旗，五原屬鄂爾多斯部伊克昭盟左翼后旗（亦稱達拉旗）、右翼后旗（亦稱杭錦旗）地各一部。雍正、乾隆間，置道設(shè)廳。雍正六年（1728）設(shè)歸綏道。乾隆六年（1714）設(shè)薩拉齊協(xié)理通判。乾隆二十五年（1760），因塞外人口增多，墾荒日繁，隨于口外設(shè)七廳（后增為十二廳），改薩拉齊為理事通判廳，五原屬薩拉齊廳西部地。從此，實行旗不管漢，廳不管蒙，蒙漢分治，旗縣并存的兩種特殊建制。同治四年，改設(shè)同知，光緒十年又改撫民同知廳。光緒二十九年（1903）析薩拉齊廳西部地區(qū)（達拉特、杭錦、烏拉特前旗地區(qū)）設(shè)五原廳，治大佘太，后移治于隆興長（今五原縣城所在地）。

民國元年（1912），改五原廳為五原縣，三年建縣城于白（北）圪梁（舊城），統(tǒng)領(lǐng)后套全境。中國的大上海市區(qū)，街、路的規(guī)劃名稱均按全國較有名聲的市、縣和地區(qū)方位選定，因五原是塞外河套地區(qū)著名的糧倉，故在上海市區(qū)的西北角設(shè)有五原路。民國八年，析烏拉特前旗地一部別隸固陽。民國14年，又劃出五原東西各一部，設(shè)安北、臨河兩縣。民國31年（1942），綏西實行新縣制，將五、臨、安三縣劃為六縣，析五原縣西部地增設(shè)晏江縣（1954年改稱達拉特后旗）。1958年7月，撤銷達拉特后旗建制，轄區(qū)復(fù)并入五原縣轄領(lǐng)。至今，五原縣之建置再未改變。