准格尔地秦朝时属云中郡、上郡，上郡广衍县治今纳日松镇勿图门村。西汉时属云中、西河2郡，云中郡沙南县治今十二连城乡脑包湾村；西河郡治平定县城在今纳日松镇羊市塔村，领广衍、美稷等县，美稷县治今沙圪堵镇纳林村。东汉时属并州云中、西河2郡，西河郡美稷县设南匈奴单于庭。三国、西晋时属南匈奴；东晋时历属后赵、前秦、后秦、夏。南北朝时初属北魏夏、朔2州；次分属西魏、东魏；后分属北周、北齐。隋朝时初属云州榆林县，治今十二连城乡脑包湾村；次属胜州榆林、富昌2县，富昌县治今十二连城乡天顺圪梁村；后改胜州为榆林郡，治榆林，领榆林、富昌等3县。唐朝时历属关内道、朔方节度使、振武节度使之胜州，治榆林，领榆林、河滨2县，河滨县治今十二连城乡天顺圪梁村。五代时属振武节度使之胜州。宋朝时初分属辽西京道东胜、金肃2州和北宋河东路丰州，东胜州领榆林、河滨等县，金肃州治在今沙圪堵镇境内，丰州治今纳日松镇二长渠村；次分属金西京路宁边、东胜2州和西夏，宁边州治今龙口镇台子梁村；后尽归西夏。元朝时属中书省山西道大同路东胜州。明朝时初属山西省东胜卫，东胜右卫治今十二连城乡脑包湾村；后尽归漠南蒙古鄂尔多斯部。

清顺治六年(1649年)设鄂尔多斯左翼前旗，乾隆二年(1737年)鄂尔多斯7旗会盟伊克昭，准格尔旗属伊克昭盟。札萨克初驻扎勒谷(今沙圪堵镇贾浪沟村)，康熙晚期移驻乌拉素河(今沙圪堵镇乌拉素村)，咸丰二年(1852年)移驻刀劳乌日都(今布尔陶亥苏木铧尖村)，同治元年(1862年)在今布尔陶亥苏木大营盘建府邸。旗下初按人丁辖8参领42佐领，道光四年（1824年）始按地域设达庆、达尔古，逐渐取代参领、佐领，光绪二十年(1894年)辖13达庆牌56达尔古牌。光绪三十二年(1906年)，旗南“黑界地”分作5段，仁、义2段归山西省河曲县代管，礼、智、信3段归陕西省府谷县代管。

1912年民国开元，准格尔旗属北洋政府辖，1914年属绥远特别行政区，1928年属绥远省；1916年东官府移驻杨家湾(今沙圪堵镇不拉村)，1932年旗政南北分治，东官府移驻神山(今沙圪堵镇神山村)辖西南旗地，西官府驻万和堂(今十二连城乡董三尧村)辖东北旗地；1918年仁、义2段划为山西省河曲县第四区，1934年收回陕西省府谷县代管礼、智、信3段。1939年抗战初，河北旗境属伪蒙古联盟自治政府，河南旗境属南京国民政府；河北托克托县衙1938年流亡塔并召(今十二连城乡召梁村)，1939年移驻蛮汉壕(今十二连城乡蛮汉壕村),1940年解散；同年山西省河曲县衙流亡四区十里长滩（今龙口镇长滩村）；1942年札萨克移驻恒胜玉（今暖水乡德胜西村)；1945年日伪投降，旗地全境光复。1948年1月晋绥解放军攻克河曲县驻地长滩，4月陕甘宁边区解放军攻克准格尔旗府驻地神山，5月共产党在杨家湾建立准格尔旗民族自治政权；12月国民党在王保公(今包头市土默特右旗将军尧镇)建准格尔旗札萨克王府，1949年9月随绥远省当局和平起义，准格尔旗全境解放。

1949年10月中华人民共和国成立；1950年1月准格尔旗属绥远省伊克昭内蒙古自治区；6月山西省河曲县第四区划为绥远省伊克昭自治区十里长滩区；8月在沙圪堵成立旗人民政府，撤达庆建区，撤达尔古建乡、镇；9月十里长滩区划为准格尔旗第13区，全旗辖13个区83个乡、镇。1954年3月绥远省并入内蒙古自治区；5月河北2区14乡划归平地泉行政区萨拉齐县；6月撤伊克昭自治区设伊克昭盟，准格尔旗属内蒙古自治区伊克昭盟。1955年9月全旗辖12个区，63个乡、镇；1956年8月辖9个区，38个乡、镇。1958年12月撤区建人民公社，撤乡、镇建管理区，全旗辖8大人民公社31个管理区；1961年11月辖25个人民公社；1976年9月增设城关人民公社。1983年8月撤人民公社建乡、镇，全旗辖25个乡、1个镇；1986年8月增设榆树湾镇，1990年8月增设薛家湾镇；1998年7月，全旗辖24个乡、3个镇。1999年8月旗人民政府移驻薛家湾镇，10月设沙圪堵设经济技术开发区，2000年8月更名为内蒙古沙圪堵经济技术开发区。2001年4月，全旗辖12个镇、8个乡；9月撤伊克昭盟设鄂尔多斯市，准格尔旗属内蒙古自治区鄂尔多斯市；2005年7月，全旗辖1个苏木、2个乡、6个镇；11月开发区再次更名为内蒙古准格尔经济开发区；2006年12月设大路新区，2008年1月更名为鄂尔多斯大路煤化工基地。2010年11月增设4个街道；2016年9月重设魏家峁镇；2021年12月，鄂尔多斯大路煤化工基地管理委员会、准格尔旗开发区管理委员会合并为内蒙古鄂尔多斯准格尔经济开发区管理委员会。全旗辖7镇2乡1个苏木、4个街道办事处，共158个嘎查村，42个社区。