乌海地区历史上是北方少数民族游牧的地方。中华人民共和国成立以前，从未单独设置过建制。
汉元朔二年（公元前127年），汉武帝击败匈奴楼烦王、白羊王，收复河南地（辖境今巴彦淖尔市乌加河以南、鄂尔多斯高原），将原有九原郡改为五原郡，又增设朔方郡，郡治在三封县（今巴彦淖尔市磴口县哈腾套海苏木的陶升井，又称麻弥图库庙古城）。朔方郡下设10县，在今海勃湾地区设置沃野县。
汉元狩二年（公元前121年），南匈奴浑邪王附汉后，乌达地区为武威郡之北境地。
东汉末年到三国、晋、十六国时期，活动在北方草原的少数民族匈奴、鲜卑、羯、氐、羌——号称“五胡”，大多进入长城以南，移居黄河流域。他们互相争战或者与中原王朝较量，形成长时间战乱局面。魏晋时，今乌达地区为西部鲜卑所据，南北朝时为前凉、后凉、北凉所割据。
东晋大（太）兴二年（公元319年），羯族石勒强盛起来，尽得黄河流域中、下游广阔地区，建立后赵国。今海勃湾地区属后赵之朔州朔方郡。
前秦建元二年（公元366年），后被前秦、前燕所取代，河水以西归前秦，为氐族苻坚所统治。海勃湾地区属前秦朔方郡。后秦皇二年（公元395年），羌族姚兴部兴起，夺得前秦西部地区，称为后秦。姚兴在北部广阔地区设朔方郡，辖今海勃湾地区。
东晋太元十六年（公元391年），魏王拓跋魏攻打朔方郡（辖今巴彦淖尔市南部和鄂尔多斯市北部）的铁弗部刘卫辰。卫辰被打败后部众四散，辖地尽失，变成魏的统治地域。
【此处为图片】明长城遗址
东晋义熙三年（公元407年），匈奴族铁弗部首领赫连勃勃强盛，在今鄂尔多斯市、陕西北部地区建立夏国，建都于统万城（今陕西靖边县北，俗称白城子），辖地曾北达黄河，置幽州于大城（今鄂尔多斯市杭锦旗东南），占有今巴彦淖尔市南部、鄂尔多斯高原。夏胜光四年（公元431年），夏国被北魏拓跋鲜卑族所灭，境内归北魏。
隋时，海勃湾地区属突厥汗庭之西境，为东突厥游牧地。唐贞观元年（公元627年），分天下为十道，绥、银、丰、胜等州属关内道。关内道的灵州是隋朝灵武郡管辖地区，是黄河由南向北的东岸狭长地带，包括今鄂托克旗西部、鄂托克前旗西部及海勃湾地区。
乌达地区，隋属甘州，治所在永平（隋改名张掖，今甘肃张掖）。隋仁寿二年（公元602年），属肃州，治所在福禄（今甘肃酒泉）。公元8世纪安史之乱后期至9世纪中叶曾属吐蕃。
宋、辽时期，西北地区兴起的党项族趁宋、辽连年交战之际，据有银、夏、绥、宥、静五州之地。宋太祖赵匡胤建隆元年（公元960年），给党项羌李彝兴以太尉称号，李彝兴向宋贡马三百匹，以示归顺。从此，今鄂尔多斯地区的绝大部分（辖今海勃湾地区）遂人宋朝版图，但仍为党项李所有，宋宝元元年（1038年），党项族李元昊称帝建立西夏国。今海勃湾地区为西夏灵州之地，乌达地区为西夏贺兰山防区。
十三世纪初，游牧在北方草原的蒙古部落日趋强盛，铁木真登上汗位，尊称成吉思汗，于1227年灭西夏，版图统归元朝。元朝在全国设置一个中书省，十个行省，省下设路、府、州、县。当时，乌海地区为宁夏行省中兴路管辖。元至元二十五年（1288年），改中兴路为宁夏路，治所在今银川市。
明时，乌达地区为甘州、肃州二卫的边外地。明洪武九年（1376年），立宁夏卫，后升为镇，辖今海勃湾地区，隶属于陕西都司，归中央右军都督府管理。明建文四年（1402年），蒙古鞑靼、瓦剌各部强盛起来，对明朝北方边境构成严重威胁。明天顺六年（1462年），蒙古鞑靼酋长阿勒淖尔与毛里孩进驻伊克昭盟地区。明嘉靖晚期（1552-1566年），达延汗之孙衮弼里克墨尔根承袭济农爵位，名其部落为鄂尔多斯，清天聪九年（1635年），该部首领额瞵臣归附清朝，统领鄂尔多斯地区。
清顺治六年（1649年），清廷将鄂尔多斯地区划为6旗，实行盟旗制，海勃湾地区为鄂尔多斯右翼中旗（鄂托克旗）之西北境。清康熙二十六年（1697年），始设阿拉善和硕特旗。今乌达地区属阿拉善旗管辖。
民国时，宁夏扩军使兼辖阿拉善和硕特旗，后直属中央行政院蒙藏委员会。民国三年（1914年），鄂托克旗归绥远省管辖。民国十八年（1929年），宁夏省政府成立后，在磴口正式设县。随后又擅自将沿黄河南到石嘴山、北至河套，长约200千米的狭长地带划入磴口县（包括乌海地区）。民国十九年（1930年），绥远省政府在黄河以东鄂托克旗地区设立野沃设置局，后改为沃野县，辖今海勃湾地区。民国二十六年（1937年），宁夏省主席马鸿逵占领沃野县，划归宁夏，改名陶乐县。