海勃湾区历史悠久，从桌子山岩画透露出的信息可以看出，早在新石器时代，就留下过北方游牧民族活动的足迹。奴隶制解体前后的夏周时期，这里就是北方民族繁衍生息之地。春秋时期为白翟（即猃狁）之族牧地。战国时期属林胡牧地。秦灭六国统一中原后，将全国分为36郡，海勃湾地区隶属北地郡。在此后漫长的岁月里，先后为蒙古族、汉族、回族、满族等20多个民族活动的场所。到明朝中叶以后，为鄂尔多斯部的游牧地。民国时期，曾先后属绥远特别行政区、宁夏省磴口县、绥远省沃野县和宁夏省陶乐县。
中华人民共和国成立后，海勃湾隶属伊克昭盟鄂托克旗第三区的一部分（今阿尔巴斯苏木）。1954年12月，从鄂托克旗分出，设立伊克昭盟人民政府桌子山矿区办事处。1959年4月，经内蒙古自治区人民委员会批准，撤销桌子山矿区办事处，成立伊克昭盟人民政府桌子山矿区人民委员会（为县级建制），办公地址由拉僧庙迁至海勃湾。
1961年7月，经国务院批准，撤销桌子山矿区人民委员会，成立海勃湾市（县级），属伊克昭盟直辖市。
1975年8月，经国务院批准，撤销乌达市、海勃湾市两个县级市，合并成立乌海市（地级建制）。1976年1月，乌海市革命委员会成立，为内蒙古自治区直辖市，下辖乌达、海勃湾、拉僧庙3个县级办事处，原海勃湾市行政区划被一分为二，南大半部分划归拉僧庙办事处（海南区前身）管辖，北小半部分属海勃湾区管辖。
1980年1月，根据内蒙古自治区革命委员会《关于乌海市设立辖区问题的批复》，市所辖的3个县级办事处更名为直辖区，海勃湾办事处改为海勃湾区。
1995年末，海勃湾区下辖7个街道，共有94个社区。
1996年5月至1997年3月，乌海市与伊克昭盟重新划界。1997年4月，伊克昭盟鄂托克旗碱柜乡的黄河、巴音、新地、三坝4个村整建制划归乌海市海勃湾区管辖。海勃湾区疆域南北最长45千米，东西最宽18.4千米，总面积为529平方千米。
1998年5月，海勃湾区成立第一个乡级政权新地乡人民政府。1999年10月，撤销下海勃湾街道，改设为下海勃湾镇。2000年11月，乌海市政府将原由市农委管辖的海勃湾农场整体移交海勃湾区，改建制为五一乡人民政府。2006年3月，下海勃湾镇与五一乡合并成立了滨河街道，千里山街道与新地乡及五一乡的6个村合并成立了千里山镇。海勃湾区形成了1个镇:千里山镇，6个街道:新华街道、新华西街道、凤凰岭街道、海北街道、卡布其街道、滨河街道，下设18个村、43个社区的行政区划格局。2009年，整合为5个村、38个社区。2012年，整合为34个社区。2015年，整合为31个社区。2018年，整合为35个社区。2019年，海勃湾区千里山镇新增新和社区，整合为36个社区。2020年初，海勃湾区政府常务会议决定拟撤销采空区域位于平沟煤矿的卡布其街道，将其管辖范围整体并入新华街道管辖。拟划出海北街道的大庆、温馨、海馨和依林4个社区和凤凰岭街道金裕社区，新成立“林荫街道”，经市政府审定同意后，上报内蒙古自治区人民政府。2020年末，海勃湾区滨河街道新增湖东社区，调整为37个社区。2021年8月，内蒙古自治区人民政府召开专题会议，审议通过了海勃湾区街道变更事项，并于12月印发了《内蒙古自治区人民政府关于同意乌海市海勃湾区部分街道行政区划变更的批复》。2021年末，海勃湾区调整为1个镇:千里山镇，6个街道：新华街道、新华西街道、凤凰岭街道、海北街道、林荫街道、滨河街道，下设5个行政村、37个社区。