“乌海市”的名称是1976年乌海市成立时，由两个县级市原乌达市和海勃湾市合并而成，取自两市的首字“乌”“海”，故命名乌海市。又因乌海地区煤炭资源丰富，煤炭素有“乌金”誉称，故“乌海”又有“乌金之海”之意。
原乌达市成立于1961年10月，隶属原巴彦淖尔盟。行政区划单位为县级市，辖有巴音赛、教子沟、梁家沟、三道坎、苏海图、五虎山城市人民公社及巴音木仁、宗别立、乌素图等牧业人民公社。“乌达”系蒙古语，意为“柳树”，即有柳树的地方。中华人民共和国成立前，原阿拉善旗派员在此地设关卡，称“蒙古营”或“蒙古卡”，中华人民共和国成立后，该地名自然消失。1949年中华人民共和国成立以后，由阿拉善自治旗管辖。1958年从阿拉善旗析出，划入巴彦淖尔盟，设立乌达镇。
原海勃湾市成立于1961年10月，隶属原伊克昭盟。行政区划单位为县级市。其区域为:东至鄂托克旗阿拉巴苏苏木千里山以西，南至鄂托克旗巴音陶亥乡原界石嘴山渡口，西以黄河为界，北至杭锦旗交界达勒更沟，位于黄河以东12千米的地方。“海渤湾”是由“海若布陶亥”演变而来。“海若布陶亥”是蒙藏语组合音，“海若布”为藏语，意为“雄狮子”，“陶亥”为蒙古语，意为“湾”，即雄狮之湾。1958年包兰铁路通车时，在此地设站，简称“海渤湾”。1961年成立海勃湾市时，国务院将“海渤湾”批复为“海勃湾”。