夏、商时，市地属荆州之域。西周时称鄂，为鄂侯领地。春秋战国属楚、秦。 三国时期，市地在武昌郡之武昌(今鄂州)、阳新两县之间的下雉县境内。唐代市地在鄂州武昌、永兴两县境内。宋乾德五年(967年)，南唐始建大冶县。李煜为南唐主时，以境内矿产丰富，冶炼业发达，升青山场院并划武昌三乡与之合并，新设一县，取自殷商以来一直“大兴炉冶”之意，便定名为大冶县。从此，自宋至民国市地隶属兴国路、兴国州、武昌府、湖北省大冶县。 民国27年(1938年)大冶沦陷，日军在大冶建立伪政权，盗称“中华民国湖北省大冶县政府”，并在石灰窑和黄石港两镇建置“石黄示范区”。民国34年(1945年)8月15日日本宣布投降，国民党大冶县政府接管，复置石灰窑和黄石港两镇，隶属大冶县辖。民国37年(1948年)将石灰窑和黄石港两镇合并为石黄镇，隶属于大冶县。 1949年5月15日，中国人民解放军解放石黄镇。随后成立石灰窑工业特区办事处、湖北大冶工矿特区人民政府，黄石市在此基础上过渡建成。1950年8月21日，成立省辖黄石市。1959年1月26日，大冶县从黄冈地区划归黄石市。
