夏、商時，市地屬荊州之域。西周時稱鄂，為鄂侯領地。春秋戰國屬楚、秦。 三國時期，市地在武昌郡之武昌(今鄂州)、陽新兩縣之間的下雉縣境內。唐代市地在鄂州武昌、永興兩縣境內。宋乾德五年(967年)，南唐始建大冶縣。李煜為南唐主時，以境內礦產豐富，冶煉業發達，升青山場院並劃武昌三鄉與之合並，新設一縣，取自殷商以來一直“大興爐冶”之意，便定名為大冶縣。從此，自宋至民國市地隸屬興國路、興國州、武昌府、湖北省大冶縣。 民國27年(1938年)大冶淪陷，日軍在大冶建立偽政權，盜稱“中華民國湖北省大冶縣政府”，並在石灰窯和黃石港兩鎮建置“石黃示範區”。民國34年(1945年)8月15日日本宣布投降，國民黨大冶縣政府接管，復置石灰窯和黃石港兩鎮，隸屬大冶縣轄。民國37年(1948年)將石灰窯和黃石港兩鎮合並為石黃鎮，隸屬于大冶縣。 1949年5月15日，中國人民解放軍解放石黃鎮。隨後成立石灰窯工業特區辦事處、湖北大冶工礦特區人民政府，黃石市在此基礎上過渡建成。1950年8月21日，成立省轄黃石市。1959年1月26日，大冶縣從黃岡地區劃歸黃石市。
