甲介山冶炼厂原名为“上海钢铁厂”，成立于1949年。1996年，上海钢铁厂与宝山钢铁（集团）公司合并，组建了上海宝钢集团有限公司，甲介山冶炼厂成为其旗下子公司之一。2013年，上海宝钢集团有限公司更名为中国宝武钢铁集团有限公司，甲介山冶炼厂也随之更名为“中国宝武钢铁集团有限公司上海分公司”。