上海市历史博物馆是综合反映上海地方历史的地志性博物馆。上海地志类博物馆筹建工作始于上世纪五十年代的上海历史与建设博物馆。1983年建成 “上海历史文物陈列馆”，1991年7月改现名。

1994年10月，上海市历史博物馆在虹桥路1286号重新开馆，基本陈列为“近代上海城市发展历史陈列”。陈列全面展示了上海自1843年开埠到1949年百余年来的城市风貌。该陈列被国家文物局评为全国文物博物馆系统首次“十大陈列展览精品”之一，因租赁期满于1999年3月关闭。2001年5月，由上海市历史博物馆筹建之“上海城市历史发展陈列馆”于东方明珠广播电视塔裙房内向社会开放。陈列馆分“华亭溯源”、“城厢风貌”、“开埠掠影”、“十里洋场”、“海上旧踪”五部分，以形象生动的展示手段反映了上海成为中国最大工商都市的发展过程，突出反映近代上海在政治、经济、文化、社会、生活等各方面的演变。

2003年1月，上海市历史博物馆被上海市人民政府命名为“上海市爱国主义教育基地”。 近年来，上海市历史博物馆举办了大量的临时展览和流动展，如 “孙中山与上海——文物文献档案展”、“摩登都会——沪港社会风貌”展、“东风西渐——欧洲瓷器展”，取得了十分良好的社会反响和效益。在把各式展览推向社会的同时，上海市历史博物馆还多次举办“名家谈上海”系列公益性讲座，宣传了上海地方历史和文物博物馆知识，取得了较好的社会效果。

上海市历史博物馆藏品总数约11万件，分十五大类：书画、金属、陶瓷、工艺、证章、文献、印刷、纺织品、石刻、钱币、照片、剪纸、邮票、唱片和其他杂项等。

上海市历史博物馆长期坚持开展对上海地方文物历史、民情风俗、人文环境、城市变迁、博物馆学等方面的学术考察与研究，编辑出版了大量著作。自2002年起，编辑出版《上海市历史博物馆馆刊》。2007年，上海市历史博物馆成为中国博物馆学会城市博物馆委员会主任委员会单位。作为国际博协城市博物馆专业委员会(ICOM-CAMOC)的主要成员，上海市历史博物馆积极开展与国内外城市博物馆的合作，为推动城市博物馆的发展作贡献。