阳泉市科技界的群众组织始建于1953年，名称为阳泉地区科学技术普及小组，设在市政府农林科。1956年发展为阳泉市科学技术普及协会，负责人为关怀祖。1958年9月阳泉市科委成立，与阳泉科普协会合属办公，统管阳泉市科学技术研究工作，编制15人。
1959年5月5日～7日，阳泉市科技工作者第一次代表大会召开，正式成立阳泉市科学技术协会（以下简称市科协），时任中共阳泉市委副书记的刘敏当选为主席（兼任），副主席为焦剑心，秘书长为崔之台。
1962年6月1日，根据市委〔72〕号文件通知，撤销科委保留科协，同时将市科协合并到市文教局，当时市科协有2名工作人员，为冯克新和王志存。1964年3月，根据市政府〔64〕阳人字40号文件决定恢复科委，科委科协合属办公。行政编制6人，事业编制3人。科委主任为胡志江（兼），副主任为郭平。市科协由冯克新负责日常工作。1965年7月，市委任命刘庆堂为科委副主任，市科协仍是冯克新负责。
文化大革命期间，市科协被迫停止活动。1968年9月28日市革委成立，科委科协6人到五七干校（基层）工作，科委机构被撤销，市革委生产组下设科技业务组。1969年又合并到工交组。1971年10月31日，市革委阳发〔71〕179号文件决定在市革委计划组下设科技办公室负责全市的科学技术工作。1972年6月，任命刘岳峰、雷玉州（军代表）为科技办公室正、副主任。1972年12月3日改为科技局。1975年3月任命庞毓英为科技局主任，同年10月任命连庭辉为副主任。
1977年12月19日，阳泉科技局改为科学技术委员会（简称科委）。
1978 年10月8日，市科协经中共阳泉市委常委会议讨论并以阳发〔1978〕72号文件恢复建制，与科委合属办公。
1980年12月28日～30日，市科协召开第二次代表大会。通过了科协章程，选举了二届委员会委员、常委、副主席、主席、顾问。主席由副市长吴景忠兼任，窦连弟为副主席兼秘书长，兼职副主席有何秉权、孙建成、王仲，顾问焦剑心、胡之江、诸广信，副秘书长汪涛，委员共31人。
1983年12月，市委任命朱仲伦为市科协主席，免去吴景忠主席职务。1984年3月免去窦连弟副主席职务。1984年10月市科协二届六次全委会选举主席朱仲伦、副主席汪涛。
1988年12月24日～26日，市科协召开第三次代表大会，选举产生了新的领导机构。主席朱仲伦，副主席王福山、曹秀琴，兼职副主席于根、刘复升、汤维禧、杜肇昆、汪志刚、裴巧梅，委员39名。
1992年4月14日，市委任命沈家祥为市科协党组书记、科协主席，免去朱仲伦职务。
1994年，市委组织部以阳组干字〔94〕14号文件任命梁展华为市科协党组书记、科协主席。同时，以阳组干字〔94〕29号文件免去沈家祥职务。
1995年4月18日～20日，市科协召开第四次代表大会，选举产生了新的领导机构。主席梁展华，副主席曹秀琴、王福山，兼职副主席李贵贤、曹凌云、霍子德、樊玉清、任美福、刘文恕、高褆。委员40名。
1999年3月24日，市委组织部以阳组干字〔99〕75号文件任命刘春玲为市科协党组书记、科协主席，梁展华为调研员。
2003年10月13日～15日召开第五次代表大会，选举产生了新的领导机构。主席刘春玲，副主席王文科，兼职副主席张庆恒、李润萍、韩锦、安海润、郝葆良、单利亚、肖有世，委员41名。
2008年9月26日，市委组织部以阳组字〔2008〕133号《关于提名张秀亲同志职务任免的通知》，提名张秀亲为科协主席人选，任命王文科为市科协党组书记，免去刘春玲职务。市科协召开五届七次全委会，选举张秀亲为市科协主席。
2008年11月5日～6日召开第六次代表大会，选举产生了新的领导机构。张秀亲当选为市科协第六届委员会主席，王文科当选为副主席，任美福、张庆恒、韩锦、安海润、郝葆良、肖有世、郭建明、刘振发、乔国强当选为兼职副主席，委员57名。
2018年10月14日～15日，市科协召开第七次代表大会，选举杨红梅为市科协第七届委员会主席，王素琴为副主席，岳润庆、黄洁诚、周建斌、王玉清、张卫珂、白永胜当选为兼职副主席，委员36人。2022年3月，因工作原因，史向中当选为副主席。
2024年1月30日，市科协召开第八次代表大会，选举杨红梅为市科协第八届委员会主席，史向中为副主席，岳润庆、蒯平宇、王建梅、卫志嵘、童明全、葛建忠、梁志宝为兼职副主席，委员37人。
市科协第七次代表大会召开以来，高银、张谦琦分别任市科协党组书记，现任党组书记李曜雷。
目前，除各县（区）科协外，全市有市级学会10个，企事业科协9个，园区科协2个，高校科协3个。
市科协机关现设一室四部，分别是办公室、普及部、学会部、青少年部和宣调部。下属1个事业单位，即阳泉市科技创新服务中心。
从1978年恢复建制的40多年来，市科协在市委、市政府的正确领导下，在山西省科协的悉心指导下，在各级科协组织和广大科技工作者的共同努力下，积极实践“献身、创新、求实、协作”的科协精神，坚持为科技工作者服务，为创新驱动发展服务，为提高公众科学素质服务，为经济社会全面协调可持续发展服务，不断加强自身建设，在改革开放、全面建设小康社会和构建社会主义和谐社会的大潮中，为发展我市科协事业做出了突出贡献。多次受到中国科协、山西省科协和阳泉市委、市政府的表彰，先后荣获“全国青少年创新大赛优秀组织奖”、“山西省科普工作先进集体”、“山西省市县科协工作成绩突出奖”、“山西省学会工作创新奖”、 “阳泉市支持服务农村小康建设先进集体”等殊荣。2011年5月，阳泉市科协被评为“全国科协系统先进单位”。
