晋中学院太谷师范分院其前身是山西省立太谷师范学校。1949年4月，由晋中第三中学和太谷县立中学合并后成立。晋中学院师范分院的前身是太谷师范学校和太行师范学校。1949年2月，省政府发文，合并了原晋中第三中学和太谷县立中学，成立了山西省立太谷师范学校。60年来，太师从创建之初的477名初师学生，到今天的11个系部、26个专业、7300名大专学子；从建校时的初师、简师、中师，到新世纪的师范大专、小学教师继续教育、本科远程教育、研究生课程班；从起步时单一的师资培养，到现在“培养培训一体、教学研究通融、办学服务并行”的多元化、多层次办学；教育教学改革不断深化，形成了“创新教育，培养人师，服务小学，为教育事业奠基”的办学宗旨；坚持把学校建成“地方性小学教师教育中心，小学教育研究中心，小学教育服务中心”的办学目标；形成了“以教育让农村更美好为理想，以陶行知师范教育思想为指导，以主动服务农村基础教育改革与发展为导向，以中心小学建设和教学做实践为载体，培养学得实、下得去、留得住、干得好的农村小学教师”的办学特色；形成了“分科培养，注重综合，强化实践，发展专长”的人才培养模式；构建起了以“面向农村、服务小学”为核心的办学思想体系。

学校位于太谷县城内。创立初期，除现址外，还占有孔祥熙宅院和无边寺白塔院，以办初师班为主，兼办高级短期班等。附属小学设在安禅寺院内。1952年8月，学校除招三年制初师和短师班外，又招收后师（即中师）班，由初等师范开始向中等师范过渡。10月，寿（阳）榆（次）太（谷）祁（县）联师并入太谷师范。1954年9月，平（遥）介（休）灵（石）联师又并入，学校更名为“山西省太谷师范学校”。1958年，学校兴办了教具厂、铁工厂、木制厂等16个厂（场）。1959年，学校只办中师班，初等师范向中等师范的过渡结束。1966年“文化大革命”开始后，招生中断。1967年校办教具厂被山西省教学仪器供应站接管。1970年附属小学下放归太谷县管辖。1971年7月，学校恢复招生。1973年12月，恢复太谷师范附属小学。1978年十一届三中全会后，学校教育教学秩序恢复正常，并加快了发展。1981年10月学校白塔院被太谷县接管。1988年，国家教委派人来校考察评估后，授予学校“为基础教育培养合格师资，方向明确，成绩显著”荣誉。并奖励10万元。90年代初，学校标准化建设取得了显著成绩，得到了省教委的高度评价，把太谷师范确定为山西省中师对外开放的“窗口学校”。1999年12月，学校与太谷县签订协议，以孔祥熙宅院置换了太谷县原人大院。太谷县将孔祥熙宅院进行了开发。2002年，学校开始招收“3+2”学制的大专生，设置有小教文科、理科、英语、计算机、音乐等专业，学校进入由中师向小教大专的过渡时期。为顺利完成过渡，学校新的领导班 子提出了“创新教育，培养人师，服务小学，为教育事业奠基”的办学宗旨，确定了把学校建成“小学教师教育中心”、“小学教育研究中心”、“小学教育服务中心”的办学目标，确定以校园文化建设作为实现办学目标和顺利完成过渡的突破口。2002年9月开始，学校开展了声势浩大的校园文化建设活动，提出了“绿色校园”、“人文校园”、“诚信校园”、“科学校园”和“数字校园”的“五个校园”创建活动。创办了“白塔讲坛”，创刊了《小学教育通讯》，学生社团蓬勃兴起。人民教育家陶行知先生塑像于2003年元月落成，中陶会会长方明老先生及省教育厅、市教育局有关领导出席了揭幕仪式。2004年4月，与北师大签署了合作协议，学校成为“北京师范大学教育学院教育实验基地”。5月，根据省政府文件精神，学校更名为“晋中师范高等学校太谷分校”。2005年5月，学校又更名为现名。同时，根据市委市政府关于迁址榆次办学的决定，学校目前正在榆次筹建新校。