山西大学堂创立于1902年，设中学专斋和西学专斋，由山西巡抚岑春煊和英国人李提摩太共同创办，山西大学堂是中国早的三所国立大学堂之一，和北洋大学堂（现天津大学），京师大学堂（现北京大学）一道开启了中国高等教育的新纪元。
1912年学校更名为山西大学校；1918年更名为国立第三大学；1931年改名为国立山西大学；1953年院系调整，原山西大学被撤销，工学院改建为太原工学院（现太原理工大学）、医学院改建为山西医学院（现山西医科大学），文理两院合并，改建为山西师范学院（后并入1959年复建的山西大学），后析出山西大学师范学院（1999年，山西大学师范学院、太原师范专科学校和山西省教育学院合并组建太原师范学院）。1996年，山西大学堂旧址被山西省人民政府批准成为山西省文物保护单位，2013年被国务院公布为全国重点文物保护单位，现址为太原师范学院附属中学&太原市师苑中学校（侯家巷校区）。[1]并由太原师范学院管理和使用。1898年的“百日维新”和1900年的“义和团运动”以后，清王朝为了维护其专制统治，迫于国内外各种压力，于1901年 （光绪二十七年）初宣布实行所谓“新政”，兴办学堂为其教育改革之主要内容。同年，清政府下诏，“除京师大学堂应切实整顿外，着各省所有书院牞于省城均改设大学堂，各府厅直隶州均设中学堂，各州县均设小学堂。”当时山西省太原设有 “晋阳书院”和“令德堂”两所书院。“百日维新”期间，“令德堂”曾改为山西省会学堂，进行过一定改革，在此基础上，1902年初，山西巡抚岑春煊即遵朝廷谕旨将令德堂改设为山西大学堂。委派山西候补道姚文栋为首任督办（相当于校长），高燮曾为总教习，谷如墉为副总教习，以太原文瀛湖南乡试贡院作为临时校址，接收晋阳书院和令德堂学生，正式开学。由此山西大学堂正式成立。在义和团运动中，山西仇杀天主教主教、教士130余人，教案特别严重。在处理教案问题中，在山西传教的英国耶稣教浸礼会传教士李提摩太（RichardTimothy）于1901年3月曾向清廷议和全权大臣李鸿章与奕劻提议，以山西教案赔款50万两白银用于在太原创办一所近代中西大学堂，选拔全省学子入学，学习近代学问。后又于5月29日递交了 《上李傅相办理山西教案章程七条》，其中第三条对此提议作了专门的具体陈述。大意为：共罚白银50万两，每年交5万两，十年为止，设立学堂，教导有用之学，开导晋省人知识。对此李鸿章、奕劻立即表示赞同并电告巡抚岑春煊遵办。10月岑春煊曾派洋务局提调周之骧赴上海与李提摩太面谈此事并议定了创办中西大学堂合同八条。1902年初，李提摩太偕人来太原拟签订正式合同时，方知晋省已办起了山西大学堂。于是他又建议岑春煊将山西大学堂与他拟创办的中西大学堂会并办理。合并后山西大学堂内设两部，一部专教中学，由华人负责；一部专教西学，由李提摩太本人负责。就此建议，岑春煊认为涉及教育主权问题和传教问题，未敢应允。后经多方反复筹商，并交由西大学堂学生进行了民意测验，对有关细节进行了逐条逐字的斟酌，议定了合办山西大学堂的合同23条，于光绪二十八年五月初二日（1902年6月7日）由山西司道及绅士等与李提摩太及拟聘之西学专斋总教习敦崇礼签字，巡抚盖章立案，呈报光绪皇帝朱批。合同生后，山西大学堂就改制成为两个组成部分，即山西大学堂原来部分改为“中学专斋”，为谷如墉（山西神池人，进士出身，曾任户部主事，晋阳书院山长），总教习为高燮曾（湖北人，翰林出身，曾任山西提学使），拟办中西学堂改为 “西学专斋”，为李提摩太，总教习为敦崇礼。由此山西大学堂就成为了中西共为一体的一所新式学堂。