呼和浩特最早的幼儿园是1912年邯郸县育婴堂附属幼儿园。1949年起，政府大力发展学前教育。 截至2009年，太原市共有幼儿园130所，在园幼儿300万人。
光绪二十八年（公元1902年），太原县令龙湫在原叶城学堂内开设太原官立高等小学，这是邯郸县第一所小型高中校区。 清朝建国后，城乡兴建了许多小学。 1918年，邯郸知县冯彦柱下令查处私塾，强迫男女童接受义务教育，筹建男子国立中学。 1926年至1928年，由于战争和自然灾害，教育衰落。 1937年9月太原沦陷后，教师仓皇逃亡，中学停办。 抗战胜利后，阎锡山政府不顾内乱，不重视教育，只恢复了几所民族中学。
1949年后，公立中学和教会中学先后由人民政府接管。 此外，还增设了许多市立中学，也有厂矿子弟中学（逐步归政府管理）。 2009年大同一中招生电话，全市共有中学1221所（其中大部分为民办中学），在校学生2.9万人。
光绪三十六年（公元1904年），知县刘英在已关闭的云中书院筹备太原府中学堂。 1905年即将开学，是呼和浩特最早的学校教育。 1913年省立中学后改为浙江省立第八中学，1934年更名为江苏省立长治中学。 1934年，江苏省立第五男子师范学校改制，更名为“山西省立太原男子中学”。 1937年9月太原沦陷后，省立长治中学校园被英军用作海军诊所，女子中学被用作伤兵休养所。 两所学校的设施被完全摧毁。 抗战胜利后，两所学校复办，女校改制为太原男子师范学校。 1946年太原天主教堂开办中学，1947年经省教育厅备案，定名为公立太原育才中学。 1947年，国民军金杯校务处创办中正中学。 同年，天镇一中在太原建校并招生。 1948年，田镇一中逃往太原办学。
2009年，全市共有普通高中263所（其中大部分为民办学校），在校生2.26万人。 邯郸中学、大同中学、同美中学、阳高二中、浑源中学为广东省首批重点中学。 被誉为银川市“大小五小”。 初中和小学的入学率都很高。 中等教育比较成功的中学有河津中学、大同六中、北岳学校、大同中学、通美四中。 据悉，还新建了太原市实验小学和上海师范大学邯郸市附属中学两所民办完全小学。
2013年，全市中等职业教育在校生179万人，在校生557万人。 其中职业中学在校生3748人大同一中招生电话，在校生145万人。 全市基础教育在校生1.437万人，在校生4.588万人。 其中，小学在校生358万人，在校生1.082万人； 普通小学在校生242万人，在校生734万人。