拿破仑在1808年5月17日颁布法令，宣布要在法国帝国大学内部建立一所“寄宿制师范学校”，以“培养学员在文学和科学上的教学艺术”。学校于1810年开放，位于原普莱西中学内（现已并入路易勒格朗中学）。当时，每届学生规模还很小，模仿军规而制定的校规非常严格，学生必须穿着制服。1814年，学校搬迁到了圣灵修会的建筑里。一直到1818年，学校都没有设立入学竞考，学生都是由学区视察员根据高中学习成绩选拔。1822年9月8日，因为被视为是自由主义思想的中心，学校被弗雷西努（时任法国大学总监）勒令停办。
根据1826年3月9日的一条法令，一所“预科学校”在路易勒格朗中学的地址上建立起来，1828年后，学校的地址改在了普莱西中学内。学校没有中断的历史就是从这时（1826年）开始的。
在七月革命时期（1830年），“预科学校”依据路易-菲利普的命令改名为“师范学校”，这个名字参照了共和历三年师范学校。1845年，随着一批基础教育师范学校的建立，学校被重新命名为“高等师范学校”。
高等师范学校搬到新地址——巴黎第五区乌尔姆路上是在1847年11月4日，这次搬迁是1841年4月24日法律决定的。如今学校仍位于这个地址，但校园已经被后来的建筑扩大了，特别是1937年建造的位于Lhomond路的实验科学楼。
1903年，高等师范学校被并入巴黎大学，直到1954年，学校才成为独立法人，并取得了财政上的独立。1962年，乔治·蓬皮杜总理签署法令确认了学校的科学研究使命。但接下来的几年对学校来说十分艰难，高师被戴高乐主义的当局视为异议者，在1971年，还曾被一些毛主义小组占领。
现在的高等师范学校是1985年由原高等师范学校和1881年成立的原女子高等师范学校（塞夫勒女子高等师范学校）合并而成。巴黎高等师范学校是法国高等师范学校集团的倡导者和组建者（法国高师成员包括：巴黎高等师范学校，卡尚高等师范学校，和里昂高等师范学校）。
