拿破仑在1808年5月17日颁布法令,宣布要在法国帝国大学内部建立一所“寄宿制师范学校”,以“培养学员在文学和科学上的教学艺术”。学校于1810年开放,位于原普莱西中学内(现已并入路易勒格朗中学)。当时,每届学生规模还很小,模仿军规而制定的校规非常严格,学生必须穿着制服。1814年,学校搬迁到了圣灵修会的建筑里。一直到1818年,学校都没有设立入学竞考,学生都是由学区视察员根据高中学习成绩选拔。1822年9月8日,因为被视为是自由主义思想的中心,学校被弗雷西努(时任法国大学总监)勒令停办。
根据1826年3月9日的一条法令,一所“预科学校”在路易勒格朗中学的地址上建立起来,1828年后,学校的地址改在了普莱西中学内。学校没有中断的历史就是从这时(1826年)开始的。
在七月革命时期(1830年),“预科学校”依据路易-菲利普的命令改名为“师范学校”,这个名字参照了共和历三年师范学校。1845年,随着一批基础教育师范学校的建立,学校被重新命名为“高等师范学校”。
高等师范学校搬到新地址——巴黎第五区乌尔姆路上是在1847年11月4日,这次搬迁是1841年4月24日法律决定的。如今学校仍位于这个地址,但校园已经被后来的建筑扩大了,特别是1937年建造的位于Lhomond路的实验科学楼。
1903年,高等师范学校被并入巴黎大学,直到1954年,学校才成为独立法人,并取得了财政上的独立。1962年,乔治·蓬皮杜总理签署法令确认了学校的科学研究使命。但接下来的几年对学校来说十分艰难,高师被戴高乐主义的当局视为异议者,在1971年,还曾被一些毛主义小组占领。
现在的高等师范学校是1985年由原高等师范学校和1881年成立的原女子高等师范学校(塞夫勒女子高等师范学校)合并而成。巴黎高等师范学校是法国高等师范学校集团的倡导者和组建者(法国高师成员包括:巴黎高等师范学校,卡尚高等师范学校,和里昂高等师范学校)。