嵩阳书院原名为嵩阳寺，创建于北魏孝文帝太和八年（公元484年），为佛教活动场所，僧待多达数百人。隋炀帝大业年间（605——618年），更名为嵩阳观，为道教活动场所。宋仁宗景祜二年（1035年），名为嵩阳书院，以后一直是历代名人讲授经典的教育场所。明末书院毁于兵火，历经元、明、清各代重修增建，鼎盛时期，学田1750多亩，生徒达数百人，藏书达2000多册。清代末年，废除科举制度，设立学堂，经历千余年的书院教育走完了它的历程。但是，嵩阳书院作为中国古代教育史上一颗璀璨的明珠，永远载入史册。

嵩阳书院从五代后唐到清代末年，经历了近千年的讲学历史，是书院中的佼佼者，对传播中华民族和培养造就人才发挥了重要的教育作用。

宋代初期，国内太平，文风四起，儒生经五代久乱之后，都喜欢在山林中找个安静的地方聚众讲学。登封是尧、舜、禹、周公等曾经居住过的地方。据记载，先后在嵩阳书院讲学的有范仲淹、司马光、程颢、程、杨时、朱熹、李纲、范纯仁等二十四人，司马光的巨著《资治通鉴》第9卷至21卷就是在嵩阳书院和崇福宫完成的。号称“二程”的程，程颢在嵩阳书院讲学10余年，对学生一团和气，平易近人，讲学鲜感，通俗易懂，宣道劝仪，循循善诱。学生虚来实归，皆都获益，有“如沐春风”之感。康熙辛卯年，全省在开封选拔举人，录取 名额一县不足一人，仅登封就中了五个。名儒景冬，就这于嵩阳书院，中进士后，曾九任御史。嵩阳书院正是拥有了得天独厚的师资条件，声名大振，四方生徒摩肩接踵，成为北宋影响最大的书院之一。