醍醐寺始建於貞觀十六年(874年)。聖寶理源大師在上醍醐山上遇到山神橫尾明神顯靈指點，得到了靈泉——醍醐水，並建造了一座小廟以供奉准胝和如意輪兩尊觀音像。這就是醍醐寺的前身。之後，由於醍醐、朱雀、村上三位天皇信仰佛教，依照醍醐天皇的願望於延喜七年(907年)又建造了藥師堂。直至五大堂落成，上醍醐的寺院建築就完成了。接下來計劃在下醍醐建造廟宇。延長四年(926年)建造了釋迦堂，而後天歷五年(951年)五重塔的落成，算是完成了下醍醐的寺院建築。

此後，醍醐寺作為真言宗小野流派的中心寺院在佛教史中佔有重要地位。不僅如此，醍醐寺與政治權力中心的人們也有密切的關係。例如，代替藤原一族掌握了大權的權門源浚房家族的人連續幾代都是醍醐寺的主持。並且，在主持勝覺(俊房的兒子)的時期，山上和山下所有的寺院建築都得到了徹底修繕。永久三年(1115年)建造了三寶院，由此確立了醍醐寺發展的基礎。

其後，盛極一時的醍醐寺也在長年累月中遭遇過幾次火災，特別是應仁・文明之亂的戰火，使下醍醐的廟宇幾乎全部化為灰燼。慶幸的是五重塔能夠逃過一劫，至今仍然保留著天歷繁盛時期的樣子。另外，上醍醐的准胝堂作為“西國第十一處巡禮寺”，五大堂作為“五大力尊”信仰的中心，至今仍被廣泛地信奉著。

從藤原末期到鎌倉時代，是遠離政治動蕩的小野法流派實現教學充實的時期。首先，為了明確醍醐寺的歷史，慶延編撰了長達十五卷的《醍醐雜世記》。另外，作為數學研究成果的一部分，為了佛教研究而畫的圖像、白描圖像和多數的密教繪畫、聖教類一起被保留至今。

南北朝時期，後醍醐天皇和弘真(文觀僧正)、足利尊氏和賢俊的關係使得醍醐寺的內部分為兩派，並持續對立狀態。有一些顯示當時政治緊張的資料被保存了下來。特別是應永・永享年間的住持滿濟准後和桃山時期的義演准後，與政治權力中心保持著很深的關係，並且盡力復興寺院建築和修繕寺門。

這兩個人都留下了詳細的日記，從中可以了解到他們對外活動的大概情況。此外這兩人為保存文化財產而付出心血的事蹟也被記載在野史藏書上。另外，義演准後憑藉著與豐臣秀吉的關係，完成了復興寺院建築、三寶院殿堂與庭院的工程，並舉辦醍醐賞花作為一代英雄豐臣秀吉生涯的完美落幕，他本人也因此而聞名。

到了江戶時期，從修驗道中興之祖聖寶繼承下來的屬於三寶院的修驗——山伏(一種入山的修行)，從幕府得到許可稱為“當山派”。隨著住持高賢的大峰入峰，這種醍醐的教風得以廣泛推廣，現在還有為了繼承這種傳統而進行花供入峰修行的。

江戶末期的混亂和明治維新以後波瀾壯闊的改革，使得醍醐寺和其他的佛教各宗派的佛寺一樣，大大小小很多的分院都荒廢了，只有主要的廟宇和中心的分院殘留了下來。現在其主要的很多建築都被指定為國寶和重要文化遺產。

另外，醍醐山數十萬件的文物都收藏在靈寶館，春秋兩季陳列出來供一般觀賞。