醍醐寺始建于贞观十六年(874年)。圣宝理源大师在上醍醐山上遇到山神横尾明神显灵指点,得到了灵泉——醍醐水,并建造了一座小庙以供奉准胝和如意轮两尊观音像。这就是醍醐寺的前身。之后,由于醍醐、朱雀、村上三位天皇信仰佛教,依照醍醐天皇的愿望于延喜七年(907年)又建造了药师堂。直至五大堂落成,上醍醐的寺院建筑就完成了。接下来计划在下醍醐建造庙宇。延长四年(926年)建造了释迦堂,而后天历五年(951年)五重塔的落成,算是完成了下醍醐的寺院建筑。
此后,醍醐寺作为真言宗小野流派的中心寺院在佛教史中占有重要地位。不仅如此,醍醐寺与政治权力中心的人们也有密切的关系。例如,代替藤原一族掌握了大权的权门源浚房家族的人连续几代都是醍醐寺的主持。并且,在主持胜觉(俊房的儿子)的时期,山上和山下所有的寺院建筑都得到了彻底修缮。永久三年(1115年)建造了三宝院,由此确立了醍醐寺发展的基础。