D'après la tradition, Saint-Eloi y aurait fondé une communauté au VIIème siècle. Les premières traces de l'abbaye datent du Xè siècle. Son fondateur réel serait le comte et abbé d'Aurillac Géraud. L'église actuelle a été construite entre 1075 et 1150. Elle replace une église du IXe siècle dont il ne reste que la tour porche. Abbatiale à nef unique, surmonté de trois coupoles sommées de lanternons. L'abside est largement éclairée par de vastes baies. Les travaux ont commencé par les parties orientales vers 1140 pour se terminer à l'ouest vers 1200. dans la dernière travée de la nef, un ensemble sculpté roman de haute qualité, éléments d'un portail sculpté vers 1140 et jamais mis en place. Placées en hauteur, les scènes de la légende du moine Théophile qui vendit son âme au diable et fut sauvé par la Vierge. A droite, le prophète Isaïe, jambes croisées dans un mouvement de danse, annonce l'heureuse nouvelle « et voici qu'une Vierge va concevoir ». Côté droit, sur le trumeau, s'entrecroisent animaux fantastiques et êtres humains tandis qu'Abraham s'apprête à sacrifier Isaac. Côté gauche, le patriarche Joseph a été exécuté par une main différente. ouillac est occupé par les anglais pendant la guerre de cent ans puis devient la cible des protestants au moment des guerres de Religion. Le monastère est alors totalement ruiné, le clocher de l'église paroissiale éventré. Au XVIIe siècle, les moines bénédictins de Saint-Maur relèvent l'église abbatiale et les bâtiments de leurs ruines.