Kostol Celestini vo forme, v ktorej môže byť videný dnes, bol postavený v XV storočia. Jeho stavba bola zahájená v roku 1396 a bolo vykonané takmer sto rokmi. Spočiatku, tam bol skromný drevená kaplnka postavená nad pohrebisko svätého Petra z Luxemburska. Na počesť tejto pohrebe bol volaný a oblasť okolo kaplnky - Place de Saint Corp (na území svätých relikvií).

Peter Luxembursko bolo známe, že sa stal vysoko postavený duchovný v jeho mladosti - Vo veku 15 rokov bol biskup Metz, potom čoskoro prijal titul kardinála, a za 18 rokov (1387) zomrel spotreby. Po jeho pohrebe v meste Avignon povestí o zázračnej ostatky kardinála, a mníchmi poriadku Celestini rozhodol postaviť nad hrobom kláštora. U všetkých svätých Peter Luxembursko bolo pridané len v roku 1527, a pred tým boli jeho pozostatky vyhovené bez oficiálneho uznania posvätnosti cirkvi.

Neskôr, vedľa kostola Celestini kaplnky bola postavená na počesť ďalšieho svätca - Benezet, jeden z najviac uctievaný v Avignone. Podľa miestnej legendy, v pozemskom živote bol jednoduchý pastier Benezet, ktorý zjavil Kristus a povedal mu, aby postaviť Avignon most cez Rhone. Keď sa obyvatelia mesta požadovali Benezet ukázať im svoju výlučnosť a urobiť nejaký zázrak, niesol cez mesto k rieke, a obrovský kameň označený im miesto stavať. Benezet žil v XII storočia a bol vysvätený v XIV storočí.

Cirkev Celestini mal mnoho hodnôt - náboženských umeleckých diel a riad, ktorý sa v čase francúzskej revolúcie boli spálené a kostol sám bol otočený do kasární. Prežívajúce pozostatky Celestini našiel útočisko v iných cirkvách Avignon - napríklad ostatky sv Benezet pochovaný v kostole sv Adeodata.

V súčasnej dobe je kostol nádvorí sa stáva fáza počas každoročného festivalu júla.