L'iscrizione recita Refugium Peccatorum: il luogo ha infatti dato rifugio a credenti in fuga dal mondo o forse da se stessi per secoli. La città più vicina è Genga. Dietro alla chiesa si nasconde un'enorme sistema di cavità ed anfratti che fa parte delle grotte di Frasassi. Qui trovarono riparo gli abitanti della zona nelle invasioni provenienti dall'Ungheria del 10° secolo.

Durante la costruzione della chiesa infatti sono state ritrovate ossa di adulti e bambini, forni per cuocere il pane, magazzini per il grano ma anche monete dell'Età del Bronzo e del Ferro.

All'interno della chiesa ottagonale era custodita una Madonna con bambino di Canova che è esposta nel museo di arte sacra di Genga per questioni di sicurezza.

Poco distante dal tempio Valadier si trova un'altra costruzione sacra che condivide le mura con la motagna e che è precariamente arroccata fuori dalla grotta. Si tratta della Madonna Infra Saxa, un eremo risalente al 1029 dove vivevano in clausura le monache benedettine.

Questo qui sotto è il panorama che si vede da una delle aperture delle grotte di Frasassi presso Genga.