Le portail en calcaire a été quant à lui ajouté au 16è siècle.
A l’intérieur, on y trouve deux sarcophages d’abbés des 10è et 11è siècles qui proviennent de l’Abbaye de Stavelot. Celui du 11è siècle est vraisemblablement le tombeau de Saint-Poppon, un abbé fondateur de l’Abbaye de Stavelot. Il a dirigé la principauté à partir de 1020.
Découvert en 1896, on présumé qu’il s’agit bien de lui car le tombeau, daté de 1048, correspond effectivement à son année de décès.
Une petite grotte en moellons de grès abritant une statue de la Vierge.
Cette chapelle en briques, surmontée d’un clocheton, intercalée entre deux maisons de la Rue Neuve, est classée.