-Vaticaanstad- Paus Leo maakt dankbaar gebruik van moderne communicatietechnieken en sociale media om zijn boodschap uit te dragen. Miljoenen klikken erop – en vermoedelijk authentiek: preken van Paus Leo XIV circuleren op YouTube en TikTok. Maar steeds vaker blijkt dat de nieuwe Paus ze nooit uitgesproken heeft. Het zijn nep-AI-beelden en berichten. Het Vaticaan roept op tot waakzaamheid, maar kan er weinig tegen doen.
De stem klinkt serieus, de toon spookachtig. “De hemelklok tikt zijn laatste seconden”, waarschuwt Paus Leo XIV in een YouTube-video over het zogenaamd naderende einde van de wereld. Geen enkel woord is authentiek. De dramatische toespraak is een product van kunstmatige intelligentie. Stem, gezichtsuitdrukkingen, theologie – alles lijkt overtuigend. Juist dat maakt de nep zo gevaarlijk.
AI-preken van Paus Leo overspoelen sociale netwerken
Sinds de verkiezing van Paus Leo XIV op 8 mei circuleren steeds vaker dergelijke bedrieglijk realistische video’s op sociale media, waarin de nieuwe Paus zogenaamd actuele kwesties aankaart. Sommige berichten doen zich voor als preken, terwijl andere lijken op spontane uitlatingen. Zoals een catechese over de rol van de vrouw. In deze levensechte fakevideo ‘zegt’ de Paus dat het enige recht dat een vrouw heeft, het aanrecht is.
“Deepfakes vormen een groot probleem, zowel in dit specifieke geval als in het algemeen. Elke vorm van communicatie moet waarheidsgetrouwheid en betrouwbaarheid bevatten”, zegt Claudia Paganini, media-ethicus. Vooral in de katholieke kerk, die sterk leunt op het gezag van haar vertegenwoordigers, kunnen dergelijke nepnieuws “een destabiliserend effect” hebben – “voor de kerk zelf en voor de samenleving.”
Veel gelovigen zijn onrustig
Sterker nog, veel mensen lijken zich nu af te vragen of de preken over de eindtijd of de uitspraken over de rol van vrouwen authentiek zijn. Een Spaanse AI-video toont de Paus, waarin hij spreekt over de ideale huisvrouw, deze film is bijna tien miljoen keer bekeken – meer dan welke eerdere video dan ook op het officiële Instagram-kanaal van het Vaticaan.
Leo XIV deed inderdaad een genuanceerde uitspraak over dit onderwerp. In een Pinkstertoespraak haalde hij voorbeelden aan om het mannelijke priesterschap te rechtvaardigen. Hij liet open wat dit specifiek voor vrouwen betekent – in tegenstelling tot de duidelijke uitspraken in de deepfake-video’s.
“Allereerst bestaat er zeker het risico dat het vertrouwen verzwakt, dat mensen zich onzeker voelen en niet meer weten wie ze kunnen vertrouwen”, aldus Paganini. Hoewel dit op de lange termijn nieuwe vaardigheden kan bevorderen, heeft de onzekerheid in de samenleving in de huidige transitiefase een destabiliserend effect.
Vaticaan uit bezorgdheid
YouTube en TikTok hebben talloze kanalen geblokkeerd. Maar nieuwe duiken snel weer op. De AI-labelvereiste voor AI-content is vaak niet van toepassing – aanwijzingen zitten verborgen in beschrijvingen of ontbreken zelfs helemaal. “Veel mensen weten nog steeds niet precies wat ‘AI-gegenereerd’ betekent”, zegt Paganini. Dit wordt versterkt door een diepgeworteld vertrouwen in beeld: “De meeste mensen interpreteren films ten onrecht als een soort ooggetuigenverslag, wat je ziet is waar.”
Ook het Vaticaan is gealarmeerd: alle officiële toespraken van de Paus zijn altijd te vinden op de website van het Vaticaan zelf. Kort na zijn verkiezing, zei de Paus, dat hij dit als een centrale uitdaging van zijn ambtstermijn beschouwt – niet alleen technisch, maar ook ethisch en spiritueel.
Meer mediawijsheid als tegenwicht
Paus Franciscus had al herhaaldelijk zijn scepsis over kunstmatige intelligentie (AI) uitgesproken. In 2023 werd een door AI gegenereerde afbeelding van hem in een donsjack een symbool van digitale misleiding, (zie foto boven artikel).
De kerk reageert niet alleen met waarschuwingen. Sinds 2020 promoot ze wereldwijde ethische normen met het initiatief “Rome Call for AI Ethics”. Paganini gelooft dat uiteindelijk “alleen mediawijsheid een echt haalbare oplossing is”. Hoewel technische en juridische maatregelen ook nodig zijn, komen die vaak te laat.
Waarheid of bedrog, wie beslist?
Wat uiteindelijk overblijft, is een nuchtere blik op de realiteit. De Paus roept niet op tot het einde van de wereld. Hij roept op tot heiligheid – en een groter verantwoordelijkheidsgevoel in een wereld waar waarheid en bedrog vaak slechts een muisklik van elkaar verwijderd zijn.
