De eerste encycliek van Leo XIV draagt de elegante titel
"Magnifica Humanitas" –
"Magnifieke Mensheid". Maar hij had net zo goed "Mit brennender
Sorge " kunnen heten, zoals de Duitstalige pauselijke brief waarmee Pius
XI de Kerk – met name in Duitsland – mobiliseerde tegen het nationalisme. (artikel van Guido Horst / Tagespost.de)
De encycliek van de paus behandelt de bescherming van de
menselijkheid in het tijdperk van AI
De Amerikaanse paus, van oorsprong wiskundige, laat er geen
twijfel over bestaan: kunstmatige intelligentie is een cruciale factor geworden
in de vorming van de publieke opinie door de manipulatie van beelden en inhoud,
waardoor het steeds moeilijker wordt om waarheid van leugen te onderscheiden.
Paus Leo X stelt ondubbelzinnig dat het niet langer voldoende is om alleen te
vertrouwen op de "onzichtbare hand" van de markt: het is de taak van
de politiek om economische en technologische ontwikkelingen af te stemmen op het algemeen
belang en om waardig werk, sociale inclusie en een rechtvaardige verdeling van
de voordelen van kunstmatige intelligentie te bevorderen.
Paus Leo X schrijft dat paus Franciscus in zijn encycliek
"Laudato si'" al de groeiende gevaren van "een technocratisch
paradigma in de geglobaliseerde wereld" aan de kaak stelde. Hiermee
bedoelt hij de neiging om "persoonlijke, sociale en economische
beslissingen uitsluitend te onderwerpen aan de logica van efficiëntie, controle
en winst".
De paus is niet zozeer bezorgd over kunstmatige
intelligentie zelf, die hij als een instrument beschouwt, maar eerder over dit
"technocratische paradigma" dat steeds meer terrein wint door de
verspreiding van cognitieve wetenschap, nanotechnologie, robotica en
biotechnologie. Op zichzelf kunnen dergelijke innovaties, waaronder kunstmatige
intelligentie, van grote waarde zijn voor de holistische ontwikkeling van de
mens en het behoud van de schepping. "Maar juist vanwege hun mogelijkheden",
vervolgt de tekst in "Magnifica Humanitas", "kunnen ze het
technocratische paradigma versnellen en vereisen daarom een nieuwe spirituele, ethische en
politieke context."
De moderne mens opleiden in het gebruik van macht
Paus Leo wil hieraan bijdragen door de digitale revolutie te
verankeren in de gevestigde sociale leer van de katholieke kerk en, in de
woorden van Romano Guardini, een tekortkoming aan te kaarten: "Het wordt
steeds duidelijker dat de moderne mens niet wordt opgeleid in het juiste
gebruik van macht." Want in de digitale wereld, zo stelt de encycliek,
"ligt de controle over platforms, infrastructuren, data en rekenkracht in
veel gevallen niet in handen van staten, maar in die van grote economische en
technologische spelers die de facto de toegangsvoorwaarden, de regels voor
zichtbaarheid en de mogelijkheden tot participatie bepalen. Wanneer dergelijke
macht geconcentreerd is in de handen van een paar, bestaat het gevaar dat deze
ondoorzichtig wordt en aan publieke controle ontsnapt."
Hieruit concludeert de paus dat kunstmatige intelligentie
niet als moreel neutraal kan worden beschouwd. Integendeel, het vereist
passende wettelijke kaders, onafhankelijk toezicht, voorlichting voor
gebruikers en een politiek systeem dat zijn verantwoordelijkheid niet ontloopt.
Anders zal de transformatie uitsluitend worden gedreven door technocratische
logica en worden gepresenteerd als noodzakelijk en onvermijdelijk, wat
uiteindelijk zal leiden tot de handhaving van regels die worden gedicteerd door
degenen die de data, infrastructuur en benodigde rekenkracht controleren.
Technologische macht verleent geen rechten.
Men moet kunstmatige intelligentie "ontwapenen",
schrijft Leo XIV. Hiermee bedoelt hij dat deze moet worden losgekoppeld van de
logica van gewapende concurrentie, een concurrentie "die tegenwoordig niet
alleen militair, maar ook economisch en cognitief van aard is. Deze race draait
om het krachtigste algoritme en de grootste database om een geopolitiek of commercieel
voordeel ten opzichte van alle anderen te consolideren. Ontwapenen betekent
deze gelijkstelling van technologische macht met het recht om te heersen
verbreken." Daarom moet men kunstmatige intelligentie met nuchtere kennis
en waakzaamheid benaderen, schrijft de paus.
Bovenal is een ethische code nodig die is gebaseerd op de
criteria van gedeelde sociale rechtvaardigheid, want "het heeft geen zin
om een morelere AI te
hebben als deze moraliteit door een paar mensen wordt bepaald." Wat paus
Leo eist, wordt gedeeld door veel wetenschappers en experts op het gebied van
kunstmatige intelligentie. Of de internationale gemeenschap en haar
belangrijkste spelers dit momenteel kunnen implementeren, is een heel andere
kwestie.
