Het document Magnifica Humanitas schetst een moreel kader voor de omgang met technologische vooruitgang, met veel aandacht voor AI, geopolitieke spanningen en militarisering. Leo XIV waarschuwt voor een nieuwe machtsbalans waarin private technologiebedrijven ongekend veel invloed hebben. Een kleine groep bedrijven en individuen beschikt inmiddels over technologische middelen die de slagkracht van nationale overheden overstijgen. Hij spreekt daarom van een historische verschuiving naar “private technologische kracht”, een boodschap die vermoedelijk op weinig enthousiasme zal rekenen in Silicon Valley en het Witte Huis.
Paus wil dat overheden AI meer gaan reguleren
Paus Leo XIV vindt dat kunstmatige intelligentie niet alleen een technologische, maar vooral een ethische en maatschappelijke kwestie is. In zijn eerste encycliek roept hij overheden wereldwijd op om AI strenger te reguleren en de macht van grote technologiebedrijven in te perken. Sterker nog: volgens de paus moet AI in zekere zin worden “ontwapend”.
Zorg over machtsconcentratie
De paus zet vraagtekens bij de democratische legitimiteit van deze machtsconcentratie. Technologiebedrijven bepalen in toenemende mate hoe informatie stroomt, hoe besluiten tot stand komen en hoe economieën functioneren, terwijl publieke controle achterblijft. Daarmee sluit hij aan bij discussies binnen de EU over onder meer de AI Act en de Digital Services Act, die juist proberen de digitale machtspositie van grote spelers te begrenzen. Leo XIV lijkt deze lijn te ondersteunen door te pleiten voor stevigere publieke waarborgen.
AI als moreel vraagstuk
Kunstmatige intelligentie is een rode draad in de encycliek. Leo XIV benadrukt dat de inzet van AI altijd getoetst moet worden aan menselijke waardigheid en het algemeen belang, nu en voor toekomstige generaties. Algoritmes en datasystemen moeten dienen, niet domineren. Hij waarschuwt ervoor dat technologie de autonomie van mensen niet mag ondermijnen en herhaalt zijn eerdere stelling dat AI de mens niet mag “beroven van zijn menselijkheid”.
Geopolitieke spanningen en bewapening
De paus verbindt zijn technologische analyse expliciet met geopolitiek. Hij spreekt zijn zorg uit over toenemende spanningen en de groeiende investeringen in defensie en wapensystemen. AI speelt daarin volgens hem een sleutelrol, omdat het zowel in het slagveld als in informatie‑ en cyberoorlogvoering wordt ingezet. Niet voor niets kopte Trouw: “AI moet ontwapend worden”, gevolgd door “Paus Leo XIV geeft techreuzen én hun wereldbeeld een veeg uit de pan: zij faciliteren moderne slavernij.”
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.
De essentie is niet AI, maar Data Governance. Hier wordt impliciet ervan uitgegaan dat data als op orde is vóór AI-implementatie, dus schoon, gestructureerd en bruikbaar. Het industrialiseren van AI zonder solide data governance-structuur is een recept voor ellende en de bron voor compliance en operationele betrouwbaarheid risico's. Compliance is niet bepaald een eenmalige checklist. JUIST de EU is uitstekend gepositioneerd om AI volwassener te maken op dat gebied, met ontwikkelingen als de EU AI Act die juist uitgaat van continue compliance en risicobeheer. Dit betekent wel dat governance dan ook ingebed moet zijn in de ontwikkelings- en releaseprocessen en dat is het nu nog niet. Ook interoperabiliteit, snelheid en controle over data-uitwisseling zijn nog onvoldoende ingebouwd in de huidige infrastructuren en mindsets.
Het is allemaal niet zo zwart wit, goed of slecht. De Paus gaat er impliciet van uit dat AI-systemen voorspelbaar reageren op alle inputs, maar juist AI is inherent probabilistisch en vereist continue monitoring en governance.
Governance is geen "add-on"-laag die je toevoegt als de tech al is geïmplementeerd: het BEGINT bij de Data Governance. Het is dus ook geen kwestie van Stoute Big Tech vs arme uitgebuite gebruikertjes. Het is onze eigen verantwoordelijkheid.
Data governance (als het al wordt toegepast) wordt nog per afdeling of systeem geïsoleerd aangepakt en die fragmentatie belemmert zowel compliance als innovatie.
Data governance moet integraal zijn, met interoperabiliteit en integratie over systemen heen en daar bestaan uitstekende methoden voor, zoals https://www.lifes.institute/ en nadruk op granulaire aanpak.
De EU heeft een unieke positie hier door een combinatie van beleidsmatige, technologische en geopolitieke factoren. De EU AI Act en de GDPR bieden een robuust juridisch kader die strak contrasteert met de "light-touch" benadering van de VS. De EU’s focus op ethiek en veiligheid biedt een model dat innovatie en beveiliging in balans brengt dus de facto onderstreept de Paus hier het belang van de Rules Based Order en daarmee van de Positieve Vrijheid van Isaiah Berlin en Immanuel Kant.
Los van het feit dat de EU nog geen fractie investeert in AI van wat de Amerikanen en Chinezen investeren, ligt de kans op meer technologische soevereiniteit in eigen governance-standaarden. Dat vraagt alleen geen Geloof, maar Kennis en vooral actie!