"Menselijkheid moet behouden blijven in het tijdperk van AI"... Paus Leo XIV waarschuwt voor misbruik van technologie in Frankrijk

Paus Leo XIV heeft Frankrijk bezocht en heeft een sterke waarschuwing gegeven over de risico's van misbruik van geavanceerde technologieën zoals AI. Hij benadrukte dat in de voortgang van technologie, menselijkheid en morele waarden behouden moeten blijven.

Tijdens een ontmoeting op 25 september met president Emmanuel Macron en diplomaten in het Élysée-paleis, zei de paus: "Om te voorkomen dat we onze menselijkheid verliezen in het 'paradijs van machines' dat onze dagelijkse levens doordringt en beheerst, is het dringend noodzakelijk dat we onderwijs krijgen dat ons in staat stelt tot ethische discernement en het herkennen van morele waarden."

De paus wees ook op de tendens tot ontmenselijking in een AI-gedreven samenleving, waarbij hij opmerkte dat hoewel computersystemen de naam 'intelligentie' dragen, de waardigheid van de mens vaak niet wordt erkend en gemakkelijk wordt weggeworpen.

Daarnaast stelde de paus tijdens een toespraak in de UNESCO-hoofdkantoor in Parijs dat als waarheid wordt uitgesloten, taal onderworpen zal zijn aan de willekeurige wil en de logica van geweld van de machthebbers. Dit wijst op de mogelijkheid dat AI-technologie kan worden misbruikt voor de verspreiding van nepnieuws en valse informatie. Hij pleitte ervoor dat technologie geen middel van overheersing moet zijn, maar een hulpmiddel voor de mensheid. Eerder had hij in een bijeenkomst van christelijke parlementsleden gewaarschuwd dat de snelle ontwikkeling van AI kan leiden tot nieuwe vormen van 'economische en ideologische kolonialisme'.

Paus Leo XIV, de eerste paus van Amerikaanse afkomst, heeft deze kwestie eerder aan de orde gesteld en heeft de sociale en ethische gevolgen van technologie als een belangrijk probleem behandeld. In een eerdere encycliek wees hij op de risico's van AI-systemen die valse informatie kunnen verspreiden en ernstige bedreigingen voor internationale veiligheid en vrede kunnen vormen, en hij riep op tot controle over de ontwikkeling van autonome wapensystemen en versterking van internationale regelgeving en toezicht.