‘Doommarketing’? Tientallen onafhankelijke experts waarschuwen al jaren voor existentieel AI-risico

De laatste weken was het groot nieuws in alle media: de mensheid zou kunnen uitsterven door AI.  Vooral AI-critici stelden echter dat de waarschuwingen onderdeel waren van een PR-campagne van AI-makers, bedoeld om de wereld te laten geloven hoe krachtig hun systemen al zijn. Een van de opiniemakers die dit uitte, Ilyaz Nasrullah,  noemde het zelfs ‘doommarketing’.

Maar waarschuwingen voor het risico van uitsterven door AI komen zeker niet alleen van de bedrijven die AI-systemen ontwikkelen. Vele tientallen wetenschappers en andere onafhankelijke AI-experts waarschuwen al jaren voor gevaren van geavanceerde AI die uiteindelijk zouden kunnen leiden tot het uitsterven van de mensheid.

Al vóór 2020 verschenen wetenschappelijke publicaties waarin de mogelijkheid van uitsterven door geavanceerde AI werd besproken. Een overzicht daarvan is hier te vinden. Bron

Naarmate AI-systemen meer capaciteiten kregen, werden de waarschuwingen over het mogelijke gevaar voor de mensheid frequenter. Rond 2023 begonnen ook de reguliere media hier steeds vaker over te schrijven.

Op 1 en 2 november was er de AI Safety Summit waar o.a. de premier van het VK en de vice-president van de VS aan deelnamen.

De waarschuwingen werden in 2026 nog nadrukkelijker nadat eerder die zomer AI-agents van OpenAI uit hun afgeschermde omgeving, een zogenoemde sandbox, waren gebroken en via verschillende inventieve hacktechnieken toegang hadden gekregen tot systemen van Hugging Face. Sommige AI-critici geringschatten de capaciteiten van de AI-agents die de hack uitvoerden. De hack zou volgens hen vooral mogelijk zijn geworden door fouten in de beveiliging.

In mei 2023 waarschuwde Geoffrey Hinton, een Canadese wetenschapper, emeritus hoogleraar, Nobelprijswinnaar en een van de zogenoemde ‘godfathers of AI’, al voor de gevaren van kunstmatige intelligentie. Hij waarschuwde onder meer voor killerrobots. Bron

Op 16 september 2026 noemde Hinton de hack door AI-agents van OpenAI bij Hugging Face een “little Chernobyl”. Bron

Ook in mei 2023 waarschuwde Wim Nuijten, wetenschappelijk directeur van het AI-instituut EAISI van de TU Eindhoven, dat AI zonder een ‘moreel kompas’ op termijn zelfs het leven op aarde zou kunnen uitroeien. Bron

Stuart Russell is hoogleraar computerwetenschappen aan UC Berkeley. Russell verklaarde tegenover de Amerikaanse Senaat dat superintelligentie “potential catastrophic risks to humanity, up to and including human extinction” kan opleveren. Bron

Yoshua Bengio, hoogleraar aan de Universiteit van Montréal en winnaar van de Turing Award, wordt net als Hinton beschouwd als een van de ‘godfathers of AI’. Ook hij waarschuwde al in 2023 voor het risico op uitsterving. Op 23 september 2026 hield hij een toespraak voor de VN-Veiligheidsraad. Daarin zei hij onder meer: “Today, a handful of companies and countries are acting in their self-interest by taking reckless risks with humanity’s fate.”

Eerder, in september 2026, zei Bengio bij CNN: “If we build entities that are smarter than us and that we don’t control, they could harm us. And, you know, if they’re smart enough, they could potentially get rid of humanity if that’s in their interest.” Bron

In juni 2024 stuurden voormalige en toenmalige medewerkers van OpenAI en Google een openbare brandbrief met de titel “A Right to Warn about Advanced Artificial Intelligence”. Tot de ondertekenaars behoorden Jacob Hilton, Daniel Kokotajlo, Ramana Kumar, Neel Nanda, William Saunders, Carroll Wainwright en Daniel Ziegler, naast zes anonieme voormalige medewerkers van OpenAI. Bron

Dawn Song, hoogleraar computerwetenschappen aan UC Berkeley en gespecialiseerd in AI-veiligheid en cybersecurity, behoort eveneens tot de wetenschappers die expliciet waarschuwen voor het risico dat geavanceerde AI tot menselijke uitsterving kan leiden. Zij was mede-auteur van een in 2024 gepubliceerde paper waarin wordt beschreven hoe verlies van menselijke controle over autonome AI uiteindelijk kan leiden tot “the marginalization or extinction of humanity”. Bron

Roman Yampolskiy, hoogleraar computerwetenschappen aan de University of Louisville, heeft meerdere keren gewaarschuwd voor het risico dat AI kan leiden tot het uitsterven van de mensheid. Hij schatte de kans daarop binnen honderd jaar op 99,999 procent. Die waarschuwing uitte hij onder meer in 2024. Bron

Op 17 september 2026 nam Yampolskiy deel aan een debat bij The Diary of a CEO. Daar gaf hij, voor het scenario waarin general superintelligence daadwerkelijk wordt gebouwd, een kans op uitsterving van ongeveer 99 procent tot vrijwel 100 procent. Volgens Yampolskiy zal een dergelijk systeem niet beheersbaar zijn.

Er is een lange lijst van deskundigen die hebben gewaarschuwd voor de mogelijke gevaren van superintelligentie. Daaronder bevinden zich onder anderen:

• David Krueger, AI-onderzoeker aan de University of Cambridge en verbonden aan het Centre for the Study of Existential Risk;
• Dan Hendrycks, AI-onderzoeker en directeur van het Center for AI Safety;
• Eliezer Yudkowsky, AI-alignmentonderzoeker, medeoprichter van het Machine Intelligence Research Institute en mede-auteur van het boek If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All;
• Max Tegmark, hoogleraar aan MIT en voorzitter van het Future of Life Institute;
• Stuart Russell, hoogleraar computerwetenschappen aan UC Berkeley;
• Nate Soares, president van het Machine Intelligence Research Institute (MIRI) en onderzoeker op het gebied van AI-alignment. Hij waarschuwt al jaren dat het bouwen van supermenselijke AI zonder een betrouwbare methode om deze systemen onder menselijke controle te houden, kan leiden tot het uitsterven van de mensheid. Hij is eveneens mede-auteur van If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All.

Jacob Coxon, een AI-onderzoeker gespecialiseerd in de voortrainingsfase van grote taalmodellen, vertrok in september 2026 bij Anthropic omdat hij vond dat de ontwikkeling van steeds krachtigere AI sneller ging dan de veiligheidsmaatregelen konden bijbenen. Volgens hem geloven veel onderzoekers binnen de grote AI-labs oprecht dat zeer geavanceerde, mogelijk zelfverbeterende AI binnen enkele jaren een existentieel risico kan vormen.

Tristan Harris, voormalig design-ethicus bij Google en medeoprichter en president van het Center for Humane Technology, waarschuwt al jaren voor de maatschappelijke en existentiële risico’s van AI. In 2023 ondertekende hij een internationale verklaring waarin het voorkomen van menselijke uitsterving door AI een mondiale prioriteit werd genoemd, vergelijkbaar met het tegengaan van pandemieën en kernoorlog.