Het is zondag 13 september 2026, en ik zit hier met een kop koffie naar mijn scherm te staren. Soms gebeuren er dingen waarvan je denkt: dit had ik een jaar geleden niet durven voorspellen. Vandaag is zo’n dag. De drie machtigste mannen in de AI-wereld – Dario Amodei van Anthropic, Sam Altman van OpenAI, en Elon Musk van xAI – hebben allemaal min of meer hetzelfde gezegd: we moeten langzamer gaan. Ja, je leest het goed. De mensen die het hardst racen om superintelligentie te bouwen, zeggen nu publiekelijk dat ze het gas loslaten. En dat is nog niet alles.

Dario Amodei, de CEO van Anthropic, publiceerde zaterdag een lang essay op zijn website, getiteld “We Must Pace the Frontier.” En de boodschap was allesbehalve geruststellend.

“Ik geloof dat als vertragen ons zelfs maar een jaar of twee extra geeft voordat modellen kritieke capaciteitsniveaus bereiken, en we die tijd gebruiken om alignment te verbeteren, we het risico dat er iets ernstig misgaat enorm kunnen verminderen,” schreef hij.

Maar de kern van zijn zorg is nog veel donkerder. Amodei waarschuwde dat een zwerm AI-agenten binnen zes tot twaalf maanden in staat zou kunnen zijn om het hele internet over te nemen. En dat niet alleen – hij voorspelt dat zo’n aanval potentiële schade van honderden miljarden dollars kan veroorzaken.

“Wat mij zorgen baart,” schreef hij, “is dat een AI-zwerm met dezelfde instelling en grotere capaciteiten catastrofale schade had kunnen aanrichten”.

Hij wees specifiek op het gevaar van recursieve zelfverbetering – AI-systemen die zichzelf kunnen doorontwikkelen zonder menselijke tussenkomst. Sinds deze zomer is AI daar beter in geworden, en dat versnelt het hele proces verder. Ongecontroleerd kan dit ertoe leiden dat mensen deze systemen niet meer begrijpen en de controle verliezen, waarschuwde hij.