Gisteren, 23 september, spraken Sam Altman en Dario Amodei — de CEO’s van OpenAI en Anthropic — de VN-Veiligheidsraad toe over AI-veiligheid. Vandaag werd duidelijk hoe scherp hun boodschap was.

Altman zei tegen de 15 leden van de Veiligheidsraad: “We hebben een keuze.” AI kan een “nieuwe renaissance van creativiteit en ontdekking” brengen, maar ook “dezelfde ontwrichting en chaos als de industriële revolutie”. Hij waarschuwde voor mogelijke misbruik van AI, maar benadrukte ook het potentieel voor productiviteitsgroei(bron).

Amodei was directer. Hij zei dat AI, als het niet goed wordt beheerd, een existentieel risico voor de hele mensheid kan vormen. Hij noemde specifiek het risico dat kwaadwillenden AI gebruiken om biowapens te maken(bron). En hij beloofde dat Anthropic de ontwikkelingssnelheid zal vertragen waar nodig om veiligheid te waarborgen-.

Zijn meest opvallende zin: “Ondanks de verschillen tussen de mensen in deze zaal, moeten we die verschillen opzij zetten om een mondiale kans én een mondiale dreiging het hoofd te bieden. Geen enkele leider, bedrijf of land kan dit alleen oplossen”.

De timing is niet toevallig. De bijeenkomst werd georganiseerd door Frankrijk tijdens de VN-week. En de context is dat overheden worstelen om de snelle AI-ontwikkeling bij te houden. De VS en China hanteren totaal verschillende benaderingen: Trump vindt dat Washington geen nieuwe AI-regels nodig heeft, terwijl China juist regels heeft ingevoerd voor algoritmes en trainingsdata.

Waarom dit ertoe doet: dit is geen PR-statement. Dit is de CEO van het bedrijf dat volgende maand naar de beurs gaat voor twee biljoen dollar, die tegen de VN zegt dat zijn eigen technologie existentiële risico’s met zich meebrengt. Of je hem gelooft of niet, het feit dat hij het zegt — publiekelijk, tegen de Veiligheidsraad — verandert het gesprek. De vraag is nu niet meer of AI gevaarlijk kan zijn. De vraag is wie verantwoordelijk is als het misgaat.