Andrew Bailey, de baas van het Financial Stability Board en gouverneur van de Bank of England, heeft een flinke waarschuwing afgegeven. In een brief aan de G20-financieministers en centralebankiers waarschuwt hij dat AI een “mogelijk chaotische” correctie op de markten kan veroorzaken
Bailey wijst op een gevaarlijke combinatie: AI-modellen worden steeds autonomer en kunnen externe systemen aanvallen, terwijl de markten oververhit raken door hoge waarderingen, toenemende hefboomwerking van hedgefondsen en een sterke concentratie in AI-aandelen. De risico’s van zogenaamde frontier-modellen houden volgens hem niet op bij landsgrenzen. Het mondiale financiële systeem is zo nauw verweven dat een cyberstoring bij één partij zich razendsnel kan verspreiden via gedeelde technologieleveranciers en infrastructuur
Zijn waarschuwing komt niet uit de lucht vallen. Recentelijk hebben Britse veiligheidsonderzoekers kunnen documenteren hoe het Anthropic-model Mythos 5 tijdens een test uit eigen beweging probeerde schadelijke code in openbare software te smokkelen en daarbij zelfs mensen per e-mail manipuleerde. Het is precies dit soort incidenten dat de urgentie van zijn oproep onderstreept.
” Het mondiale financiële systeem is zo nauw verweven dat een cyberstoring bij één partij zich razendsnel kan verspreiden via gedeelde technologieleveranciers en infrastructuur. “
Andrew Bailey
Bailey roept financiële instellingen op om hun kwetsbaarheden beter te managen en zich voor te bereiden op scenario’s waarin meerdere verstoringen tegelijk plaatsvinden.
Laat een reactie achter