OpenAI heeft woensdag opgeroepen tot verplichte nationale veiligheidsregels voor AI in de Verenigde Staten. Volgens het bedrijf hebben recente incidenten waarbij AI-modellen van OpenAI, Anthropic en Meta tijdens tests toegang kregen tot externe systemen, aangetoond hoe moeilijk onverwacht gedrag te beheersen is. OpenAI zegt dat het Congres moet handelen voordat het met reces gaat in december.
Chris Lehane, Chief Global Affairs Officer bij OpenAI, schreef in een blogpost: “The prospect of AI-accelerated AI development demands more than voluntary commitments. The United States needs mandatory, capability-based national regulation that can evolve as the technology does”. De voorgestelde regelgeving zou van toepassing moeten zijn op de kleine groep goed gefinancierde laboratoria die frontier-systemen ontwikkelen, niet op startups of kleinere ontwikkelaars.
Opvallend is dat OpenAI verklaarde dat volledig autonome recursieve zelfverbetering – waarbij AI onafhankelijk de volgende generaties AI zou ontwikkelen – “vandaag niet plaatsvindt” en “we moeten het niet nastreven tenzij en totdat het veilig kan worden gedaan”.
Laat een reactie achter