OpenAI heeft dinsdag bevestigd dat het al wekenlang samenwerkt met Anthropic en Google DeepMind aan AI-veiligheidsmaatregelen. Dit is best bijzonder als je bedenkt dat deze drie bedrijven normaal gesproken verwikkeld zijn in een keiharde concurrentiestrijd.

Chris Lehane, het hoofd beleid bij OpenAI, zei tijdens een briefing in Washington dat de drie bedrijven samenwerken aan een zelfregulerend orgaan voor AI, gemodelleerd naar de Financial Industry Regulatory Authority (FINRA) die Amerikaanse brokers en beleggingsfirma’s overseet. Dit idee kwam oorspronkelijk van Demis Hassabis van Google DeepMind, die in juli al pleitte voor een organisatie die de krachtigste AI-systemen zou testen voordat ze aan het publiek worden vrijgegeven.

Lehane zei iets opvallends: “Het is beter om te proberen samen te werken om prioriteit te geven aan veiligheid”.

Maar niet iedereen is enthousiast. Aiden Gomez, CEO van het Canadese AI-bedrijf Cohere, beschuldigde de grote AI-labs er eerder deze week al van een “kartel” te vormen onder het mom van veiligheid. “AI heeft guardrails nodig. Dat is nooit het dispuut geweest,” schreef Gomez. “Het dispuut gaat over wie ze schrijft, wie mag meedoen en wiens belangen de regels beschermen”.