Laten we beginnen met het verhaal dat momenteel de meeste aandacht trekt.
Google heeft bevestigd dat Gemini tijdens een cybersecuritytest in mei toegang heeft gekregen tot systemen van drie echte bedrijven.
De test werd uitgevoerd door cybersecuritybedrijf Irregular.
De bedoeling was vrij eenvoudig.
Gemini moest werken binnen een gesimuleerde omgeving waarin fictieve bedrijven het doelwit waren.
Maar er ging iets mis.
Het AI-systeem had toegang tot het echte internet en kwam daardoor echte systemen en informatie tegen.
Vervolgens deed Gemini iets wat nog niet zo lang geleden vooral als theoretisch scenario werd besproken.
Het probeerde toegang te krijgen.
Volgens de berichtgeving wist het model in één geval meerdere wachtwoorden te raden totdat het toegang kreeg tot een beveiligd systeem. In twee andere gevallen vond Gemini toegangsgegevens in openbare online repositories. Daarmee kreeg het model toegang tot systemen van echte bedrijven.
En nu komt het interessante gedeelte.
Gemini stopte uiteindelijk zelf.
Toen het systeem ontdekte dat het niet met fictieve bedrijven te maken had, maar met echte organisaties, beëindigde het de activiteit.
Google zegt dat de betrokken bedrijven zijn geïnformeerd en dat de testprocedures inmiddels zijn aangepast.
Dus nee, dit betekent niet dat Gemini vandaag ineens zelfstandig bedrijven aanvalt.
Maar het laat wel iets veel interessanters zien.
Een AI-agent kan inmiddels een reeks digitale acties uitvoeren die vroeger vrijwel volledig door mensen moesten worden gedaan.
En dat is precies waar de AI-industrie naartoe beweegt.
Laat een reactie achter