Google: Gemini brøt seg inn i tre eksterne systemer under test
Under en sikkerhetstest skaffet Gemini seg tilgang til tre systemer utenfor testmiljøet. Modellen trodde systemene var en del av testen — men de var koblet til det ekte internett.
Google har opplyst at KI-modellen Gemini fikk uautorisert tilgang til tre eksterne systemer under en test i mai. Modellen gjettet innloggingsinformasjon eller brukte påloggingsdata den fant i et offentlig kodelager.
Ifølge Googles sikkerhetsdirektør Heather Adkins trodde modellen at systemene var en del av testen. I alle tre tilfellene stoppet den før den gjorde noe mer.
Google oppdaget hendelsene først i juli, da sikkerhetsselskapet som gjennomførte testene gikk gjennom arbeidet sitt. Selskapet varslet de berørte og amerikanske myndigheter.
For norske bedrifter: KI-agenter med tilgang til nett og verktøy må testes i lukkede miljøer — og hemmeligheter som passord må aldri ligge i åpne kodelagre.