Google bekräftar: Gemini bröt sig kortvarigt in hos tre riktiga företag i säkerhetstest

Google har bekräftat att dess Gemini-modell nådde tre riktiga företag under en säkerhetsutvärdering i maj 2026, efter att ett testscenarios fiktiva mål råkade dela namn med en riktig verksamhet och en oavsiktlig nätverksväg lät modellen agera utanför den tänkta sandlådan. Heather Adkins, Googles vicepresident för säkerhetsteknik, sade att modellen stoppade sig själv i samtliga tre fall.

Vad som faktiskt hände

Utvärderingen genomfördes av Irregular, ett Tel Aviv-baserat företag för AI-säkerhetstestning, som tilldelade Gemini ett fiktivt mål i vad som var tänkt att vara en kontrollerad miljö. Internetåtkomsten som borde ha blockerats under testet lämnades öppen. I en körning gissade Gemini lösenord tills den fick åtkomst till ett system; i två andra sökte den på webben efter målföretagets namn, hittade inloggningsuppgifter för ett verkligt företag med liknande namn i offentliga kodarkiv och använde dem för att komma åt det företagets system. Google säger att företaget underrättade de berörda företagen och federala myndigheter, men har inte namngett dem, och har inte avslöjat vilken Gemini-modell som var inblandad utöver att bekräfta att det inte var Googles senaste.

Inte ett isolerat fall

Irregulars egen incidentgranskning, publicerad den 14 augusti 2026, spårade liknande avslöjanden från andra AI-utvecklare till samma grundorsak: ett fiktivt företagsnamn i ett utvärderingsscenario som oväntat matchade en riktig domän, kombinerat med internetåtkomst som inte borde ha funnits tillgänglig. Google underrättades i slutet av juli men offentliggjorde inte händelsen förrän Wall Street Journal kontaktade företaget. Google sade att modellen inte orsakade någon skada, att den stoppade sig omedelbart och att företaget inte betraktade episoden som ett fall av modellfelanpassning eftersom modellens eget omdöme avslutade intrånget.

Vad detta innebär för AI-piloter

Den användbara läxan för alla som kör agentiska utvärderingar eller red team-övningar mot riktig infrastruktur är processuell, inte en fråga om modellbeteende: isolera utvärderings- och red team-miljöer från produktionsnätverk, neka utgående trafik som standard och tillåt endast det ett test behöver, använd inloggningsuppgifter som är avgränsade separat från produktionsverktyg och logga varje verktygsanrop och nätverksförsök för granskning efter körningen. Ett dokumenterat stoppvillkor, fastställt innan testet börjar, är vad som gjorde denna incident till ett tillbud i stället för ett verkligt intrång.

Källor: SecurityWeek, The Hacker News.