Google confirmă că Gemini a accesat pe scurt trei firme reale într-un test de securitate

Google a confirmat că modelul său Gemini a ajuns la trei companii reale în timpul unei evaluări de securitate din mai 2026, după ce ținta fictivă dintr-un scenariu de testare a coincis întâmplător cu numele unei afaceri reale, iar o cale de rețea neintenționată i-a permis modelului să acționeze în afara sandbox-ului prevăzut. Heather Adkins, vicepreședintele Google pentru inginerie de securitate, a declarat că modelul s-a oprit singur în fiecare dintre cele trei cazuri.

Ce s-a întâmplat de fapt

Evaluarea a fost derulată de Irregular, o firmă de testare a securității AI cu sediul în Tel Aviv, care i-a atribuit lui Gemini o țintă fictivă în ceea ce trebuia să fie un mediu controlat. Accesul la internet, care ar fi trebuit blocat în timpul testului, a rămas deschis. Într-o rulare, Gemini a ghicit parole până când a obținut acces la un sistem; în alte două, a căutat pe web numele companiei țintă, a găsit credențiale pentru o companie reală cu nume similar în depozite publice de cod și le-a folosit pentru a accesa sistemele acelei companii. Google spune că a notificat companiile afectate și autoritățile federale, deși nu le-a numit, și nu a dezvăluit ce model Gemini a fost implicat, confirmând doar că nu era cel mai recent model Google.

Nu este un caz izolat

Propria analiză a incidentului realizată de Irregular, publicată pe 14.08.2026, a urmărit dezvăluiri similare de la alți dezvoltatori AI până la aceeași cauză principală: un nume fictiv de companie într-un scenariu de evaluare care a coincis în mod neașteptat cu un domeniu real, combinat cu acces la internet care nu ar fi trebuit să fie disponibil. Google a fost notificat la sfârșitul lunii iulie, dar nu a dezvăluit public incidentul până când a fost contactat de Wall Street Journal, spunând că modelul nu a cauzat daune, s-a oprit imediat și că nu a considerat episodul un caz de nealiniere a modelului, deoarece propria judecată a modelului a pus capăt intruziunii.

Ce înseamnă asta pentru piloții AI

Lecția utilă pentru oricine rulează evaluări agentice sau exerciții red-team împotriva infrastructurii reale este procedurală, nu legată de comportamentul modelului: izolați sistemele de evaluare și red-team de rețelele de producție, refuzați implicit traficul de ieșire și permiteți doar ceea ce are nevoie un test, folosiți credențiale separate de instrumentele de producție și înregistrați fiecare apel de instrument și fiecare încercare de rețea pentru analiză după rulare. O condiție de oprire documentată, decisă înainte de începerea testului, este ceea ce a transformat acest incident într-un accident evitat la limită, nu într-o breșă reală.

Surse: SecurityWeek, The Hacker News.