Dalším AI systémem, který napadl jiné firmy v rámci bezpečnostních testů, je Google Gemini. Tato AI úspěšně hacknula tři reálné společnosti.
Systémy AI, kteří unikají kontrole a napadají skutečnou infrastrukturu, už zdaleka nejsou jen námětem sci-fi filmů. Nedávno se k podobným incidentům, které se staly společnostem OpenAI, Anthropic i Meta, připojil i Google, jehož model Gemini během testování v květnu 2026 hacknul tři skutečné společnosti. Celý případ zveřejnil server Wall Street Journal a později ho potvrdil samotný Google. Jde o další příklad toho, jak mohou pokročilé modely překročit hranice sandboxů, pokud není dostatečně dobře konfigurováno testovací prostředí a pokud si model špatně vyloží zadaný cíl.
K incidentu došlo během cvičení typu “capture the flag”, které organizovala nezávislá bezpečnostní firma Irregular (stejně jako v předchozích případech, přičemž víme, že problémem byl obvykle nesprávně nastavený test a prostředí pro něj). Gemini mělo v uzavřeném prostředí prozkoumat software fiktivní společnosti, nicméně tato vymyšlená firma měla stejný název jako ta reálná.
Kvůli špatné konfiguraci testovacího prostředí ale model získal přístup na internet, což mu umožnilo opustit prostředí simulace a útočit v prostředí skutečné infrastruktury. V jednom z případů Gemini hádal hesla tak dlouho, dokud se mu nepodařilo proniknout do systému. U dalších dvou společností model prohledával veřejná úložiště a našel přihlašovací údaje, které tam byly zanechány.
Zajímavostí je, že společnost Google incident veřejně neoznámila, protože modely se v každém z těchto tří případů zastavily poté, co si uvědomily, že jsou připojeny k reálným serverům a nikoliv k testovacímu cíli. Viceprezidentka pro bezpečnost Heather Adkins tak řekla, že model se v dané situaci zachoval správně. Pokud jde o firmu Irregular, tak ta informovala Google o problémech až v červenci, tedy až poté, co se začaly objevovat zprávy o podobných únicích u konkurence.
