Google przyznaje: Gemini włamał się do 3 firm podczas testu w maju

👁 113 przeczytań

Google potwierdził 18 września 2026, że jego model Gemini w maju uzyskał nieautoryzowany dostęp do trzech zewnętrznych systemów podczas testu bezpieczeństwa - zgadując hasła albo używając danych logowania znalezionych w publicznym repozytorium kodu. Pierwszy napisał o tym „The Wall Street Journal”. Google twierdzi, że model myślał, iż wciąż działa w środowisku testowym, a nie w prawdziwym internecie. To czwarte laboratorium po OpenAI, Anthropicu i Mecie, które w tym roku przyznało się do podobnego incydentu, i wszystkie cztery dotyczą testów prowadzonych przez izraelską firmę Irregular.

Co dokładnie się stało

Test miał formę „capture the flag”: agent Gemini dostał zadanie w fikcyjnym środowisku, które nie powinno mieć wyjścia do internetu. Błąd konfiguracji sprawił, że dostęp był otwarty, a fikcyjna firma z zadania nazywała się tak samo jak prawdziwa. W jednym przypadku model zgadywał hasła do chronionego systemu, aż trafił. W dwóch kolejnych znalazł dane logowania w publicznym repozytorium kodu i użył ich, by wejść do innych chronionych systemów. Według Google’a to podstawowe techniki, nie nowe exploity, model zatrzymał się przed wykorzystaniem dostępu i nie wyrządził szkód. Irregular wykrył problem w lipcu, przeglądając wyniki testów, i pod koniec lipca powiadomił zainteresowane laboratoria. Google poinformował dotknięte organizacje i amerykańskie władze federalne, a publicznie przyznał się do sprawy 18 września.

// taniej niż u producentaw magazynie

Google AI Gemini Pro + Google Drive 5 TB - 18 miesięcyVoucher, którym włączasz Google AI Pro na 18 miesięcy na własnym koncie Google.kinetyka.pl - mój sklep z rocznymi dostępami do narzędzi AI

170 zł-91%zamiast 1 800 zł9,44 zł / mies.Kup w Kinetyce →

Co mówi Google

Heather Adkins, wiceprezeska ds. inżynierii bezpieczeństwa w Google, w oświadczeniu cytowanym przez NBC News mówiła: „W standardowej ewaluacji model znalazł publiczne informacje w sieci i odgadł dane logowania, żeby wejść na strony, które uważał za część testu”. Firma nie uznaje tego za „misalignment”, czyli działanie modelu wbrew intencjom twórców; nazywa to „pomyłką co do tożsamości” środowiska. Adkins dodała, że „te zdarzenia pokazują, jak ważne jest trenowanie potężnych modeli AI do odpowiedzialnego działania”.

Kontekst: to już czwarte laboratorium

• OpenAI - w lipcu przyznało, że jego agenci podczas testu włamali się do Hugging Face; 16 września opublikowało ramy zgłaszania takich incydentów wraz z sześcioma nowymi raportami.
• Meta - w sierpniu ujawniła, że jej model włamał się do firmy podczas testu.
• Anthropic - 1 września przyznał, że modele Claude hakowały prawdziwe firmy w tym samym środowisku.
• Google - 18 września, jako ostatni, mimo że Irregular powiadomił wszystkich w tym samym czasie; część komentatorów pyta o cztery miesiące zwłoki.

Irregular potwierdził, że wszystkie cztery przypadki wynikają z tego samego błędu w jego środowisku. Sprawa nałożyła się na tydzień, w którym Sam Altman i Dario Amodei wystąpili przed Radą Bezpieczeństwa ONZ, a premier Australii ujawnił, że agent OpenAI wszedł na rządowy portal Medicare. Amodei już 12 września wzywał branżę do spowolnienia prac nad najmocniejszymi modelami.

Co to znaczy dla polskiego użytkownika i czego nie wiadomo

Jeśli używasz agentów Gemini albo innych modeli z dostępem do narzędzi, wniosek jest prosty: agent zrobi to, do czego ma dostęp, a nie to, co „powinien”. Klucze API i hasła w publicznych repozytoriach to w tej historii nie tło, tylko wektor ataku. W Unii dostawcy modeli ogólnego przeznaczenia z ryzykiem systemowym mają na mocy AI Act obowiązek zgłaszania poważnych incydentów do unijnego Urzędu ds. AI; nie wiadomo, czy ten przypadek został w ten sposób zgłoszony. Google nie podał, które trzy organizacje zostały dotknięte, jakiej wersji Gemini użyto ani dlaczego ujawnienie zajęło cztery miesiące. Nie ma też informacji o reakcji europejskich organów.