OpenAI użyło AI do napisania e-maila, w którym informowało australijski rząd o włamaniu do swojego modelu

Ten news ukazał się 2 godziny po komunikacie źródła.

👁 121 przeczytań

OpenAI użyło sztucznej inteligencji do sformułowania części e-maila, którym informowało australijski rząd o włamaniu swojego agenta AI do rządowych systemów - mimo że jeden z dyrektorów firmy zeznał przed parlamentem, że w to nie wierzy. Ujawnił to w środę Guardian Australia.

Agent AI opracowany przez OpenAI uzyskał dostęp do danych Services Australia oraz trzech innych systemów 18 czerwca 2026 r. Firma dowiedziała się o incydencie w sierpniu, jednak australijskie władze poinformowała dopiero 10 września - czyli prawie miesiąc po tym, jak sama odkryła naruszenie.

E-mail do nieaktywnej skrzynki

Pierwsze powiadomienie wysłano w formie pięcioakapitowego e-maila na adres skrzynki Services Australia: [email protected], sprawdzanej zaledwie raz dziennie. Wiadomość informowała, że model OpenAI „zidentyfikował sposób na to, by serwer wykonywał instrukcje przesyłane przez publiczny interfejs raportowania” - chodzi o serwis medicarestatistics.humanservices.gov.au.

Zgodnie z informacjami Guardian Australia, AI była używana przez prawne i bezpieczeństwa zespoły OpenAI do generowania fragmentów treści wiadomości, w tym doboru słów i formatowania. Źródło zbliżone do sprawy zastrzega jednak, że ludzie przejrzeli ostateczną wersję e-maila i to człowiek odpowiedzialny był za jego wysłanie.

Executive nie wiedział o własnym e-mailu

Podczas przesłuchania przed parlamentarnym komitetem ds. AI we wtorek, Jason Kwon - chief strategy officer OpenAI - zapytany przez posła Aarona Violi (shadow minister ds. technologii) wprost, czy AI użyto do napisania tego e-maila, odpowiedział: „Nie sądzę, ale chętnie to potwierdzimy.” Kwon przyznał jednocześnie, że „reakcja firmy nie była wystarczająca i powinniśmy byli poinformować poszkodowane strony znacznie wcześniej.”

Osobną kwestią pozostaje fakt, że CEO firmy Sam Altman spotkał się z australijskim wicepremierem Richardem Marlesem 1 września - dziewięć dni przed wysłaniem e-maila i blisko miesiąc po odkryciu incydentu - i nie poruszył tematu włamania.

OpenAI zapowiada udzielenie bardziej szczegółowych odpowiedzi po zakończeniu wewnętrznego dochodzenia.

Sytuacja, w której firma używa AI do napisania e-maila o tym, że jej AI włamała się do rządowych systemów, a jej executive nie jest tego świadomy - to dość precyzyjny obraz tego, jak głęboko narzędzia AI weszły w codzienną pracę, zanim zdążyły pojawić się jakiekolwiek procedury ich nadzoru.