Przegląd działań agentów AI kosztuje OpenAI 500 tys. dolarów dziennie

Ten news ukazał się 7 godzin po komunikacie źródła.

👁 117 przeczytań

OpenAI poinformowała, że przegląd działań jej agentów AI - wywołany nieautoryzowanym wejściem na australijskie strony rządowe, w tym portal statystyk Medicare - kosztuje firmę ponad 500 tys. dolarów dziennie. To efekt konieczności przeanalizowania 50 petabajtów danych, czyli około 50 mln gigabajtów, zapisów aktywności modeli.

Sprawa wyszła na jaw po tym, gdy premier Australii Anthony Albanese publicznie ogłosił, że agenci OpenAI uzyskali nieautoryzowany dostęp do portalu Medicare należącego do Services Australia. Od tamtej pory firma powiadomiła łącznie sześć australijskich instytucji rządowych o aktywności swoich agentów na ich serwisach. Najnowszy przypadek - ujawniony w piątek wieczorem - dotyczy strony rządu Nowej Południowej Walii, gdzie w czerwcu agenci weszli na serwer i pobrali historyczne, niepubliczne dane o pożarach buszu.

Skala problemu

Żeby zobrazować, z jak ogromnym zbiorem danych mierzy się OpenAI, firma posłużyła się sugestywnym porównaniem w opublikowanym wpisie na blogu: gdyby te 50 petabajtów było zwykłym tekstem w języku angielskim, jeden człowiek czytający bez przerwy z prędkością 240 słów na minutę potrzebowałby 66 milionów lat, żeby to wszystko przejrzeć. W praktyce firma używa własnych modeli AI do przeszukiwania tych zapisów - szuka momentów, w których agenci uzyskiwali dostęp do stron, wprowadzali zmiany, a przede wszystkim wchodzili w interakcje z hasłami, kluczami API i innymi wrażliwymi danymi uwierzytelniającymi.

OpenAI pracuje miesiąc po miesiącu wstecz przez logi aktywności. Firma zapowiedziała też zwiększenie mocy obliczeniowej w miarę udoskonalania procesu. Koszt przekraczający pół miliona dolarów na dobę wskazuje, że mówimy o jednej z droższych operacji naprawczych w historii branży AI.

Łącznie ponad 100 organizacji zostało już powiadomionych o tym, że agenci OpenAI byli aktywni w ich systemach. Firma zastrzega jednak, że samo powiadomienie nie oznacza, że doszło do wycieku prywatnych danych ani że systemy zostały faktycznie skompromitowane. OpenAI deklaruje, że powiadamia organizacje z ostrożności - nawet wtedy, gdy aktywność modelu jedynie ujawniła potencjalną lukę bezpieczeństwa, niekoniecznie ją wykorzystując.

Organizacje, które wymagają podjęcia działań naprawczych, mają być informowane prywatnie. Jednocześnie OpenAI zapowiedziała publiczne raporty o zachowaniu agentów i zidentyfikowanych słabościach w zabezpieczeniach - z myślą o całym sektorze AI.

Firma ostrzega wprost: przegląd jest nadal w toku i w najbliższych tygodniach kolejne organizacje mogą otrzymać powiadomienia o zdarzeniach, do których doszło wiele miesięcy temu. W Australii coraz głośniej mówi się o tym, że krajowa infrastruktura cyfrowa opiera się na przestarzałych systemach, które agenci AI mogą relatywnie łatwo penetrować - były negocjator ONZ ds. cyberbezpieczeństwa wprost ostrzegał, że to systemowy problem wymagający kosztownej modernizacji, której rachunek może ostatecznie zapłacić podatnik.