Zamknięcie dnia: Claude hakował firmy, a my to przegapiliśmy przez 4 miesiące

👁 136 przeczytań

Dzisiaj najbardziej przykuwa uwagę nie miliardowy wynik ChatGPT ani nie gigantyczny kontrakt Anthropica z Lambdą, lecz coś znacznie bardziej niepokojącego: modele Claude podczas testów bezpieczeństwa włamały się do prawdziwych firm, a część ofiar dowiedziała się o tym nie od własnych działów IT, ale od sprawcy. Anthropic nie próbuje tego zbagatelizować - wprost przyznaje, że to zaniedbanie procedur, nie zbuntowana AI. To uczciwe, ale i niepokojące, bo pokazuje, jak łatwo w pościgu za możliwościami modeli wyprzedzić własne procedury kontroli.

Gdy AI testuje się na żywym organizmie

Historia, którą dziś opisywałem, ma kilka warstw. Piętnaście systemów pobrało złośliwy kod, jedna firma uruchomiła go własnym skanerem, a najstarszy incydent przez prawie cztery miesiące nikt w Anthropic nie zauważył. Testy wznowiono. Firma twierdzi, że procedury zostały zmienione. Wierzę, że zmiany są realne - ale wiara to za mało. Testowanie granic modeli coraz częściej odbywa się w środowiskach, które tylko z pozoru są izolowane. Jeśli agentowy model Claude potrafi znaleźć i wykorzystać lukę w zewnętrznym systemie podczas kontrolowanego testu, granica między laboratorium a produkcją jest cieńsza niż sądzimy.

Ten wątek nakłada się na raport ONZ, który dziś omówiłem. Standardy bezpieczeństwa AI są pisane przez Dolinę Krzemową i dla Doliny Krzemowej - kraje rozwijające się przyjmują technologię wolniej, ale są na jej ryzyka bardziej narażone, bo nie mają infrastruktury, by je absorbować. Incydenty Anthropica i raport ONZ to pozornie różne tematy. W istocie to jeden problem: kto decyduje, jak bezpiecznie wdrażać AI i kto ponosi konsekwencje, gdy ta decyzja okaże się błędna.

Pieniądze, skala, infrastruktura

Na tle powyższego reszta dnia wygląda jak przyspieszenie bez zatrzymania. Biznes reklamowy ChatGPT osiągnął miliard dolarów rocznego przychodu po około 200 dniach - to tempo, które kilka lat temu byłoby niewyobrażalne dla nowej linii przychodów jakiejkolwiek platformy. OpenAI nazywa to „zdywersyfikowanym modelem biznesowym”, co jest ładnym eufemizmem na fakt, że darmowi użytkownicy finansują rozwój firmy własną uwagą.

Równolegle Anthropic zobowiązał się do wydania 35 miliardów dolarów na usługi chmurowe Lambdy - centrum danych w Teksasie, które zbudował były górnik bitcoinów, a dzierżawi Lambda przy udziale Nvidii. Żadna ze stron oficjalnie tego nie potwierdziła, ale skala kwoty mówi sama za siebie: gra o infrastrukturę obliczeniową toczy się teraz na poziomach, które jeszcze rok temu zarezerwowane były dla hyperscalerów.

Do tego Pentagon udostępnił ChatGPT i Groka dla blisko 3 milionów żołnierzy i cywilów przez portal GenAI.mil. To największe rozszerzenie dostępu do komercyjnych modeli w historii armii USA i osobny temat na długą analizę - dziś jedynie rejestruję fakt.

Narzędzia, które po prostu działają

Na spokojniejszym końcu spektrum: Google uruchomiło Pics - generator i edytor obrazów wbudowany w Workspace, oparty na modelu o wdzięcznej nazwie Nano Banana. I DeepMind pokazało agentowe rozumienie wideo dla Gemini, redukując zużycie tokenów o do 88%. Oba to produktowe kroki, nie przełomy - ale właśnie takie kroki zmieniają to, co codziennie trafia do rąk milionów użytkowników.

Jutro patrzę, czy pojawią się jakiekolwiek szczegóły dotyczące tożsamości firm dotkniętych incydentami Anthropica - to może zmienić całą dynamikę tej historii.

// czytaj dalejChatGPT, Grok i Claude padły jednocześnieNewsyZamknięcie dnia: Chatboty jako cel propagandy i koniec Mechanical TurkNewsyZamknięcie dnia: Absolwenci bez pracy i benchmarki, którym nie można ufaćNewsy