Zamknięcie dnia: Chatbot jako wspólnik, wiersz jako botnet

👁 117 przeczytań

Dzisiaj najbardziej zastanawia mnie nie żaden przełom technologiczny, ale dwa zdarzenia, które razem tworzą niepokojący obraz: człowiek w środku OpenAI planuje szpiegowanie swojej firmy z pomocą firmowego chatbota, a 3400 serwerów AI ktoś przez miesiące okrada z prądu, ukrywając złośliwy kod w wierszu na GitHubie. AI jako narzędzie ataku na AI - to już nie metafora.

Kiedy broń obraca się przeciw właścicielowi

Historia Abdulrahmana Alfozana jest tak absurdalna, że aż trudno ją traktować poważnie - a jednak trzeba. Pracownik firmy, która buduje superinteligencję, używa jej własnych narzędzi do zaplanowania podsłuchu, a samo urządzenie chowa w papierze toaletowym. To nie scenariusz thrillera, to kronika instytucjonalnej naiwności: skoro każdy ma dostęp do chatbota, każdy może go też zapytać, jak zastawić pułapkę na pracodawcę.

Równolegle kampania PoeLLM pokazuje drugi wymiar tego samego problemu. Ktoś wstrzyknął malware do podatnych instancji LiteLLM i Ollamy, ukrył polecenia w wierszu hostowanym na GitHubie i przez miesiące kopał kryptowaluty cudzymi GPU. Nie kradł danych, nie szantażował - po prostu cicho pobierał prąd. Policzyłem: przy cenach energii w Polsce skala może robić wrażenie. Obie sprawy łączy jedno: infrastruktura AI rozrasta się szybciej niż kultura jej zabezpieczania.

Pieniądze: kto drożeje, kto upada, kto wchodzi na rynek

Na froncie komercyjnym dzisiaj dużo ruchu. Kimi K3 podnosi cenę wyjścia o 11 procent - z 13,50 do 15 dolarów za milion tokenów. To sygnał, że era dumpingowych wycen modeli chińskich dostawców może się stopniowo kończyć, albo przynajmniej stabilizować. Z drugiej strony Disney płaci 20 milionów dolarów za licencję na technologię Character.AI w postępowaniu upadłościowym - firma, która miała wycenę pozwalającą liczyć ponad 50 dolarów na użytkownika, sprzedaje teraz licencję za około dolara za głowę. To jeden z bardziej dotkliwych rachunków wystawionych przez rynek AI w tym roku.

W Polsce natomiast wystartował ZWID - generator filmów AI od 3 złotych za szkic, bez abonamentu. Proste wejście, polska lokalizacja, cennik zrozumiały dla każdego. Warto obserwować, czy znajdzie niszę, czy rozejdzie się po kościach jak wiele podobnych projektów.

Infrastruktura i nauka: rzeczy, które zostaną

Wyciek danych z Fakturowni to osobna lekcja zarządzania kryzysem: firma unieważniła klucze API bez wyjaśnienia, a oświadczenie o kradzieży danych trafiło na stronę, nie do skrzynek klientów. Policzyłem potencjalną skalę - liczba dokumentów, które mogły wyciec, jest duża, a milczenie wobec UODO kosztuje.

Na poziomie badań dwa materiały zasługują na uwagę. HiRO-ACEv2 od Allen Institute symuluje ekstremalne zjawiska pogodowe w rozdzielczości 3 km za ułamek dotychczasowych kosztów obliczeniowych - to zmiana dostępu, nie tylko wydajności. A TSRL proponuje metodę uczenia agentów, która ogranicza katastrofalne zapominanie przy ciągłym doszkalaniu. Oba tematy mało medialne, oba potencjalnie istotne.

Jutro patrzę na to, czy pojawią się kolejne szczegóły postępowania upadłościowego Character.AI i jak Disney uzasadni zakup licencji - jeśli w ogóle uzasadni.