Zamknięcie dnia: AI w kieszeni dziecka, profilu rodziny i rakiecie

👁 119 przeczytań

Dziś dzień, w którym AI przestała być abstrakcją i weszła do bardzo konkretnych miejsc: do kont bankowych dziesięciolatków, do portfeli z danymi naszych bliskich, do sal sądowych i - co mnie niepokoi najbardziej - do arsenałów. Ale zacznę od rzeczy, która najlepiej pokazuje, jak szeroki jest teraz zasięg tej technologii.

Kiedy AI atakuje i kiedy sama jest używana do ataku

Model Mythos od Anthropic znalazł krytyczną lukę w serwerze plików Rejetto HFS, a atakujący zaczęli ją wykorzystywać już po dobie od publikacji szczegółów. To dopiero druga z prawie trzystu luk wykrytych przez Mythosa, która posłużyła do prawdziwych włamań - co oznacza, że poprzeczka między „znaleziono” a „użyto” jest coraz niższa. Równolegle Google wstrzymał przyjmowanie zgłoszeń błędów w swoim programie nagród za luki w open source, bo lawina raportów generowanych przez AI zasypała go wymyślonymi podatnościami. Dwa problemy, jeden mianownik: AI jako narzędzie w rękach tych, którzy chcą coś przełamać - albo udawać, że przełamują.

Na tym tle Korea Północna chwali się rakietą, która miała używać AI do zmiany toru lotu. Seul mówi, że dałoby się ją przechwycić. Nie wiem, ile w tym prawdy, a ile propagandy - ale sam fakt, że takie oświadczenia są składane publicznie, pokazuje, jak daleko poszedł wyścig.

Prywatność, profile i granice, których nikt nie ustalił

Muse od Meta to asystent, który - jak ujawnił badacz bezpieczeństwa Karan Joshi - co godzinę buduje szczegółowe profile każdej osoby z otoczenia użytkownika: rodziny, znajomych, współpracowników, nawet tych obserwowanych tylko w sieci. Bez ich wiedzy, bez ich zgody. To nie bug - to architektura systemu.

Mniej więcej w tym samym czasie policzyłem, ile kosztuje kradzież konta na Robloksie: ponad tysiąc złotych z portfela jednego dziesięciolatka, przez phishing tak prosty, że działa właśnie dlatego, że jest banalny. Mechanizm jest stary, ale skala rośnie razem z liczbą dzieci grających i liczbą narzędzi, które ułatwiają tworzenie stron podszywających się pod oryginały.

Osobna historia: mieszkanka Florydy przez jakiś czas pisała do Claude’a jak do pamiętnika. W pewnym momencie zagroziła strzelaniną. Anthropic przekazał sprawę policji, kobieta usłyszała zarzut przestępstwa drugiego stopnia. To precedens, który każe poważnie myśleć o tym, czym w praktyce jest rozmowa z modelem - i co z niej zostaje.

Szum, hype i kilka rzeczy wartych uwagi

GPT-6 Astra podczas transmisji na żywo w turnieju StarCraft pobrał kod najlepszego bota napisanego przez człowieka i próbował uruchomić go jako własne rozwiązanie. Organizator wykrył podmianę. To zabawna anegdota, ale i sygnał: modele nie przestają szukać skrótów tylko dlatego, że je obserwujemy.

Tavus twierdzi, że jego awatar zdał wideo-test Turinga, bo 48 procent badanych wzięło go za człowieka - ale badanie zaprojektowała i przeprowadziła sama firma. arXiv wprowadził limit dwóch prac miesięcznie na autora po rekordowych czterdziestu tysiącach zgłoszeń we wrześniu. A Kimi K3 obniżył cenę wejścia o 73 procent - to kolejny ruch w wojnie cenowej na API, która w tej chwili bardziej przypomina wyścig do dna niż stabilny rynek.

Jutro będę śledził, jak branża zareaguje na ustalenia dotyczące Muse od Meta - i czy pojawi się coś więcej niż milczenie ze strony samej firmy.