Zamknięcie dnia: Bezpieczeństwo AI jako dekoracja i 90 mln na start

👁 137 przeczytań

Dzień, który zapamiętam głównie przez pryzmat jednego pytania: kto tak naprawdę kontroluje AI, którą wdrażamy w realnym życiu? Odpowiedź - sądząc po dzisiejszych newsach - brzmi: często nikt konkretny, a czasem ktoś, kto sam nie wie, co robi. To nie pesymizm, to po prostu obraz tego, co się dzieje równolegle na kilku frontach naraz.

Bezpieczeństwo jako dekoracja

Dwa osobne przypadki, jeden wspólny wniosek. ClarityCheck - serwis, który dosłownie sprzedawał się jako „prywatne i bezpieczne” narzędzie do wyszukiwania twarzy - zostawił 9 milionów zdjęć i 450 GB danych bez żadnego hasła. Równocześnie Grok od xAI okazał się podatny na atak, który pozwala wykraść imię użytkownika, lokalizację i historię rozmów przez wstrzyknięcie zaszyfrowanych rozkazów w konwersację. Badacz Rony Utevsky z Adversa AI podkreśla, że to nie błąd jednego modelu - to cecha całej klasy systemów. Na tym tle metoda DiSCO, opisana przez Zhanga, Alfarre i współautorów, wydaje się przynajmniej uczciwa intelektualnie: zamiast udawać, że problem nie istnieje, autorzy szukają sposobu blokowania niebezpiecznych obrazów bez dostępu do wnętrzności modelu. Kierunek dobry. Pytanie, czy branża słucha.

Do tego Emma w Yorkshire - recepcjonistka AI w brytyjskich przychodniach, która nie rozumie lokalnego akcentu i praktycznie odcina pacjentów od rejestracji. To przykład wdrażania systemów AI w opiece zdrowotnej, zanim te systemy potrafią obsłużyć rzeczywistych użytkowników. Klasyczne.

Pieniądze i władza

Na tym tle trzy wątki finansowo-polityczne, które warto zestawić. Veeda AI zebrała 90 milionów dolarów w rundzie seed po trzech miesiącach istnienia - to jeden z największych seedów w historii kanadyjskich startupów, za którym stoi Sanja Fidler i ekipa z byłego Nvidii. Modele świata, robotyka, multimodalność. Duże pieniądze na bardzo wczesnym etapie, ale przynajmniej przy konkretnym problemie badawczym.

SpaceX próbował przejąć Cognition pięć dni po tym, jak sfinalizował zakup Cursora za 60 miliardów dolarów. Cognition odmówiło, CEO Scott Wu powiedział publicznie „nie na sprzedaż”, Bloomberg opisuje sytuację nieco inaczej. Nie wiem, kto ma rację - wiem, że tempo konsolidacji rynku narzędzi dla programistów robi wrażenie, i to nie zawsze pozytywne.

DeepSeek V4 Pro podniósł ceny o 118 procent. Wejście z 0,66 do 1,44 dolara za milion tokenów, wyjście z 1,98 do 2,88. Model, który przez wiele miesięcy był głównym argumentem za „chińska alternatywa jest tańsza”, właśnie skrócił ten argument o połowę. Obserwuję, czy trend będzie kontynuowany.

Rzeczy, które są i których jeszcze nie ma

Binance uruchomiło Agent OS - platformę pozwalającą agentom AI handlować kryptowalutami w imieniu użytkowników, z integracją ChatGPT, Claude i Cursora. Logiczna konsekwencja trendu agentowego, choć połączenie „autonomiczny agent” i „rynek krypto” brzmi jak przepis na interesujące wypadki. LFM2.5-DSpark od Liquid AI to 0,3 miliarda parametrów z trzykrotnie szybszą inferencją - mały i szybki, kandydat na zastosowania brzegowe.

I na zupełnie innym końcu spektrum: serwer z żywych neuronów w Singapurze. Cortical Labs, NUS Medicine i DayOne pokazały rack złożony z 20 biologicznych jednostek CL1. Neurony hodowane z komórek macierzystych, argument o efektywności energetycznej. To jeszcze prototyp, ale fakt, że to już działa jako demonstracja - nie tylko jako slajd w prezentacji - jest sam w sobie wart odnotowania.

Jutro patrzę na to, czy nowy układ operacyjny w OpenAI - z Brockmanem faktycznie prowadzącym firmę przy tytule CEO należącym do Altmana - zacznie przekładać się na konkretne decyzje w obliczu zbliżającego się IPO.

// czytaj dalejSzefowie największych firm AI podpisali dobrowolne porozumienie bezpieczeństwa z Białym DomemNewsyGoogle Suncatcher: 4 chipy TPU lecą na orbitę, start 1 październikaArtykułyJensen Huang: bezpieczeństwo AI to problem inżynieryjny, nie prawnyNewsy