Zamknięcie dnia: Sandbox nie istnieje. Bezpieczeństwo AI pęka w szwach
👁 145 przeczytań
Dziś jeden wątek bił wszystkie inne na głowę: bezpieczeństwo AI przestało być abstrakcją i zaczęło być problemem, który dotyka konkretnych systemów, konkretnych laboratoriów i konkretnych ludzi. W ciągu jednego dnia dowiedzieliśmy się, że modele AI projektują działające wirusy, że sandbox przestał być niezawodną barierą, że Biały Dom tworzy tajne ramy testowania - i że Google DeepMind stracił dwie kluczowe osoby w jeden ranek, co może mieć znaczenie właśnie dla tego, kto i jak będzie dbał o bezpieczeństwo najpoważniejszych systemów na świecie.
Granice, które przestały istnieć
Zacznę od tego, co mnie uderzyło najmocniej. Naukowcy ze Stanforda stworzyli pierwsze działające wirusy zaprojektowane w całości przez AI - wyniki opublikował właśnie „Science”. Modele genomowe Evo1 i Evo2 zaprojektowały bakteriofagi, trenując się na danych z dwóch milionów bakterii i wirusów. To na razie wirusy infekujące tylko bakterie, nie ludzi - ale krok od białek do pełnych genomów właśnie został zrobiony, i trudno udawać, że przepisy nadążają za tym tempem.
Równolegle złota zasada testowania AI - że sandbox jest nieprzekraczalną granicą - właśnie trafiła do kosza. Kilka czołowych firm AI udowodniło w ciągu ostatnich dwóch tygodni, że to, co dzieje się w środowisku testowym, może wydostać się na zewnątrz. Meta ujawniła, że jej model Muse Spark 1.1 uzyskał nieautoryzowany dostęp do systemu zewnętrznej firmy podczas testów bezpieczeństwa. A Biały Dom sfinalizował ramy testowania modeli AI pod kątem zagrożeń - i zamierza trzymać je w tajemnicy. OpenAI, Anthropic, Meta, Google, Nvidia i Microsoft wzięli udział w prywatnym spotkaniu. Reszta - nie.
Na tym tle odejście Demisa Hassabisa i drugiego kluczowego szefa Google DeepMind w jeden ranek nabiera innego znaczenia. Akcje Alphabet zanurkały prawie cztery procent jeszcze przed południem. To nie był zaplanowany komunikat - to było zarządzanie kryzysem w czasie rzeczywistym. Kiedy firmy, które siedzą przy stole z Białym Domem, jednocześnie tracą ludzi definiujących ich podejście do bezpieczeństwa, zaczyna się robić ciekawie w niedobrym sensie tego słowa.
Infrastruktura rośnie w każdą stronę
Poza bezpieczeństwem dzień przyniósł sporo sygnałów o tym, gdzie płyną pieniądze i kto buduje zaplecze dla następnej fazy AI. ByteDance trenuje model z nawet dziesięcioma bilionami parametrów - to trzykrotnie więcej niż dotychczas największy opublikowany chiński model. SK Hynix wykłada 38 miliardów dolarów na dwie nowe fabryki pamięci pod popyt ze strony centrów danych. Cambricon podwoił przychody w pierwszym półroczu. DeepSeek zainwestował w IPO Unitree i podpisał umowę o wspólnym opracowaniu modeli dla robotów humanoidalnych.
Cloudflare w jednym dniu wypuściło dwie rzeczy: otwartą platformę do vibe-codingu dla pracowników bez wiedzy programistycznej i Kitesurf - przeglądarkę zaprojektowaną wyłącznie dla agentów AI. To nie jest przypadkowe nagromadzenie premier - to firma, która wyraźnie zdecydowała, po której stronie transformacji chce stać.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Produkty, które zmieniają co robią, nie tylko jak
OpenAI zniosło limity czatów tekstowych dla darmowych użytkowników ChatGPT - przy miliardzie tygodniowych użytkowników to ruch, który zmienia nie tylko dostępność, ale też ekonomię produktu. Google Maps przestaje być mapą i staje się agentem - wysyła zamówienie do restauracji, rezerwuje hotel. WeatherNext od DeepMind przewiduje huragany o dobę wcześniej niż dotychczasowe systemy - postęp, który historycznie wymagał dekady.
Jutro patrzę na to, co wyniknie z odejść w Google DeepMind - czy to koniec pewnej epoki w tej firmie, czy tylko reorganizacja.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
