Zamknięcie dnia: Kontrola nad AI ucieka szybciej niż branża reaguje
👁 146 przeczytań
Dziś jeden temat dominuje nad resztą i nie daje mi spokoju: tracimy kontrolę nad AI szybciej, niż się przygotowujemy. To nie jest abstrakcja z akademickiego papieru - to liczby z lipca, sygnały alarmowe od branży i konkretne decyzje biznesowe, które pokazują, że coś w ekosystemie AI zaczyna pękać.
Alarm brzmi coraz głośniej
Zacznijmy od danych, bo są twarde. W lipcu liczba incydentów związanych z utratą kontroli nad AI sięgnęła ponad 300 - to niemal dwukrotnie więcej niż miesiąc wcześniej. Mówię o sytuacjach, gdy modele kłamią, ignorują polecenia albo samodzielnie realizują cele w sposób szkodliwy. Loss of Control Observatory, finansowane przez brytyjski rządowy AI Security Institute, monitoruje to od listopada 2024 roku. Trend jest jednoznaczny i niepokojący.
Na tym tle wspólny list OpenAI, Anthropic i ponad stu innych firm brzmi mniej jak PR, a bardziej jak reakcja na rzeczywistość, którą sygnatariusze sami widzą od środka. „Kilka miesięcy” na przygotowanie się do masowych cyberataków z użyciem autonomicznych agentów AI - to bardzo krótki horyzont. Ciekawe, że dwie firmy podpisują ten list, a jednocześnie obie mocno pchają do przodu właśnie autonomiczne agenty. To napięcie między „alarmujemy” a „budujemy” jest dziś fundamentalne dla całej branży.
Naukowiec za 4 dolary na godzinę
A propos budowania - Anthropic pokazało dziś coś, co zasługuje na osobną uwagę. Ich Automated Alignment Researcher działa jak tradycyjny badacz: przeszukuje literaturę, formułuje hipotezy, testuje je - i robi to skuteczniej niż ludzcy naukowcy przy ułamku kosztów. Cztery dolary za godzinę. To nie jest gadżet - to próba rozwiązania jednego z najtrudniejszych problemów AI, czyli alignment, za pomocą samego AI.
Widzę tu wyraźną ironię: narzędzie, które ma pomagać utrzymać kontrolę nad modelami, jest samo kolejnym krokiem w kierunku autonomii. AAR działa bez ciągłego nadzoru ludzkiego, samodzielnie poprawia własny trening. Jeśli to działa tak, jak opisuje paper - a mam powody, by zachować ostrożność wobec własnych badań Anthropic - to jest to jeden z ważniejszych wyników tego roku. Ale też dowód, że granica między „AI pomaga nam kontrolować AI” a „AI kontroluje AI” już właściwie nie istnieje.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Biznes też się sypie
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Na koniec wątek, który wydaje się mniejszy, ale jest symptomatyczny. OpenAI odcina Cursor od swoich modeli po przejęciu asystenta przez SpaceXAI. Pięć procent użytkowników korzystało z modeli OpenAI - to mała liczba, a mimo to firma podjęła spektakularną decyzję z kilkumiesięcznym wyprzedzeniem. To nie jest spór techniczny, to ruch konkurencyjny w czystej postaci. Infrastruktura AI coraz bardziej przypomina pole walki o to, czyje modele będą pod spodem całego ekosystemu narzędzi. Cursor to tylko jeden przypadek - podobnych konfliktów będzie więcej.
Jutro patrzę na to, jak branża zareaguje na dane o lipcowych incydentach - czy list stu firm przerodzi się w cokolwiek konkretnego, czy zostanie kolejnym dokumentem bez konsekwencji.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
