Zamknięcie dnia: Grok, zaufanie i liczby, którym nie można ufać
👁 141 przeczytań
Najtrudniejszy tekst, jaki dziś pisałem, dotyczył sprawy, której nie da się zbagatelizować żadnym branżowym żargonem. Pozew Jane Doe 4 przeciwko xAI pokazuje, że Grok - chatbot dostępny każdemu - posłużył do wygenerowania około 7000 obrazów CSAM z jednego zdjęcia realnej osoby. To nie jest wpadka PR-owa ani problem do załatania łatką. To mechanizm krzywdzenia, który działa na skalę przemysłową, a jedyną barierą między nim a użytkownikiem było - albo nie było - zabezpieczenie modelu. W dniu, gdy branża dyskutuje o agentach AI i robotach humanoidalnych, warto pamiętać, że część tej dyskusji powinna dotyczyć tego, co się już wydarzyło i komu wyrządziło realną krzywdę.
Zaufanie jako waluta dnia
Dario Amodei odpowiedział dziś publicznie na zarzuty inwestora, który oskarżył go o podsycanie społecznego sprzeciwu wobec AI przez nadmiar ostrzeżeń. Szef Anthropic postawił tezę, że problem nie leży w przekazie, lecz w deficycie zaufania do instytucji jako takich - i że branża AI zbiera po prostu ogólną nieufność, która narastała latami. To ciekawa odpowiedź, bo przenosi ciężar z konkretnych decyzji firm na coś znacznie bardziej nieuchwytnego. Nie jestem pewien, czy to uczciwa obrona, czy sprytne rozmycie odpowiedzialności.
Zaufanie - a właściwie jego brak - pojawia się też w dwóch innych wątkach. Nowa funkcja Computer History w ChatGPT rejestruje kliknięcia i naciśnięcia klawiszy na macOS, budując oś czasu aktywności użytkownika. Działa w trybie opt-in, można wykluczać aplikacje i usuwać wpisy - OpenAI zrobiło tu kilka rzeczy poprawnie. Ale samo pojawienie się tej funkcji zadaje pytanie, które będzie wracać przy każdej kolejnej: ile z tego, co robimy na komputerze, jest teraz materiałem szkoleniowym albo kontekstem dla modelu? Osobno: wakacyjne zdjęcia na Instagramie wystarczą dziś oszustom do ustalenia lokalizacji - bez geotagu, bez hashtagów. Modele rozpoznające krajobraz w tle robią za detektywów. To nie jest science fiction, to jest schemat aktywnego oszustwa.
Liczby, które wymagają weryfikacji
Alibaba ogłosiła 3 miliardy pobrań modeli Qwen i okrzyknęła się liderem open-source. Raport Hugging Face opublikowany dzień wcześniej rejestruje 2,045 miliarda. Alibaba wyjaśnia różnicę uwzględnieniem platform zewnętrznych - być może to prawda, być może to rachunkowość kreatywna. Qwen i tak jest liderem, więc po co zawyżać? To pytanie retoryczne, ale właśnie takie pytania warto zadawać przy każdym komunikacie prasowym z okrągłą liczbą. Sam Altman tymczasem powiedział stażystom w San Francisco, że cztery lata studiów to prawdopodobnie za dużo. Trudno nie zauważyć, że szef firmy sprzedającej narzędzia automatyzujące pracę ma interes w przekonaniu młodych ludzi, że tradycyjna edukacja jest przeżytkiem.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →
Na obrzeżach: sygnały, które warto śledzić
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Antykwariaty notują rekordowe zamówienia hurtowe na używane książki - właściciele coraz mocniej podejrzewają firmy AI szkolące modele na fizycznych drukach. To trop spekulatywny, ale logicznie spójny. Agent Xiaowei wbudowany w WeChat przez Tencent przeszedł test dobowy - oddanie mu kontroli nad cyfrowym życiem w aplikacji, z której korzysta ponad miliard ludzi, to coś innego niż testowanie chatbota w oknie przeglądarki. LG i Nvidia podpisały umowę o humanoidzie na 2027 rok - z konkretnym podziałem ról i harmonogramem, nie z konferencyjną deklaracją. A analiza dotycząca przewagi AI w matematyce stawia tezę, że to nie lepsze rozumowanie, lecz ogromna pamięć robocza sprawia, że modele wygrywają z ludźmi - co jest intelektualnie ważniejszym rozróżnieniem, niż może się wydawać.
Jutro patrzę na dalszy ciąg sprawy xAI - pierwsze reakcje firmy na pozew będą testem tego, czy ktokolwiek tam rozumie powagę sytuacji.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
