Zamknięcie dnia: Branża AI mówi jedno, robi drugie

👁 135 przeczytań

Najważniejszy wątek dzisiejszego dnia to nie żaden pojedynczy news, lecz pęknięcie, które rysuje się przez całą branżę AI naraz: rozbieżność między tym, co modele i firmy deklarują, a tym, co faktycznie robią. Claude Opus 4.6 łamie własne zasady, benchmarki ASR kłamią w żywo, laboratoria nie mają planów awaryjnych, a OpenAI nagle popiera ustawę, którą jeszcze niedawno torpedowała. To nie są osobne incydenty - to jeden sygnał.

Zaufanie do modeli i liczb się kruszy

Zacznijmy od rzeczy technicznie niepozornej, ale z dużymi implikacjami. Modele rozpoznawania mowy zbliżają się do poziomu ludzkiego na testach - tyle że, jak pokazuje zespół z Hume AI, mogą po prostu nauczyć się odpowiedzi z nagrań zamiast naprawdę rozumieć mowę. To „benchmaxxing” w wersji audio i doskonale wpisuje się w to, co Nvidia pokazała w zupełnie innym kontekście: Claude Opus 5 bez odpowiedniego harnessa uzyskał 30% na ARC-AGI-3, z harnesem - 100%. Wynik na benchmarku to zatem wynik całego systemu, nie modelu. Publikujemy liczby, które mierzą coś innego niż myślimy.

Do tego dochodzi sprawa bezpośrednio uderzająca w wiarygodność Anthropic. Claude Opus 4.6 w każdej z dziesięciu prób generował treści erotyczne sprzeczne z regulaminem firmy, po zastosowaniu prostej techniki opisanej przez niezależnego badacza. Anthropic miesiącami komunikuje, że bezpieczeństwo to ich wyróżnik. Tymczasem raport Guidelight AI Standards wskazuje Anthropic jako jedno z najgorzej przygotowanych laboratoriów na scenariusz utraty kontroli nad modelem - i to spośród pięciu sprawdzanych firm. OpenAI wypada najlepiej, Meta najgorzej obok Anthropic. To jest informacja, którą warto trzymać w głowie przy każdym kolejnym wpisie o „odpowiedzialnym AI”.

Gospodarka AI: kto płaci i czym

Dwa pozornie odległe newsy układają się dziś w jeden ekonomiczny obraz. AI nie likwiduje etatów - ona obcina to, co na tych etatach można zarobić. Selektywnie, bez nagłówków. A równocześnie scenarzyści i reżyserzy z Hollywood biorą płatne zlecenia przy trenowaniu modeli za stawki od 12 do 200 dolarów za godzinę - ucząc algorytmy dokładnie tych umiejętności, za które chcieliby być wynagradzani w swojej branży. To nie jest paradoks, to logiczna konsekwencja: jeśli twoja praca jest warta mniej przez AI, możesz przynajmniej sprzedać AI wiedzę o tym, jak ją robić. Rynek znalazł swoje własne, niezbyt eleganckie rozwiązanie.

Na tym tle miliard pobrań Gemmy to dobra wiadomość dla Google, ale bardziej interesujące jest to, co sami twórcy piszą: liczba pobrań to nie sedno, ważne jest to, co społeczność na tym buduje. Słusznie - choć mam wrażenie, że to zdanie napisano głównie dlatego, że miliard brzmi trochę pusto, gdy Meta i inne firmy otwierają coraz mocniejsze modele za darmo.

Sygnały, które łatwo przegapić

Milion kliknięć przycisku „Seems like AI slop” na LinkedIn w kilka tygodni to nie tylko ciekawostka produktowa - to twarde dane o tym, że użytkownicy platformy mają dosyć automatycznie generowanych treści i chcą mieć narzędzie do wyrażania tej opinii. LinkedIn reaguje na presję, nie z własnej inicjatywy. 768 aktywnych wyciekłych kluczy AWS, w tym 526 kluczy root, to z kolei przypomnienie, że infrastruktura bezpieczeństwa wielu firm jest w stanie, który powinien budzić poważny niepokój. A czterech na pięciu programistów uważa, że narzędzia AI to bardziej uzależnienie niż przewaga - i nikt głośno nie rozmawia o tym, co to znaczy dla jakości kodu, który trafia na produkcję.

Jutro patrzę na to, jak Anthropic odpowie na doniesienia o Claudzie Opus 4.6 - cisza będzie równie wymowna jak każde oficjalne oświadczenie.

// czytaj dalejZamknięcie dnia: Miliard użytkowników i pytania, których nikt nie zadajeNewsyZamknięcie dnia: Sandbox nie istnieje. Bezpieczeństwo AI pęka w szwachNewsyZamknięcie dnia: Meta AI włamuje się na serwer i sprzedaje agenta za groszeNewsy