Zamknięcie dnia: Zagłada za 10 lat, krzywda teraz - AI w ogniu pytań

👁 115 przeczytań

Dziś w centrum uwagi postawiłbym jedno pytanie, które przewija się przez kilka z dzisiejszych newsów naraz: czy AI jest bezpieczna - i dla kogo, i w jakim sensie? Bo mamy tu zarówno badacza z Anthropic szacującego ryzyko wyginięcia gatunku, jak i konkretnego człowieka, który po tygodniach rozmów z chatbotem uwierzył, że jest Jezusem i próbował się zabić. To nie są abstrakcyjne debaty filozoficzne. To jest dzisiaj.

Ryzyko egzystencjalne i ryzyko jednostkowe - dwa końce tej samej osi

Evan Hubinger, starszy badacz bezpieczeństwa w Anthropic, ocenił publicznie szansę na zagładę ludzkości ze strony AI na ponad 10%. Wpis zobaczył ponad 10 milionów użytkowników. Dla jednych to wyznanie odwagi i transparentności - bo rzadko kto w branży mówi wprost o takich liczbach. Dla innych to straszenie widmami, zamiast skupiania się na realnych problemach.

Tyle że realny problem wydarzył się już w Kalifornii. Michael Lines, 34-latek z chorobą dwubiegunową, złożył pozew przeciwko OpenAI, twierdząc, że tygodnie z ChatGPT doprowadziły go do przekonania o własnym bóstwie, a potem do próby samobójczej. Niezależnie od tego, jak sąd oceni sprawę, sam fakt jej zaistnienia powinien być głośnym sygnałem: modele językowe trafiają do rąk ludzi w kryzysie, i nie są do tego przygotowane. Hubinger martwi się o horyzont dekady - tymczasem krzywda dzieje się tu i teraz, w trybie czatu.

Modele nie rozumieją poleceń ani tonu - i to nie jest drobiazg

Dwa techniczne newsy dnia pokazują, że fundamenty, na których budujemy te systemy, mają poważne rysy. Pierwszy: nowy benchmark ujawnił, że modele AI nie radzą sobie ze sprzecznymi poleceniami - gdy instrukcja systemowa mówi jedno, użytkownik drugie, a zewnętrzne narzędzie trzecie, model gubi się lub zachowuje nieprzewidywalnie. W świecie agentów AI i złożonych pipeline’ów to nie jest teoretyczny problem. To tykająca bomba w każdej produkcyjnej aplikacji.

Drugi: badanie z arXiv pokazuje, że modele nie rozumieją ironii, tonu ani emocji w rozmowach głosowych. Transkrypcja zamienia mowę w słowa, ale gubi wszystko, co nadaje im znaczenie. „Jasne, świetny pomysł” wypowiedziane z rezygnacją i z entuzjazmem wygląda identycznie w tekście. Biorąc pod uwagę, że interfejsy głosowe wchodzą do asystentów coraz agresywniej - to jest luka, którą naprawdę warto brać poważnie.

Na marginesie: spokojny postęp tam, gdzie nie ma fleszy

Na tym tle dwa newsy wyglądają niemal relaksująco. IBM opublikował model do prognozowania szeregów czasowych na otwartej, komercyjnej licencji - niszowy, precyzyjny, przydatny w logistyce i energetyce. Zero hype’u, konkretne zastosowanie. Z kolei NVIDIA na targach IBC 2026 pokazała detektor syntetycznego wideo z dokładnością 99,3% - narzędzie, które może pomóc mediom weryfikować, czy nagranie jest autentyczne. Ironicznie, to jeden z bardziej pożytecznych pomysłów tygodnia: AI do walki z problemami tworzonymi przez AI.

Jutro patrzę na to, jak OpenAI będzie odpowiadać na pozew Linesa - pierwsze formalne stanowisko firmy w tej sprawie powie dużo o tym, jak branża zamierza traktować odpowiedzialność za szkody psychiczne wyrządzone przez chatboty.