Zamknięcie dnia: Chatboty jako cel propagandy i koniec Mechanical Turk

👁 125 przeczytań

Dzień, który zapamiętam głównie przez jeden news, bo przesuwa on granicę między treścią a manipulacją w sposób, jakiego do tej pory nie widzieliśmy w tak udokumentowanej formie: izraelski rząd sfinansował fikcyjny think tank, który w dziewięć dni wyprodukował ponad 560 000 słów - nie po to, żeby czytali je ludzie, ale żeby cytowały je chatboty. To jest nowa kategoria dezinformacji i zasługuje na oddzielny namysł.

Kiedy chatbot staje się celem, nie narzędziem

Operacja z fałszywym think tankiem to coś więcej niż kolejna historia o propagandzie w sieci. Dotychczas kampanie wpływu były projektowane z myślą o ludzkim odbiorcy - emocjach, podatności na powtórzenia, efekcie bańki. Tu mamy do czynienia z czymś jakościowo innym: treść zoptymalizowana pod kątem indeksowania przez modele językowe, by te zwracały ją jako „wiarygodne źródło” użytkownikom zadającym pytania. Innymi słowy - ktoś nauczył się, jak pisać do RAG-ów i embeddingów zamiast do ludzi. To oznacza, że każdy chatbot oparty na wyszukiwaniu aktualnych danych jest potencjalnym wektorem ataku, a my jako użytkownicy nie mamy narzędzi, żeby to odróżnić.

W tym samym czasie Google DeepMind prezentuje Gemini 3.5 Transcribe - model transkrypcji z błędem na poziomie 2,6% dla nagrań. Technicznie solidny wynik, choć firma ostrożnie pomija porównanie z konkurencją. Piszę o tym w jednym akapicie z manipulacją chatbotami nieprzypadkowo: coraz dokładniejsze modele przetwarzające mowę to kolejny kanał, przez który treść zewnętrzna trafia do systemów AI. Im lepsza transkrypcja, tym więcej materiału audio staje się potencjalnym wejściem dla tych samych mechanizmów, które właśnie ktoś próbuje exploitować.

Regulacje i symboliczne zamknięcia

Chiny od 15 lipca zakazują chatbotów-towarzyszy dla nieletnich i przykręcają śrubę dorosłym użytkownikom. ByteDance wyciął funkcję towarzyską z Doubao w całości. To najszerzej zakrojona regulacja tego rodzaju na świecie i - co ciekawe - wywołała falę oburzenia, a nie ulgi. Ludziom zabrano coś, z czego korzystali. Niezależnie od tego, co sądzimy o AI-kompanionach, ten sygnał warto zapamiętać.

Dziś też Amazon zamknął Mechanical Turk po 21 latach. Koniec z 30 września. Bezos nazywał go kiedyś „sztuczną sztuczną inteligencją” - ludzie udający algorytmy, żeby algorytmy mogły się lepiej nauczyć udawać ludzi. Platforma skupiała ponad 500 tysięcy pracowników z 190 krajów, płacąc im centy za etykietowanie danych, które zasilały modele. Dziś te modele są na tyle dobre, że platforma stała się zbędna. To nie jest smutna ironia - to po prostu koniec pewnego etapu.

Ceny w dół, Gates w górę

DeepSeek V4 Flash potaniał o 57% - wejście kosztuje teraz 0,06 dolara za milion tokenów. Wygenerowanie artykułu na 1500 słów to około 0,001 zł. Ceny modeli wciąż lecą w dół szybciej, niż zdążamy aktualizować arkusze kalkulacyjne. To nie jest news dnia, ale jest konsekwentnym trendem, który zmienia rachunek ekonomiczny każdego projektu AI.

Bill Gates wrócił po trzech latach milczenia z esejem o AI i między innymi zaproponował rezerwaty pracy - miejsca zatrudnienia celowo chronione przed automatyzacją. Ciekawy pomysł od kogoś, kto przez dekady śpiewał pieśni o niehamowanym postępie technologicznym. Zmiana tonu jest zauważalna, choć szczegóły tej propozycji wymagają osobnej analizy.

Jutro będę patrzył na to, czy historia z fałszywym izraelskim think tankiem wywoła jakąś reakcję ze strony dostawców modeli - bo jeśli nie, mamy poważny problem bez właściciela.

// czytaj dalejAmazon zamknie Mechanical Turk dla nowych klientówNewsyKoniec Ask.com. Internetowy lokaj Jeeves przegrał z epoką chatbotówPremiumAmazon zamyka Mechanical Turk po 21 latach działaniaNewsy