Anthropic znakuje treści Claude’a wodnym znakiem - jak to działa i co o tym sądzić

👁 145 przeczytań

Anthropic ogłosił w zeszłym tygodniu, że zaczyna znakować teksty generowane przez Claude’a ukrytymi wodnymi znakami - i to w odpowiedzi na Art. 50 unijnego AI Act, który nakłada na firmy AI obowiązek zapewnienia narzędzi umożliwiających identyfikację treści generowanych przez modele.

Firma początkowo nie ujawniła szczegółów technicznych, ale w piątek opublikowała dodatkowe wyjaśnienia. Mechanizm działa na poziomie doboru słów: LLM-y generują tekst słowo po słowie, wybierając probabilistycznie spośród opcji o zbliżonym znaczeniu - takich jak „zachmurzone” czy „szare” w zdaniu o pogodzie. Zamiast czysto losowego wyboru, znakowanie kieruje się kluczem kryptograficznym i kilkoma poprzednimi słowami, co zostawia w tekście wzorzec niewidoczny dla czytelnika, ale wykrywalny dla posiadacza klucza.

„Zamiast używać arbitralnego generatora liczb losowych do wyboru kolejnego słowa, znakowanie używa klucza i kilku poprzednich słów, żeby ustalić, jakie słowo model powinien wybrać” - wyjaśnił Anthropic.

Reakcje w sieci były szybkie - GitHub zaczął się zapełniać narzędziami do usuwania znaków, a John Gruber, współtwórca języka Markdown, napisał na blogu, że dobór słów to nie są decyzje bez stawki. „Dokładne słowa, które wybieramy podczas pisania, mają znaczenie” - stwierdził, dodając, że oczekuje od modelu wyboru najlepszych i najbardziej precyzyjnych słów w każdym punkcie.

Redakcja ZDNet zauważa, że jedynym stuprocentowym sposobem na uniknięcie wodnego znaku jest… napisanie tekstu samemu.

Spór o watermarking ujawnia coś ważniejszego niż kwestię techniczną - pokazuje, jak bardzo użytkownicy zaczęli traktować output LLM-ów jako własną twórczość, nie cudzą usługę.

// czytaj dalejAnthropic odkryło ukrytą przestrzeń słów wewnątrz modeli ClaudeNewsyAnthropic ukrywał kod śledzący użytkowników Claude w ChinachNewsyUE nakazuje oznaczanie treści generowanych przez AI od 2 sierpniaNewsy