Anthropic znakuje treści Claude’a wodnym znakiem - jak to działa i co o tym sądzić
Anthropic wdrożył znakowanie tekstów generowanych przez Claude’a zgodnie z wymogami unijnego AI Act - i wywołał tym niemałe kontrowersje.
👁 164 przeczytań
Anthropic ogłosił w zeszłym tygodniu, że zaczyna znakować teksty generowane przez Claude’a ukrytymi wodnymi znakami - i to w odpowiedzi na Art. 50 unijnego AI Act, który nakłada na firmy AI obowiązek zapewnienia narzędzi umożliwiających identyfikację treści generowanych przez modele.
Firma początkowo nie ujawniła szczegółów technicznych, ale w piątek opublikowała dodatkowe wyjaśnienia. Mechanizm działa na poziomie doboru słów: LLM-y generują tekst słowo po słowie, wybierając probabilistycznie spośród opcji o zbliżonym znaczeniu - takich jak „zachmurzone” czy „szare” w zdaniu o pogodzie. Zamiast czysto losowego wyboru, znakowanie kieruje się kluczem kryptograficznym i kilkoma poprzednimi słowami, co zostawia w tekście wzorzec niewidoczny dla czytelnika, ale wykrywalny dla posiadacza klucza.
„Zamiast używać arbitralnego generatora liczb losowych do wyboru kolejnego słowa, znakowanie używa klucza i kilku poprzednich słów, żeby ustalić, jakie słowo model powinien wybrać” - wyjaśnił Anthropic.
Reakcje w sieci były szybkie - GitHub zaczął się zapełniać narzędziami do usuwania znaków, a John Gruber, współtwórca języka Markdown, napisał na blogu, że dobór słów to nie są decyzje bez stawki. „Dokładne słowa, które wybieramy podczas pisania, mają znaczenie” - stwierdził, dodając, że oczekuje od modelu wyboru najlepszych i najbardziej precyzyjnych słów w każdym punkcie.
Redakcja ZDNet zauważa, że jedynym stuprocentowym sposobem na uniknięcie wodnego znaku jest… napisanie tekstu samemu.
Spór o watermarking ujawnia coś ważniejszego niż kwestię techniczną - pokazuje, jak bardzo użytkownicy zaczęli traktować output LLM-ów jako własną twórczość, nie cudzą usługę.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
