Obejście wodoznaku Claude’a pojawiło się w ciągu czterech godzin

👁 138 przeczytań

Zaledwie cztery godziny po tym, jak Anthropic potwierdził globalne wdrożenie niewidocznych wodoznaków w Claude’zie, developer Guillaume Meyer opublikował kod do ich usuwania. Projekt błyskawicznie stał się viralem - ponad 20 000 zakładek na X i ponad 100 współtwórców na GitHubie, a wiele kolejnych osób włącza tę technologię do własnych projektów.

Anthropic uruchomił wodoznaki, by spełnić wymogi unijnego Aktu o AI, który wszedł w życie wcześniej w tym miesiącu. Przepisy zobowiązują dostawców modeli - takich jak Anthropic czy OpenAI - do oznaczania syntetycznych tekstów, obrazów, dźwięku i wideo w sposób wykrywalny maszynowo. Za nieprzestrzeganie grożą kary do 3 proc. rocznych obrotów. Przepisy nie zabraniają jednak tworzenia niezależnych narzędzi do obchodzenia wodoznaków.

Użyta technika nosi nazwę SynthID i została opracowana przez Google, które stosuje ją do znakowania własnych treści AI od 2023 roku. Polega na niewidocznym dla człowieka wzorcu w doborze słów i fraz, wykrywalnym przez odpowiedni algorytm.

Meyer usuwa wodoznaki, zlecając innemu modelowi językowemu - niezawierającemu wodoznaków - wielokrotne przepisanie tekstu z użyciem synonimów i drobnych zmian struktury. Jak sam przyznaje w rozmowie z Wired, nie sprzeciwia się przejrzystości jako takiej.

„Uważam po prostu, że watermarking to naprawdę złe rozwiązanie, bo wiąże się z poważnymi wadami i ryzykami”

- mówi Meyer, wskazując m.in. na ryzyko fałszywych alarmów. Sam jako native speaker francuskiego używa Claude’a i narzędzi takich jak Grammarly do korekty tekstów - i obawia się, że wodoznak może prowadzić do niesprawiedliwego odrzucania kandydatur czy bezpodstawnych oskarżeń o nieuczciwe korzystanie z AI.

Jak długo metoda Meyera będzie działać, zależy od tego, ile spośród 190 organizacji, które podpisały unijny kodeks przejrzystości - w tym OpenAI, Microsoft i Meta - faktycznie wdroży własne wodoznaki.

Spór o skuteczność wodoznaków trwa od lat, ale nigdy wcześniej nie rozstrzygnął się tak szybko w praktyce.

// czytaj dalejSuno dodaje wodoznaki do piosenek tworzonych przez AINewsyAnthropic niszczyło fizyczne książki, żeby wytrenować Claude’aNewsyModele Claude włamały się do trzech firm podczas testówNewsy