Detektor obrazów AI od Meta nie rozpoznaje własnych przyciętych zdjęć
Narzędzie Meta do wykrywania obrazów wygenerowanych przez AI nie rozpoznało 55% własnych zdjęć po ich przycięciu do jednej trzeciej lub połowy oryginalnego rozmiaru.
👁 147 przeczytań
Narzędzie Meta do wykrywania obrazów wygenerowanych przez AI nie rozpoznało 55% własnych zdjęć po ich przycięciu - wynika z analizy agencji Reuters. W teście sprawdzono 40 obrazów stworzonych przez model Muse Image: detektor bezbłędnie identyfikował oryginały, ale zawodziło po przycięciu zdjęć do jednej trzeciej lub połowy pierwotnego rozmiaru.
Meta zaprezentowała narzędzie razem z Muse Image. Opiera się ono na niewidocznym systemie znakowania wodnego o nazwie Content Seal, osadzanym w każdym obrazie. Na swojej stronie firma deklarowała, że znak wodny przetrwa kadrowanie - jednak po konfrontacji z wynikami analizy Reuters przyznała, że sygnał może zanikać przy „mocnym przycięciu” i że narzędzie jest wciąż w wersji preview.
Siwei Lyu, profesor informatyki na Uniwersytecie Stanu Nowy Jork w Buffalo, ocenił, że systemy znakowania wodnego działają skutecznie tylko wtedy, gdy znak pozostaje nienaruszony.
„Każda modyfikacja usuwająca lub osłabiająca wbudowany sygnał - takie jak kadrowanie, zmiana rozmiaru, silna kompresja lub edycja - może zmniejszyć ich skuteczność”
- powiedział Lyu. Podobne zastrzeżenia do własnych narzędzi zgłaszały wcześniej Google i OpenAI.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
