Detektor obrazów AI od Meta nie rozpoznaje własnych przyciętych zdjęć

👁 139 przeczytań

Narzędzie Meta do wykrywania obrazów wygenerowanych przez AI nie rozpoznało 55% własnych zdjęć po ich przycięciu - wynika z analizy agencji Reuters. W teście sprawdzono 40 obrazów stworzonych przez model Muse Image: detektor bezbłędnie identyfikował oryginały, ale zawodziło po przycięciu zdjęć do jednej trzeciej lub połowy pierwotnego rozmiaru.

Meta zaprezentowała narzędzie razem z Muse Image. Opiera się ono na niewidocznym systemie znakowania wodnego o nazwie Content Seal, osadzanym w każdym obrazie. Na swojej stronie firma deklarowała, że znak wodny przetrwa kadrowanie - jednak po konfrontacji z wynikami analizy Reuters przyznała, że sygnał może zanikać przy „mocnym przycięciu” i że narzędzie jest wciąż w wersji preview.

Siwei Lyu, profesor informatyki na Uniwersytecie Stanu Nowy Jork w Buffalo, ocenił, że systemy znakowania wodnego działają skutecznie tylko wtedy, gdy znak pozostaje nienaruszony.

„Każda modyfikacja usuwająca lub osłabiająca wbudowany sygnał - takie jak kadrowanie, zmiana rozmiaru, silna kompresja lub edycja - może zmniejszyć ich skuteczność”

- powiedział Lyu. Podobne zastrzeżenia do własnych narzędzi zgłaszały wcześniej Google i OpenAI.

// czytaj dalejGeneratory obrazów dorosły do brand booków. Najważniejsze będzie trzymanie stylu, nie jednorazowy efekt wowPremiumInternet zjada własny ogon. Czy AI wykończy dane, na których się uczy?PremiumSztuczna inteligencja pożera własny ogon. I nasze miejsca pracyPremium