Fałszywe zdjęcia ptaków generowane przez AI zagrażają badaniom naukowym

👁 145 przeczytań

Naukowcy opublikowali w piśmie Nature ostrzeżenie przed rosnącą liczbą zdjęć edytowanych lub całkowicie generowanych przez AI na platformach obserwacji przyrody, takich jak iNaturalist i Macaulay Library - zagrażając wiarygodności danych wykorzystywanych w badaniach naukowych.

Problem dotyczy nie tylko oczywistych fałszerstw. Bardziej niebezpieczna jest subtelna edycja: użytkownik prosi model generatywny o poprawienie jakości zdjęcia - usunięcie gałęzi przysłaniającej ptaka albo „poprawienie” ostrości - a algorytm może przy okazji wprowadzić elementy zupełnie innego gatunku. Efekt? Fałszywe doniesienie o rzadkim gatunku w miejscu, gdzie nigdy nie był notowany.

Epaulet oriole zamieniony w rzadkiego gościa

Konkretny przykład przytacza dr Alexander Lees, ekolog z Manchester Metropolitan University i autor komentarza w Nature. Fotografowi w środkowej Brazylii oprogramowanie AI „poprawiło” zdjęcie pospolitego epauleta oriole, dodając cechy czerwonoskrzydłego kosa - gatunku z Ameryki Północnej, który nigdy wcześniej nie był notowany w tym rejonie Brazylii. Wynik trafił do bazy jako autentyczne, wyjątkowe obserwowanie rzadkiego gościa.

„Moje doświadczenia z przeglądaniem Facebooka są takie, że ogromna liczba zdjęć dzikich zwierząt to po prostu obrazy generowane przez AI. Pomysł, że moglibyśmy użyć tych zdjęć do zrozumienia, gdzie gatunki znajdują się w przestrzeni i czasie, jest bardzo trudny do realizacji.”

- dr Alexander Lees, Manchester Metropolitan University

Lees zaznacza, że jawne fałszerstwa są zwykle łatwe do wykrycia - nikt nie uwierzy w tukana widzianego na Syberii. Problem leży w pośredniej strefie: zdjęciach, które wyglądają autentycznie, bo były autentyczne, zanim ktoś poprosił AI o ich „ulepszenie”.

Platformy citizen science są dziś standardowym narzędziem badań nad zasięgiem występowania gatunków, migracją i zmianami klimatycznymi. Zainfekowanie tych baz zmanipulowanymi obrazami może prowadzić do błędnych wniosków w pracach naukowych, które opierają się na danych zbieranych przez setki tysięcy amatorskich obserwatorów przyrody. Według autorów komentarza w Nature odkryto już setki fałszywych rekordów, ale prawdziwa skala problemu pozostaje nieznana.

Organizacje prowadzące te platformy wciąż pracują nad metodami wykrywania zmanipulowanych zdjęć. Na razie głównym wołaniem do ptasiarzy jest jedno: zanim klikniesz „popraw zdjęcie”, pomyśl, co algorytm może przy okazji zmienić.

// czytaj dalejSci-VBench: jak modele AI radzą sobie z generowaniem naukowych wideoNewsyAI dorobiło rzadkiego ptaka na zdjęciu z Brazylii - naukowcy biją na alarmNewsyAI w badaniach naukowych staje się współpracownikiem od hipotez. Odkrycia przyspieszą, ale nie samePremium