AI dorobiło rzadkiego ptaka na zdjęciu z Brazylii - naukowcy biją na alarm

👁 140 przeczytań

Zdjęcie na platformie iNaturalist pokazywało czerwonoskrzydłego blackbirda w centralnej Brazylii - gatunek północnoamerykański, który nigdy tam nie wystąpił. Ptak był fikcją: fotograf poprosił narzędzie AI o „poprawienie” zdjęcia, a model przebudował epauleta oriole - pospolitego miejscowego gatunku - nadając mu cechy zupełnie innego ptaka.

Ten przypadek stał się punktem wyjścia komentarza opublikowanego w Nature Ecology & Evolution, którego autorzy ostrzegają, że generatywne AI zaczyna niszczyć rekordy citizen science. Jak wyjaśnił Tony Iwane z iNaturalist, współautor pracy, sieć działa niczym czujnik tego, co dzieje się na Ziemi w czasie rzeczywistym - ale tylko wtedy, gdy dane są rzetelne. Fałszywa obserwacja może sugerować, że gatunek zmienił swój zasięg, gdy w rzeczywistości tego nie zrobił. Skażone zdjęcia mogą też po cichu degradować narzędzia AI do identyfikacji gatunków, jeśli trafią do ich zbiorów treningowych.

Badacze znaleźli już kilkaset podejrzanych obrazów rozsianych po Macaulay Library, iNaturalist i brazylijskiej WikiAves. iNaturalist przechowuje ponad 610 milionów zdjęć, z czego flagę AI nosi zaledwie około 1400, a w pełni generowanych oznaczono około 600. Zespół postuluje silniejsze narzędzia do weryfikacji metadanych i - przede wszystkim - edukację użytkowników, że „poprawianie” zdjęcia może zepsuć naukę.

// czytaj dalejFałszywe zdjęcia ptaków generowane przez AI zagrażają badaniom naukowymNewsyModele T2I generują ładne, ale błędne obrazy naukowe - jest na to sposóbNewsyTwoje wakacyjne zdjęcia mówią oszustom więcej, niż myśliszNewsy