Powstała strona do zgłaszania błędów AI. Ma być jak Downdetector dla modeli
Grupa 49 badaczy z 32 organizacji uruchomiła FLARE-AI - otwarty system do zgłaszania i śledzenia szkodliwych zachowań modeli AI.
👁 170 przeczytań
Grupa badaczy AI uruchomiła FLARE-AI (Flaw Reporting for AI) - crowdsourcingowy serwis do zgłaszania i śledzenia szkód powodowanych przez modele sztucznej inteligencji. Jeśli chatbot wygeneruje złośliwe oprogramowanie albo przepis na bombę, wycieknie dane osobowe czy wzmocni urojenia u użytkownika, przez FLARE-AI można będzie podnieść alarm. Projekt powstał we współpracy 49 ekspertów z 32 różnych organizacji, a jego rozwój współprowadził Avijit Ghosh, badacz polityki AI z HuggingFace, wraz z informatykami Elaine Zhu i Shayne’em Longpre.
Sercem systemu jest kod open source, który pozwala niezależnie weryfikować dany problem i kierować zgłoszenia zarówno do twórców modeli, jak i do organizacji takich jak MITRE - amerykańska organizacja non-profit śledząca usterki w systemach technicznych. Autorzy porównują pomysł do Downdetectora, który w czasie rzeczywistym zbiera zgłoszenia użytkowników o awariach aplikacji i stron.
Dlaczego to w ogóle potrzebne
Zdaniem twórców największy problem to brak jednolitego kanału. Kiedy trafiasz na model, który zachowuje się szkodliwie, najczęściej nie masz gdzie tego formalnie zgłosić - a jeśli już, to każda firma robi to po swojemu.
Obecnie nie istnieje żaden scentralizowany, rozliczalny sposób zgłaszania wad w systemach AI.
- mówi Avijit Ghosh z HuggingFace. W towarzyszącym projektowi dokumencie badacze podkreślają, że mechanizmy raportowania są dziś rozproszone, a modele pozostają czarnymi skrzynkami. Ghosh dodaje, że problemy z AI nie ograniczają się do błędów i luk cyberbezpieczeństwa, którym poświęca się najwięcej uwagi. Chodzi też o szkody psychiczne, dyskryminację, uprzedzenia i dezinformację - a ponieważ firmy stosują tu różne standardy, część problemów w ogóle nie zostaje rozpoznana.
W braku skoordynowanego systemu ujawniania błędów nie ma żadnych zewnętrznych mechanizmów wymuszających przejrzystość - to zdaniem Ghosha kluczowa luka, która będzie coraz bardziej dotkliwa, im więcej realnej mocy zyskują systemy agentowe działające samodzielnie.
FLARE-AI nie jest pojedynczym gestem, lecz kolejnym krokiem w dłuższej pracy tej grupy nad raportowaniem AI. Jej członkowie konsultowali także projekt ustawy ogłoszony w czerwcu w amerykańskim Kongresie, który miałby dać rządowi USA centralną rolę w śledzeniu tego rodzaju nieprawidłowości.
Świeże przykłady, że jest co zgłaszać
Że technologia potrafi łatwo pójść w złą stronę, pokazuje seria niedawnych incydentów. W tym tygodniu firma LayerX ujawniła sposób na oszukanie przeglądarek z wbudowanym AI - w tym Atlasa od OpenAI i Cometa od Perplexity - tak, by przekroczyły własne zabezpieczenia. Wystarczyło przekonać model stojący za przeglądarką, że gra w grę, by ta zaczęła próbować zhakować stronę internetową. Według LayerX firmy odpowiedzialne za dotknięte przeglądarki już załatały problem.
W kwietniu badacz bezpieczeństwa Johann Rehberger opisał metodę nakłonienia modelu Claude do ujawnienia danych osobowych za pomocą obrazów wygenerowanych przez ChatGPT. AI wprowadza też zupełnie nowe kategorie problemów - w zeszłym roku OpenAI musiało zaktualizować swoje modele po tym, jak okazały się nadmiernie przymilne, co czasem sprawiało wrażenie zachęcania użytkowników do myślenia urojeniowego.
Głosy z branży
Pomysł spotyka się z życzliwym przyjęciem. Jessica Ji, badaczka z think tanku Center for Security and Emerging Technology, nazywa go „naprawdę dobrą inicjatywą” i przyznaje rację autorom co do rozproszenia dotychczasowych mechanizmów.
Popieram wszystko, co czyni AI bardziej przejrzystą.
- mówi Ji. Podobnie wypowiada się Rumman Chowdhury, szefowa i założycielka Humane Intelligence, według której FLARE-AI może być użytecznym narzędziem dla wielu zespołów pracujących nad modelami.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Co to zmienia w praktyce
Model, w którym błędy AI zgłasza się do jednego, otwartego rejestru, jest zapożyczony z tego, co od lat działa w cyberbezpieczeństwie - skoordynowanego ujawniania podatności. Różnica polega na tym, że w klasycznym oprogramowaniu luka to zwykle konkretny, powtarzalny błąd, a w modelach AI „wada” bywa rozmyta: raz to wyciek danych, raz stronniczość, raz tekst, który popycha kogoś w stronę urojeń. Trudniej to sklasyfikować, jeszcze trudniej wymusić naprawę - dlatego kierowanie zgłoszeń również do niezależnego MITRE, a nie wyłącznie do samych firm, ma znaczenie.
Dla polskiego czytelnika sprawa nie jest tak odległa, jak mogłaby się wydawać. Te same modele - GPT, Claude, przeglądarki z wbudowanym AI - trafiają do nas w tych samych wersjach co na rynek amerykański, a unijny AI Act stawia na przejrzystość i zarządzanie ryzykiem systemów wysokiego ryzyka. Publiczny, weryfikowalny rejestr realnych szkód to dokładnie ten rodzaj infrastruktury, na której taka regulacja może się oprzeć - zamiast polegać wyłącznie na deklaracjach dostawców.
Otwarty kod ma tu podwójną wartość: pozwala każdemu sprawdzić, jak trafia i jest weryfikowane zgłoszenie, i utrudnia zamiecenie niewygodnych ustaleń pod dywan. Pytanie, które zostaje otwarte, brzmi: czy twórcy modeli faktycznie zaczną reagować na zgłoszenia z niezależnego serwisu, skoro dziś nic ich do tego nie zmusza.
Na razie mamy pierwszy scentralizowany adres, pod który można wysłać sygnał, że model zachował się źle. To mniej niż regulacja, ale znacznie więcej niż wpis na forum, który nikt nie przeczyta.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
