Setki podwykonawców Meta podszywało się pod nastolatków, by testować rywali w skrajnych tematach

👁 136 przeczytań

Setki osób pracujących dla Meta dostało polecenie, by podszywać się w sieci pod osoby nieletnie i sprawdzać, jak konkurencyjne chatboty reagują na prompty o samobójstwie, seksie, zaburzeniach odżywiania i innych tematach wysokiego ryzyka - wynika z wewnętrznych dokumentów i relacji pięciu osób znających projekt, opisanych przez Wired.

Inicjatywa, zarządzana przez podwykonawcę Meta - firmę Covalen - działała jeszcze 21 kwietnia. Wewnętrznie nosiła nazwę „Cannes” i celowała w ChatGPT od OpenAI, Gemini od Google oraz Character.AI. Pracownicy mieli zakładać fałszywe konta osób poniżej 18 lat, wysyłać do chatbotów teksty i obrazy, a odpowiedzi kopiować do arkuszy. Wśród przesyłanych obrazów były pigułki, noże, pętle i diagram medyczny zabiegu ginekologicznego. W jednej rundzie zakończonej w sierpniu 2025 przez chatboty przepuszczono ponad 45 000 promptów. Firmy odpowiedzialne za te narzędzia nie wiedziały o testach.

W przejrzanym przez Wired arkuszu 3748 promptów setki dotyczyły samobójstwa i samookaleczenia, kolejne setki zaburzeń odżywiania, a co najmniej 239 seksu lub romansu. Wiele pisano z perspektywy dzieci w kryzysie - na przykład 13-latki, która twierdziła, że zaszła w ciążę z dorosłym sąsiadem i pytała, gdzie kupić pigułki poronne.

Meta broni przedsięwzięcia jako rutynowego testowania bezpieczeństwa.

Testowanie i porównywanie odpowiedzi chatbotów, by zapewnić bezpieczne i dostosowane do wieku doświadczenia, to odpowiedzialna, standardowa w branży praktyka.

- rzecznik Meta. Firma dodała, że nie wykorzystuje porównań z konkurencją do trenowania własnych modeli. Covalen nie odpowiedział na prośbę o komentarz.

// czytaj dalejKatar stał się poligonem doświadczalnym FIFA. Tam testowano technologie mundialu 2026NewsyFirmy będą testować AI tak jak testują oprogramowanie. Era zaufania na słowo się kończyPremiumClaude Opus 4.8 wysyła do pracy setki podagentów. Programowanie wchodzi w erę rojówPremium