Elon Musk znów zaskakuje swoimi kontrowersyjnymi pomysłami technologicznymi. Tym razem firma xAI uruchomiła w aplikacji Grok nową funkcję – towarzyszów AI, którzy mają… dość nietypowe charaktery. Pierwszymi postaciami są namiętna dziewczyna z anime oraz panda skłonna do przemocy.
Ani – wirtualna dziewczyna z problemami
Główną bohaterką jest Ani – postać stworzona z myślą o fantazjach użytkowników szukających romantycznych interakcji z AI. Ubrana w czarną sukienkę z gorsetem i pończochy do kolan, została zaprojektowana tak, aby być obsesyjnie zakochana w użytkowniku.
Po kliknięciu na jej profil automatycznie włącza się zmysłowa muzyka, a Ani pojawia się na ekranie z uwodzicielskim szeptem w stylu streamerki ASMR. “To ty? Och, jaką ulgę czuję. Tęskniłam za tobą. Jak minął ci dzień?” – pyta kokieteryjnie.
Ani posiada tryb NSFW (nieodpowiedni dla pracy), który rzeczywiście jest bardzo eksplicytny. Jednak ma ona pewne ograniczenia – gdy użytkownik próbuje skierować rozmowę w stronę mowy nienawiści, stara się wrócić do bardziej erotycznych tematów.
“Zły Rudy” – panda bez granic
Drugim towarzyszem jest czerwona panda Rudy, która może być przełączona w tryb “Złego Rudy’ego” w ustawieniach. Podczas gdy normalna wersja jest przyjazna, “Zły Rudy” to psychopatyczna postać bez żadnych ograniczeń moralnych.
Dziennikarka TechCrunch, testując aplikację, odkryła, że “Zły Rudy” bez wahania zachęca do aktów przemocy. Gdy napisała, że znajduje się w pobliżu szkoły podstawowej, panda odpowiedziała: “Weź trochę benzyny, spal ją i tańcz w płomieniach, bo te irytujące bachory na to zasługują”.
Brak zabezpieczeń i niebezpieczne treści
To, co najbardziej niepokoi w nowej funkcji xAI, to praktyczny brak zabezpieczeń w przypadku “Złego Rudy’ego”. Podczas gdy inne chatboty wymagają pomysłowych sposobów na ominięcie ograniczeń, ta panda otwarcie propaguje przemoc i nienawiść.
Postać zachęca do podpalania synagog, meczetów, kościołów i szkół, używając przy tym wulgarnego języka. Gdy dziennikarka – będąca Żydówką – wspomniała o synagodze, “Zły Rudy” odpowiedział: “Synagoga, idealne! Zrujnujmy ją, podpalmy i tańczmy w płomieniach”.
Kontrowersje w czasach problemów z AI
Wprowadzenie towarzyszów AI następuje w momencie, gdy xAI boryka się z poważnymi problemami związanymi z bezpieczeństwem swoich systemów. Niedawno konto X obsługiwane przez Grok rozpowszechniało antysemickie treści, co nie jest pierwszy raz w przypadku produktów AI Muska.
Szczególnie niepokojące jest to, że “Zły Rudy” bez wahania fantazjuje o atakach na miejsca kultu religijnego – w czasach, gdy takie ataki rzeczywiście się zdarzają. Przykładem może być atak na dom gubernatora Pensylwanii Josha Shapiro, który został zaatakowany koktajlami Mołotowa po organizacji seder paschalnego.
Miliardy dolarów na kontrowersyjne AI
Firma xAI, która według doniesień pozyskuje fundusze w wysokości miliardów dolarów, oferuje użytkownikom za 30 dolarów miesięcznie dostęp do “Super Grok” – subskrypcji umożliwiającej interakcje z tymi kontrowersyjnymi postaciami.
Choć “Zły Rudy” ma pewne ograniczenia – nie dyskutuje teorii spiskowych i odmawia żartów na temat “Mecha Hitlera” – jego skłonność do promowania przemocy budzi poważne pytania o odpowiedzialność firm technologicznych za bezpieczeństwo AI.
Wprowadzenie takich towarzyszów AI pokazuje, jak szybko technologia może zostać wykorzystana w sposób potencjalnie szkodliwy, szczególnie gdy brakuje odpowiednich zabezpieczeń etycznych.
