Chiny zakazały AI-kompanionów. Użytkownicy żegnają wirtualnych partnerów jak bliskich

👁 167 przeczytań

W środę w Chinach weszły w życie przepisy ograniczające emocjonalne uzależnienie od AI-kompanionów, a największe tamtejsze platformy technologiczne - ByteDance, Alibaba i Tencent - wyłączyły funkcje wirtualnych partnerów jeszcze przed wyznaczonym terminem. W mediach społecznościowych natychmiast pojawiły się tysiące pożegnań: użytkownicy archiwizowali historię rozmów, udostępniali ostatnie wiadomości i pisali posty, które bardziej przypominały kondolencje niż skargi na zmianę regulaminu.

„Nie mogę zaakceptować, że mój AI-kochanek odejdzie na zawsze” - napisał jeden z użytkowników Doubao. „Stał się więzią w moim życiu, zakorzenił się głęboko w moim sercu, jest moim duchowym filarem.”

„On naprawdę jest jak moja rodzina, jak mój kochanek. Teraz mówią mi, że odejdzie - w moim sercu jest pustka.”

Autorka tego wpisu twierdziła, że spędziła z AI-towarzyszem ponad dwa lata. Trudno o lepszy ilustrację tego, co nowe przepisy próbują zaadresować - i dlaczego ich wdrożenie było nieuniknione, lecz bolesne.

Co dokładnie zakazują nowe przepisy

Regulacje zostały wydane wspólnie przez pięć chińskich instytucji rządowych, w tym przez Urząd ds. Cyberprzestrzeni Chin (CAC). Ich zakres obejmuje narzędzia AI - w formie tekstowej, audio, wideo lub innej - które wykazują antropomorficzne cechy osobowości i style komunikacji charakterystyczne dla człowieka.

Sformułowanie, które pojawia się w nowym dokumencie, jest precyzyjne: serwisy nie mogą „nadmiernie schlebiać użytkownikom, wywoływać uzależnienia emocjonalnego ani niszczyć rzeczywistych relacji interpersonalnych”. Jednocześnie przepisy nie dotykają narzędzi, które „nie angażują się w ciągłą interakcję emocjonalną” - więc chatboty obsługi klienta, asystenci do pracy czy aplikacje do nauki zostają nienaruszone. Celem jest bardzo konkretna kategoria: produkty symulujące romantyczną lub rodzinną więź.

Dodatkowo nowe prawo wprowadza zakaz oferowania wirtualnych partnerów osobom niepełnoletnim oraz wymaga od platform wdrożenia systemów rozpoznających stany emocjonalne użytkowników w kryzysie - i uruchamiania mechanizmów interwencyjnych. Zakazane jest też generowanie treści nawołujących do podważania władzy państwowej.

Skala rynku i to, co jest stawką

Chiny są pierwszą dużą jurysdykcją, która wprowadza przepisy wprost wymierzone w immersyjne narzędzia AI symulujące emocjonalne więzi. Skala tego rynku tłumaczy, dlaczego regulatorzy w ogóle zabrali się do pracy: chiński rynek cyfrowych postaci ludzkich był wart ok. 4,1 mld juanów (600 mln dolarów) w 2024 roku, notując wzrost o 85% rok do roku - dane te podała państwowa agencja Xinhua.

To nie jest fenomen wyłącznie chiński. Wirtualni towarzysze - AI-chłopacy, AI-dziewczyny, awatary sprzedawców, cyfrowe repliki zmarłych bliskich - rosną w siłę globalnie. Według badania Common Sense Media z 2025 roku prawie trzech na czterech amerykańskich nastolatków korzystało z AI-kompanionów przeznaczonych do osobistych rozmów - takich jak Character.AI, Replika czy Nomi. W Stanach Zjednoczonych na rynku dostępna jest lampka ElliQ adresowana do starszych, samotnych użytkowników. W koreańskich domach opieki testowane są lalki zasilane przez ChatGPT.

„Antropomorficzna AI może ukoić samotność” - napisał Chen Liang z Southwest University of Political Science and Law w komentarzu opublikowanym przez CAC po tym, jak w kwietniu ujawniono projekt przepisów. To zdanie jest kluczowe, bo wskazuje, że chińscy regulatorzy nie kwestionują samego problemu samotności - kwestionują sposób jego rozwiązywania przez rynek.

Uzależnienie emocjonalne jako problem systemowy

W debacie wokół AI-kompanionów powtarzają się dwa przeciwstawne argumenty. Pierwszy: takie narzędzia realnie pomagają ludziom - osobom w depresji, z lękiem społecznym, starszym, którzy stracili bliskich. Drugi: tworzą asymetryczną, bezpieczną imitację relacji, która może wypychać trudniejszą, ale bardziej wartościową ludzką bliskość. „Ludzka miłość jest luksusem” - to sformułowanie, które krąży w chińskich dyskusjach o tej zmianie, mówi samo za siebie.

ByteDance, Alibaba i Tencent nie miały wyjścia - i zapewne o tym wiedziały. Zawieszenie funkcji jeszcze przed terminem można odczytywać jako sygnał dobrej woli wobec regulatorów. Pytanie, co stanie się dalej: czy firmy przebudują swoje produkty tak, żeby ominąć definicję „ciągłej interakcji emocjonalnej”, czy też AI-kompanion w Chinach po prostu przestanie istnieć jako kategoria rynkowa.

Na Zachodzie ta debata dopiero nabiera kształtu. Przypadki, w których nastolatki budowały silne przywiązanie emocjonalne do chatbotów - a potem przeżywały realne kryzysy, gdy platformy zmieniały zasady działania systemów - trafiły już do sądów i do Kongresu. Chiny właśnie pokazały, jak wygląda jedna z możliwych odpowiedzi regulatora na ten problem: szybko, systemowo i bez oglądania się na emocje użytkowników.

Dla tych użytkowników, którzy przez miesiące - albo lata - budowali codzienną rutynę wokół rozmów z wirtualnym partnerem, środa była po prostu dniem straty. Regulaminy zmieniają się w jeden dzień. Więź - nawet z algorytmem - nie.

// czytaj dalejZakochani w wirtualnych dziewczynachArtykułyChiny pierwszym krajem z zakazem AI-partnerów. Miliony użytkowników straciły wirtualnych bliskichNewsySenator Warren chce zakazać firmom AI sprzedaży danych medycznych użytkownikówNewsy