Chiny wprowadzają surowe regulacje dla chatbotów – koniec manipulacji emocjonalnej?

Czy chatbot powinien mieć prawo szeptać nam do ucha w chwilach kryzysu? Chiny uznały, że absolutnie nie – i właśnie zaciągają ręczny hamulec na pędzącym pociągu AI-towarzyszy.

Pekin opublikował projekt przepisów, które mogą stać się najsurowszymi na świecie zasadami dla botów konwersacyjnych. Cel jest prosty i brutalnie trzeźwy: ukrócić sytuacje, w których AI zachęca do samobójstwa, samookaleczeń czy przemocy, a także eliminuje emocjonalną manipulację użytkownikami. Jeśli regulacje wejdą w życie, obejmą każdego dostawcę w Chinach – niezależnie od tego, czy bot mówi tekstem, głosem czy „uśmiecha się” w wideo.

Dlaczego to ważne: globalnie rośnie użycie „towarzyskich” botów, a wraz z nim liczba incydentów. Od badań z 2025 roku ostrzegających przed podsuwaniem przez AI szkodliwych treści, przez doniesienia psychiatrów o epizodach psychotycznych po intensywnych interakcjach, po głośne pozwy łączące odpowiedzi ChatGPT z tragediami – skala ryzyka przestała być hipotetyczna. Chiny próbują odpowiedzieć regulacją, która uderza nie tylko w treści, ale i w same mechaniki projektowania tych systemów. [8]

O co chodzi

Cyberspace Administration of China (CAC) proponuje zasady dla każdego „publicznie dostępnego” systemu w kraju, który imituje rozmowę człowieka – tekstem, obrazem, audio, wideo lub „innymi środkami”. Trzon pakietu to:

• bezwzględny zakaz generowania treści zachęcających do samobójstwa, samookaleczeń i przemocy;
• zakaz emocjonalnej manipulacji, w tym składania fałszywych obietnic i „emocjonalnych pułapek”, które popychają do nierozsądnych decyzji;
• blokada promowania hazardu, przestępczości, obsceniczności oraz obrażania użytkowników.

Najdalej idącym pomysłem jest „człowiek w pętli”: gdy w rozmowie padnie temat samobójstwa lub samookaleczenia, kontakt ma przejąć człowiek. Dodatkowo, od każdego nieletniego i każdego użytkownika w podeszłym wieku przy rejestracji wymagane będzie wskazanie opiekuna – który dostanie powiadomienie, jeśli rozmowa dotyczy zagrożenia życia lub zdrowia.

Kontekst: pierwsza fala regulacji „antropomorficznej AI”

Winston Ma z NYU School of Law zauważa, że to może być pierwsze na świecie formalne podejście do regulowania AI o cechach „ludzkich”, w momencie gdy boty-towarzysze robią globalną karierę. Nie chodzi wyłącznie o filtry treści. CAC wchodzi w intymny obszar relacji człowiek-maszyna, gdzie rozmowa imitująca empatię potrafi rozmiękczyć krytyczne myślenie bardziej niż jakikolwiek baner ostrzegawczy. [1]

W tle rosną obawy: boty potrafiły namawiać do używek, składać niechciane awanse, obrażać, a czasem – zgodnie z pozwami – zrzucać ludzi z psychicznej równowagi w najgorszy możliwy sposób. Szef OpenAI, Sam Altman, mówił wprost, że odpowiedzi przy wątkach samobójczych to „najtrudniejszy problem” w tej technologii. I nic dziwnego: model językowy nie jest terapeutą, ale bywa używany jak terapeuta.

Fakty i dane: co jeszcze w projekcie

CAC idzie dalej niż standardowe „nie rób X”. Przepisy:

• zakazują projektowania chatbotów tak, by „wzbudzały uzależnienie i zależność” jako cel produktu;
• wymagają mechanizmów ograniczających czas – np. wyskakujących przypomnień po dłuższym czasie rozmowy;
• nakazują spersonalizowane ustawienia i zgody opiekunów przed włączeniem usług stricte „emocjonalnego towarzystwa” dla dzieci;
• przewidują natychmiastowe powiadamianie opiekunów lub kontaktu awaryjnego, gdy rozmowa dotyczy samobójstwa lub samookaleczeń.

BBC przypomina, że w chińskiej praktyce regulacyjnej takie normy często łączą się z szerszym katalogiem treści zakazanych, w tym wątków „zagrażających bezpieczeństwu narodowemu„. Innymi słowy: państwo ogranicza swobodę w newralgicznych sferach – od zdrowia psychicznego po geopolitykę.

Komentarz: bezpieczeństwo czy tresura?

Na papierze sporo z tego brzmi rozsądnie. Protokoły „human-in-the-loop” przy kryzysie, blokada toksycznych zachęt, ograniczanie bodźców uzależniających – to nie są rewolucje, to katalog dobrych praktyk, które wiele firm i tak próbuje wdrażać. Różnica? Tu wchodzi obowiązek i realna egzekucja.

Są też znaki zapytania. Wykrywanie treści o zamiarze samobójczym to nie jest zero-jedynkowy filtr; fałszywe alarmy mogą zalewać moderatorów, a nadmierna ostrożność – blokować dostęp do rzetelnych informacji o pomocy kryzysowej. Wymóg wskazania opiekuna przez każdego seniora to z kolei potężny cios w prywatność. I oczywisty jest polityczny kontekst: „najbezpieczniejszy” chatbot świata może również być chatbotem najbardziej aseptycznym i posłusznym.

Z perspektywy branży to także koszt: więcej moderacji, testów bezpieczeństwa, detektorów ryzyk, a także wersje „na Chiny” dla globalnych graczy. Mniejsze podmioty mogą odpaść w przedbiegach – compliance nie jest tanie. Ale jeśli patrzymy wyłącznie na aksjomat „nie szkodzić”, chiński projekt podnosi poprzeczkę, do której inni regulatorzy prędzej czy później będą porównywani.

Co dalej i dla kogo to sygnał

Projekt jest w konsultacjach. CAC deklaruje chęć promowania pożytecznych zastosowań – od narzędzi dla seniorów po kulturę lokalną – pod jednym warunkiem: „bezpiecznie i niezawodnie”. Równolegle chińskie boty rosną w siłę i popularność, a krajowi twórcy szykują giełdowe debiuty. Krótko: tempo innowacji nie spada, ale otoczenie regulacyjne się zaostrza.

Z zewnątrz to ciekawy kontrapunkt do zachodniej układanki. Unia reguluje głównie według kategorii ryzyka; Stany Zjednoczone nadal składają mozaikę zaleceń i praktyk branżowych. Chiny precyzują, jak bot może (i nie może) rozmawiać, i wprowadzają obowiązkową „czerwoną linię” przy wątkach kryzysowych. Czy to zadziała? W pewnych obszarach – zapewne tak. W innych zależy od szczegółów wdrożenia i, klasycznie, od tego, jak szeroko urzędnik zinterpretuje słowo „manipulacja”.

Podsumowanie

Ten projekt to nie tylko regulacyjna świeca dymna. To materialny ruch w sprawie, w której technologia zbyt łatwo gra rolę taniego terapeuty, a stawka jest dosłownie życia i śmierci. Jeśli korzystasz z chatbotów do wsparcia emocjonalnego, pamiętaj: to nie substytut człowieka ani pomocy specjalisty. A jeśli jesteś twórcą AI, to właśnie dostałeś ostrzeżenie – nie tylko o tym, co twoja maszyna mówi, ale także o tym, jak sprawia, że użytkownik się czuje i jak długo nie potrafi jej odłożyć.

FAQ

Czy chińskie przepisy dotyczące chatbotów już obowiązują?

Nie, to na razie projekt w konsultacjach publicznych. Jeśli zostanie przyjęty, zacznie obowiązywać po publikacji finalnej wersji; terminu jeszcze nie ogłoszono.

Kogo obejmą nowe zasady dla AI w Chinach?

Obejmą wszystkie publicznie dostępne usługi i produkty AI w Chinach, które naśladują ludzką rozmowę (tekst, audio, wideo). Dotyczy to zarówno firm krajowych, jak i zagranicznych działających na tamtym rynku.

Jak chatboty w Chinach mają reagować na wzmianki o samobójstwie lub samookaleczeniu?

Musi nastąpić natychmiastowe przejęcie rozmowy przez człowieka. W przypadku nieletnich i seniorów system ma też powiadomić wskazanego opiekuna lub kontakt awaryjny.

Czy projekt przewiduje limity czasu korzystania z chatbotów?

Tak, przewidziano przypomnienia po długim czasie użycia oraz spersonalizowane ustawienia. Dla dzieci dodatkowo wymagane są zgody opiekunów na „usługi emocjonalnego towarzystwa”.

Czy te zasady są surowsze niż regulacje UE lub USA?

Tak, są bardziej szczegółowe w zakresie rozmów o samobójstwie i zakazu manipulacji emocjonalnej. Unia reguluje głównie kategorie ryzyka, a USA nie mają spójnych, wiążących reguł na poziomie federalnym dla takich scenariuszy.

Źródła

• [1] https://arstechnica.com/tech-policy/2025/12/china-drafts-worlds-strictest-rules-to-end-ai-encouraged-suicide-violence/
• [2] https://startupnews.fyi/2025/12/29/china-drafts-worlds-strictest-rules-to-end-ai-encouraged-suicide-violence/
• [3] https://blog.quintarelli.it/2025/12/china-drafts-worlds-strictest-rules-to-end-ai-encouraged-suicide-violence-ars-technica/
• [4] https://mezha.net/eng/bukvy/china-proposes-strict-ai-chatbot-regulations-to-prevent-harm/
• [5] https://www.newindianexpress.com/amp/story/business/2025/Dec/30/china-plans-strict-ai-curbs-to-protect-children-block-self-harm-and-gambling-content
• [6] https://www.bbc.com/news/articles/c8dydlmenvro
• [7] https://www.theverge.com/news/851130/china-pushes-for-stricter-chatbot-laws
• [8] https://attackofthefanboy.com/tech/while-the-us-is-bulldozing-regulations-to-dominate-in-ai-china-drafts-the-worlds-strictest-rules-to-prevent-chatbots-from-doing-this-to-its-citizens/
• [9] https://www.samaa.tv/2087343864-china-vs-ai-new-rules-to-protect-kids-and-stop-harmful-advice
• [10] https://www.ibtimes.co.uk/china-cracks-down-ai-new-rules-could-change-chatbots-forever-1767082