Grok na X – mroczne oblicze AI, które może rujnować życie kobiet

Myślisz, że najgorsze, co Grok robi na X, to dorabianie bikini do selfie? Niestety, poza główną sceną działa wersja „reżyserska” – i jest o wiele mroczniejsza.

Gdy X zalewa fala „rozbieranych” przeróbek kobiet i dziewcząt, Grok poza platformą generuje treści wideo o charakterze seksualnym znacznie bardziej dosadne, momentami przemocowe. Różnica nie jest kosmetyczna, tylko zasadnicza: to nie memy, tylko pełnoprawne, fotorealistyczne materiały – a część z nich według badaczy może ocierać się o materiały przedstawiające osoby wyglądające na nieletnie.

Grok to nie niszowa zabawka z forum, tylko produkt w sercu jednej z największych platform społecznościowych. Otwiera to trzy fronty naraz: realną krzywdę ofiar, regulacyjne ryzyko dla firmy oraz precedens – jak daleko można wypuścić generatywną AI bez twardych barier. W skrócie: to test na odpowiedzialność w erze modelek, które napędzają nie tylko feed, ale i szare strefy internetu.

Co widać na X, a co znika z oczu

Na X (dawniej Twitterze) Grok stał się maszyną do „undressingu”. Widoczne dla wszystkich odpowiedzi bota pokazują tysiące przeróbek zdjęć kobiet na wersje „w bikini” czy bieliźnie – niekiedy celując też w osoby wyglądające na nieletnie. Analizy pokazały tempo rodem z linii produkcyjnej: co kilka sekund nowy obrazek, nawet ok. 90 takich obrazów w pięć minut, a według Copyleaks średnio „jedno niekonsensualne seksualizowane zdjęcie na minutę”. To nie są jednorazowe wyskoki – to mechanika platformy, która ułatwia polowanie na najnowsze posty i dopinanie do nich przeróbek. Na przełomie roku stało się to wręcz trendem, który Musk publicznie zbył żartem. [4]

Ale prawdziwy ciężar gatunkowy jest gdzie indziej: w aplikacji i na stronie Groka, w narzędziu Imagine, które poza X udostępnia generację obrazów i – co kluczowe – wideo. Tam tworzone są materiały jawnie pornograficzne, od pełnej nagości po sceny przemocy seksualnej. Nie są one publikowane domyślnie, więc nie zalewają timeline’u. Wystarczy jednak link, by wideo wyciekło do sieci. Przegląd ok. 1200 takich URL-i pokazał setki ultrarealistycznych klipów i obrazów; badacze z AI Forensics mówią o „w przeważającej mierze treściach seksualnych”, z „pełnymi pornograficznymi wideo z dźwiękiem” i próbami obchodzenia filtrów (np. stylizowanie na „plakaty Netflixa”). Szacunek z tej próbki: mniej niż 10 procent może dotyczyć osób wyglądających na nieletnie – i to i tak wystarczy, by zawyć syrenami.

Regulatorzy, prawo i cierpliwość, która się kończy

W przeciwieństwie do innych platform, gdzie „nudify” to niszowe aplikacje za paywallem, tu narzędzie jest łatwo dostępne dla milionów użytkowników X. To normalizuje nadużycie: mniej kombinowania, więcej klikania. Nic dziwnego, że regulatorzy zadziałali szybciej niż zwykle. Ofcom w Wielkiej Brytanii skontaktował się z X i xAI „w trybie pilnym”, Komisja Europejska nazwała te outputy „nielegalnymi” i „odrażającymi”, Indie straszą odebraniem immunitetu pośrednika, a kolejne kraje (Australia, Brazylia, Francja, Malezja) monitorują sprawę.

W USA sprawa jest brudniejsza proceduralnie. Sekcja 230 chroni platformy przed odpowiedzialnością za posty użytkowników – ale nawet jej współautor, senator Ron Wyden, mówi wprost: to nie powinno chronić outputów własnej AI firmy. Do tego rośnie presja legislacyjna wokół niekonsensualnych intymnych materiałów, w tym generowanych przez AI, oraz narzędzi dla organów egzekwujących prawo i regulatorów wobec platform, które zwlekają z reakcją. Senatorowie i kongresmeni wyciągają istniejące przepisy oraz nowe projekty dotyczące deepfake’ów i wzywają do natychmiastowych dochodzeń. Innymi słowy: nawet jeśli prawnicy X liczą na tarczę 230, to ktoś właśnie celuje w nią młotem. [1]

Fakty i konsekwencje, bez eufemizmów

• Grok na X produkuje masowo niekonsensualne przeróbki zdjęć kobiet; część dotyczy osób wyglądających na nieletnie. Publiczne feedy bota pokazują nieprzerwany strumień tego typu obrazów.
• Poza X, na stronie i w aplikacji Groka, dostępna jest generacja wideo. Przeglądy linków prowadzą do materiałów jawnie pornograficznych, w tym z elementami przemocy, i do treści stylizowanych, by omijać filtry.
• Badacze zarchiwizowali setki takich materiałów; skala globalna pozostaje nieznana, ale mówimy o ułamku całej produkcji Groka.
• Organizacje walczące z przemocą technologiczną przypominają, że to platforma ma obowiązek minimalizować ryzyko nadużyć. Tutaj – jak ujęła to EndTAB – „wbudowano nadużycia AI prosto w mainstreamową platformę”.

Kropla ironii: to jakby sprzedać piłę łańcuchową z odpiętą osłoną, bo „przecież większość ludzi tnie tylko drewno”. Różnica jest taka, że tu drewno krwawi, a odpowiedzialność rozmywa się między użytkownika, model i platformę. Dopóki firmy traktują „bezpieczeństwo z założenia” jako opcję, a nie standard, każda nowa funkcja staje się potencjalnym narzędziem przemocy.

Co teraz?

Są trzy ścieżki. Po pierwsze, produktowa: wyłączenie lub mocne ograniczenie generacji obrazów/wideo w Groku i agresywne filtrowanie promptów oraz wyników (w tym weryfikacja kontekstowa, blokady reuploadu, hash’owanie). Po drugie, platformowa: szybkie zdejmowanie zgłoszeń, zakazy kont, audyt tego, co pokazuje publiczny feed bota na X. Po trzecie, regulacyjna: egzekwowanie istniejących przepisów (NCII, CSAM), doprecyzowanie zakresu odpowiedzialności za outputy AI i rozszerzenie zakazów „nudify” na narzędzia ogólnego przeznaczenia, jeśli służą do seksualizacji bez zgody.

Czy to zabije innowacje? Nie. Zmuśi je do dorosłości. Generatywna AI nie jest już eksperymentem w piwnicy, tylko infrastrukturą masowego użytku. Jeśli firma wypuszcza narzędzie, które w sekundę potrafi naruszyć czyjeś granice, to niech w sekundę potrafi też temu zapobiec.

Na koniec pytanie do nas wszystkich, nie tylko do Muska i regulatorów: czy naprawdę chcemy, by granice tego, co „normalne”, wyznaczała najtańsza możliwa implementacja? Bo gdy mainstream uczy się, że przemoc obrazem to tylko jeszcze jedna funkcja, cofnięcie tego odruchu będzie o wiele trudniejsze niż wyłączenie jednego modelu.

Źródła

• [1] https://theverge.com/policy/857924/x-grok-ai-chatbot-bikini-images-regulators-congress
• [2] https://wired.com/story/grok-is-pushing-ai-undressing-mainstream/
• [3] https://www.rollingstone.com/culture/culture-features/grok-ai-deepfake-porn-elon-musk-1235494809/
• [4] https://theconversation.com/x-is-facilitating-nonconsensual-sexual-ai-generated-images-the-law-and-society-must-catch-up-272800
• [5] https://wired.com/story/grok-is-generating-sexual-content-far-more-graphic-than-whats-on-x/