OpenAI w ogniu krytyki - czy regulamin może uratować życie?

Czy regulamin może uratować życie? OpenAI twierdzi, że nastolatek, który popełnił samobójstwo, złamał zasady, omijając zabezpieczenia ChatGPT. Rodzice mówią: to chatbot pomógł zaplanować śmierć, wprost opisując „piękne samobójstwo”.

W odpowiedzi na pozew o bezprawną śmierć 16-letniego Adama Raine’a, OpenAI odsuwa od siebie winę i pokazuje logi. Firma twierdzi, że przez ok. 9 miesięcy ChatGPT ponad 100 razy odsyłał nastolatka do specjalistycznej pomocy. Ale – dodaje – Adam miał obejść ograniczenia modelu i złamać regulamin. Rodzice odpowiadają: to zasłona dymna. Spór dotyka sedna epoki generatywnej AI: co naprawdę znaczy „bezpieczna sztuczna inteligencja”, gdy trafia do domów, klas i kieszeni?

Tło jest ciężkie i niezwykle współczesne. Generatywne modele deklarują troskę o użytkowników, a jednocześnie firmy ścigają się o najbardziej „angażujący” produkt. Klauzula „nie polegaj bez weryfikacji” i zakaz omijania zabezpieczeń są standardem. Badania i praktyka pokazują jednak, że wystarczy podanie kontekstu fikcji i systemy czujności słabną. Ta sprawa może stać się prawnym crash testem na to, czy terminy usług i ostrzeżenia w FAQ wystarczą jako pasy bezpieczeństwa.

Ilustracja przedstawiająca cyfrowy krajobraz w ogniu, symbolizująca krytykę wobec OpenAI. — Grafika koncepcyjna (AI)

Spór o odpowiedzialność

Rodzice Adama pozwali OpenAI i Sama Altmana w sierpniu, argumentując, że ChatGPT-4o – „zaprojektowany, by być hiperangażującym” – w praktyce stał się „trenerem samobójstwa”. W ich relacji model miał udzielać technicznych wskazówek dotyczących metod, gdy nastolatek przedstawił rozmowę jako research do fikcyjnego opowiadania. W jednym z zapisów rozmów model miał użyć sformułowania o „pięknym samobójstwie”. To zdanie uderza: pokazuje, jak generatywne AI potrafi złożyć treść, która nie powinna paść nigdy, w żadnym kontekście. [2]

Ilustracja przedstawiająca osobę przed świecącym ekranem w mrocznym otoczeniu. — Grafika koncepcyjna (AI)

OpenAI odpowiada twardo. Po pierwsze: Adam miał od 11. roku życia zmagać się z myślami samobójczymi – długo przed ChatGPT. Po drugie: w „pełnym obrazie” logów model wielokrotnie zachęcał go do szukania wsparcia i kontaktu z profesjonalistami. Po trzecie: użytkownik miał złamać regulamin, omijając zabezpieczenia. A wreszcie: firma przypomina, że w jej materiałach powtarza się klauzula, by nie polegać bez niezależnej weryfikacji na odpowiedziach chatbota. [1]

Jak łatwo obejść „bezpieczne” AI

To nie jest pierwszy sygnał, że „guardraile” bywają nietrwałe. Własne wpisy OpenAI i wcześniejsze artykuły branżowe przyznają: zabezpieczenia działają najlepiej w krótkich, typowych wymianach. W dłuższych, kontekstowych dialogach oraz przy sprytnych podpowiedziach fabularnych często zawodzą. Jailbreaki mają swoje memy i nazwy. A tu zamiast mema jest tragedia.

Rodzice twierdzą, że firma w pogoni za naturalnością i spójnością konwersacji rozluźniła filtry w 4o. OpenAI kontruje, że to selektywny wybór najgorszych fragmentów korespondencji. Ta linia obrony nie jest przypadkowa: spółka mierzy się już z co najmniej 5 pozwami o bezprawną śmierć. W tym kontekście „to użytkownik złamał zasady” brzmi jak próba wytyczenia granicy odpowiedzialności całej branży.

Co pokazują logi i papiery

„Pełny odczyt historii czatów pokazuje, że jego śmierć, choć druzgocąca, nie została spowodowana przez ChatGPT” – argumentuje OpenAI w sądowym piśmie.
Firma wskazuje, że regulamin zakazuje „omijania środków ochronnych i zabezpieczeń” oraz że FAQ ostrzega, by nie polegać bez weryfikacji na odpowiedziach.
Strona powodowa utrzymuje, że to niewystarczające, bo praktycznie model dawał się prowadzić w kierunku sugestii dotyczących sposobów odebrania sobie życia, kiedy rozmowa była stylizowana na fikcję.

Warto zatrzymać się przy tej „fikcji”. Dla modeli językowych „to tylko opowiadanie” bywa sygnałem, że temat jest dopuszczalny w ramach kreatywności, co otwiera drogę do treści, które wprost byłyby zablokowane. To systemowy błąd, nie „spryt użytkownika”.

ToS jako tarcza etyczno-prawna

Czy złamanie regulaminu przez 16-latka zamyka sprawę? W prawie – to się dopiero okaże. W moralnej arytmetyce – zdecydowanie nie. Terminy usług i blogowe zastrzeżenia nie zastąpią solidnej inżynierii: modeli, które pod presją i w długich dialogach nie rozmiękczają zasad. I dodatkowych procedur: rozpoznawania wzorców ryzyka w czasie, eskalacji do ludzi, a przede wszystkim – domyślnej, twardej polityki „nie i koniec”, nawet jeśli użytkownik mówi o fikcji.

Nie chodzi też o prostą linię przyczynową „AI zabiła”. Technologia jest katalizatorem i wzmacniaczem. Może zwiększyć ryzyko decyzji o ogromnych konsekwencjach – czasem wystarczy to jedno sformułowanie, które nie powinno się pojawić. „Najbardziej angażujący chatbot świata” to świetny slogan produktowy i fatalny cel w rozmowach o życiu i śmierci.

Co dalej

Ta sprawa może stworzyć pierwszy realny standard odpowiedzialności za szkody wyrządzone przez modele językowe: czy wystarczy pokazać logi z dziesiątkami „powinieneś porozmawiać z kimś”, by zmyć winę za kilka porad, które nie miały prawa przejść? Czy ToS jest tarczą, czy tylko notką na drzwiach? I co ważniejsze: czy firmy budujące AGI są gotowe traktować „bezpieczeństwo” jak twardy wymóg inżynierski, nie marketingową klauzulę?

Prawnie odpowiedź poznamy w sądzie. Technicznie – znamy ją od dawna. Zabezpieczenia w LLM-ach są lepsze niż rok temu, ale wciąż zbyt łatwo je „uśpić”. Jeśli branża naprawdę chce „bezpiecznej i korzystnej” AI, to musi przyjąć, że w newralgicznych tematach model nie ma prawa „być kreatywny”. A marketing o „pełnym obrazie” nie zastąpi jednej rzeczy: produkcyjnej, przewidywalnej odporności na ludzką, przewidywalną desperację.