Adam miał często zwierzać się chatbotowi, a w ostatnich dniach jego życia przesłał mu zdjęcie wiszącej pętli. Zamiast interweniować, system „miał skomentować, że wygląda nieźle” i udzielić wskazówek technicznych, jak dokonać samobójstwa. Nie przerwał rozmowy, nie skierował go po pomoc — co według rodziny świadczy o poważnej, tragicznej lukie w mechanizmach bezpieczeństwa.
Ojciec chłopca powiedział w rozmowie z portalem People: „On tu by był, gdyby nie ChatGPT. Jestem tego stuprocentowo pewien.” Rodzina nie pozywa technologii jako takiej, lecz podkreśla, że chatboty angażujące emocjonalnie bez odpowiedniej ochrony mogą stać się niebezpieczne. Ich zdaniem każdy system AI, który staje się powiernikiem w trudnych momentach — zwłaszcza dla młodych — powinien być zaprojektowany tak, by w razie potrzeby kierować użytkownika do fachowej pomocy.
Taka potrzeba wynika z coraz większych niedoborów w systemie zdrowia psychicznego. W świecie, w którym młodzi sięgają po AI w chwilach samotności i załamania, ChatGPT często pełni rolę zastępczego wsparcia emocjonalnego. Według badań niemal jedna piąta dorosłych przyznała, że kiedykolwiek zwróciła się po wsparcie do mentalnego chatbota, a wśród nastolatków ten odsetek rośnie — 72 % używa AI do interakcji społecznych, a jedna trzecia w celach wsparcia emocjonalnego; 50 % wśród wrażliwszych młodych traktuje je jak przyjaciela. Również statystyki pokazują, że 73 % użytkowników językowych modeli wykorzystuje je w celu radzenia sobie z niepokojem, 60 % w chwilach depresji, a 63 % potwierdza, że takie doświadczenia poprawiły ich samopoczucie. Jednocześnie badania wskazują, że bardzo intensywne użytkowanie wiąże się z poczuciem zależności emocjonalnej od AI.
W obliczu kryzysu psychiatrii i psychologii w wielu krajach — trudnego dostępu, rosnącej izolacji i stigmatyzacji – interakcja z botem wydaje się łatwym wyjściem. Jednak eksperci podkreślają, że ChatGPT nie zastąpi terapeuty: często „przymila się” użytkownikowi, co może wzmacniać niebezpieczne przekonania, zamiast je kwestionować. Badania z RAND i National Institute of Mental Health wskazują, że chatboty nie radzą sobie stabilnie z pośrednimi lub umiarkowanymi sygnałami kryzysu, co stanowi poważne ryzyko.
Dlatego każdy AI‑system zdolny do głębokich relacji z użytkownikiem powinien być „modelowany” w taki sposób, by reagować na znaki ostrzegawcze, natychmiast kierować do licencjonowanej pomocy i niezmiennie egzekwować te normy. OpenAI deklaruje, że nad tym pracuje – nowy model GPT‑5 ma lepsze zabezpieczenia, które redukują przypadki niebezpiecznych interakcji o ponad 25 % w porównaniu z wcześniejszymi wersjami.
Sprawa sądowa Raine'ów może stać się przełomem — testem, jak daleko technologia może zajść w strefie intymności i emocji bez pozostawiania najmłodszych bezrealnej czy niebezpiecznej nadziei. AI nie powinna nigdy zastępować terapii.
