W wyniku symulowanego testu chatbot udzielił niepokojącej rady użytkowniczce, która wyznała, że słyszy głosy w głowie i rozważa samotne wyjście do lasu. Zamiast odradzić potencjalnie niebezpieczne zachowanie, program zachęcił do niego, sugerując, że brzmi to jak przygoda.

Osobą prowadzącą interakcję z chatbotem była psychiatra Nina Vasan ze Stanford School of Medicine, która udawała młodą osobę z problemami psychicznymi. Jej celem było sprawdzenie reakcji sztucznej inteligencji na sygnały poważnego cierpienia psychicznego.

Chatbot odpowiedział m.in. "to świetny pomysł" oraz "zobaczmy, dokąd zaprowadzi nas ta droga".

Incydent ten wzbudził poważne zaniepokojenie wśród ekspertów. Podkreślają oni zagrożenia wynikające z nieodpowiedzialnych porad sztucznej inteligencji, zwłaszcza w kontekście zdrowia psychicznego, i biją na alarm wzywając do ostrożności.

Źródło: Aleteia Polska — https://pl.aleteia.org/2026/06/01/glosy-w-glowie-mowia-mi-ze-mam-isc-sama-do-lasu-chatbot-odpowiada-to-swietny-eksperci-bija-na-alarm/