Život
11.03.2025. 22:15
Zdravlje
29.10.2025. 22:10
R. E.
Izveštaj "OpenAI"
ChatGPT i mentalno zdravlje: MILION korisnika nedeljno pokazuje samoubilačke namere
Kompanija "OpenAI" je saopštila da više od milion korisnika platforme ChatGPT svake nedelje pokazuje znake samoubilačkih namera.
U okviru izveštaja o bezbednosti svog četbota, "OpenAI" procenjuje da poruke sa "eksplicitnim indikatorima potencijalnog samoubilačkog planiranja ili namere" čini značajan deo ukupnih interakcija korisnika.
To je jedno od najdirektnijih priznanja kompanije o mogućem uticaju veštačke inteligencije na mentalno zdravlje, piše "Gardijan".
Kompanija je, takođe, saopštila da oko 0,07 odsto aktivnih korisnika nedeljno - što je približno 560.000 ljudi od oko 800 miliona korisnika, pokazuje moguće znake psihotičnih epizoda ili maničnog ponašanja. U saopštenju se napominje da su takve procene početne i da ih je teško precizno kvantifikovati.
Kako bi poboljšala tačnost i etičke standarde u komunikaciji, "OpenAI" je angažovala 170 kliničara i stručnjaka za mentalno zdravlje iz svoje Globalne mreže lekara. Oni su analizirali više od 1.800 odgovora modela u situacijama koje uključuju ozbiljne krize mentalnog zdravlja i pomogli u prilagođavanju sadržaja koji se odnosi na emocionalnu podršku. Takođe, kompanija je saopštila da će nastaviti da razvija mehanizme za bezbedniju upotrebu svojih modela i da sarađuje sa nezavisnim stručnjacima i regulatorima kako bi "AI alati postali podrška, a ne pretnja korisnicima u krizi".
Stručnjaci za mentalno zdravlje ranije su upozoravali da četbotovi mogu nehotice da podstaknu opasne misli potvrđujući korisnikove zablude ili negativna osećanja - fenomen poznat kao "ulizivanje".
Komentari
