Zdravlje
29.10.2025. 22:10
Život
14.12.2025. 17:20
Mashable / R. E.
Šta to tačno znači
OpenAI nakon optužbi: "Novi ChatGPT-5.2 je bezbedniji za mentalno zdravlje"
Kompanija "OpenAI" je, u četvrtak, lansirala ChatGPT-5.2, navodeći njegove jače bezbednosne performanse u pogledu mentalnog zdravlja.
"Sa ovim izdanjem, nastavili smo naš rad na jačanju odgovora naših modela u osetljivim razgovorima, uz značajna poboljšanja u načinu na koji reaguju na upite koji ukazuju na znake samoubistva ili samopovređivanja, poremećaj mentalnog zdravlja ili emocionalno oslanjanje na model“, navodi se u blogu "OpenAI"-a.
Kompanija je nedavno bila na meti kritika i tužbi, koje tvrde da ChatGPT doprinosi psihozi, paranoji i zabludama nekih korisnika. Neki od tih korisnika su počinili samoubistvo nakon dugih razgovora sa AI čet botom, za kog je poznato da ima sklonost ka "ulizivanju" korisnicima, piše "Mashable".
Kao odgovor na tužbu u vezi sa samoubistvom 16-godišnjeg Adama Rejna, "OpenAI" je negirao odgovornost, tvrdio je da je ChatGPT uputio tinejdžera da potraži pomoć zbog svojih samoubilačkih namera i naveo da je tinejdžer "zloupotrebio" platformu.
Istovremeno, "OpenAI" se obavezao da će poboljšati način na koji ChatGPT reaguje kada korisnici pokažu sklonost ka samopovređivanju i krizi mentalnog zdravlja. Kako mnogi korisnici razvijaju emocionalne veze sa AI čet botovima, kao što je ChatGPT, AI kompanije suočavaju se sa sve većom kontrolom u pogledu zaštitnih mera za korisnike.
Sada, "OpenAI" tvrdi da će njegovi najnoviji ChatGPT modeli ponuditi "manje nepoželjnih odgovora“ u osetljivim situacijama.
U postu na blogu koji najavljuje GPT-5.2, "OpenAI" navodi da GPT-5.2 ima veće rezultate na testovima bezbednosti koji se odnose na mentalno zdravlje, emocionalno oslanjanje i samopovređivanje u poređenju sa GPT-5.1 modelima. Ranije je "OpenAI" rekao da koristi "bezbedno dovršavanje“, novi pristup bezbednosnoj obuci koji balansira između korisnosti i bezbednosti. Više informacija o performansama novih modela možete pronaći na sistemskoj kartici 5.2.
Međutim, kompanija je takođe primetila da GPT-5.2 odbija manje zahteva za sadržaj za odrasle, posebno seksualizovani tekst. Ali ovo očigledno ne utiče na korisnike za koje "OpenAI" zna da su maloletni, jer kompanija navodi da njene mere zaštite "izgleda da dobro rade“. "OpenAI" primenjuje dodatnu zaštitu za maloletnike, uključujući smanjenje pristupa sadržaju koji sadrži nasilje, krvoproliće, opasne izazove, igranje uloga seksualne, romantične ili nasilne prirode i "ekstremne standarde lepote“.
U toku je i model predviđanja starosti, koji će omogućiti ChatGPT-u da proceni starost svojih korisnika kako bi pomogao da se mlađim korisnicima pruži sadržaj koji je prikladniji za uzrast.
Ranije ove jeseni, "OpenAI" je uveo roditeljski nadzor u ChatGPT, uključujući praćenje i ograničavanje određenih vrsta korišćenja. "OpenAI" nije jedina AI kompanija optužena da pogoršava probleme mentalnog zdravlja. Prošle godine, majka je tužila Character.AI nakon što je njen sin počinio samoubistvo, a u drugoj tužbi se tvrdi da su deca ozbiljno povređena "likovima“ te platforme. Stručnjaci za bezbednost na mreži proglasili su Character.AI nebezbednim za tinejdžere.
Isto tako, AI čet botovi sa raznih platformi, uključujući "OpenAI", proglašeni su nebezbednim za mentalno zdravlje tinejdžera prema stručnjacima za bezbednost dece i mentalno zdravlje.
Život
15.11.2025. 04:15
Porodica tuži ChatGPT zbog samoubistva sina: "Bot mu napisao 'Počivaj u miru'"
Život
17.10.2025. 04:10
ChatGPT će uskoro moći da vodi EROTSKE razgovore
Komentari
