Politička pristrasnost AI četbotova

Studija, koju je vodio kompjuterski naučnik Dejvid Rozado sa Otago Politehničkog instituta na Novom Zelandu, ukazuje na to da ovi AI sistemi, koje mnogi koriste za informacije i savete, imaju tendenciju da izražavaju stavove levo od centra.

Rozado je analizirao 24 različita jezička modela (LLMs), uključujući ChatGPT i “Guglov“ Gemini, koristeći 11 standardnih političkih upitnika, kao što je “The Political Compass“. Rezultati su pokazali da većina ovih modela nije politički neutralna, već pokazuje blagu, ali značajnu pristrasnost prema levo orijentisanim stavovima.

Ovo otkriće postavlja važno pitanje: na koji način AI četbotovi, na koje se sve više oslanjamo za informacije, mogu uticati na naše stavove i vrednosti.

“Kako LLM-ovi počinju delimično zamenjivati tradicionalne izvore informacija poput pretraživača i ’Vikipedije’, društvene implikacije političkih pristrasnosti ugrađenih u LLM-ove su značajne“, piše Rozado u svom radu objavljenom u časopisu “Plos one“.

Iako istraživanje nije pronašlo dokaze da je politička pristrasnost namerno ubačena od strane programera, smatra se da može biti rezultat neravnoteže u obuci ovih modela, koji se zasnivaju na ogromnim količinama tekstova sa interneta. Dominacija ChatGPT-a u obučavanju drugih modela takođe može biti faktor, s obzirom na to da je prethodno utvrđeno da je ovaj bot politički orijentisan levo od centra.

S obzirom na to da AI četbotovi sve više utiču na naše pretrage i dobijanje informacija, postoji zabrinutost da bi mogli oblikovati naše mišljenje na nesvesne načine.

“Ključno je kritički ispitati i rešiti potencijalne političke pristrasnosti ugrađene u LLM-ove kako bi se osigurala uravnotežena, pravična i tačna reprezentacija informacija u njihovim odgovorima na upite korisnika“, zaključuje Rozado.

Rizik od kolapsa veštačke inteligencije

Ogromna količina podataka

Ogromna količina podataka

Biznis 25.08.2024. 18:10

Rizik od kolapsa veštačke inteligencije