Intervju
Dr Srđan Verbić: "Upotreba veštačke inteligencije mora da se reguliše zakonom"
Tokom procesa stvaranja ovog intervjua autor je svesno napravio jedan propust. Nije se konsultovao sa "Chat GPT"-om prilikom pripreme pitanja, iako je tema takva da bi ovakav vid pomoći bio krajnje legitiman. Razlog ovakvog propusta krije se u nekoj vrsti otpora. Pokušaju da se odbrani profesija... Odbije potpisivanje kapitulacije pred mnogo pametnijim protivnikom... U dokazivanju da novinar još uvek može samostalno da misli i radi svoj posao.
Da li je veštačka inteligencija neprijatelj ljudi, kakve će tačno promene proizvesti u budućnosti i da li treba da je se plašimo razgovarali smo sa prof. dr Srđanom Verbićem, bivšim ministrom prosvete koji je magistrirao i doktorirao veštačku inteligenciju na Univerzitetu u Beogradu.
Razgovor počinjemo pitanjem da li je, u vreme kada je bio na doktorskim studijama, ovako zamišljao ulogu veštačke inteligencije kakvu ona danas ima.
"Sigurno ne. Veštačka inteligencija je pre 30 godina izgledala bitno drugačije i kao ideja i kao koncept šta od nje hoćemo. Veštačka inteligencija je zapravo fraza. Ljudi koji se bave time razmišljaju o velikoj količini podataka koju obrađuju računari. Da bi izvršili neki posao koji je nama dosadan, zamoran, težak, opasan. Osamdesetih godina prošlog veka veštačka inteligencija je izgledala kao pravljenje ogromne liste pravila šta treba računar da uradi. To su one ’if’ i ’than’ naredbe u programu. U tom trenutku još uvek nije postojala ideja o mašinskom učenju. Devedesetih godina izgledalo je kao da neke stvari mogu da se reše interakcijom. Ljudi se igraju na računaru, a računar iz te igre uči. Sećam se igre vešanja koju smo igrali protiv računara. Računar je učio, postojao sve bolji i bolji i u jednom trenutku ne možete da ga pobedite. To je jednostavna stvar koja je proizašla iz interakcije. Ono što se nama desilo posle toga jesu društvene mreže. Pojava društvenih mreža promenila je tok razvoja veštačke inteligencije."
Na koji način?
"Pojava Fejsbuka, Tvitera, Instagrama menja situaciju. Mi sada imamo toliku količinu podataka da je to prevazišlo ono što ljudi mogu da obrade, makar to bilo i površno. ’Amazon’, ’Fejsbuk’ i slične kompanije su prve prepoznale da tu nešto može da se uradi, da se automatizuje, i prave algoritme koji to rade brzo i jednostavno. Oni u početku nisu bili opterećeni problemom privatnosti podataka jer su se u sve to upustili pre nego što je iko postavio pitanje privatnosti podataka. U svakom slučaju bilo je dalekovido to što su uradili. U suštini ova današnja veštačka inteligencija i ona od pre 30 godina se principijelno ne razlikuju. To su isti algoritmi, neuronske mreže koje se danas koriste, postojale su još ’60-ih godina. I pre 20 godina su postojali superračunari koji su mogli da izvršavaju te algoritme. Problem je što su ljudi bili manje zainteresovani i što nije bilo društvenih mreža. Mislim da onog trenutka kada su ljudi počeli da dele svoje podatke, tada je i e-trgovina počela ozbiljno da se razvija. Ona ’90-ih do 2000-ih praktično nije postojala, sve dok ljudi nisu počeli da dele podatke. Tada je ’Gugl’ počeo da targetira svoje reklame, kao i ’Amazon’ i ’Fejsbuk’. Sve je to počelo sa društvenim mrežama. Suštinski se ništa nije promenilo. Ista je to ideja da velikom količinom podataka obučimo mašinu kako da ona prepozna nešto, da automatizuje postupak i da na kraju kažemo hajde to uradi umesto mene 1000 puta."
S druge strane, činjenica je da se u poslednje vreme pojavio jako veliki broj alata baziranih na veštačkoj inteligenciji za koje postoji verovatnoća da će zameniti ljude u jednom trenutku.
"Mi već dosta vremena imamo alate koji ozbiljno menjaju naš način rada. Za mene je jedna super važna primena veštačke inteligencije bio ’Google translate’, pre jedno pet godina kada se desila promena. I pre 10 godina je postojao ’Google translate’, ali je tada bio sinonim za katastrofalan prevod. Da bi se pre recimo pet godina desilo nešto potpuno čudno, kvalitet je drastično porastao. Tada je ’deep learning’, što su zapravo neuronske mreže koje uzimaju veliku količinu podataka, odigrao važnu ulogu. Tada se desio kvantni skok. Prešlo se sa toga da moramo da imamo dva teksta na dva različita jezika pa da se to povezuje i da iz toga uči, do toga da je računar rekao – nemoj ništa da mi objašnjavaš, samo mi daj što više podataka, sada će neuronska mreža to da simulira. I odjednom radi mnogo bolje. To je isti ovaj ’large language’ model koji je u pozadini ’Chat GPT’, samo u slučaju ’Google translate’-a nije izazvao toliku pažnju. Imamo druge primene veštačke inteligencije koje su postale toliko normalne, a čini mi se da su prošle nezapaženo. Krenimo samo od naših telefona, kada hoćemo da fotografišemo dovoljno je samo da kliknemo. Ne moramo da podešavamo ekspoziciju, osvetljenost itd... To sve uradi računar u telefonu umesto nas. To je zahvaljujući tom delu veštačke inteligencije koji se bavi prepoznavanjem slika i on prosto na primeru mnogo slika uči koji su parametri najbolji. Skoro da ne postoji aplikacija za telefon koja nema neku primenu veštačke inteligencije u sebi. Ono što se desilo u međuvremenu jeste pojava generativne veštačke inteligencije koja pravi novi sadržaj. A sada, kada pravi novi sadržaj, tekst, slike, muziku, odjednom smo iznenađeni kako to radi. Iako ni ta ideja nije skroz nova."
Ukoliko pođemo od toga da je veštačka inteligencija već dugo među nama, da li bismo mogli da kažemo da je strah od nje neosnovan?
"Mislim da razloga za strah ima. Pre svega što se primena veštačke inteligencije ne ograničava na mobilne telefone i na to da li ćemo i kako ćemo kreirati muziku. Veštačka inteligencija je, kao i manje-više sve druge tehnologije, svoju primenu prvo našla u vojnoj industriji i organizovanom kriminalu, pa onda u svemu ostalom. Ako pogledate istorijat organizovanog kriminala i šta se sve u toj oblasti primenjivalo, videćete kako su neke stvari, koje mi sada doživljavamo kao neverovatno napredne, još pre pet godina korišćene u sajber kriminalu."
Kad smo kod vojne industrije, jednom prilikom ste rekli da je Ukrajina veliki poligon za veštačku inteligenciju, odnosno za mašine koje same donose odluke.
"Poenta veštačke inteligencije je da dozvolimo mašini da donosi neke odluke umesto nas. Ako je to brisač na kolima koji detektuje da pada kiša i sam se uključi, to je super. Čak i ukoliko se ne uključi mi ćemo to uraditi, nije ništa strašno. Međutim, ta primena u nekom trenutku postaje vrlo ozbiljna. Svaki dron koji leti ili se kreće po zemlji donosi odluku da li da puca. Da li da nekoga ubije. Dronovi te vrste su prvi korišćeni u Avganistanu, praktično su testirani tamo. Naravno da ne znamo ni koliko ih je bilo, ni koliko su života uzeli. To se isto dešava sada u Ukrajini. Znamo da postoje turski, ruski, američki i iranski dronovi, svi oni testiraju tako nešto. Pre svega skroz je netransparentno, mi nemamo pojma šta se tamo dešava. Ujedinjene nacije godinama pokušavaju da donesu rezoluciju kojom se to zabranjuje. Kao što su donete konvencije za razne vrste naoružanja da ne smeju da se upotrebljavaju. Međutim, mnoge države ne žele to da potpišu i to su upravo države koje su najdalje odmakle po pitanju veštačke inteligencije i po pitanju proizvodnje oružja."
Strah se, takođe, javlja i kada pomislimo da bi veštačka inteligencija mogla da nam "ukrade" deo poslova. Bez kojih poslova bismo mogli da ostanemo u budućnosti?
"Realnost je da će ljudi koji koriste veštačku inteligenciju kao asistenciju biti superiorniji od onih koji je ne koriste. Mi zapravo treba da se plašimo mlađih ljudi koji su vičniji u tome i koji sve ono što smo mi radili danima oni mogu da urade za dva sata. E oni će nam oduzimati poslove, neće nam sama mašina oduzimati poslove. To je sigurno. Meni je najbolja analogija današnje veštačke inteligencije sa traktorom pre 50 godina. Kada se pojavio traktor, svi su se plašili da će ostati bez posla. Da tu čovek koji upravlja volovima nema šta da radi. I traktor je zaista zamenio volove na njivama, a samim tim i veliki broj ljudi. Dakle, šta treba da uradimo – pa prvo da naučimo da vozimo traktor. Da koristimo taj novi alat. A ljudi koji ne budu radili taj posao treba vrlo brzo da otkriju šta drugo mogu da rade. Svaka država, ozbiljna država, morala bi da uvodi nove tehnologije onom brzinom kojom mogu da je prihvate ljudi. Ukoliko možemo da obučavamo ljude, prekvalifikujemo, otvaramo nove poslove, onda je uvođenje veštačke inteligencije super. Međutim, u mnogim zemljama shvatili su da oni ne mogu tom brzinom to da rade i opiru se, dižu bune protiv uvođenja veštačke inteligencije u industriju. Indija, na primer, ima veliki problem. Naravno da se bave softverom i da je mnogo veštačke inteligencije, u smislu aplikacija, napravljeno tamo, ali isto tako oni obavljaju i mnogo manuelnih poslova. Menjati manuelno obavljanje poslova za mašine kod njih znači da će nekoliko miliona ljudi ostati bez posla. I oni kažu da ne može tako, već će je uvoditi onom brzinom kojom mogu da prekvalifikuju ljude i da im daju neki posao."
Inače bi izbio haos na tržištu rada.
"Tako je. U Nemačkoj možete da vidite da se stvari menjaju, ali tačno onom brzinom kojom se obučavaju ljudi za nove poslove. Niko ne ispadne tek tako. Ok, nije nam potreban toliki broj traktorista koliko je onih koji su sa volovima obrađivali zemlju, ali nam je potrebno da krenemo čim pre da obučavamo ljude."
"Veštačka inteligencija je, kao i manje-više sve druge tehnologije, svoju primenu prvo našla u vojnoj industriji i organizovanom kriminalu, pa onda u svemu ostalom"
Čiji je to zadatak?
"Svih nas. Kompanija ukoliko želi da postoji za pet godina, ona mora da pređe na to. Takođe, bilo bi vrlo neodgovorno od bilo koga da kaže ovo mene ne interesuje, sada ću preko sindikata da se borim. To ne radi tako."
Da li bismo mogli da kažemo da je Srbija u problemu jer i dalje ima veliki broj kompjuterski nepismenih ljudi. Kada imamo jedno takvo društvo, koliko smo spremni za naredni korak, za sve ovo što se dešava, a dešava se velikom brzinom.
"Ono što je činjenica jeste da mi svi postajemo sve bolji kao korisnici aplikacija. Pre svega nekoliko godina je starijim ljudima bio veliki problem da koriste mobilni telefon. Danas i najstariji su na ’Viberu’, na Instagramu, ’Skajpu’. Snalaze se. To samo znači da su te aplikacije toliko pojednostavljene da danas svi možemo da budemo njihovi korisnici. E sada, ukoliko želimo da učestvujemo u toj trci tako što ćemo da je razvijamo, primenjujemo van ovog potrošačkog sveta, već hoćemo da razvijamo javnu administraciju, saobraćaj u gradu... Onda neke druge stvari moraju ozbiljno da se promene."
"Realnost je da će ljudi koji koriste veštačku inteligenciju kao asistenciju biti superiorniji od onih koji je ne koriste. Mi zapravo treba da se plašimo mlađih ljudi koji su vičniji u tome i koji sve ono što smo mi radili danima oni mogu da urade za dva sata"
Čini se da je u celoj priči dosta važno podići svest o veštačkoj inteligenciji. Da je ona među nama, da nije budućnost. Da se približi građanima, kako njeni benefiti tako i njene loše strane. Finska, na primer, ima onlajn kurs o veštačkoj inteligenciji za koji su zainteresovani kako mlađi tako i stariji.
"Tako je. Taj finski kurs se prevodi na razne jezike i dostupan je na raznim jezicima. Pitanje je samo da li ćemo ga i mi koristiti. Podjednako je namenjen i đacima i odraslima kako bi shvatili mehanizam kako to radi. A radi tako što mi sve više i više podataka ostavljamo negde da mogu da se obrade, da se neki procesi automatizuju. Većina nas građana još uvek nije došla do toga da budemo zabrinuti zbog svojih privatnih podataka. Evo videli smo da je Italija zabranila ’Chat GPT’ zato što nisu usaglasili to što rade sa postojećim standardima o privatnosti podataka. Verovatno će to i neke druge države da urade. Kompanija ’Open AI’ napravila je ’Chat GPT’ tako što je koristila ogromne količine podataka za koje nisu ni tražili saglasnost. Postoje kompanije koje samo prikupljaju podatke pa ih prodaju za razne modele veštačke inteligencije. Dakle, većina podataka koje je ’Chat GPT’ koristio za obučavanje kupljena je na tom tržištu."
Dotakli smo se delimično promena koje će osetiti tržišta rada, a kako će veštačka inteligencija uticati na obrazovanje? Već sada imamo primere kako "Chat GPT" piše domaće zadatke, sastave i eseje. Kako bi to moglo dalje da se odrazi na obrazovanje dece?
"Bojim se da je obrazovni sistem, ne samo naš, već planetarni, toliko konzervativan da njega ni ovo ne može da mrdne iz ležišta. Da će i dalje škola da izgleda isto, bez obzira što tamo negde postoji ’Chat GPT’. Mi, recimo, u našim školama imamo predmet fotografija, u tom predmetu u stručnim školama piše kako se koristi razvijač, fiksir, kako se u mračnoj laboratoriji razvijaju slike itd. Sve to piše u udžbenicima koje koriste današnji učenici. A znamo već koliko dugo svaki od ovih pametnih telefona to može da uradi. Tako ne očekujem da će se ni kod ovih stvari nešto drastično promeniti. Mislim da ’Chat GPT’, iako može da napiše esej, neće mnogo da poremeti sistem koji ne traži eseje. Ono što zaista gubi smisao jesu domaći zadaci onakvi kakve smo do sada radili. To je definitivno pod znakom pitanja. Jer ako sada svaki zadatak koji mi damo može da uradi mašina, a da neko samo prepiše, onda to zaista nema smisla. Ali, domaći zadaci kakvi su bili poslednjih 10, 20 godina – oni već nemaju smisla. U već pomenutoj Finskoj domaći zadaci praktično ne postoje. Oni sve urade u školi, tamo je to posao od 9 do 15 časova. Ko je prepisivao do sada taj će prepisivati i sa ’Chat GPT’-a. Tako da ne mislim da će veštačka inteligencija napraviti pometnju u tom redovnom školskom sistemu. U najformalnijem mogućem. Ali će se promene drastično osetiti kod onih koji budu hteli da koriste taj alat. Koji budu hteli da rade sami. Ko god bude hteo da radi sam i da uči, ovo mu daje ogromnu priliku i prednost."
Na profesorima je takođe važan zadatak. Oni će morati da idu ukorak sa učenicima.
"Veoma je važno da nastavnici budu otvoreni prema tome i da im oni pokažu kako se koristi GPT na primer. Ali isto to je trebalo da urade i sa ’Google translate’-om i sa slikama koje prave mobilni telefoni i ostalim primerima veštačke inteligencije koje već imamo. Samo što smo se toliko navikli da ih više ne primećujemo, a sve smo te prilike propustili da se to nekako uključi u škole. Nastavnici ili nisu znali, mogli da to urade, ili nisu imali vremena. Realno, sve vreme u školi je popunjeno nekim aktivnostima koje su možda malo manje važne u odnosu na ove koje su aktuelne. Ako bi nastavnici sada bili otvoreniji i rekli da svi koriste ’Chat GPT’ i da svi napišu esej uz pomoć njega, ali da se vidi kako je ’Chat GPT’ to napisao, da prođu sa učenicima šta bi zamenili, da li se slažu sa napisanim... to bi bilo super. Mašinu sada treba koristiti kao asistenta koji bi mogao da nam pomogne u radu, ali ne kao nešto što će raditi posao umesto nas."
Mlađi profesori bi takav pristup mogli da implementiraju u svoju nastavu, ali šta ćemo sa onim starijim profesorima. Opet se vraćamo na konzervativni sistem obrazovanja.
"To će sigurno biti problem, tu nema dileme."
Tu se opet postavlja pitanje koliko će deca biti ravnopravna ukoliko se sve svede na lutriju, odnosno na to da li im je profesor stariji ili mlađi i razume važnost trenutaka u kom se nalaze.
"Tu nema rešenja. Imali smo tolike nastavnike koji su zabranjivali upotrebu kalkulatora na času, ali smo naučili to da radimo van škole. I veštačku inteligenciju ćemo naučiti da koristimo van škole. Mislim da je dolaskom veštačke inteligencije postalo još važnije učenje van škole. I tu više nema izgovora. Sve nam je dostupno. Uloga nastavnika mora da se menja u smislu da nam je potreban iskusan vodič kroz taj svet onlajn resursa. Nastavnik bi morao da bude tu i da kaže nemoj tu knjigu da pročitaš, imaš odličan kurs koji možeš da preslušaš. Jer ukoliko sami tražimo, uvek će nam iskakati ono što je najprofitabilnije."
Da, potrebna je neka vrsta filtera.
"Tako je. E ti filteri i vodiči treba da budu nastavnici. Oni moraju da znaju šta je dobro za učenika. Oni treba da im obezbede kontekst, da im objasne čemu to služi i da ih upute na taj sadržaj."
Veštačka inteligencija je počela da pokazuje i svoje loše strane. Pojavljuje se veliki broj izmišljenih vesti, videa i fotografija koje izgledaju autentično, a nisu... Kako ćemo se sa tim izboriti, očigledno moramo brzo da učimo kako da pravimo razliku između stvarnog i lažnog.
"Mislim da prvo to treba regulisati zakonom. Da se zna šta je autentično, a šta nije. Da se ne dozvoli da se generišu stvari, a da to nije vidljivo. Ukoliko je generisano, da ima neku oznaku koja će biti istaknuta. Ne možemo tom brzinom da učimo, a mogućnosti zloupotrebe su nenormalno velike. Mi znamo da naš narod nije nešto naročito kritičan prema onome što vidi ili pročita... U razne stvari poveruju odmah, tako da nema dileme da će neko ko želi da proda proizvod ili ideju, da će čas posla da izmanipuliše i da će tim nekim fejk videom ili slikom da ih iskoristi."
Veštačka inteligencija preti da postane ozbiljno oružje u pogrešnim rukama.
"Kao što autonomno oružje treba zakonom regulisati ili zabraniti, tako i veštački kreirane slike i videe treba obeležiti i da se zna šta je na koji način nastalo. Upotreba veštačke inteligencije mora da se reguliše zakonom. Tu pre svega mislim na kreiranje sadržaja koji se prodaju ili podmeću kao autentični. Takođe, mora da se reši automatizacija kreiranja poruka. Mi sada uz pomoć ovih alata možemo da kreiramo javno mnjenje, tako što će mašina da pošalje komentare na sve moguće sajtove, sve moguće vesti. A za sve to nam treba jedan laptop. I, naravno, pitanje privatnosti podataka, šta sme, a šta ne sme da se koristi za obučavanje veštačke inteligencije. Takođe, neophodno je razmišljati i o tome koliko nas košta ova veštačka inteligencija. Nama ovo deluje kao besplatno, međutim, ono što treba imati u vidu jeste koliko se resursa troši za sve ovo. Koliko je to litijuma, termoelektrana."
"Mislim da je dolaskom veštačke inteligencije postalo još važnije učenje van škole. I tu više nema izgovora. Sve nam je dostupno"
O tome se praktično uopšte ne govori.
"Realno je da će uskoro oko 15 odsto potrošnje električne energije na planeti odlaziti na servere koji održavaju klaud i obučavaju veštačku inteligenciju itd... Dakle, ako ne platimo na mostu, platićemo na ćupriji. Nismo platili korišćenje alata koji su bazirani na veštačkoj inteligenciji, ali nam je sve to uračunato u cenu svih drugih stvari. Mislim da ima mnogo pitanja koja su ovde otvorena i mislim da kod nekih treba imati taj konzervativni pristup."
Na svemu tome treba reagovati što pre, da se ne desi kao sa upotrebom društvenih mreža ili interneta koje je sada nemoguće uskratiti.
"Imaćemo brzo efekat da ljudi više ne veruju u ono što vide i to će se teško promeniti. Bez obzira koliko je sa jedne strane važno da razvijamo tehnologiju i da ona svima bude dostupna, podjednako je važno da upotreba veštačke inteligencije bude regulisana zakonom."
Kada se podvuče crta, da li ste zabrinuti za sve što se dešava i brzinom kojom se dešava?
"Da. Ali ne iz onog razloga koji se obično navodi, kao veštačka inteligencija će nas pojesti. Poješće nas ljudi koji su nezajažljivi, koji žele da iskoriste sve – radnike, korisnike, potrošače, potencijalnu konkurenciju nekom od njih... Ako oružje može da se kupi u Americi na svakom kiosku, nije mi daleko od pameti da će početi da kupuju i veštački inteligentno oružje koje će staviti na svoju ogradu i koje će pucati pet sekundi nakon upozorenja i da će to biti normalno. Jezivo mi je da autonomno oružje postoji i da je to stvar koja polako prelazi u nešto normalno. Polako, gde je granica."