Najbolji modeli umjetne inteligencije točno odgovaraju na većinu pitanja iz klimatske znanosti, ali često napuštaju utvrđene činjenice čim se korisnik ne složi, prema novom izvješću čiji je suautor UN.
Izvješće pod nazivom "Možemo li vjerovati umjetnoj inteligenciji u pogledu klime?" predstavljeno je u ponedjeljak na klimatskoj konferenciji COP31 u Antaliji, Turska, od strane agencije za obrazovanje i znanost, UNESCO-a i University Collegea u Londonu.
Istraživači su testirali do 33 vodeća modela umjetne inteligencije na 13 jezika.
"Mnogi od nas svakodnevno komuniciraju s ovim modelima umjetne inteligencije i chatbotovima tražeći informacije o širokom rasponu tema", rekla je Leona Verdadero, glavna autorica izvješća pri UNESCO-u. „Mnogo puta ovi modeli, kada odgovaraju, zvuče stvarno autoritativno i zvuče vrlo pametno. Ali kao što smo vidjeli u našim eksperimentima, ne zvuče uvijek točno.“
Ulizica po dizajnu
Istraživači su otkrili da umjetna inteligencija teži ulizici – ugrađenoj sklonosti slaganju s korisnicima, čak i kada oni predstavljaju lažne informacije.
U testovima na 15 modela, istraživači su osporavali odgovore koje su modeli dali točne, prelazeći od jednostavnog neslaganja do navodne stručnosti i izmišljenih dokaza.
Svaki model je popustio, a neki su mogli biti potaknuti da podrže lažne tvrdnje, poput one da ugljikov dioksid nije glavni pokretač klimatskih promjena. Otprilike osam od 10 odgovora koji su se promijenili učinilo je to pri prvom znaku neslaganja.
Zapravo mislim da to nije točno’, vrlo je zanimljivo da smo u osam od 10 takvih slučajeva – kada se korisnik usprotivi – uočili kako model umjetne inteligencije može promijeniti svoj odgovor kako bi se više prilagodio korisniku”, rekla je gđa Verdadero za UN News u intervjuu za našu dnevnu seriju podcasta s konferencije COP, pod nazivom *Talk & Action*.
„Umjetna inteligencija mogla bi jednostavno odbaciti znanstvenu činjenicu samo zato da bi bila ugodnija korisniku.”
Jake u činjenicama, slabije u rasuđivanju
Kada je riječ o klimatskim pitanjima kakva se nalaze u udžbenicima, najbolji modeli dali su točne odgovore u 88 do 96 posto slučajeva. No, što je zadatak zahtijevao više rasuđivanja, to su modeli bili manje uspješni.
Kada su trebali procijeniti podupire li određeni dokaz neku znanstvenu tvrdnju ili joj proturječi, čak su i najnapredniji sustavi postigli uspješnost od samo 71 do 77 posto. Na pitanje bi li dvije klimatske politike zajedno postigle više, manje ili jednako u usporedbi s njihovim pojedinačnim učincima, modeli su u prosjeku ostvarili tek 33,8 posto točnih odgovora – što nije ništa bolje od nasumičnog pogađanja.
„Želimo reći da bi se više trebalo vjerovati znanosti i stručnjacima”, istaknula je gđa Verdadero. „Modeli umjetne inteligencije još nisu na toj razini.”
Pazite na jezik
Točnost je ovisila i o jeziku koji se koristi. Na engleskom jeziku modeli su u prosjeku postigli 88,6 posto točnosti, uz slične rezultate na španjolskom, francuskom i portugalskom, dok je na hindiju i bengalskom jeziku ta brojka pala na 83,6 posto, na urduu na 81,4 posto, a na svahiliju na 78,3 posto.
„Zamislite da vi i ja koristimo isti model i postavljamo potpuno isto pitanje, ali na različitim jezicima”, rekla je gđa Verdadero. „Ovisno o jeziku, možemo dobiti posve različite odgovore.”
„Zajednice koje govore tim jezicima nalaze se uglavnom u Južnoj Aziji i Istočnoj Africi, a znamo da su to zajednice koje su iznimno ranjive na klimatske promjene”, napomenula je.
Izvješće poziva tehnološke tvrtke da više ulažu u lokalne skupove podataka i razvoj višejezičnih sustava, kako govornici nedovoljno zastupljenih jezika ne bi ostali zakinuti. Pouzdanim informacijama treba pridavati važnost
Ovo izvješće dio je UNESCO-ova doprinosa Globalnoj inicijativi za integritet informacija o klimatskim promjenama, kojom UNESCO predsjeda zajedno s UN-om i Brazilom.
„Borba protiv klimatskih promjena mora se temeljiti na pouzdanim dokazima i znanstvenim spoznajama”, rekla nam je Verdadero. „Mnogi od tih dokaza danas služe kao temelj za kreiranje politika, a koriste se i u pregovorima na konferencijama COP.”
Naglasila je da umjetnu inteligenciju treba promatrati kao samo jedan od mnogih izvora informacija.
„Modeli umjetne inteligencije mogu poslužiti kao jedan od izvora informacija, ali ne bi trebali biti primarni”, istaknula je. „Provjera činjenica i osiguravanje pouzdanosti izvora od velike su važnosti.”
„Također, povjerenje u dokaze koje iznose stručnjaci, klimatolozi i istraživači ni u kojem slučaju ne bi trebalo biti zamijenjeno.”