Foto: © UN News/Rohit Upadhyay
Izvor: UN News
Govoreći na Summitu o utjecaju umjetne inteligencije u New Delhiju, visoki povjerenik UN-a za ljudska prava, Volker Tür je za UN News rekao da se tehnologijom mora upravljati kroz okvir ljudskih prava koji osigurava transparentnost, odgovornost i uključivost.
"Umjetna inteligencija je tehnološki alat i treba ga razvijati na temelju procjena rizika. Tehnološki alati koriste se za vršenje moći, za dobro, ali i za loše, stoga moramo osigurati da postoji okvir unutar kojeg se razvijaju, dizajniraju i koriste, a tu dolaze do izražaja ljudska prava", pojasnio je.
UN News: Koji su najveći rizici za ljudska prava koje vidite zbog brzog širenja umjetne inteligencije danas?
Volker Türk: Postoji ogroman problem nejednakosti i zato sam jako sretan što se ovaj Summit o umjetnoj inteligenciji održava u Indiji. Zaista je važno da se ovi alati koriste svugdje i da se svugdje razvijaju.
Zatim, tu je i pitanje pristranosti i diskriminacije. Ako se podaci prikupljaju samo iz jednog dijela svijeta, ako samo muškarci razvijaju umjetnu inteligenciju, tada će se ugraditi nesvjesna pristranost. Vjerujemo da je ključno biti svjestan ranjivih skupina i manjina jer su često isključene iz razvoja umjetne inteligencije. Radi se o smislenom sudjelovanju i davanju vizije boljeg svijeta. Ljudska prava pružaju tu viziju.
UN News: Generativna umjetna inteligencija kreće se brže od regulacije. Koje zaštitne ograde vlade i tvrtke moraju hitno postaviti?
Volker Türk: Uzmimo farmaceutsku industriju kao primjer: testiranje ponekad može trajati dugo jer morate osigurati da su svi rizici povezani s novim proizvodom identificirani prije nego što se pusti u prodaju. Kada su u pitanju alati umjetne inteligencije, moramo zahtijevati da tvrtke provedu procjenu utjecaja na ljudska prava kada ih dizajniraju, uvode i plasiraju na tržište.
Već neko vrijeme vidimo da neke tvrtke imaju veće proračune od nekih manjih zemalja. Ako ste u mogućnosti kontrolirati tehnologiju ne samo u svojoj zemlji već i diljem svijeta, vršite moć. Možete koristiti moć za dobro – za stvari koje će, nadamo se, pomoći u područjima kao što su zdravstvo, obrazovanje i održivi razvoj – ali tu moć možete koristiti i za loše stvari, poput automatiziranog smrtonosnog oružja i širenja dezinformacija, mržnje i nasilne mizoginije.
UN News: Kakva vrsta upravljanja ili pravila vođenih umjetnom inteligencijom su potrebna kako bi se spriječilo da sustavi umjetne inteligencije pojačavaju pristranost i nejednakost?
Volker Türk: Imao sam priliku razgovarati s ljudima koji proizvode te stvari ili ih razvijaju i dizajniraju. Ono što me se dojmi jest da često imaju vrlo površno znanje o temeljnim načelima kada uđu u fazu razvoja. To me malo podsjeća na Frankensteinovo čudovište; razvijete nešto što više ne kontrolirate. Pustite duha iz boce. Ako niste svjesni opasnosti i rizika, možete izazvati kaos. Vidjeli smo to u Mjanmaru, na primjer, gdje je bilo puno govora mržnje protiv Rohingya na platformama društvenih medija.
Vrlo je važno uključiti perspektivu svakog segmenta društva, posebno žena i mladih, te imati na umu da se naši mozgovi razvijaju na različite načine.
Ne želimo stvarati ovisnosti koje truju naše umove i duše. Također moramo biti svjesni kako štetne dezinformacije ne samo da uništavaju društveno tkivo, već i stvaraju razdorna i polarizirana društva u kojima svatko živi u svom vlastitom balonu. Također vidimo mnogo mizoginije. Mnoge političarke mi kažu da razmišljaju o izlasku iz politike zbog onoga što doživljavaju na društvenim mrežama.
UN News: Kako mislite da bi za pet godina mogla izgledati odgovorna umjetna inteligencija?
Volker Türk: Nadam se da bismo imali inkluzivan razvoj umjetne inteligencije, gdje moć više nije koncentrirana u nekolicini tvrtki u Sjevernoj Americi, i da se razvoj umjetne inteligencije temelji na bogatstvu i raznolikosti svih nas u svakom od njih. Nadam se uključivom, smislenom i participativnom tipu razvoja koji će nam pomoći u rješavanju mnogih problema i izazova u današnjem svijetu. Klimatska kriza, pristup zdravstvenoj zaštiti, obrazovanje za sve – umjetna inteligencija može biti fantastičan alat koji će nam pomoći u postizanju tih ciljeva.
S druge strane, ako ne predstavljamo viziju boljeg svijeta, mogli bismo postati još polariziraniji i imati ratove koje više ne kontroliraju ljudi. A to je vrlo opasno.
Volker Türk o umjetnoj inteligenciji: Ključne točke
- Ljudska prava pružaju okvir za siguran razvoj, dizajn i korištenje umjetne inteligencije
- Utjecaj umjetne inteligencije u konačnici se odnosi na moć i način na koji se ona vrši
- Nejednakost, pristranost i diskriminacija najveći su rizik za ljudska prava od brzog širenja umjetne inteligencije
- Procjene utjecaja na ljudska prava potrebne su tijekom dizajna, razvoja i implementacije umjetne inteligencije
- Tehnološke tvrtke moraju slijediti UN-ova poslovna načela i načela ljudskih prava
- Kada razvojnim programerima umjetne inteligencije nedostaje duboko razumijevanje temeljnih društvenih i etičkih načela, riskiraju stvaranje "Frankensteinovog čudovišta".