© Unsplash/Aidin Geranrekab Umjetna inteligencija trenutno revolucionira više industrija, uključujući pametne telefone.
Novi znanstveni dokazi i mogućnosti za iskorištavanje umjetne inteligencije (UI) predstavljeni su u srijedu nakon pokretanja prve globalne, neovisne znanstvene procjene prilika, rizika i utjecaja od strane pionirskog stručnog panela UN-a.
Ključni zaključci
Izvješće iznosi nalaze u sedam ključnih područja:
- Znanost o umjetnoj inteligenciji, napredak i putanje
- Društvene primjene u znanosti, zdravstvu, obrazovanju i poljoprivredi
- Ekonomske implikacije
- Sigurnost, sustavi i implikacije na okoliš
- Ljudska prava, informacije i demokracija
- Kulturne koristi, autonomija i sigurnost djece
- Upravljanje, upravljanje i pouzdanost
„Znanost je ovdje“, rekao je glavni tajnik UN-a António Guterres prilikom predstavljanja izvješća. „Više ne možemo reći da nismo znali. Što ćemo s tim učiniti sada ovisi o svima nama.“
Što više umjetna inteligencija napreduje bez zajedničkih pravila, to će vlade i ljudi imati manje utjecaja na ishod, rekao je glavni tajnik UN-a, dodajući: „Moja poruka vladama je jednostavna: nemojte čekati.“
S ciljem izgradnje zajedničkog razumijevanja i dokaza u ovom kritičnom trenutku, Preliminarno izvješće Neovisnog međunarodnog znanstvenog panela o umjetnoj inteligenciji: Procjena prilika, rizika i utjecaja umjetne inteligencije temeljena na dokazima napisalo je prvo globalno, potpuno neovisno znanstveno tijelo posvećeno procjeni njezinih stvarnih utjecaja na gospodarstva i društva.
Globalno, preko milijardu ljudi sada koristi konverzacijsku umjetnu inteligenciju tjedno, dok vlade donose posljedične odluke suočene s velikom neizvjesnošću s brzo promjenjivim, često sukobljenim izvorima dokaza i perspektivama koje ne odražavaju nužno lokalne stvarnosti.
„Ako se dobro koristi, umjetna inteligencija mogla bi biti najmoćniji motor razvoja, ubrzavajući svjetski napredak u svemu, od zdravlja i gladi do učenja i klime“, rekao je glavni tajnik UN-a, „ali panel je jednako jasan u pogledu štete koju umjetna inteligencija može uzrokovati.“
Doista, kako mogućnosti umjetne inteligencije nastavljaju rasti, tako rastu i ulozi – glavni izazov kojim se panel želi pozabaviti.
Bolji svijet ili katastrofalna šteta?
Sastavljen od 40 vodećih znanstvenika i stručnjaka iz svake regije, panel ocrtava trendove umjetne inteligencije i upozorava da trenutne zaštitne mjere ne mogu pratiti tempo, rekao je njegov supredsjedatelj Yoshua Bengio.
„Mogućnosti umjetne inteligencije nadmašuju i znanstveno razumijevanje i sposobnost vlada da se prilagode“, rekao je g. Bengio. „S rastućim dokazima o varljivom ponašanju umjetne inteligencije, znanost trenutno ne može jamčiti da kako se mogućnosti nastavljaju povećavati, umjetna inteligencija neće uzrokovati katastrofalnu štetu, bilo sama ili zbog zlonamjernih korisnika.“
Da bi djelovali učinkovito, rekao je, globalni kreatori politika moraju razumjeti ove sustave, a panel pruža upravo to: rigoroznu, zajedničku znanstvenu osnovu „koja će voditi naš zajednički put naprijed“.
Ključni nalazi
- Ranije otkrivanje raka dojke, ubrzavanje razvoja cjepiva i poboljšanje zdravstvenih usluga samo su neka od revolucionarnih postignuća umjetne inteligencije, ali ograničenja i izazovi ostaju, među njima:
- Usvajanje umjetne inteligencije ubrzalo se općenito, ali neravnomjerno u različitim zemljama i sektorima
- Pristup i korištenje uvelike variraju, a usvajanje diljem globalnog juga znatno zaostaje za globalnim sjeverom
- Postoje značajne razlike u računalnoj infrastrukturi i modelima između naprednih gospodarstava, što odražava postojeće nejednakosti
- Štoviše, razvoj je vrlo koncentriran, a nedavne procjene pokazuju da Sjedinjene Države čine 75 posto računalne snage među 500 najboljih svjetskih superračunala umjetne inteligencije, dok Kina čini 15 posto, te da tvrtke obje zemlje razvijaju gotovo sve vodeće modele opće namjene.
Razumijevanje rizika
Razumijevanje i upravljanje rizicima umjetne inteligencije ključno je, navodi se u izvješću, a supredsjedateljica panela Maria Ressa dodala je da su rizici za društva, sigurnost i ljudsku vrstu već „previsoki“.
„Tehnologija je transformativna, ali ako svijet nastavi ići ovom putanjom, čovječanstvo neće uspjeti ostvariti dobitke koje obećava“, upozorila je.
Evo nekih od upozorenja panela:
- Ne postoje znanstvena jamstva da sustavi AI agenata neće kršiti upute, a gomilaju se dokazi o slučajevima u kojima to već čine.
- Sustavi AI agenata uskoro će dovršavati zadatke koji trenutno ljudskim programerima traju danima ili tjednima, ali njihovo raspoređivanje postavlja hitna pitanja za tržišta rada, kibernetičku sigurnost i mogućnost upravljanja budućim AI sustavima.
- Ulizničko ponašanje AI-a, gdje odgovori jačaju postojeća uvjerenja korisnika bez obzira na točnost, povezano je s nekoliko teških incidenata mentalnog zdravlja, uključujući dokumentirane...smrti
- Dokumentirano je korištenje AI sustava za pomoć u kibernetičkim napadima od strane kriminalaca i zlonamjernih aktera.
- Napredne tehničke sposobnosti mogu omogućiti početnicima privatnim akterima da koriste AI na zlonamjerne načine u nizu primjena poput prijevare i dezinformacija.
- Nedostaju pouzdane metode za zadržavanje kontrole nad visoko autonomnim AI sustavima.
- Mnoge od ovih šteta nesrazmjerno padaju na već ugrožene skupine stanovništva, navodi se u izvješću.
Otključavanje koristi, ublažavanje rizika
Minimiziranje rizika AI i korištenje koristi od ovog tehnološkog alata zahtijeva dobro upravljanje.
Postoje konkretni sljedeći koraci za smanjenje trenutnih nedostataka, ali svaki od njih zahtijeva održivo ulaganje u kapacitete država članica za oblikovanje, procjenu i primjenu AI.
Sigurno ostvarivanje ovih prilika zahtijeva namjenska ulaganja i politike za poticanje jednakog pristupa i nagrađivanje inovacija, a istovremeno sprječavanje iskorištavanja ranjivih.
„AI neće sama zatvoriti podjele“
Deseci različitih instrumenata upravljanja koji nastoje ugraditi etiku i ljudska prava u AI sustave već se koriste u različitim jurisdikcijama, ali su fragmentirani, koncentrirani među nekoliko korporacija i rijetko mjere učinkovitost u stvarnom svijetu, navodi se u izvješću.
Amandeep Gill, podtajnik i posebni izaslanik za digitalne i nove tehnologije, rekao je da novo izvješće pruža zajednički znanstveni jezik koji donositelji odluka sada mogu koristiti u budućnosti.
„Umjetna inteligencija neće sama po sebi premostiti jazove“, rekao je.
Prednosti se ostvaruju tamo gdje institucije, vještine i podaci već postoje, a tamo gdje ne postoje, ista tehnologija može istisnuti radnike, proširiti nejednakost i ostaviti zajednice ovisnima o sustavima izgrađenima bez njih na umu, objasnio je.
„Te su stvarnosti sada zabilježene, neovisno provjerene i nemoguće ih je zanemariti.“
Nalazi izvješća bit će predstavljeni vladama na prvom Globalnom dijalogu UN-a o upravljanju umjetnom inteligencijom, koji se održava u Ženevi 6. i 7. srpnja.