Foto: Martin Samaan
Tvrtke i vlade moraju preuzeti veću odgovornost za zaštitu pojedinaca od moguće zlouporabe alata umjetne inteligencije, smatra stručnjakinja za umjetnu inteligenciju Ivana Bartoletti iz multinacionalne IT tvrtke Wipro, savjetnica Vijeća Europe i suosnivačica mreže Women Leading in AI. Zabrinuta je zbog nedostatka zastupljenosti žena i globalnog Juga u industriji umjetne inteligencije.
U prosincu je govorila za UN News na Forumu o upravljanju internetom 2024. u Rijadu, Saudijska Arabija, godišnjem UN-ovom forumu za raspravu o kritičnim pitanjima digitalne politike.Rekla je da su u u Europi samo 28 posto onih koji rade u industriji umjetne inteligencije žene, a to ima goleme posljedice. Svaki proizvod umjetne inteligencije sastoji se od elemenata koje biraju ljudi. Dakle, nedostatak žena i raznolikosti u razgovoru je problematičan. Ali nije samo stvar u tome da imamo više žena koderica i programerki. Također se radi o onima koji odlučuju o budućnosti umjetne inteligencije.
Što biste savjetovali ženama i djevojkama zainteresiranim za rad u ovom području?
Da postoji mnogo načina da se uđe u umjetnu inteligenciju i tehnologiju i da ne morate nužno biti koder. Uvijek me zanimala politika podataka. Na primjer, ako govorimo o bazi podataka, način na koji se prikupljaju podaci nije neutralan, netko odlučuje koji će podaci biti uključeni. Stoga predviđanja AI-ja o nama nisu neutralna.
Potrebne su nam žene i ljudi iz raznih sredina koji će biti uključeni u upravljanje umjetnom inteligencijom, reviziju, istraživačko novinarstvo, kako bismo identificirali gdje ide krivo.
Kako možemo osigurati da su sustavi umjetne inteligencije postavljeni na pošten i transparentan način?
Mnogo se surađuje između vlada, privatnog sektora, velikih tehnoloških poduzeća, poduzeća i civilnog društva. Ali potrebno je više, jer potreba za točnošću i transparentnošću može sve više postati pravni zahtjev. Razgovori se moraju odvijati u svakoj zemlji kako bi se osiguralo da umjetna inteligencija ne pogoršava postojeće nejednakosti koje imamo u društvu ili da internet ne učini još nesigurnijim.
U svijetu u kojem je tako lako širiti lažne videozapise, slike i dezinformacije, kako možemo osigurati da svi razumiju kako sigurno koristiti tehnologiju kojoj su izloženi?
Mislim da je obrazovanje važno i da je pismenost o umjetnoj inteligenciji važna, uključujući i škole, za razvoj kritičkog načina razmišljanja. Ali obrazovanje ne može zamijeniti odgovornost poslovanja, jer postoji previše asimetrije između nas kao pojedinaca i veličine prikupljanja podataka i moći velikih tehnoloških kompanija.
Potpuno je nepravedno reći pojedincima da su oni odgovorni za svoju sigurnost na internetu. Mislim da je AI pismenost ključna, ali moramo biti vrlo jasni i reći da je odgovornost na tvrtkama koje proizvode proizvode i vladi koja regulira njihovu upotrebu.