Piše: Prof. dr. Hadžib Salkić. Stalni sudski vještak iz djelokruga kriminalistike
Globalni poremećaji Microsoftovih usluga i privremeno zaustavljanje zrakoplovnog prometa u Sjedinjenim Američkim Državama otvaraju ozbiljna pitanja o digitalnoj ovisnosti suvremenog društva, sigurnosti kritične infrastrukture i granicama autonomije umjetne inteligencije.
Jedan kvar, milijuni pogođenih ljudi
Svijet je 13. studenog 2026. svjedočio događajima koji upozoravaju koliko je suvremena civilizacija postala ovisna o složenim informacijskim sustavima. Američka Federalna uprava za avijaciju (FAA) naredila je privremeno zaustavljanje polijetanja zrakoplova širom Sjedinjenih Američkih Država zbog ozbiljnih problema u komunikacijskim sustavima kontrole zračnog prometa. Istovremeno, globalni poremećaj Microsoftovih servisa pogodio je elektronsku poštu, poslovnu komunikaciju i druge digitalne usluge, uključujući Outlook, Teams i Microsoft 365. Iako su se ova dva događaja vremenski preklopila, nadležni organi nisu utvrdili njihovu međusobnu povezanost. Prema dosadašnjim službenim informacijama, poremećaj američkog zračnog prometa povezan je s preopterećenjem zastarjele telekomunikacijske infrastrukture, dok su Microsoftovi problemi predmet zasebne tehničke analize.
Međutim, ovi događaji otvaraju mnogo važnije pitanje: Šta će se dogoditi kada ključnim sistemima suvremenog društva počnu upravljati autonomni algoritmi koji samostalno donose odluke, mijenjaju vlastite procedure i međusobno komuniciraju bez neposredne ljudske kontrole?
Umjetna inteligencija više nije samo pomoćni alat
Razvoj umjetne inteligencije ulazi u novu fazu. Suvremeni AI agenti nisu ograničeni samo na odgovaranje na pitanja ili obradu informacija. Oni mogu izvršavati složene zadatke, pisati programski kod, analizirati rezultate, koristiti druge digitalne alate i predlagati izmjene postojećih sistema. U određenim tehničkim okruženjima mogu i automatski testirati te primjenjivati promjene, ako su im takva ovlaštenja dodijeljena. Upravo tu nastaje ozbiljan sigurnosni izazov. Ako autonomnom sustavu omogućimo da samostalno mijenja programske procedure, upravlja infrastrukturom ili donosi operativne odluke, postavlja se pitanje tko kontrolira posljedice njegovog djelovanja. Algoritam može izvršiti zadatak u skladu s postavljenim ciljem, a da pritom proizvede nepredviđene posljedice za druge povezane sustave. To ne znači da je umjetna inteligencija nužno opasna, nego da njena autonomija mora biti proporcionalna razini sigurnosnog rizika.
Digitalna infrastruktura postaje pitanje nacionalne sigurnosti
Avionski promet, elektroenergetske mreže, bankarski sistemi, bolnice, telekomunikacije i državne institucije danas funkcioniraju zahvaljujući međusobno povezanim informacijskim tehnologijama. Takva povezanost omogućava izuzetnu efikasnost, ali istovremeno stvara sistemsku ranjivost. Kvar jedne komponente može pokrenuti lanac poremećaja koji prelazi granice pojedinačne kompanije, države ili kontinenta. Posebno zabrinjava mogućnost da se u budućnosti tehničke greške, neadekvatno testirane softverske izmjene i autonomne odluke AI agenata međusobno pojačavaju. U takvim okolnostima nije dovoljno postaviti pitanje je li sistem bio napadnut. Potrebno je utvrditi i je li sistem pogrešno projektovan, neadekvatno nadziran ili mu je dodijeljen nivo autonomije koji prevazilazi postojeće sigurnosne mehanizme.
Kriminalistički aspekt: Tko je odgovoran kada algoritam napravi štetu?
Iz perspektive kriminalistike i digitalne forenzike, razvoj autonomnih sistema otvara potpuno novu dimenziju dokazivanja. Kod klasičnog računalnog incidenta istražitelji nastoje utvrditi izvor problema, vrijeme nastanka, izvršene radnje, eventualni neovlašteni pristup i odgovornost konkretnih osoba. Međutim, kada u odlučivanju sudjeluju autonomni AI agenti, istraživanje postaje složenije. Potrebno je rekonstruisati ne samo šta je računalo izvršilo, nego i koji su ciljevi zadani agentu, koje je informacije koristio, kakve je odluke donosio, koje je alate aktivirao i tko mu je odobrio pristup određenim funkcijama.
Posebno je važno sačuvati digitalne tragove: sistemske zapise, verzije programskog koda, konfiguracije, naredbe, vremenske oznake i evidenciju ljudskih intervencija. Bez pouzdane evidencije aktivnosti autonomnog sistema može nastati ozbiljan problem u dokazivanju uzročne veze između algoritamske odluke i nastale štete.
Umjetna inteligencija ne smije postati izgovor za odsustvo ljudske, profesionalne i institucionalne odgovornosti.
Najveća opasnost nije inteligencija mašine, nego odsustvo kontrole
U javnosti se često govori o mogućnosti da umjetna inteligencija jednog dana postane potpuno nezavisna od čovjeka. Međutim, neposredni sigurnosni rizici mnogo su konkretniji. To su neprovjerene softverske izmjene, pretjerana automatizacija, nedovoljno zaštićeni pristupi, zavisnost od jednog tehnološkog dobavljača i nedostatak rezervnih sustava. U kritičnoj infrastrukturi posebno je opasno kada se brzina tehnološkog razvoja počne smatrati važnijom od sigurnosne provjere. Zato bi svaki autonomni AI sistem koji može utjecati na sigurnost ljudi morao imati jasno definirana ovlaštenja, nezavisno testiranje, mogućnost ljudske intervencije i pouzdane mehanizme zaustavljanja. Nijedna tehnologija, bez obzira na njenu naprednost, ne smije biti izuzeta od stručne kontrole i odgovornosti.
Pouka za Bosnu i Hercegovinu
Ovi događaji predstavljaju upozorenje i za Bosnu i Hercegovinu. Digitalizacija javne uprave, pravosuđa, zdravstva, energetike i drugih važnih sektora mora biti praćena odgovarajućim ulaganjima u informacijsku sigurnost. Posebnu pažnju potrebno je posvetiti zaštiti kritične infrastrukture, edukaciji stručnjaka, nezavisnim sigurnosnim provjerama i uspostavljanju procedura za digitalno-forenzičko istraživanje incidenata. Uvođenje umjetne inteligencije u institucije ne smije biti samo pitanje tehnološkog napretka ili smanjenja troškova. To mora biti i pitanje pravne odgovornosti, zaštite podataka, nacionalne sigurnosti i povjerenja građana.
Čovjek mora ostati posljednja sigurnosna instanca
Događaji u Sjedinjenim Američkim Državama i globalni poremećaji Microsoftovih servisa nisu dokaz da su autonomni AI agenti preuzeli kontrolu nad digitalnim sistemima. Ali jesu ozbiljno upozorenje koliko posljedice tehnoloških kvarova mogu biti velike. U vremenu kada algoritmi postaju sposobni da samostalno izvršavaju sve složenije zadatke, čovječanstvo mora jasno odrediti granice njihove autonomije. Tehnološki napredak ne smije biti zasnovan na slijepom povjerenju u automatizaciju. Naprotiv, što je sistem inteligentniji i samostalniji, to moraju biti snažniji mehanizmi njegovog nadzora.
Jer najveća opasnost budućnosti nije da će mašine naučiti razmišljati, nego da će ljudi prestati kontrolirati odluke koje mašine donose.