Proteklih nekoliko godina vidjeli smo kako je tema umjetne inteligencije (AI) postala dio razgovora u poslovnim i kućnim krugovma diljem svijeta. Iako već mnogo godina radimo s umjetnom inteligencijom, s tehnologijama dubokog učenja (DL) koje značajno unaprjeđuju videoanalitiku, malo je tehnologija koje su tako brzo postale tako istaknute kao što je to učinila umjetna inteligencija, uglavnom zahvaljujući pojavi generativne umjetne inteligencije.
Iako bi mnogi mogli smatrati da je izraz pretjerano korišten, korisno je ponoviti današnju upotrebu umjetne inteligencije u sigurnosti, ali i pravi potencijal za umjetnu inteligenciju u sektoru, te neka od područja problema kojih moramo biti svjesni i kojima trebamo upravljati.
Upotreba umjetne inteligencije u sigurnosti danas
Integracija umjetne inteligencije u sigurnosne sustave promijenila je pristup industrije otkrivanju i odgovoru na prijetnje. Tehnologije dubokog učenja (DL), podskup AI, značajno su povećale točnost analitičkih rješenja, što je dovelo do pouzdanijih i učinkovitijih sigurnosnih sustava.
Primjeri aplikacija koje sada imaju pouzdan rad zahvaljujući novoj tehnologiji su:
- Otkrvanje i praćenje kretanja predmeta s većom preciznošću.
- Pouzdano nadziranje i upozoravanje na prelazak linija u osjetljivim područjima.
- Brojanje objekata i pojedinaca kako bi se upravljalo popunjenošću i protokom.
- Identificiranje ponašanja koja mogu ukazivati na potencijalne prijetnje.
Generiranje metapodataka pomoću sustava pokretanih umjetnom inteligencijom postalo je preokret za forenzička pretraživanja u sustavima upravljanja video zapisima (VMS). Ovi metapodaci služe kao temelj za prikupljanje detaljnih statistika i uvida iz aktivnosti na mjestu događaja, omogućujući proaktivniji sigurnosni položaj. S povećanim mogućnostima rubnih uređaja ove metapodatke mogu izravno generirati kamere, čime se znatno smanjuju ukupni troškovi sustava.
Sposobnost umjetne inteligencije da otkrije anomalije analizom obrazaca i odstupanja od norme uvela je novu dimenziju u nadzor sigurnosti. Ova mogućnost stručnjacima za sigurnost omogućuje preventivno rješavanje potencijalnih prijetnji prije nego što eskaliraju.
Ove mogućnosti su otvorile široki spektar dodatnih slučajeva upotrebe izvan tradicionalnih aplikacija u sigurnosti i sigurnosti. Temeljna sposobnost točnijeg praćenja protoka osoba, materijala i proizvoda omogućuje aplikacije koje će izravno poboljšati operativnu učinkovitost.
Mrežne kamere tvrtke Axis strateški su postavljene duž proizvodne trake BMW-a kako bi pružile vizualne podatke, hvatajući zamršene detalje poput BMW logotipa na haubi i ručkama vrata, pomno ispitujući svaku komponentu novog BMW-a. Primjer iz BMW-a je savršena ilustracija, gdje koristi AI sposobnosti kamera za videonadzor za provođenje inspekcija kvalitete tijekom procesa proizvodnje automobila.
Generativna umjetna inteligencija, posebno korištenjem Large Language Models (LLM), predstavlja značajan napredak u AI tehnologiji. Te tehnologije omogućuju stvaranje teksta i slika iz upita prirodnog jezika. Što je još važnije, golemi noviji modeli sa svojim velikim podacima o obuci sposobni su za interakciju s korisnicima putem normalnih jezičnih sučelja, ali također imaju sposobnosti rada s apstraktnim konceptima i suočavanja sa složenim scenarijima.
Početni ulazak Generative AI u sigurnosni sektor vidjet će se u njegovoj upotrebi u funkcionalnostima kao što su:
- Podržavanje chatbotova koji pružaju pomoć u stvarnom vremenu korisnicima koji koriste prirodni jezik.
- Čarobnjaci za konfiguraciju koji pojednostavljuju postavljanje složenih sigurnosnih sustava.
- Tekstualna pretraživanja koja povećavaju učinkovitost dohvaćanja podataka.
- Napredni alati za dizajn koji pomažu u stvaranju robusnih sigurnosnih rješenja.
- Noviji modeli, takozvani multimodalni modeli, mogu uzeti tekst, kao i zvuk, slike i video kao ulaz i generirati rezultate u obliku teksta i slika. Ovo obećava stvaranje novih mogućnosti u sektoru sigurnosti gdje su modeli sposobni analizirati što se događa u sceni na novoj razini. Upotreba može uključivati:
- Isticanje značajnih događaja koji zahtijevaju hitnu pozornost operatera.
- Analiziranje trendova i pronalaženje zajedničkih obrazaca.
- Pomaganje operaterima u istragama pružanjem relevantnih informacija i prijedloga za djelovanje.
- Sažimanje videa i slika za izvješća
Unatoč dramatičnom napretku, generativna umjetna inteligencija još uvijek se suočava s ograničenjima u razumijevanju nijansi složenih scena i ljudskog ponašanja. Modeli su još uvijek skloni onome što se naziva halucinacijama, gdje model dolazi s izjavama i prijedlozima koji nisu točni.
Još jedno ograničenje je to što modelima nedostaje obrazloženje i logična dedukcija.
Ova ograničenja vrlo otežavaju upotrebu modela u sigurnosnim kritičnim instalacijama. Jednostavno se ne možemo osloniti na to da se događaji ne propuštaju ili da se donose krivi zaključci.
Drugi aspekt korištenja modela u sigurnosnom kontekstu je da moramo upravljati rizikom od pristranog ponašanja koje modeli mogu pokazati osim ako se temeljito ne upravlja podacima o obuci modela.
Ovo naglašava važnost održavanja ljudske uključenosti u proces donošenja odluka, osiguravajući da se poštuju etički aspekti i da kvaliteta odluka nije ugrožena. Iz tog razloga, prvi slučajevi upotrebe u kojima ćemo vidjeti LLM-ove primijenjene u sigurnosnom sektoru bit će pružanje pomoći u forenzičkom pretraživanju i davanje prijedloga operaterima. I dalje ćemo morati držati čovjeka u tijeku. S brzim tempom inovacija moramo pronaći ravnotežu između usvajanja novih mogućnosti i ublažavanja rizika novih tehnologija.
Potencijal za AI kamere i edge AI
Međutim, svaka nova tehnologija donosi izazove koje treba prevladati. I dok smo još uvijek u relativno ranoj fazi, jasno je da umjetna inteligencija u sigurnosnom sektoru donosi značajne prilike za poboljšanje tradicionalnih sigurnosnih i sigurnosnih slučajeva upotrebe, dok također otključava ogroman potencijal za poboljšanje poslovnih performansi u svim industrijama.
AI kamere koje isporučuju rubnu umjetnu inteligenciju pružaju temelj za mnoge od ovih mogućnosti, poboljšavajući točnost analitike, omogućujući skalabilnost sustava i čineći osnovu za pouzdana, skalabilna i propusno učinkovita rješenja u oblaku.
Dodatni metapodaci koje stvara rubna AI analitika, detaljno opisuju vizualne podatke snimljene senzorom slike, dodaju dodatne slojeve potencijalne analize i uvida koji se može poduzeti. S vremenom će prikupljanje i analiza metapodataka informirati o odlukama koje će transformirati svaki aspekt poslovanja organizacije.
Kombinacija obrade unutar AI kamera, naprednih metapodataka stvorenih na rubu i dodatne obrade na poslužitelju ili oblaku, koja se obično nazivaju hibridna rješenja, stvara skalabilan i troškovno učinkovit model za naprednija analitička rješenja temeljena na DL-u.
Ovo stvara nove prilike za isporuku vrijednosti izvan tradicionalnih sigurnosnih i sigurnosnih aplikacija. Kombinacija kamera s drugim tehnologijama kao što su IoT senzori i računalstvo u oblaku, omogućuje analizu vizualnih podataka na nove načine u različitim područjima kao što su gradovi, prijevoz, maloprodaja i industrijski sektori.
Gradske vlasti kombiniraju i analiziraju vizualne podatke i podatke o okolišu kako bi poboljšale živote građana poboljšanjem kvalitete zraka, smanjenjem zagađenja bukom i boljim planiranjem usluga i infrastrukture. Poduzeća koriste podatke iz video nadzora i audio senzora za prediktivno održavanje strojeva i opreme, stvarajući učinkovitost i poboljšavajući pružanje usluga. Trgovci na malo koriste informacije o posjetiteljima trgovina kako bi poboljšali korisničku uslugu i izgled trgovine. Mogućnosti su beskrajne.
Inovacija, implementacija i odgovorna upotreba umjetne inteligencije
Dok AI u svim svojim oblicima predstavlja značajne prilike, svaka nova tehnologija također nosi potencijal uvođenja novih prijetnji i rizika. Svaki dobavljač tehnologije koji koristi umjetnu inteligenciju u svojim proizvodima mora prepoznati svoju odgovornost za razvoj i implementaciju umjetne inteligencije i drugih tehnologija na odgovoran način kako bi ublažio te rizike.
Regulativa će očito odigrati svoju ulogu. EU je nedavno usvojio prvi pravni okvir u vezi s umjetnom inteligencijom, Zakon o umjetnoj inteligenciji, a postoje i drugi zakoni o kojima se raspravlja u SAD-u i mnogim drugim dijelovima svijeta o tome kako na najbolji način smanjiti potencijalne rizike umjetne inteligencije uz istovremeno poticanje inovacija. Ali nije dovoljno pratiti. Svaka inovativna tehnološka tvrtka mora voditi odgovornu i etičku primjenu umjetne inteligencije unutar vlastitog poslovanja i poslovanja svojih kupaca.
AI i kibernetička sigurnost
Kibernetička sigurnost i zaštita podataka i privatnosti ljudi već su dugo u fokusu sigurnosnog sektora, a umjetna inteligencija stavlja ovaj zahtjev još više u fokus. Velikim dijelom to je zato što će kibernetički kriminalci sami koristiti AI u potrazi za ranjivostima i novim vektorima napada. Ove kriminalne organizacije, dobro financirane i visoko profesionalne kakve jesu, imaju još jednu prednost u 'utrci u naoružanju s umjetnom inteligencijom': mogu inovirati bez obzira na propise ili etiku.
Davanje prioriteta sigurnosti podataka i privatnosti i dalje će biti najvažnije. Svi dobavljači sigurnosnih tehnologija, a posebno oni koji koriste umjetnu inteligenciju, moraju zauzeti pristup upravljanju podacima koji se temelji na ljudskim pravima, osiguravajući da su prikupljanje, obrada i upotreba podataka u skladu s načelima ljudskih prava, potičući pošteno, pravedno i sigurno digitalno okruženje. . Oni također zahtijevaju provedbu snažnih sigurnosnih mjera za zaštitu od neovlaštenog pristupa ili zlouporabe i promiču jednakost podataka težeći pravednom i nepristranom predstavljanju i pristupu podacima.
Otključavanje potencijala umjetne inteligencije, odgovorno i etično
Mogućnosti koje AI nudi sigurnosnom sektoru su uzbudljive. Umjetna inteligencija može povećati ljudsku inteligenciju, a odgovoran razvoj umjetne inteligencije može koristiti ljudima i društvu. To se dobro slaže s vizijom Axisa, inovacije za pametniji, sigurniji svijet.
Potencijal umjetne inteligencije za povećanje vlastitih vještina i sposobnosti omogućit će nam da potrošimo više dragocjenog vremena na zadatke koji zahtijevaju našu ljudsku stručnost, čineći ljude vrjednijima nego ikad.
Svi se moramo posvetiti korištenju AI tehnologije na etičan i društveno odgovoran način. To znači da inicijative umjetne inteligencije, bilo da se odnose na proizvode i usluge ili načine rada, trebaju biti vođene načelima pravednosti, transparentnosti, odgovornosti i poštovanja privatnosti i ljudskog dostojanstva.
Mats Thulin
Mats Thulin je direktor Core Technologies u Axis Communications, gdje je odgovoran za dugoročni razvoj tehnologije u video analitici, medijima i sigurnosti. Ima ključnu ulogu u oblikovanju strateškog plana Axisa u videoanalizi i umjetnoj inteligenciji. Mats se pridružio Axisu 2010. i obnašao je razne rukovodeće dužnosti. S raznolikim iskustvom u velikim poduzećima i startupima, Mats donosi bogatu poslovnu i tehnološku stručnost. Magistrirao je elektrotehniku na Institutu za tehnologiju u Lundu.