OpenAI je nedavno predstavio detektor deepfakea dizajniran posebno za prepoznavanje sadržaja koji proizvodi njegov generator slike, DALL-E. U početku će alat biti dostavljen odabranoj skupini istraživača dezinformacija za testiranje u stvarnom svijetu. U dinamičnom polju kibernetičke sigurnosti, transformativne tehnologije kao što su detekcija dubinskih lažiranja vođena umjetnom inteligencijom, nadzor u stvarnom vremenu i napredna analitika podataka revolucioniraju digitalnu sigurnost i autentičnost. Ove inovacije vođene startupima poboljšavaju otkrivanje manipuliranog sadržaja i omogućuju sigurnija digitalna okruženja, kaže GlobalData, vodeća tvrtka za podatke i analitiku.
Vaibhav Gundre, voditelj projekta, Disruptive Tech u GlobalData, komentira: “Deepfakeovi koje generira AI postali su sve sofisticiraniji, predstavljajući značajne rizike za pojedince, tvrtke i društvo. Međutim, vrhunske metode detekcije koje pokreće strojno učenje (ML) pomažu u prepoznavanju i označavanju manipuliranog sadržaja sa sve većom točnošću. Od analize bioloških signala do korištenja snažnih algoritama, ovi alati jačaju obranu od zlouporabe deepfakeova za dezinformacije, prijevare ili iskorištavanje.”
Baza podataka Innovation Explorer GlobalData's Disruptor Intelligence Center ističe nekoliko pionirskih startupa koji predvode inovacije u detekciji dubokih krivotvorina.
Sensity AI koristi vlasnički API za otkrivanje lažnih medija poput slika, videozapisa i sintetičkih identiteta. Algoritam detekcije fino je podešen za prepoznavanje jedinstvenih artefakata i visokofrekventnih signala koji su karakteristični za slike generirane umjetnom inteligencijom i signale kojih obično nema u prirodnim slikama.
DeepMedia.AI alat za otkrivanje deepfake DeepID koristi izmjene na razini piksela, artefakte slike i druge znakove manipulacije slikom za analizu integriteta slike. Za zvuk koristi karakteristike kao što su visina, ton i spektralni uzorci kako bi se osigurala autentičnost. Za video koristi analizu slika po slikama vizualnih karakteristika kao što su izrazi lica, pokreti tijela i drugi vizualni elementi.
Attestiv je ažurirao svoju internetsku platformu u siječnju 2024. kako bi otkrio krivotvorine generirane umjetnom inteligencijom i autentificirao medije, nudeći sigurnost u stvarnom vremenu protiv sofisticiranih deepfakeova u videozapisima, slikama i dokumentima. Koristi napredni ML za analizu slika na razini piksela, vizualno prekrivajući toplinske karte na slikama, pokazujući kako i gdje se slikama moglo manipulirati.
Gundre zaključuje: „Ovaj napredak u detekciji dubokih krivotvorina transformira kibernetičku sigurnost prema osiguravanju autentičnosti digitalnog sadržaja. Međutim, kako se ova tehnologija razvija, moramo kritički ispitati etička razmatranja u vezi s privatnošću, pristankom i neželjenim posljedicama njezinog širokog usvajanja. Uspostavljanje prave ravnoteže između zaštite i etičke uporabe bit će najvažnije u oblikovanju budućnosti u kojoj se sintetički mediji mogu sigurno koristiti za legitimne primjene.”