Dok je svijet usred ključne izborne godine u SAD-u, integritet demokratskih procesa ugrožen je dezinformacijama i deepfakeovima koje pokreće umjetna inteligencija – alatima koji mogu prevariti glasače, iskriviti diskurs i narušiti povjerenje u političke sustave.

Naslovi u medijima često podsjećaju na krhkost demokracije, a deepfakeovi joj ubrzano postaju jedna od najznačajnijih prijetnji. Deepfake tehnologija koja koristi umjetnu inteligenciju da kreira uvjerljive, no lažne fotografije, video ili zvučne zapise, predstavlja ozbiljne rizike za integritet izbora. Porast deepfakeova i ostalog sadržaja generiranog pomoću umjetne inteligencije dodao je novu dimenziju brizi za sigurnost izbora.

Nedavno istraživanje koje je proveo Sumsub pokazalo je deseterostruki porast deepfakeova u svim industrijama globalno, pri čemu je Sjeverna Amerika zabilježila porast od nevjerojatnih 1740 posto u broju deepfakeova otkrivenih samo tijekom prošle godine.

Tijekom 2023. godine na društvenim mrežama širom svijeta podijeljeno je više od 500.000 deepfake videa i zvučnih zapisa, pokazujući razmjere problema. Deepfakeovi više no ikada olakšavaju zlonamjernim akterima manipulaciju medijima. Ono što je nekada zahtijevalo sofisticirane vještine sada je dostupno svakome s internetskom vezom i osnovnim AI alatima.

Larsen: Akteri poput Kine i Rusije koriste generativne alate AI dok nastavljaju pogoršavati političke i društvene podjele u SAD-u i drugim demokracijama.

Distribucija dezinformacija

Ova promjena ne samo da potiče krađe identiteta i phishing prevare, već i ugrožava povjerenje javnosti u izborne procese, informacije i rezultate. Drugi Microsoft izvještaj o sigurnosnim prijetnjama izborima otkriva ključne uvide o tome kako se umjetna inteligencija koristi kao “oružje” na izborima, ističući da sadržaj poboljšan umjetnom inteligencijom – u odnosu na onaj u potpunosti kreiran korištenjem umjetne inteligencije – može imati jači utjecaj, posebno kad je osmišljen da odaje dojam da je riječ o osobnom sadržaju, kao što je na primjer lažni zvučni zapis iz privatnog telefonskog razgovora.

Izvještaj ističe nekoliko čimbenika koji doprinose riziku koji generativna umjetna inteligencija predstavlja za izbore u 2024. godini. Prvi je već spomenuta činjenica da je sadržaj poboljšan umjetnom inteligencijom utjecajniji je od sadržaja koji je u potpunosti generiran korištenjem umjetne inteligencije. Također, zvučni zapis kreiran s pomoću umjetne inteligencije je utjecajniji od videa kreiranog korištenjem AI.

Lažni sadržaj koji djeluje kao da dolazi iz privatnog okruženja, kao što je telefonski poziv, učinkovitiji je od lažnog sadržaja iz javnog okruženja, kao što je deepfake video svjetskog vođe. U izvješću se ističe i da distribucija dezinformacija ima veći učinak tijekom razdoblja krize i udarnih vijesti te da je oponašanje manje poznatih ljudi učinkovitije je od oponašanja vrlo poznatih ljudi, poput svjetskih vođa.

Amy Larsen, direktorica globalnog angažmana i strateških projekata u Microsoftovoj inicijativi Democracy Forward, naglasila je koliko je tvrtka predana borbi protiv ovih prijetnji: “Microsoft je lider u poticanju odgovornog razvoja umjetne inteligencije i radi na tome da osigura da nove tehnologije budu otporne na zlouporabu. To uključuje niz radnji za pomoć u zaštiti glasača, kandidata, kampanja i izbornih tijela u Europi i diljem svijeta.”

Na sigurnosnoj konferenciji u Münchenu u veljači 2024. Microsoft se pridružio dvadeset tehnoloških kompanija u potpisivanju Tehničkog sporazuma za borbu protiv prijevarne upotrebe umjetne inteligencije na izborima 2024. Ovo dobrovoljno obećanje usmjereno je na borbu protiv deepfakea u obliku videa, zvučnih zapisa i fotografija kojima se pokušavaju lažirati ili promijeniti izgled, glas ili radnje političkih kandidata, kampanja ili izbornih dužnosnika. Okupljanjem čelnika industrije, Tech Accord fokusira se na to da zlonamjernim akterima oteža stvaranje i distribuciju lažnih ili izmijenjenih medijskih sadržaja političkih kandidata ili dužnosnika.

Unatoč svim naporima, demokracije se još uvijek suočavaju s novim i sve većim izazovima u digitalnom dobu. Kao što je Amy Larsen spomenula nedavno napomenula, “državni akteri prijetnji također usavršavaju svoje vještine, što dovodi do potencijala za sve sofisticiranije i skalabilnije kibernetičke napade i kampanje dezinformiranja.” Microsoftov centar za analizu prijetnji (MTAC) je u nedavnim izvješćima napomenuo da državni prijeteći akteri poput Kine i Rusije koriste generativne alate umjetne inteligencije dok nastavljaju pogoršavati političke i društvene podjele u Sjedinjenim Državama i drugim demokracijama.

Ostati budni i proaktivni

Microsoftova pozicija u razvoju umjetne inteligencije istaknuta je kroz tvrtkina partnerstva i neprestano zagovaranje uravnotežene regulative. U suradnji s organizacijama kao što je TrueMedia.org, tvrtka razvija okvire za rješavanje rizika umjetne inteligencije dok istovremeno maksimizira njene prednosti za demokratske procese. Amy Larsen je kazala kako i nakon ove izborne godine, moramo ostati budni i proaktivni u zaštiti javnosti od zlonamjernog sadržaja generiranog umjetnom inteligencijom, koji može narušiti povjerenje, širiti dezinformacije te naštetiti pojedincima i zajednicama. Tehnologija se ne odnosi samo na alate koje stvaramo, nego na ljude kojima služi i izazove koje pomaže riješiti.

U digitalnoj eri, očuvanje demokracije zahtijeva stalnu budnost, zaštitu i podršku svih uključenih strana, kao što su vlade, tehnološke tvrtke, civilno društvo, mediji i građani. Budući da državni prijeteći akteri sve više koriste napredne tehnologije poput umjetne inteligencije i kibernetičkih alata za ciljanje demokratskih društava, ključno je da svi igraju ulogu u obrani demokratskih sustava koji podupiru naše individualno i kolektivno blagostanje.