Ako se laž objavljuje dovoljno često, ona postaje kvazi – istina, a ako se takva istina dovoljno često ponavlja, postaje vjerovanje, dogma i ljudi će umrijeti za nju”, napisala je britanska književnica Isa Blagden 1869. godine u svojem romanu “The Crown of Life” (Kruna života).

Istražio je to i objavio Faktograf.hr nakon što je tijekom rasprave u Hrvatskom saboru krajem studenog došlo do nesuglasja u tome je li već svima poznatu sintagmu ’tisuću puta ponovljena laž postaje istina’ prvi put rekao Joseph Goebbels, Hitlerov ministar propagande ili Vladimir Iljič Lenjin, ruski komunistički revolucionar i prvi vođa Sovjetskog saveza. Ispostavilo se da je mudrost starija od ljudi kojima se pripisuje njezino autorstvo.

Znanje je oduvijek bilo krhko, a prodaja fikcije pod stvarnost i laži pod istinu svojstvena je ljudskom rodu vjerojatno od pamtivijeka. No, moderne tehnologije drugog milenija nakon rođenja Isusa Krista podižu tu igru na sasvim novu razinu.

Uhvaćena u vrtlog nemilosrdnog bombardiranja nakon što je njezin suprug Mile Kekin frontmen benda Hladno pivo ispio kavu s ‘kontroverznim’ poduzetnikom Nikicom Jelavićem, predsjednička kandidatkinja platforme Možemo Ivana Kekin na društvenim je mrežama neuspješno nastojeći promijeniti temu uz napomenu ‘Ovo je lažni Andrej’ pustila snimku glasa Andreja Plenkovića koji daje podršku njezinoj kandidaturi i obećaje joj svoj glas na izborima. Jednostavna kompilacija riječi koje je premijer Plenković izgovorio u drugim kontekstima dječja je igra među onime što se ‘deep fake’ sadržajem može postići.

Vazdar: Naše tvrtke mogu razvijati specijalizirana rješenja za specifične niše poput zaštite financijskih institucija ili verifikacije medijskog sadržaja gdje još nije došlo do zasićenja tržišta.

Deep fake uzima maha

Početkom ove godine financijski je radnik u Hong Kongu kako je izvijestio CNN isplatio 39,3 milijuna dolara prevarantima nakon video poziva na kojem su, prema onome što je on mogao vidjeti, bili kolege iz tvrtke sa sjedištem u Velikoj Britaniji s kojom je financijska tvrtka za koju radi poslovala. Međutim, ispostavilo se da su svi sudionici video poziva bili lažne kreacije generativne umjetne inteligencije. Policija Hong Konga uhitila je šestero ljudi.

U istraživačkom radu objavljenom u Journal of Cybersecurity u svibnju 2023. znanstvenici sa Odjela za znanost o sigurnosti i kriminalu, University College London (UCL) i Odjela za metodologiju Sveučilišta Tilberg iz Nizozemske zaključili su da je potrebno hitno rješavati prijetnju koju donose deep fake sadržaji i zato što ljudi vrlo teško prepoznaju što je stvarni, a što lažni video ili audio sadržaj. U istraživanju je sudionicima prikazano 20 slika nasumično odabranih iz skupa od 50 lažnih slika ljudskih lica i 50 slika stvarnih ljudskih lica. Sudionici su točno razlikovali stvarne od lažnih lica u 62 posto slučajeva, a za pojedine fotografije točnost je padala ispod 50 posto, no ono što je zabrinjavajuće jest da su bez obzira bili točni ili pogrešni ispitanici bili potpuno uvjereni u točnost svojih odgovora.

Deep fake sadržaji smatraju se jednom od najvećih prijetnji u području kibernetičkog kriminala, a kako sumrak s jedne strane budi zoru s druge u studiji iz studenog 2024. analitičari konzultantske kuće Deloitte procijenili su da će globalno tržište otkrivanja lažnih sadržaja rasti za 42 posto godišnje s 5,5 milijardi dolara 2023. na 15,7 milijardi dolara u 2026. godini. Poslovno će živahno, kako procjenjuje Deloitte biti u dvije kategorije, u otkrivanju krivotvorina i utvrđivanju porijekla sadržaja.

Tko će biti uspješniji, stvaratelji, uvjetno rečeno ‘kriminalci’ ili otkrivatelji, uvjetno rečeno ‘policajci’ pitanje je ‘za milijun dolara’, no za sada su kriminalci u prednosti jer je zakonodavstvo koje bi uredilo područje deep fake industrije i razdvojilo primjerice lažne modele koje već dugo koristi modna industrija za reklamu svojih proizvoda od lažnih financijskih direktora koji traže stvarne uplate ili lažne učitelje koji služe pravom prenošenju znanja od lažnih političara koji drže ‘nepostojeće’ opasne govore. Deep fake industrija ima potencijal mijenjati povijest, sadašnjost i budućnost.

Cyber sigurnost

Tomislav Vazdar, konzultant za kibernetičku sigurnost iz tvrtke Riskoria lažne sadržaje smatra jednom od najozbiljnijih prijetnji cyber sigurnosti današnjice.

“Opasnost je višestruka jer lažni sadržaji narušavaju integritet informacija, potkopavaju povjerenje u digitalne medije i služe kao moćni alati za širenje dezinformacija i manipulaciju javnim mnijenjem” kaže Vazdar tumačeći kako je opasnost tim veća zato što se danas pojedinac s pristupom AI alatima može napraviti ono za što je nekad bio potreban tim stručnjaka i sofisticirana oprema.

Vazdar smatra da hrvatske IT tvrtke imaju jedinstvenu priliku za pozicioniranje na rastućem tržištu otkrivanja lažnih sadržaja koje kreira generativna umjetna inteligencija budući da domaća IT industrija već ima dokazano iskustvo u razvoju sofisticiranih sigurnosnih rješenja.

“Primjer uspješnog razvoja domaćih rješenja je CARNET-ov Nacionalni CERT koji je razvio servis CERT iffy za provjeru internetskih trgovina na obilježja lažnog weba” kaže Vazdar te tumači kako primjer Carnetova servisa pokazuje da hrvatske tvrtke mogu razvijati konkurentna rješenja primjenjiva i na globalnom tržištu.

Ono se hrvatskim tvrtkama otvara i kroz pristup značajnim sredstvima za istraživanje i razvoj koje nude EU fondovi.

“Naše tvrtke mogu razvijati specijalizirana rješenja za specifične niše poput zaštite financijskih institucija ili verifikacije medijskog sadržaja gdje još nije došlo do zasićenja tržišta” kaže Vazdar.

Velike međunarodne kompanije, objašnjava, nisu još zadominirale ovim tržištem što ostavlja prostor za inovativne hrvatske tvrtke da razviju konkurentsku prednost kroz specijalizirana rješenja prilagođena specifičnim potrebama različitih industrija.

Bajtl: Najprofitabilniji je razvoj specijaliziranih alata, a riječ je o razvoju naprednih algoritama i softverskih rješenja koja koriste strojno učenje i umjetnu inteligenciju za prepoznavanje lažnih sadržaja.

Novo područje, nove prilike

Boris Bajtl, dopredsjednik Hrvatskog instituta za kibernetičku sigurnost, udruge koja okuplja bojne hrvatske tehnološke kompanije slaže se s ocjenom da previđeni rast globalnog tržišta otkrivanja lažnih sadržaja pruža značajnije prilike za hrvatske IT tvrtke.

“To je novo područje bez etabliranih igrača i s obzirom na to da se digitalne usluge mogu pružati bez teritorijalnih ograničenja hrvatske tvrtke su u ravnopravnom položaju sa svojom međunarodnom konkurencijom.” kaže Bajtl ističući da se poslovne prilike pružaju u nekoliko segmenata poslovanja.

Prvi segment je razvoj specijaliziranih alata za otkrivanje lažnih sadržaja, a pri tome je riječ o razvoju naprednih algoritama i softverskih rješenja koja koriste strojno učenje i umjetnu inteligenciju za prepoznavanje lažnih sadržaja. Taj je segment, kako kaže Bajtl najprofitabilniji i zahtjeva dosta ulaganja u istraživanje i razvoj ali donosi i najviše koristi.

Drugi segment su suradnja i partnerstva u kojima hrvatski stručnjaci u suradnji s međunarodnim organizacijama i tehnološkim tvrtkama mogu doprinijeti globalnim istraživanjima i razvoju tehnologija koje identificiraju i sprječavaju širenje lažnih sadržaja, dok je treći segment edukacija i podizanje svjesnosti o opasnostima lažnih sadržaja. “Postoji potreba za organizacijom radionica, seminara i konferencija koje mogu pomoći u podizanju svijesti i jačanju otpornosti na dezinformacije” kaže Bajtl.

Vazdar upućuje na istraživanje iz lipnja ove godine koje je proveo portal Business.com među glavnim izvršnim direktorima, direktorima financija, operacija, marketinga, informacija i ljudskih resursa i pravnih službi, a koje je pokazalo da samo 13 posto kompanija posjeduje sveobuhvatne protokole u slučaju deep fake napada.

Čak 61 posto direktora reklo je da nisu uspostavili nikakve protokole u slučaju da im se kompanije nađu na udaru deep fake tehnologije, ali isto tako 80 posto njih je reklo da njihova kompanija još nije doživjela takav napad iako ih je 72 posto bilo žrtvom neke vrste prijevare. Čak 37 posto direktora smatra da deep fake sadržaj ne predstavlja tako velik rizik za njihovo poslovanje, a stručnjaci upozoravaju da su kompanije na takve napade najosjetljivije tijekom inicijalnih javnih ponuda svojih dionica, spajanja ili korporativnog restrukturiranja.

Među mnogim štetama i opasnostima koje deep fake sadržaji unose u gospodarstvo i društvo među opasnije smješta se nepovjerenje prema vijestima u medijima. Prema ovogodišnjem Reutersovom izvješću “Digital News Report 2024” zabrinutost oko toga što je stvarno, a što lažno na internetu kada su u pitanju online vijesti porasla je za 3 postotna boda u prošloj godini, a šest od 10 ispitanika (59 posto) reklo je da je zabrinuto. Udio zabrinutih u SAD-u je 72 posto, a kada se promatraju rezultati razvrstani po društvenim mrežama korisnici TikToka i X-a zabrinutiji su od drugih.

Ograničiti utjecaj

Povjerenje u vijesti od 40 posto ostalo je stabilno tijekom prošle godine, ali je još uvijek ukupno četiri boda niže nego što je bilo na vrhuncu pandemije koronavirusa, rezultat je Reutersova istraživanja.

Na pitanje hoćemo li uskoro biti preplavljeni deep fake sadržajem Vazdar kaže da je nemoguće potpuno zaustaviti deep fake sadržaje, ali je moguće ograničiti njihov utjecaj, a Bajtl da je riječ o vrlo kompleksnom pitanju.

“Ključno je razumjeti da je ovo sistemski problem koji zahtijeva višeslojni pristup. Potrebno je jačati medijsku pismenost, razvijati tehnološke alate za identifikaciju lažnih sadržaja te osigurati transparentnost u političkim kampanjama kako bi se smanjio utjecaj dezinformacija. Društvene mreže već implementiraju neke od ovih mjera, ali potrebna je bolja koordinacija između svih uključenih strana.” kaže Vazdar.

Bajtl ističe da iako se tehnologije za generiranje lažnih sadržaja brzo razvijaju isto vrijedi i za tehnologije za njihovo otkrivanje, a počelo se raditi i na pravnoj regulativi. Riječ je o Zakonu i Uredbi o kibernetičkoj sigurnosti koje su donesene ove godine kao dio prenošenja NIS 2 direktive u hrvatsko zakonodavstvo.

Vazdar pak smatra kako brzina kojom se tehnologije za generiranje lažnih unaprjeđuju predstavlja ogroman izazov za stručnjake u kibernetičkoj sigurnosti.

Tumači kako problem nije samo tehnološke prirode jer dok kriminalne skupine mogu brzo monetizirati svoje aktivnosti i ulagati u razvoj novih metoda, organizacije zadužene za detekciju često su ograničene proračunima i sporijom implementacijom novih tehnologija. Smatra da je nužno je značajno povećati ulaganja u istraživanje i razvoj novih metoda detekcije, uz istovremeno jačanje međunarodne suradnje u borbi protiv ovih prijetnji, a poseban naglasak staviti na razvoj proaktivnih sustava koji mogu predvidjeti i spriječiti nove vrste napada prije nego što se oni dogode.

“Trenutačno smo u nezavidnoj poziciji gdje razvoj alata za detekciju značajno kasni za razvojem tehnologija za kreiranje lažnih sadržaja” ističe Vazdar. Utrka između stvaratelja i otkrivatelja deep fake sadržaja tek se zahuktava, a Bajtl napominje kako ona nije samo tehnološka već i društvena i pravna.