Zaštita korisnika digitalnih usluga od nezakonitog sadržaja, robe i usluga, glavna je zadaća Akta o digitalnim uslugama, pravne uredbe koja je u srpnju 2023. postala obvezujuća za vrlo velike i velike online tražilice i platforme, a od veljače ove godine i za sve ostale koji na europskom tržištu pružaju digitalne usluge. Najveći broj mjera odnosi se na vrlo velike internetske platforme Metu (Facebook), TikTok, X, YouTube, Instagram, LinkedIn, Pinterest i Snapchat, koje mjesečno imaju više od 45 milijuna korisnika. Tu je i sedam digitalnih trgovina: Amazon Store, Booking, Zalando, AliExpress, Google Shopping, Shein i Temu. Zadnje dvije, Shein i Temu, tek su dodane na popis pa će za njih pravila Akta početi vrijediti krajem kolovoza, odnosno u rujnu. Akt obuhvaća i Google Play i Apple Store, dvije trgovine mobilnim aplikacijama, kao i dvije tražilice Google Search i Bing, ali i Wikipediju i Google Maps.

Aktom o digitalnim uslugama stvorila se dosad nezabilježena razina javnog nadzora nad internetskim platformama u cijeloj Uniji, a što to konkretno znači za pružatelje usluga, ali i za države članice EU, pojasnila je Andrea Čović Vidović, voditeljica medija i zamjenica voditeljice Predstavništva Europske komisije u Hrvatskoj

 „Akt regulira i tržišno ponašanje digitalnih trgovina i društvenih mreža, kao i onih koji pružaju pristup internetu, registriraju domene ili nude usluge hostinga (npr. poslovanje u oblaku). Nova pravila jasnije reguliraju ponašanje velikih platformi i kod tzv. ‘gatekeepinga’, odnosno namjerno ograničavanje informacija prema korisnicima, ali i jamče pravnu sigurnost platformama koje posluju u više država. Platforme moraju same identificirati prodavače i pružatelje nelegalnih proizvoda i usluga, prijavljivati ih, a korisnike zaštititi i biti transparentni kod algoritama za preporuke. Drugim riječima, moraju spriječiti zlorabljenje njihovih sustava i ne smiju dopustiti ilegalni sadržaj, usluge i proizvode. Moraju štititi i europske vrijednosti, ljudska prava i demokraciju u digitalnoj domeni, a  neovisnim istraživačima omogućiti pristup ključnim podacima. U slučaju kršenja ovog izravno obvezujućeg europskog zakona, velikim i vrlo velikim internetskim platformama i tražilicama Komisija može izreći novčane kazne u iznosu do 6 % njihovog globalnog prihoda, a svakako ima i ovlasti zatražiti žurno poduzimanje mjera za otklanjanje štetnih učinaka. Kod platformi koje odbijaju ispuniti važne obveze Akta i time ugrožavaju život i sigurnost osoba, sudskim će putem biti moguće zatražiti privremenu obustavu njihovih usluga.

Je li netko izuzet iz ovog Akta?

Nitko nije izuzet iz cijelog Akta, no svaka mjera ne odnosi se na svaki tip platforme. Akt o digitalnim uslugama razlikuje četiri tipa: vrlo velike internetske platforme, online platforme, usluge hostinga te posredničke usluge.Na vrlo velike internetske platforme i tražilice odnosi se najveći broj mjera koje ne obvezuju ostale tri kategorije. To uključuje nezavisnu godišnju reviziju, opciju da korisnici odabiru da ih se ne profilira, dijeljenje podataka sa znanstvenicima, istraživačima i – ako to kontekst nalaže – s vlastima, ali i suradnju u kriznim situacijama. Tu je i transparentnost digitalnog oglašavanja usmjerena na korisnike, transparentnost sustava preporuka, zabrana oglašavanja koje cilja djecu i posebne korisnike, posebne obveze za digitalna tržišta, mehanizme podnošenja tužbi i pravnu zaštitu te izvansudsko rješavanje sporova. A obvezuju se poštovati i europski Kodeks dobre prakse u suzbijanju dezinformacija.

Europska komisija već je pokrenula postupak utemeljen na Aktu o digitalnim uslugama kojim želi utvrditi je li TikTok prekršio pravila prilikom pokretanja nove aplikacije TikTok Lite u Francuskoj i Španjolskoj. Ima li kakvih službenih očitovanja po ovom pitanju?

Ova verzija aplikacije usmjerena je na punoljetne korisnike te uključuje program zadataka i nagrada koji korisnicima nudi prikupljanje bodova dok obavljaju određene zadatke na TikToku, poput gledanja videa, pozivanja prijatelja da se pridruže aplikaciji, praćenja kreatora sadržaja, ‘lajkanja’ i dijeljenja sadržaja i slično. No Komisija je zabrinuta zbog ovog programa jer je pokrenut bez prethodne pažljive procjene rizika, posebno onih povezanih s učinkom ovisnosti o platformama. Ovo je posebno zabrinjavajuće za djecu jer postoji sumnja na TikToku da nema učinkovitih mehanizama za provjeru dobi. Nedostatak učinkovitih mehanizama za provjeru dobi i potencijalno ovisnički dizajn platformi već su pod istragom u prvom službenom postupku protiv TikToka koji je pokrenut u veljači 2024. Kroz prvu istragu Komisija također nastoji procijeniti je li TikTok prekršio Akt u područjima povezanim sa zaštitom maloljetnika, transparentnošću oglašavanja i pristupom podataka za znanstvenike i istraživače.

Spomenute patforme ili tražilice koje mjesečno imaju više od 45 milijuna korisnika u EU-u tj. vrlo velike internetske platforme (VLOP) ili vrlo velike internetske tražilice (VLOSE) morat će ažurirati brojke najmanje svakih šest mjeseci. Zašto se uvela ova obveza i koje su još obveze ovih velikih platformi?

S obzirom na njihovu sveobuhvatnost i količinu redovnih korisnika, Komisija je identificirala da iz korištenja ovih platformi i tražilica mogu proizaći rizici poput ilegalnih sadržaja koji dalje mogu imati negativan utjecaj na osnovna ljudska prava, javnu sigurnost i dobrobit stanovništva. Od platformi se zato zahtijeva da identificiraju, analiziraju i procijene rizike, s posebnim naglaskom na nezakonit sadržaj, negativne učinke na temeljna prava poput slobode izražavanja, slobode medija i zaštite od diskriminacije, na javnu sigurnost i izborne procese, zaštitu maloljetnika i, primjerice, rodno uvjetovano nasilje.

Osim redovnog ažuriranja brojki, ove platforme i tražilice moraju uspostaviti kontaktnu točku za nacionalne vlasti i korisnike, prijavljivati kaznena djela, uvjete i odredbe prilagoditi korisnicima, biti transparentne u pogledu oglašavanja, sustava preporuka te kod moderiranja sadržaja. To znači da će morati raditi na izbjegavanju rizika, dijeljenju podataka s Komisijom i državnim vlastima radi praćenja usklađenosti s Aktom, imati javno dostupnu bazu podataka o oglašavanju, dozvoliti odobrenim istražiteljima pristup podacima te se najmanje jednom godišnje podvrgnuti neovisnoj reviziji, ali i donositi mjere koje im preporuči Komisija.

I upotreba umjetne inteligencije je regulirana i to Aktom o umjetnoj inteligenciji, prvim sveobuhvatnim pravnim okvirom za umjetnu inteligenciju u svijetu. Možete li ukratko reći zašto je bilo važno donijeti ga?

Važnost ovog Akta proizlazi iz činjenice da je on usmjeren na čovjeka kod kreiranja i plasiranja na tržište umjetne inteligencije jer štiti ljudska prava i prava potrošača u EU-u. Njime se značajno uklanjaju i umanjuju rizici i definiraju zahtjevi za sustave umjetne inteligencije, a želimo uliti povjerenje u umjetnu inteligenciju ocjenjivanjem sukladnosti sustava prije njihovog stavljanja na europsko tržište. Akt o umjetnoj inteligenciji finalno je usvojen u svibnju ove godine, a najvećim će dijelom stupiti na snagu kroz dvije godine. Već u roku od šest mjeseci, dakle do kraja 2024., na snagu pak stupaju zabrane: na europskom tržištu zabranjuju se svi sustavi umjetne inteligencije koji se smatraju jasnom prijetnjom sigurnosti, egzistenciji i ljudskim pravima, od društvenog bodovanja od strane vlada do, recimo, igračaka koje potiču opasno ponašanje.

Važno je pritom istaknuti da ograničenja ne postoje kod inovacija, odnosno dok se neki AI sustav još ne stavlja na tržište, a Komisija potiče države članice na kreiranje tzv. regulatornih pješčanika, da bi europske tvrtke koje razvijaju AI dobile siguran prostor za inovacije i testiranja. 

Ovaj Akt prvi je sveobuhvatni zakon na svijetu koji se bavi reguliranjem rizika što ih umjetna inteligencija predstavlja za ljude i sigurnost, i kategorizira stupnjeve rizika od korištenja nekog sustava umjetne inteligencije. Europska je ambicija da on postane vodilja i drugim dijelovima svijeta kod antropocentričnog reguliranja umjetne inteligencije.

U veljači 2024. u okviru Komisije osnovan je i Europski ured za umjetnu inteligenciju. Koje će, osim osiguravanja provedbe akta, biti zadaće ovog ureda? Hoće li postojati hrvatski ured umjetne inteligencije i koliko će ljudi zapošljavati?

Europski ured za umjetnu inteligenciju bit će središte stručnog znanja o umjetnoj inteligenciji u Europskoj uniji. To znači da će Ured imati ključnu ulogu u provedbi Akta o umjetnoj inteligenciji, baveći se razvojem alata, metodologija i referentnih vrijednosti za evaluaciju modela umjetne inteligencije i klasifikaciju rizika, doprinošenjem dosljednoj primjeni Akta u svim državama članicama, izradom kodeksa prakse s detaljnim pravilima u suradnji sa znanstvenom zajednicom i stručnjacima, istraživanjem kršenja pravila i zahtijevanjem pružatelja usluga za poduzimanjem korektivnih mjera te pripremom smjernica i ostalih akata za potporu učinkovitoj provedbi, što uključuje i praćenje usklađenosti s provedbom. Ured će se nalaziti u Bruxellesu te će zapošljavati 140 stručnjaka na području tehnologije, prava, ekonomije i administracije. Formiranje posebnih ureda za AI u državama članicama ne spadaju u njihove formalne obveze s obzirom na odredbe Akta o umjetnoj inteligenciji.

Sadržaj omogućilo Predstavništvo Europske komisije u Hrvatskoj