Deseci zemalja širom svijeta, od SAD-a do Indije, održat će ili su već održale izbore 2024. godine. Iako se ovo može činiti kao značajna godina za demokraciju, ovi se izbori održavaju u kontekstu globalne ekonomske nestabilnosti, geopolitičkih promjena i intenziviranja klimatskih promjena, što dovodi do raširene neizvjesnosti.

Temelj sve te neizvjesnosti je brza pojava moćnih novih tehnologija, od kojih neke već preoblikuju tržišta i kalibriraju globalnu dinamiku moći. Iako imaju potencijal za rješavanje globalnih problema, mogle bi poremetiti gospodarstva, ugroziti građanske slobode i ugroziti demokratsko upravljanje. Kao što je Thierry Breton, povjerenik Europske unije za unutarnje tržište, primijetio: “Ušli smo u globalnu utrku u kojoj je ovladavanje tehnologijama ključno” za snalaženje u “novom geopolitičkom poretku”.

Disruptivne tehnologije nisu nova pojava. Ono što izdvaja današnje tehnologije u nastajanju je to što su došle do točke u kojoj se čak i njihovi tvorci bore da ih razumiju.

Neizmjerna moć

Razmotrite, primjerice, generativnu umjetnu inteligenciju. Precizne mehanizme kojima veliki jezični modeli poput Googleovog Geminija (ranije poznatog kao Bard) i OpenAI-jevog ChatGPT-a generiraju odgovore na korisničke upite još uvijek ne možemo u potpunosti shvatiti, to ne mogu čak ni njihovi programeri. Ono što znamo je da umjetna inteligencija i druge tehnologije koje brzo napreduju, poput kvantnog računalstva, biotehnologije, neurotehnologije i tehnologije za klimatsku intervenciju, iz dana u dan postaju sve snažnije i utjecajnije. Unatoč skandalima i političkom i regulatornom zazoru u posljednjih nekoliko godina, velike tehnološke tvrtke i dalje su među najvećim svjetskim tvrtkama i nastavljaju oblikovati naše živote na bezbroj načina, kako god bilo.

Štoviše, u posljednjih 20 godina nekolicina tehnoloških divova mnogo je uložila u razvoj i akvizicije, gomilajući bogatstvo i talente koji ih osnažuju da zauzmu nova tržišta prije nego što se pojave potencijalni konkurenti. Takva koncentracija inovacijske snage omogućuje nekolicini igrača da zadrži svoju dominaciju na tržištu – i da donosi odluke o tome kako se njihove tehnologije razvijaju i rabe širom svijeta. Regulatori su se trudili uvesti mjere socijalne zaštite za sve snažnije, složenije tehnologije, a jaz u javno-privatnom znanju raste.

Primjerice, osim razvoja cjepiva i sustava ranog otkrivanja za praćenje širenja virusa, bioinženjeri razvijaju nove alate za inženjering stanica, organizama i ekosustava, što dovodi do novih lijekova, usjeva i materijala. Neuralink radi na ispitivanjima s implantatima čipova u tijelima osoba s invaliditetom i na poboljšanju brzine kojom ljudi komuniciraju sa sustavima izravnom interakcijom mozga i računala. U međuvremenu, kvantni inženjeri razvijaju superračunala koja bi potencijalno mogla razbiti postojeće sustave šifriranja ključne za kibernetičku sigurnost i privatnost. Tu su i klimatski tehnolozi koji su sve otvoreniji prema radikalnim opcijama za suzbijanje globalnog zatopljenja, unatoč nedostatku istraživanja u stvarnom svijetu o nuspojavama globalnih intervencija poput upravljanja sunčevim zračenjem.

Iako ti događaji obećavaju, njihova nepromišljena primjena mogla bi dovesti do nepovratne štete. Destabilizirajući učinak nereguliranih društvenih mreža na političke sustave u posljednjem desetljeću pravi je primjer toga. Isto tako, bez odgovarajućih zaštitnih mjera, biotehnološki proboji koje danas pozdravljamo mogli bi sutra pokrenuti nove pandemije, bilo od slučajnog curenja iz laboratorija ili namjerne uporabe poput oružja.

Bez obzira na to je li netko uzbuđen mogućnostima tehnoloških inovacija ili zabrinut zbog potencijalnih rizika, jedinstvene karakteristike, korporativna moć i globalni opseg tih tehnologija iziskuju ograničenja i nadzor. Neizmjerna moć i globalni doseg tih poduzeća, zajedno s potencijalom za zlouporabu i neželjene posljedice, naglašavaju važnost osiguravanja odgovorne uporabe tih moćnih sustava i na načine koji koriste društvu.

Ovdje se vlade suočavaju s naizgled nemogućim zadatkom: moraju nadzirati sustave koje njihovi tvorci ne razumiju u potpunosti, a istovremeno pokušavaju predvidjeti buduća otkrića. Kako bi se snašli u ovoj dilemi, donositelji politika moraju produbiti svoje razumijevanje funkcioniranja tih tehnologija, kao i međusobnu interakciju među njima.

Informacije, ne lobisti

U tu svrhu, regulatori moraju imati pristup neovisnim informacijama. Kako kapital, podaci i znanje postaju sve koncentriraniji u rukama nekolicine korporacija, ključno je osigurati da donositelji odluka mogu pristupiti stručnom znanju usmjerenom na politiku koje im omogućuje razvoj politika temeljenim na činjenicama koje služe javnom interesu. Demokratskim čelnicima potrebna je stručnost usmjerena na politiku o tehnologiji u nastajanju, a ne tumačenja lobista.

Nakon što je u posljednjih nekoliko godina donio niz važnih zakona kao što je Zakon o umjetnoj inteligenciji, EU je jedinstveno pozicioniran za upravljanje tehnologijama u nastajanju na temelju čvrste vladavine prava, a ne u službi korporativne dobiti. Ali najprije, donositelji europskih politika moraju ići ukorak s najnovijim tehnološkim napretkom. Vrijeme je da donositelji odluka u EU-u preduhitre ostale. Moraju se educirati o tome što se točno događa na najvišoj razini razvoja. Čekati da se na tržište uvedu nove tehnologije znači predugo čekati.

Vlade moraju učiti iz prošlih izazova i aktivno usmjeravati tehnološke inovacije, dajući prednost demokratskim načelima i pozitivnom društvenom utjecaju na dobit industrije. Budući da je globalni poredak pod sve većim pritiskom, politički čelnici moraju gledati dalje od glasačkih kutija i usredotočiti se na ublažavanje dugoročnih rizika koje predstavljaju tehnologije u nastajanju.

O autorima:

Marietje Schaake – bivša zastupnica u Europskom parlamentu, direktorica je međunarodne politike u Centru za kibernetičku politiku Sveučilišta Stanford i voditeljica prakse za upravljanje tehnologijom u nastajanju u Međunarodnom centru za buduće generacije

Steven Schuurman – suosnivač i bivši izvršni direktor tvrtke Elastic, suosnivač je Međunarodnog centra za buduće generacije