Dionice tvrtki povezanih s razvojem umjetne inteligencije (AI) pale su u ponedjeljak nakon što je izvršni direktor Anthropica Dario Amodei pozvao na usporavanje razvoja naprednih AI sustava, dočim su njegovu inicijativu podržali čelnici OpenAI-ja i SpaceX-a, Sam Altman te Elon Musk.

Apeli s vrha AI industrije odmah su izazvali zabrinutost među ulagačima, koji strahuju da bi sporiji tempo razvoja naprednih AI sustava mogao narušiti očekivanja koja su posljednjih godina snažno podigla vrijednosti kompanija iz tog sektora. Istodobno, američki predsjednik Donald Trump upozorava da bi svako kočenje razvoja umjetne inteligencije moglo ugroziti prednost SAD-a nad Kinom u ključnoj tehnološkoj utrci.

Amodeijev prijedlog

Rasprava o sigurnosti AI-ja dodatno se zaoštrila nakon upozorenja istraživača da bi ubrzani razvoj modela mogao stvoriti rizike koje industrija neće moći dovoljno brzo kontrolirati. To je potaknulo rasprodaju dionica duž cijelog lanca vrijednosti umjetne inteligencije, od proizvođača čipova do podatkovnih centara, piše CNBC. U Aziji su južnokorejski tehnološki divovi SK Hynix i Samsung Electronics zaključili trgovanje s padom većim od šest, odnosno četiri posto, dok su dionice japanskog SoftBanka, jednog od najvećih ulagača u OpenAI, pale za deset posto.

Negativan trend proširio se i na europska tržišta. Dionice ASML-a, proizvođača opreme za proizvodnju čipova, pale su više od četiri posto, Nokije, finskog proizvođača telekomunikacijske opreme, oko pet posto, a Infineon Technologiesa, proizvođača poluvodiča, više od šest posto. Niže su bile i dionice kompanija povezanih s podatkovnim centrima, među kojima su Siemens Energy i Schneider Electric. Na američkom tržištu u predtrgovanju su pale dionice proizvođača memorijskih čipova Micron Technologyja, za oko pet posto, dok je Intel oslabio gotovo šest, a Nvidia više od dva posto. Blagi pad zabilježili su i Microsoft, Amazon i Alphabet.

Izvršni direktor OpenAI-ja Sam Altman u ponedjeljak je podržao uvođenje saveznog okvira za sigurnost najnaprednijih AI sustava, s jasnim pravilima za upravljanje rizicima. “Podržavamo savezni okvir koji bi postavio jedinstvene sigurnosne zahtjeve za najnaprednije AI modele”, napisao je Altman na platformi X.

Upozorio je na dva moguća scenarija u kojima bi razvoj AI-ja mogao poći po zlu. Prvi se odnosi na gubitak kontrole nad razvojem umjetne inteligencije, a drugi na opasnost da prevelika moć te vrste bude koncentrirana u rukama jedne osobe ili kompanije.

Altmanova objava uslijedila je nakon eseja koji je Amodei u subotu objavio na svom službenom webu. Izvršni direktor Anthropica u eseju je pozvao AI kompanije na oprezniji tempo razvoja najnaprednijih modela. “Moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela”, napisao je Amodei, upozorivši da umjetna inteligencija posljednjih mjeseci napreduje iznimno brzo. “Ako se taj razvoj ne bude nadzirao, mogao bi nadmašiti našu sposobnost razumijevanja i kontrole tih sustava”, naveo je.

PUNA STIPENDIJA

Kako privući kupce, postaviti cijenu i razviti posao? 32 poduzetnika to mogu naučiti besplatno

Najuspješnije trgovačko društvo

KTC je dobitnik Zlatne kune u kategoriji najuspješnijih velikih tvrtki Koprivničko-križevačke županije

Predložio je nekoliko mjera za sigurniji razvoj AI-ja: da kompanije koje razvijaju najnaprednije modele vanjskim evaluatorima omoguće “pristup kakav imaju zaposlenici”, što je, prema njegovim riječima, Anthropic već počeo provoditi; uvođenje zajedničkih sigurnosnih standarda među vodećim AI kompanijama te jaču globalnu koordinaciju u upravljanju rizicima daljnjeg razvoja tehnologije.

Amodei pritom nije pozvao na zaustavljanje razvoja, nego na oprezniji napredak bez “žrtvovanja komercijalne prednosti ili američkog vodstva u području AI-ja”. Njegov je esej izazvao rijedak konsenzus među čelnicima konkurentskih kompanija.

Nastavak napretka

Altman je rekao da se slaže s Amodeijem kako AI kompanije trebaju “uskladiti tempo razvoja s mogućnostima nadzora”. Dodao je da će isto učiniti i OpenAI. Podršku Amodeijevu prijedlogu dao je i Musk, koji je na platformi X kratko poručio: “Dario je u pravu.”

Altman je pritom pojasnio da usporavanje razvoja ne znači njegovo zaustavljanje. “Kada govorimo o ‘usporavanju’, ne mislimo na ‘zaustavljanje’. Napredak je bio brz i tako će se nastaviti”, napisao je, dodajući da su sigurnosne procjene i nadzor nužni.

Zabrinutost zbog mogućih rizika razvoja AI-ja dodatno je pojačao i odlazak Jacoba Coxona iz Anthropica, stručnjaka za rizike i sigurnost umjetne inteligencije koji je ranije radio i u OpenAI-ju, a koji smatra da se obje kompanije “kockaju s našim životima”. Njegov kolega iz Anthropica Evan Hubinger procijenio je pak da postoji više od deset posto šanse da bi AI u idućem desetljeću mogao dovesti do izumiranja čovječanstva.

Zoe Gillespie iz investicijske tvrtke RBC Brewin Dolphin upozorila je za CNBC da bi usporavanje razvoja umjetne inteligencije moglo pritisnuti vrijednosti tehnoloških kompanija. “Rast tržišta dionica u velikoj se mjeri temeljio na očekivanjima povezanima s AI-jem i povećanju produktivnosti pa bi usporavanje tog trenda moglo utjecati na buduće prinose dionica”, rekla je.

Ben Barringer iz Quilter Cheviota smatra da će se razvoj AI modela nastaviti unatoč mogućem usporavanju. “Iako bi se treniranje i uvođenje modela moglo usporiti, kapaciteti za njihovo korištenje i dalje su ograničeni, a potražnja znatno premašuje ponudu”, poručio je.

Kina se usprotivila pozivima na usporavanje razvoja umjetne inteligencije. Glasnogovornik kineskog Ministarstva vanjskih poslova Guo Jiakun upozorio je da bi širenje narativa o prijetnjama i poticanje sukoba mogli otežati međunarodnu suradnju u upravljanju umjetnom inteligencijom.

Kineski ministar državne sigurnosti Chen Yixin istodobno je pozvao na jačanje sustava za upravljanje sigurnosnim rizicima povezanima s AI-jem, upozorivši na njezin sve veći utjecaj na nacionalnu sigurnost i globalno tehnološko natjecanje.