Skupina sadašnjih i bivših zaposlenika u najjačim svjetskim tvrtkama za umjetnu inteligenciju objavila je otvoreno pismo u kojem upozorava na nedostatak sigurnosnog nadzora unutar industrije i poziva na veću zaštitu zviždača.

Pismo, koje poziva na “pravo na upozorenje o umjetnoj inteligenciji”, jedna je od najjavnijih izjava o opasnostima AI-a koju su uputili zaposleni stručnjaci unutar općenito tajnovite industrije, piše The Guardian. Jedanaest sadašnjih i bivših zaposlenika OpenAI-ja potpisalo je pismo, zajedno s dva sadašnja ili bivša zaposlenika Google DeepMinda, od kojih je jedan prethodno radio u Anthropicu.

Dugogodišnja zabrinutost
“Tvrtke koje se bave umjetnom inteligencijom posjeduju značajne informacije koje nisu javne ni transparentne o mogućnostima i ograničenjima svojih sustava, primjerenosti njihovih zaštitnih mjera i razinama rizika od različitih vrsta štete”, navodi se u pismu.

“Usto, trenutačno imaju samo slabe obveze dijeljenja nekih od tih informacija s vladama, a nikakve s civilnim društvom. Mislimo da se na sve njih ne možemo osloniti da će to dobrovoljno učiniti”, stoji u pismu. OpenAI je branio svoju praksu te kazao da ima načine kao što je ‘tipline’ za prijavu problema u tvrtki te da nije lansirao nove tehnologije dok nisu postojale odgovarajuće zaštite.

“Ponosni smo na naše iskustvo u pružanju najsposobnijih i najsigurnijih AI sustava i vjerujemo u naš znanstveni pristup rješavanju rizika. Slažemo se da je rigorozna rasprava ključna s obzirom na važnost ove tehnologije”, priopćili su iz OpenAI-ja, prenosi The Guardian.

Zabrinutost zbog potencijalnih šteta od umjetne inteligencije postoji već desetljećima, ali je procvat AI-ja posljednjih godina pojačao te strahove i ostavio regulatore da se muče kako bi uhvatili korak s tehnološkim napretkom. Dok AI tvrtke javno izražavaju svoju predanost sigurnom razvoju tehnologije, istraživači i zaposlenici upozoravaju na nedostatak nadzora.

Pismo sadašnjih i bivših zaposlenika AI kompanija, o kojem je prvi izvijestio New York Times, poziva na povećanu zaštitu zaposlenih u naprednim AI tvrtkama koji odluče izraziti zabrinutost u vezi sigurnosti.

Traži se obvezivanje na načela oko transparentnosti i odgovornosti, uključujući odredbu da tvrtke neće prisiljavati zaposlenike da potpišu bilo kakve sporazume koji zabranjuju objavljivanje problema povezanih s rizikom AI te traže uspostavu mehanizama kako bi zaposleni mogli anonimno dijeliti zabrinutost s članovima uprava.

(Ne)kultura sigurnosti
“Sve dok nema učinkovitog državnog nadzora nad tim korporacijama, sadašnji i bivši zaposlenici među rijetkima su koji ih mogu smatrati odgovornima pred javnošću”, navodi se u pismu. “Ipak, opsežni ugovori o povjerljivosti sprečavaju nas da izrazimo svoju zabrinutost osim samim tvrtkama koje možda ne rješavaju te probleme”.

Kompanije poput OpenAI -ja imale su agresivne taktike kako bi spriječile zaposlenike da slobodno govore o svom radu. Vox je prošli tjedan izvijestio da je OpenAI natjerao zaposlenike koji napuste tvrtku da potpišu izuzetno restriktivne dokumente o neotkrivanju podataka pod prijetnjom da izgube sav svoj dionički kapital. Glavni izvršni direktor OpenAI-ja Sam Altman ispričao se nakon te objave rekavši da će promijeniti procedure.

Pismo je osvanulo nakon što su dvojica stručnjaka OpenAI-ja, suosnivač Ilya Sutskever i ključni istraživač sigurnosti Jan Leike, prošli mjesec dali otkaz. Leike je tvrdio da je OpenAI napustio kulturu sigurnosti. U otvorenom pismu u utorak se ponavljaju neke od Leikeovih izjava, poput tvrdnje da tvrtke ne pokazuju nikakvu obvezu transparentnosti u svom poslovanju.