Razvoj umjetne inteligencije otvara brojna pitanja, od toga kako je regulirati, kako zaštititi podatke, kako ljude ne učiniti suvišnima…, ali i kako je učiniti rodno ravnopravnom. Na ovaj posljednji problem upozorava UN Women, entitet Ujedinjenih naroda, koji iznosi više primjera ugrađenosti rodne pristranost u podatke umjetne inteligencije.

Ta pristranost rezultat je općenito rodne neravnopravnosti u svijetu, a ako se ne ispravi i ako se trendovi ne zaustave posljedično bi mogli imati još više nejednakosti kao i nižu kvalitetu usluga koja se pruža ženama u različitim područjima života, od zdravstvenih do financijskih.

Kako objašnjava članak objavljen na stranicama UN Women do rodne pristranosti dolazi zato što se umjetna inteligencija obučava na skupovima podataka koji se najčešće temelje na muškom spolu.

“Umjetna inteligencija odražava predrasude koje su prisutne u našem društvu i koje se očituju u podacima o obuci umjetne inteligencije”, kaže Beyza Doğuç, mlada glazbenica, spisateljica i AI stručnjakinja iz Turske, u nedavnom intervjuu za UN Women. Da je tome uistinu tako uvjerila se kada je s pomoću generativne umjetne inteligencije (GenAI) radila istraživanje za roman.

Doğuç je, naime, zatražila od GenAI-a da napiše priču o liječniku i medicinskoj sestri. Rezultat je bio taj da je doktor bio muškarac, a medicinska sestra žena. Kada mu je Doğuç krenula davati dodatne upute AI je, kaže, uvijek birao rodne stereotipne uloge za likove te je povezivao određene kvalitete i vještine s muškim ili ženskim likovima.

Kada ga je pitala zašto je rodno pristran AI je objasnio da je to zbog podataka na kojima je trenirao, a posebno zbog “ugrađivanja riječi”, odnosno načina na koji su određene riječi kodirane u strojnom učenju kako bi odražavale njihovo značenje i povezivanje s drugim riječima.

“Ako je umjetna inteligencija uvježbana na podacima koji povezuju žene i muškarce s različitim i specifičnim vještinama ili interesima, ona će generirati sadržaj koji odražava tu pristranost”, objašnjava se u članku objavljenom na stranicama UN Women.

Niža participacija na internetu

Iskustvo mlade umjetnice iz Turske potvrđuje i studija koju je napravio Centar za jednakost, rod i vodstvo američke poslovne škole Berkeley Haas, koja je dio Sveučilišta u Kaliforniji. Studija je analizirala 133 sustava umjetne inteligencije u različitim industrijama i otkrila da oko 44 posto njih pokazuje rodnu pristranost, a 25 posto i rodnu i rasnu pristranost.

Do nejednakosti u podacima na kojima se trenira umjetna inteligencija pak dolazi jer je participacija žena na internetu niža od participacije muškaraca, ali i činjenici da na razvoju umjetne inteligencije u mnogo većoj mjeri rade upravo muškarci.

Podaci Međunarodne telekomunikacijske unije (ITU), specijalizirane agencije UN-a, pokazuju da internet, na svjetskoj razini, koristi 65 posto žena te 70 posto muškaraca. No ove su razlike mnogo drastičnije u zemljama s niskim dohotkom, gdje internet koristi tek 20 posto žena u odnosu na 34 posto muškaraca. Također, Izvješće o globalnom rodnom jazu iz 2023., kaže da tek 30 posto žena trenutno radi u industriji umjetne inteligencije.

Da na razvoju umjetne inteligencije radi premalo žena upozorava i Sola Mahfouz, istraživačica kvantnog računalstva na Sveučilištu Tufts, istraživačkom sveučilištu iz SAD-a. Mahfouz je rođena u Afganistanu gdje je bila prisiljena napustiti školu kada su talibani došli na vlast. U konačnici je s obitelji pobjegla iz Afganistana i emigrirala u SAD-a, a danas radi na projektu razvoja platforme koja bi međusobno povezivala afganistanske žene. Platforma bi se temeljila na umjetnoj inteligenciji.

“Potrebno je više žena istraživačica na terenu. Jedinstvena životna iskustva žena mogu duboko oblikovati teorijske osnove tehnologije. Također, mogu stvoriti novu primjenu tehnologije”, kaže Mahfouz za UN Women dodajući da je “razvoj tehnologije iz samo jedne perspektive jednako kao da na svijet gledamo poluslijepo”.

Rodnoj pristranosti u razvoju umjetne inteligencije svjedočila je i Natacha Sangwa, studentica iz Ruande, koja je lani, u okviru inicijative “African Girls Can Code”, bila dio prvog kampa kodiranja.

“Primijetila sam da AI uglavnom razvijaju muškarci i obučavaju ga na skupovima podataka koji se prvenstveno temelje na muškarcima”, kaže Sangwa za UN Women te upozorava na posljedice takve situacije. “Kada žene koriste neke alate koje pokreće umjetna inteligencija za dijagnosticiranje bolesti često dobivaju netočne odgovore jer umjetna inteligencija nije svjesna razlike u simptomima između muškaraca i žena”, ističe.

Raznolikiji i uključiviji timovi

Iz UN-ovog entiteta za ravnopravnost spolova i osnaživanje žena upozoravaju da bi nastavak ovakvih trendova mogao uzrokovati nedostatak rodnih i rasnih perspektiva što bi u konačnici moglo rezultirati nižom kvalitetom usluga, pristranim odlukama o poslovima, kreditima, zdravstvenoj skrbi…

“Uklanjanje rodne pristranosti u umjetnoj inteligenciji počinje davanjem prioriteta rodnoj ravnopravnosti dok se sustavi umjetne inteligencije konceptualiziraju i izgrađuju. To uključuje procjenu lažnog predstavljanja podataka, pružanje podataka koji su reprezentativni za različita spolna i rasna iskustva i preoblikovanje timova koji razvijaju umjetnu inteligenciju kako bi bili raznolikiji i uključiviji”, navode iz UN Women.

Ističu i da pregovori o Globalnom digitalnom sporazumu (GDC) mogu biti jedinstvena prilika za postavljanje rodnih perspektiva digitalne tehnologije u središte novog digitalnog upravljanja. “Bez rodne perspektive u umjetnoj inteligenciji suočavamo se s rizikom da rodno utemeljena diskriminacija ostane nepromijenjena. Dapače, postoji rizik da je sustavi umjetne inteligencije osnaže”, upozoravaju iz UN Women.