Svijet ne može upravljati umjetnom inteligencijom

Razvoj umjetne inteligencije nadmašuje razumijevanje što ga pruža znanost i opseg mjera svjetskih vlada, što znači da nema jamaca protiv nanošenja katastrofalne štete tom tehnologijom, upozorio je u srijedu neovisni panel Ujedinjenih naroda, piše Hina.

Preliminarno izvješće neovisnog međunarodnog znanstvenog panela UN-a o umjetnoj inteligenciji navodi da se donositelji politika suočavaju s rastućim problemom: potrebni su im čvrsti dokazi kako bi učinkovitije regulirali umjetnu inteligenciju, no dokazi koje steknu ne uglavnom ne prate iznimno brzu evoluciju te tehnologije.

Varljivo ponašanje

''Sposobnosti umjetne inteligencije nadmašuju i znanstveno razumijevanje i sposobnost vlada da se prilagode'', rekao je Yoshua Bengio, supredsjedatelj panela koji se sastoji od 40 stručnjaka iz različitih regija svijeta.

''Dok rastu dokazi o varljivom ponašanju umjetne inteligencije, znanost trenutačno ne može jamčiti da umjetna inteligencija, kako joj se sposobnosti budu i dalje povećavale, neće uzrokovati katastrofalnu štetu, ni kao takva, ni zbog zlonamjernih korisnika'', govori.

Opisano kao prva globalna neovisna procjena rizika i prilika umjetne inteligencije (AI), cilj je izvješća pružiti ažurirane znanstvene procjene kako bi pomoglo u donošenju odluka dok se vlade suočavaju s tim brzo razvijajućim sustavima.

U bliskoj budućnosti očekuje se pomak prema agentskim sustavima umjetne inteligencije sposobnim za obavljanje zadataka iz stvarnog svijeta. Agenti umjetne inteligencije sami bi percipirali svoje virtualno okruženje i ulazili u interakciju s njime. No moguće je da će takav razvoj biti ograničen nedostatkom energije i podataka dostatno visoke kvalitete.

Zaključivanje na razini stručnjaka

Predviđa se da će se umjetna inteligencija koja se sama usavršava dublje ugraditi u gospodarstvo i konvergirati s tehnologijama poput kvantnog računarstva i biotehnologije.

Umjetna inteligencija već pokazuje zaključivanje na razini stručnjaka u matematici i znanosti te ubrzava razvoj lijekova i cjepiva, a složenost njezinih zadataka udvostručuje se svakih četiri do sedam mjeseci, što potencijalno omogućuje sustavima da dovrše posao za koji su ljudima potrebni dani ili tjedni, navodi se u izvješću.

Iako bi to moglo donijeti značajne ekonomske koristi, ostaje nejasno hoće li se povećanje produktivnosti korištenjem umjetne inteligencije pretvoriti u širi rast ili utjecati na radna mjesta. Panel je također istaknuo niz sigurnosnih problema, poput rizika od gubitka kontrole nad sustavima AI-a budući da postaju sve autonomniji i skloniji stvaranju obmana.

Nedostatak kapaciteta

AI se već koristi za generiranje dezinformacija i drugog štetnog sadržaja te bi se mogao iskoristiti za prijevare, kibernetičke napade i biološke prijetnje.

Upravljanje sustavima i dalje je fragmentirano, a mnogim zemljama nedostaje kapaciteta za procjenu ili oblikovanje naprednih sustava AI-a, što ih ostavlja ovisnima o tehnologijama AI-a koje ne mogu u potpunosti razumjeti ili kontrolirati. Postojeći sigurnosni alati često ovise o ograničenim podacima testiranja koje otkrivaju tvrtke, navodi se u izvješću.

Glavni tajnik UN-a António Guterres pozvao je vlade da brzo djeluju.

''Svijet ne može upravljati onim što ne razumije'', rekao je Guterres u izjavi. ''Potencijal je velik, ali rizici su stvarni, a cijena čekanja raste'', dodao je.