Ova godina bi se mogla pokazati jednom od najkritičnijih u tehnološkoj povijesti. Umjetna inteligencija više nije obećanje niti nejasna prijetnja budućnosti, ona je već tu, preoblikuje ekonomije, mijenja ravnotežu moći, utiče na izbore i postavlja pitanja o granicama ljudske odgovornosti.
Vlade, regulatori, tehnološki divovi i vodeći istraživači sukobljavaju se oko arhitekture regulacije: koja pravila postaviti, na koga će se odnositi, tko će biti zaštićen i tko će imati moć da poremeti ili certificira snažan model umjetne inteligencije.
Europa napreduje sa Zakonom o umjetnoj inteligenciji, Sjedinjene Države pokušavaju izgraditi fleksibilniji, inovacijama vođen model, dok Kina nastoji kombinirati tehnološko vodstvo sa strogom državnom kontrolom. U međuvremenu, naučnici poput Geoffreyja Hintona, Yoshue Bengija, Stuarta Russella i Timnit Gebru oglašavaju uzbunu.
Europska unija je prva regija u svijetu koja je odlučila da umjetnoj inteligenciji treba sveobuhvatan institucionalni okvir. Zakon o umjetnoj inteligenciji pokušava uvesti jedinstvenu kategorizaciju rizika: neprihvatljiv, visok, ograničen i nizak rizik.
Logika je jasna: zaštititi građane, temeljna prava i izbjeći zloupotrebe u ključnim područjima kao što su zdravstvo, pravosuđe, obrazovanje i javna uprava. Ali detalji su problematični. U središtu evropske zabrinutosti je ideja da se umjetna inteligencija ne može prepustiti potpunoj tržišnoj slobodi, već mora djelovati u sigurnom okruženju.
Međutim, mnoge tehnološke kompanije tvrde da prevelika regulacija guši inovacije i ograničava napredak. Evropa pokušava postati regulatorni model za cijeli svijet, ali suočava se s ogromnim problemom: nema vlastite tehnološke gigante koji bi mogli provesti njezinu strategiju u velikim razmjerima.
Tehnološke kompanije strahuju da će regulacija usporiti inovacije, dok su mala i srednja preduzeća zabrinuta zbog troškova usklađivanja. S druge strane, organizacije za tehnološka prava tvrde da zakon nije dovoljno strog za najmoćnije sisteme, tzv. granične modele.
Sjedinjene Američke Države: Regulacija na mala vrata
SAD nemaju jedinstven zakon, već koriste:
- izvršne uredbe,
- smjernice za savezne agencije,
- zakonodavne inicijative na nivou država
- i kontrolu izvoza naprednih čipova.
Washington usvaja načelo: ne gušiti inovacije. Američki model tako želi dati kompanijama prostor za rast, ali istovremeno administracija pokušava ograničiti širenje strateških tehnologija prema Kini kontrolom izvoza.
Američki predsjednik Donald Trump razmatra i pritisak na savezne države kako bi spriječio državnu regulaciju umjetne inteligencije.
Kina: Kontrola, brzina i strateška superiornost
Kina je usvojila neke od najstrožih, ali i najbržih propisa na svijetu. Od 2022. ima:
- propise o algoritmima,
- pravila za deepfake sadržaje,
- sofisticiran sistem državnog licenciranja.
Filozofija se temelji na državnom nadzoru: umjetna inteligencija je strateška infrastruktura i mora biti usklađena s interesima države.
Kineski pristup omogućava brzo usvajanje tehnologije u ogromnim razmjerima, ali je kritiziran zbog nedostatka transparentnosti, izostanka nezavisne kontrole i ograničavanja slobode korištenja.
Šta kažu vodeći naučnici?
Yoshua Bengio, jedan od „kumova“ umjetne inteligencije, najglasnije se zalaže za regulaciju graničnih modela, ogromnih sistema s nepredvidivim mogućnostima.
Predlaže:
- neovisno testiranje sigurnosti
- obaveznu transparentnost podataka o obuci
- međunarodnu koordinaciju sličnu onoj za nuklearnu energiju
Geoffrey Hinton koji je napustio Google kako bi mogao slobodnije govoriti, tvrdi da veliki modeli razvijaju nepredvidivo ponašanje.
Zalaže se za:
- međunarodnu saradnju,
- ograničavanje autonomije sistema,
- postepeni prelazak na sigurnije arhitekture.
Stuart Russell: Izgradili smo sisteme koje ne znamo kontrolirati
Russell smatra da je osnovna greška u dizajnu to što se sistemi prave tako da maksimiziraju unaprijed zadani cilj.
Predlaže novu arhitekturu: AI sisteme koji su nesigurni u svoje ciljeve, jer ih tada ljudi mogu ispravljati.
Timnit Gebru naglašava da rasprava o AI ne može biti samo tehnička, nego mora uključivati pitanja:
- pravednosti,
- pristranosti,
- diskriminacije
- i društvenih nejednakosti.
Discussion about this post