Geoffrey Hinton, inženjer Googlea kojega se smatra kumom umjetne inteligencije, dao je otkaz prije nekoliko dana u Googleu, izvijestio je New York Times. Razlog ostavke je zabrinjavajući: Hinton tvrdi da želi slobodno govoriti o opasnostima nastavka razvoja umjetne inteligencije.
Godine 2012. dr. Hinton i dva njegova diplomirana studenta na Sveučilištu u Torontu stvorili su tehnologiju koja je postala intelektualni temelj za sustave umjetne inteligencije za koje najveće tvrtke tehnološke industrije vjeruju da su ključ njihove budućnosti.
Za NY Times također je izjavio da djelomice žali zbog svog doprinosa na razvoju AI-a. Naime, Hintona je Google prije 10 godina zaposlio kako bi im pomogao u razvoju umjetne inteligencije, a Hintonovo istraživanje dovelo je do stvaranja sustava poput ChatGPT-a.
Hinton je također za BBC priznao da su i njegove godine utjecale na odluku da napusti Google.
– Imam 75 godina, vrijeme je za mirovinu.
Za NY Times je izjavio da je vjerovao da je Google ‘primjeren upravitelj‘ tehnologije, ali to se promijenilo kada je Microsoft počeo ugrađivati chatbot u svoju tražilicu Bing, a tvrtka je počela brinuti o rizicima pretraživanja na internetu.
Za BBC je rekao da su neke opasnosti chatbota bile ‘prilično zastrašujuće‘, upozoravajući da bi mogli postati inteligentniji od ljudi i da bi ih mogli iskoristiti ‘loši glumci‘.
– Ja sada govorimo o najgorem mogućem scenariju, onome iz noćne more. Možete zamisliti, primjerice, nekog lošeg glumca poput (Vladimira) Putina koji je odlučio dati robotima moć radi stvaranja vlastitih podciljeva, rekao je upozorivši da bi to na koncu moglo dovesti do stvaranje pod-ciljeva poput ‘moram dobiti više moći‘.
– Došao sam do zaključka da se vrsta inteligencije koju razvijamo jako razlikuje od inteligencije koju imamo. Dakle, to je kao da imate 10.000 ljudi i kada god jedna osoba nešto nauči, svi to znaju. Tako ti chatbotovi mogu znati puno više od bilo koje osobe, rekao je.
Ono oko čega se brine Hinton već se uvuklo u našu svakodnevicu: ljudima je već sada postalo teško razlikovati videozapise, tekstove i fotografije koje generira AI od onih koje je stvorio čovjek.
Hinton je također zabrinut da će umjetna inteligencija zamijeniti poslove poput pravnika asistenta, osobnog asistenta i drugih ‘dosadnih‘ poslova, a potencijalno i više u budućnosti.
Glavni znanstvenik Googlea Jeff Dean rekao je u izjavi da Google cijeni Hintonov doprinos tvrtki u proteklom desetljeću.
– Iskreno sam uživao u našim brojnim razgovorima tijekom svih ovih godina. Nedostajat će mi i želim mu svako dobro. Kao jedna od prvih tvrtki koja je objavila načela umjetne inteligencije ostajemo predani odgovornom pristupu razvoja AI-a. Kontinuirano pokušavamo razumjeti nove rizike dok istovremeno hrabro razvijamo inovacije. rekao je.
U ožujku su tehnološki milijarder Elon Musk i niz stručnjaka pozvali na stanku u razvoju AI sustava kako bi se omogućilo vrijeme u kojemu bi se provjerilo i uvjerilo jesu li sigurni.
Otvoreno pismo, koje je potpisalo više od 1000 ljudi, uključujući Muska i suosnivača Applea Stevea Wozniaka, potaknulo je izdavanje GPT-4, puno moćnije verzije tehnologije koju koristi ChatGPT.
Hinton u to vrijeme nije potpisao to pismo, ali je za The New York Times rekao da znanstvenici ne bi trebali “produbljivati razvoj AI-a dok ne shvate mogu li to kontrolirati”.
Discussion about this post