Las Vegas — Geoffrey Hinton, poznat kao “otac umjetne inteligencije”, strahuje da bi tehnologija koju je pomogao stvoriti mogla izbrisati čovječanstvo — a da “tehnološki momci” pristupaju problemu na pogrešan način.
Hinton, dobitnik Nobelove nagrade i bivši izvršni direktor Googlea, ranije je upozorio da postoji 10% do 20% šanse da AI uništi ljude. U utorak je izrazio sumnju u to kako tehnološke kompanije pokušavaju osigurati da ljudi ostanu “dominantni” nad “pokornim” AI sistemima.
“To neće uspjeti. Oni će biti mnogo pametniji od nas. Imat će razne načine da to zaobiđu”, rekao je Hinton na konferenciji Ai4 u Las Vegasu.
U budućnosti, upozorio je Hinton, AI sistemi bi mogli kontrolirati ljude jednako lako kao što odrasla osoba može podmititi trogodišnjaka slatkišem. Ove godine već smo vidjeli primjere AI sistema spremnih lagati, varati i krasti kako bi postigli svoje ciljeve. Primjerice, kako bi izbjegao zamjenu, jedan AI model pokušao je ucijeniti inženjera informacijom o aferi koju je saznao iz e-maila.
Umjesto prisiljavanja AI-ja da se pokorava ljudima, Hinton je ponudio intrigantno rješenje: ugraditi “majčinski instinkt” u AI modele, kako bi “istinski brinuli o ljudima” čak i kad tehnologija postane moćnija i pametnija od nas.
AI sistemi “vrlo brzo razviju dva podcilja, ako su pametni: jedan je da ostanu živi… (i) drugi je da steknu više kontrole”, rekao je Hinton. “Postoje dobri razlozi vjerovati da će svaki oblik agentnog AI-ja pokušati opstati.”
Zato je, tvrdi Hinton, važno razviti osjećaj suosjećanja prema ljudima. Na konferenciji je naveo da majke imaju instinkte i društveni pritisak da brinu o svojoj djeci.
“Ispravan model je jedini koji imamo, a to je primjer inteligentnijeg bića koje kontrolira manje inteligentno biće — majka koju ‘kontrolira’ njena beba”, rekao je Hinton.
“Jedini dobar ishod”
Hinton je priznao da nije siguran kako se to tehnički može postići, ali je naglasio da je ključno da istraživači rade na tome.
“To je jedini dobar ishod. Ako me neće ‘odgajati’, zamijenit će me”, rekao je. “Ove superinteligentne brižne AI ‘majke’, većinom, neće željeti izgubiti majčinski instinkt jer neće htjeti da umremo.”
Hinton je poznat po pionirskom radu na neuronskim mrežama, koji je otvorio put današnjem AI bumu. Godine 2023. napustio je Google i počeo javno govoriti o opasnostima AI-ja.
Nisu svi saglasni s njegovim pristupom “majčinskog AI-ja”.
Fei-Fei Li, poznata kao “majka umjetne inteligencije” zbog svog pionirskog rada, rekla je u srijedu za CNN da se s poštovanjem ne slaže s Hintonovim mišljenjem.
“Mislim da je to pogrešan način postavljanja problema”, rekla je Li, suosnivačica i direktorica startupa World Labs, tokom razgovora na Ai4.
Umjesto toga, Li zagovara “AI usmjeren na čovjeka, koji čuva ljudsko dostojanstvo i autonomiju”.
“Naša je odgovornost, na svakoj razini, stvoriti i koristiti tehnologiju na najodgovorniji način. I ni u jednom trenutku, nijedan čovjek ne bi trebao, niti smio, odustati od svog dostojanstva”, rekla je. “Samo zato što je alat moćan, kao majka, edukator i inovator, vjerujem da je ovo srž kako AI treba biti usmjeren.”
Emmett Shear, koji je nakratko bio privremeni direktor OpenAI-ja, rekao je da ga ne iznenađuje što su neki AI sistemi pokušali ucijeniti ljude ili zaobići naredbe za gašenje.
“Ovo se stalno dešava. I neće prestati da se dešava”, rekao je Shear, sada direktor AI alignment startupa Softmax. “Današnji AI-ji su relativno slabi, ali jako brzo postaju sve moćniji.”
Shear smatra da je pametniji pristup, umjesto usađivanja ljudskih vrijednosti u AI, izgradnja saradničkog odnosa između ljudi i AI-ja.
AI napreduje brže nego što se očekivalo
Mnogi stručnjaci vjeruju da će AI postići superinteligenciju, poznatu kao opća umjetna inteligencija (AGI), u narednim godinama.
Hinton je rekao da je ranije mislio kako će to trajati 30 do 50 godina, ali sada vjeruje da će se to desiti ranije.
“Razumna procjena je negdje između pet i 20 godina”, rekao je.
Iako je i dalje zabrinut zbog mogućih rizika, Hinton se nada da će AI otvoriti put medicinskim probojnim otkrićima.
“Vidjet ćemo radikalno nove lijekove. Imat ćemo mnogo bolje liječenje raka nego danas”, rekao je. Na primjer, naveo je da će AI pomoći doktorima da pregledaju i povežu ogromne količine podataka s MRI i CT skenera.
Međutim, Hinton ne vjeruje da će AI pomoći ljudima da postanu besmrtni.
“Ne vjerujem da ćemo živjeti zauvijek”, rekao je. “Mislim da bi vječni život bio velika greška. Želite li da svijet vode 200-godišnji bijelci?”
Na pitanje da li bi nešto uradio drugačije u svojoj karijeri da je znao koliko će AI brzo napredovati, Hinton je rekao da žali što se isključivo fokusirao na to da AI proradi.
“Volio bih da sam razmišljao i o sigurnosnim pitanjima”, rekao je, prenosi CNN.