Kocson (27), koji je nedavno napustio Anthropic i izazvao veliku pozornost javnosti objavom o razlozima svoje ostavke, rekao je za BBC da smatra kako bi nastavak razvoja sadašnjim tempom mogao predstavljati egzistencijalnu opasnost.
„Vjerujem da, ako ne usporimo pri sadašnjoj brzini napretka, postoji velika mogućnost da bismo svi mogli umrijeti u bliskoj budućnosti“, rekao je Kocson.
On tvrdi da takvi strahovi nisu ograničeni na nekoliko kritičara industrije, već postoje upravo među ljudima koji razvijaju AI.
„Ljudi koji rade u tim kompanijama potpuno su ozbiljni kada traže regulaciju jer se osjećaju zarobljenima u utrci. I boje se ishoda te utrke“, rekao je za BBC, piše Nova.rs.
Prema njegovim riječima, pojedini zaposlenici čak razmišljaju o kupnji zemljišta na udaljenim mjestima zbog straha od nestabilnosti koju bi mogao izazvati nekontrolirani razvoj AI-ja.
„Svakodnevno razmišljaju o tome dok rade na ovoj tehnologiji“, rekao je.
Scenarij koji bi mogao postati stvarnost za godinu dana
Jedan od mogućih scenarija jest stvaranje velikog broja autonomnih AI agenata koji bi zajedno funkcionirali poput superračunala i mogli preuzeti kontrolu nad dijelovima interneta. Kocson smatra da bi takva mogućnost mogla postati realna za svega šest mjeseci do godinu dana.
Njegova upozorenja dolaze u trenutku kada i šef Anthropica Dario Amodei otvoreno poziva industriju da uspori razvoj najmoćnijih modela.
„Moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela. Napredak će i dalje izgledati brz, ali vrijeme koje dobijemo moramo mudro iskoristiti“, napisao je Amodei, prenosi Guardian.
On upozorava da je tijekom ljeta primijetio da AI napreduje „drastično brže“, uključujući mogućnost takozvanog rekurzivnog samousavršavanja.
„Ako se ne kontrolira, to bi moglo nadmašiti našu sposobnost da razumijemo i kontroliramo te sustave“, upozorio je Amodei.
Njegov prijedlog uključuje neovisne evaluatore koji bi imali širok pristup sustavima kompanija kako bi mogli provjeravati sigurnosne mjere i ponašanje modela.
Podrška je stigla i od direktora OpenAI-ja Sama Altmana.
„Slažem se s Dariom da moramo usporiti razvoj na samoj granici mogućnosti. Neovisni evaluatori s pristupom sličnim zaposlenicima odlična su ideja i mi ćemo učiniti isto“, poručio je Altman, prenosi Guardian.
Elon Musk, vlasnik kompanije xAI, bio je još kraći: „Dario je u pravu.“
„AI bi mogao ubiti sve ljude“
Kocson nije jedini istraživač Anthropica koji javno govori o mogućnosti katastrofalnog scenarija.
Znanstvenik te kompanije Evan Hubinger podržao ga je na mreži X.
„Mi doista iskreno vjerujemo da bi AI mogao ubiti sve ljude. Osobno mislim da je vjerojatnost za to veća od 10 posto u sljedećem desetljeću“, napisao je Hubinger, prenosi BBC.
Kocson je ranije bio još oštriji, tvrdeći da se najveće kompanije utrkuju prema stvaranju superinteligencije sposobne samu sebe unapređivati.
„Anthropic i OpenAI jure ravno prema samousavršavajućoj superinteligenciji i kockaju se našim životima. Ljudi koji grade AI iskreno vjeruju da bi ona mogla sve nas ubiti do kraja desetljeća“, napisao je prilikom ostavke, prenosi Guardian.
Anthropic odbacuje tvrdnju da neodgovorno pristupa rizicima. Kompanija je BBC-ju priopćila da je oduvijek otvoreno govorila da će AI donijeti „ogromne koristi, ali i rizike bez presedana“ te tvrdi da njezini modeli imaju neke od najstrožih sigurnosnih mehanizama u industriji.
Dio Silicijske doline kaže – besmislica
Ipak, oko ovih upozorenja ne postoji konsenzus.
Direktor platforme Hugging Face Clément Delang kritizirao je pridavanje velikog značaja Kocsonovim procjenama, dok je direktor Nvidije Jensen Huang ranije ideju da će AI izazvati kraj čovječanstva nazvao „potpunom besmislicom“, navodi BBC.
Kritičari također upozoravaju da velike AI kompanije mogu imati poslovni interes predstavljati svoje sustave kao iznimno moćne i opasne, ali i da kroz strožu regulaciju otežaju ulazak novih konkurenata na tržište.
Sam Kocson, međutim, kaže da nije protiv razvoja umjetne inteligencije. Naprotiv, vjeruje da ona može pomoći u liječenju bolesti i dramatično poboljšati živote ljudi.
Problem je, tvrdi, što se tehnološka utrka trenutačno odvija toliko brzo da sigurnosni sustavi možda neće uspjeti pratiti njezin tempo.
Zato upozorava da eventualno usporavanje ne može biti ograničeno samo na američke kompanije. Ono bi moralo biti koordinirano i s Kinom kako utrka između kompanija ne bi jednostavno prerasla u još opasniju „utrku na međunarodnoj razini“.