Sam Altman, čelnik OpenAI-ja, smatra da javnost treba vjerovati njegovoj i sličnim tvrtkama da će odgovorno razvijati umjetnu inteligenciju, unatoč rastućoj zabrinutosti oko povezanih rizika.
"Svijet nam treba vjerovati da ćemo učiniti pravu stvar jer je to ispravno i jer osjećamo težinu ove odgovornosti", izjavio je Altman jučer na konferenciji u San Franciscu. Istovremeno je priznao da su strahovi ljudi opravdani jer se mogućnosti AI alata razvijaju iznimno brzo. "Više nam ne treba toliko mašte kao prije da zamislimo kako bi stvari mogle poći po zlu. Mislim da svijet s pravom strahuje od toga", rekao je Altman, piše BBC.
Reakcije nakon upozorenja o rizicima
Altman je govorio na godišnjoj konferenciji tvrtke Salesforce, što je bio njegov prvi javni nastup nakon što je prošli tjedan veliku pozornost privukla objava istraživača koji je napustio AI tvrtku Anthropic. Istraživač je ustvrdio da bi umjetna inteligencija, ako se ne bude nadzirala, mogla uništiti čovječanstvo do kraja desetljeća.
Nekoliko drugih direktora i stručnjaka iz područja umjetne inteligencije složilo se s tom procjenom, ali nisu pojasnili na čemu temelje takav zaključak niti kako bi se točno takav scenarij mogao odviti. Reakcije na te tvrdnje posljednjih su dana pojačale nadzor nad razvojem AI-ja.
Izvršni direktor Anthropica, Dario Amodei, zbog toga je pozvao na usporavanje razvoja i zatražio od vlada da reguliraju industriju. Njegovu su objavu podržali Altman, suosnivač Googleovog DeepMinda Demis Hassabis te Elon Musk. Međutim, do utorka su mnogi lideri u sektoru počeli zagovarati samoregulaciju umjesto državne intervencije, prenosi Index.hr.
Argumenti za samoregulaciju
Altman je izjavio kako vjeruje da su AI tvrtke sposobne same sebe regulirati. "Uspjet ćemo u tome. Potpuno sam uvjeren u sposobnost naše tvrtke i cijele industrije da ovo izvedemo sigurno", rekao je. Dodao je kako je siguran da će "usklađenost i sigurnost uvijek biti ispred samih mogućnosti sustava", a ako to ne budu mogli osigurati, "usporit će ili potpuno stati".
Nakon Altmanovih izjava, čelnik Mete Mark Zuckerberg na platformi X napisao je da svaki AI laboratorij ima i mogućnost i motivaciju za samostalne korake prema stvaranju sigurnih alata. "Svaki laboratorij koji se ne fokusira na usklađenost sustava s ljudskim vrijednostima će zaostati", napisao je Zuckerberg.
"Laboratoriji snose veliku odgovornost ako njihovi modeli uzrokuju štetu, pa imaju snažan poticaj da to spriječe." Jensen Huang, čelnik Nvidije, na istoj je konferenciji rekao da bi AI tvrtke same trebale odlučivati o puštanju novih tehnologija. "Ne trebaju nam novi zakoni ni regulacije", poručio je Huang i dodao da izbor između brzine inovacija i sigurnosti ne smije biti lažna dilema. Nvidia je trenutno najvrjednija tvrtka na svijetu, a profit joj je snažno porastao zbog velike potražnje za njezinim čipovima za umjetnu inteligenciju.
Skepticizam i pozivi na oprez
Neki sudionici u industriji tvrde da su strahovi od umjetne inteligencije pretjerani i da služe samo za medijsku promociju sektora. Ipak, ideja da se direktorima AI tvrtki prepusti potpuna samoregulacija nekima zvuči kao loš pristup. Jack Clark, direktor i suosnivač Anthropica, rekao je u ponedjeljak za BBC da je ostavljanje AI industrije bez regulacije "kockanje s golemim rizicima".
Patrick Hillman, operativni direktor tvrtke Logical Intelligence, primijetio je u utorak koliko malo povjerenja javnost ima u tehnološke tvrtke. "Jedina institucija kojoj Amerikanci danas možda vjeruju manje nego Washingtonu je Silicijska dolina. Radio sam i živio u oba okruženja i uvjeravam vas da su oba zaslužila taj skepticizam", rekao je Hillman. "Ako vjerujete da je ono što gradite opasno, pokažite nam čega ste se spremni odreći", dodao je.
Pokušaji dogovora unutar sektora
Čelnici OpenAI-ja i Anthropica potvrdili su da su nedavno počeli raditi na sporazumu o sigurnosti na razini cijele industrije. Amodei je na konferenciji kratko izjavio da Anthropic sada vodi "dijalog s ostatkom industrije" o obvezivanju na bolje sigurnosne standarde. Rekao je i da jedno od najvećih iznenađenja nije bio sam napredak tehnologije, već njezin širi utjecaj.
"Nismo bili svjesni da će to dovesti do tako brzog rasta tvrtki i da će one tako brzo postati ključne za mnoge stvari", kazao je Amodei. Chris Lehane iz OpenAI-ja prošlog je tjedna izjavio da tvrtka surađuje s drugim laboratorijima, uključujući Anthropic i Google DeepMind, na "unaprjeđenju standarda za naprednu umjetnu inteligenciju". Cilj je, kako je rekao, izgraditi dobrovoljni okvir, s potporom vlade ili bez nje. "Ulozi su preveliki da bismo dopustili da savršenstvo postane neprijatelj dobroga", napisao je Lehane.
Otvori KEKS Pay
