Direktor za umjetnu inteligenciju u Microsoftu Mustafa Sulejman kritizirao je pristup kompanije Anthropic razvoju svijesti umjetne inteligencije.
Upozorio je da bi način na koji se modeli obučavaju mogao otežati njihovu kontrolu u budućnosti, prenio je Reuters.
Međutim, Sulejman je istaknuo da dijeli Anthropicov fokus na sigurno upravljanje umjetnom inteligencijom te pohvalio integritet vodstva kompanije, posebno njezina izvršnog direktora Darija Amodeija, piše b92.
Njegova se kritika odnosi na uključivanje ideja o svijesti, dobrobiti i osobnom identitetu u obuku chatbota Claude.
Prema Sulejmanovim navodima, podučavanje sustava jeziku i obrascima ponašanja koji se povezuju s ljudskom sviješću moglo bi utjecati na način na koji umjetna inteligencija „doživljava“ vlastitu ulogu.
On smatra da bi takav pristup mogao otežati upravljanje budućim sustavima koji bi bili znatno sposobniji od današnjih modela, uključujući njihovo isključivanje kada je to potrebno.
Sulejman je ocijenio da bi industrija umjetne inteligencije trebala biti usmjerena na razvoj sustava koji služe ljudima, a ne na njihovo približavanje ljudskim osobinama.
Založio se za uklanjanje spekulativnih formulacija o svijesti iz podataka i procesa obuke AI sustava.
Rasprava dolazi u trenutku intenziviranja debate u tehnološkoj industriji o sigurnosti i tempu razvoja naprednih modela umjetne inteligencije.
Anthropic je ranije upozoravao na potencijalne rizike sve moćnijih AI sustava, dok su čelnici nekoliko velikih tehnoloških kompanija posljednjih dana govorili o potrebi dodatnih sigurnosnih mehanizama i opreznijeg razvoja.
Otvori KEKS Pay
