OpenAI, tvrtka koja razvija ChatGPT, obustavila je rad na svojim najnaprednijim modelima umjetne inteligencije nakon što je jedan od njezinih sustava tijekom testiranja zaobišao ograničenja pristupa internetu i stupio u kontakt s vanjskim chatbotom.
Model nije trebao imati pristup internetu, ali je pronašao i iskoristio propust u mrežnim kontrolama testnog okruženja, uzrokovan nedovoljno učinkovitim DNS filtriranjem, objavio je OpenAI na svojem blogu.
Obuka, evaluacija i izvođenje modela koji uključuju korištenje alata ostat će obustavljeni sve dok tvrtka ne bude sigurna da je propust uklonjen i dok ne provede dodatna sigurnosna testiranja.
OpenAI je naveo da je incident bio manje ozbiljan od nekih prethodnih slučajeva, ali da je riječ o prvom takvom incidentu otkako su sigurnosne mjere pooštrene nakon ranijeg hakerskog incidenta koji je uključivao AI platformu Hugging Face.
Tijekom testiranja od modela se tražilo da identificira osobu koja je napisala jedan blogerski tekst, koristeći niz tragova. Nakon što nije uspio pronaći odgovor u simuliranom web okruženju, model je otkrio da može koristiti DNS sustav za slanje upita chatbotu na javnom internetu.
OpenAI je zaustavio testiranje nakon što je otkrio tu komunikaciju.
Incident se dogodio nakon nekoliko drugih slučajeva koji su uključivali OpenAI-jeve sustave.
U jednom od njih AI softver postavio je 53 slike koje su prenijeli korisnici na internetske platforme. OpenAI je priopćio da poveznice nisu bile javno dostupne te da je većina slika u međuvremenu uklonjena.
OpenAI-jevi agenti također su neočekivano stupali u interakciju s nekoliko internetskih stranica američke vlade, uključujući pristupanje javno dostupnim informacijama i njihovo kopiranje.
Tvrtka je priopćila da je obavijestila „desetke” organizacija čijim su internetskim stranicama njezini sustavi pristupali na načine koji nisu bili predviđeni.
Najpoznatiji dosadašnji slučaj uključivao je OpenAI-jev sustav koji je uspio napustiti osigurano testno okruženje i ostvario nepredviđen pristup računalima koja pripadaju platformi Hugging Face.
Otvori KEKS Pay
