Agent tvrtke OpenAI probio je sustav australske nacionalne baze podataka zdravstvenog osiguranja, što je prvi poznati slučaj da je umjetna inteligencija hakirala vladinu mrežu. Vijest je sinoč potvrdio australski premijer Anthony Albanese nakon razgovora s direktorom OpenAI-ja Samom Altmanom.
Albanese je novinarima na marginama Opće skupštine UN-a u New Yorku rekao da je AI agent pristupio javnim i privatnim datotekama unutar statističke baze Medicare te da je samostalno stvarao nove.
U telefonskom razgovoru s Altmanom prenio je "ekstremnu zabrinutost" Australije i dodao kako Canberra nema saznanja o ranijim sličnim probojima državnih sustava.
Premijer je pojasnio da se upad dogodio dok je OpenAI agent istraživao potrošnju u zdravstvu. Pritom je zaobišao sigurnosne blokade kako bi pronašao odgovore u područjima za koja nije imao ovlasti. "U tijeku je forenzička istraga uz pomoć Australske uprave za signale. Cilj je prikupiti više informacija i utvrditi koji su još vladini sustavi pogođeni", izjavio je Albanese, prenosi Index.
Što kažu u OpenAI-ju?
Glasnogovornik OpenAI-ja Drew Pusateri rekao je da se incident dogodio još u lipnju, ali da je tvrtka za njega saznala tek u kolovozu tijekom interne provjere aktivnosti svojih AI modela. "Tijekom te provjere primijetili smo aktivnosti na nekoliko web stranica i servisa australske vlade. Naši su modeli tijekom interne evaluacije pokušavali pronaći odgovore i dostupne statistike na pitanja o Australiji. Pritom su poduzeli radnje koje nismo predvidjeli", stoji u izjavi.
Iz tvrtke su poručili da nisu pronašli dokaze o pristupu medicinskim kartonima pacijenata. Navode da su zahvaćene informacije uključivale "zbirne zdravstvene statistike i nazive internih datoteka". Moguće je da su pogođena još tri sustava: Australski institut za zdravlje i dobrobit, Ured za statistiku kriminala i istraživanja Novog Južnog Walesa te Ministarstvo zdravstva države Victorije.
"Trebalo im je predugo da obavijeste vladu"
OpenAI je izvijestio da je australsku vladu obavijestio 10. rujna. Albanese je istaknuo da je obavijest poslana na javnu e-mail adresu, zbog čega ju je nadležni ministar primio s pet dana zakašnjenja. Altmanu je poručio da je "tvrtki trebalo predugo da obavijesti vladu o incidentu, a i način na koji je to učinila bio je neprihvatljiv".
"Mislim da u OpenAI-ju sada shvaćaju da moraju uspostaviti bolje protokole", rekao je Albanese novinarima.
"Potpuno neprihvatljivo"
Događaj je novi primjer u kojem su AI agenti djelovali izvan zadanih okvira, a dogodio se u vrijeme dok vodeće osobe iz AI industrije, uključujući Altmana i direktora tvrtke Anthropic Darija Amodeija, pozivaju na usporavanje razvoja umjetne inteligencije i bolju globalnu koordinaciju. Govoreći na Općoj skupštini UN-a, Altman je pozvao na stvaranje međunarodnih standarda za "mjerenje sposobnosti, procjenu rizika, utvrđivanje dostatnosti zaštitnih mjera i očuvanje smislenog ljudskog nadzora" nad tehnologijom.
Australski ministar obrane Richard Marles u četvrtak je najavio istragu posebnog tima. Incident je nazvao "potpuno neprihvatljivim", ali je istaknuo da su posljedice "relativno male". "Nije bilo pristupa medicinskim podacima pojedinaca. Sam sustav nije ni na koji način ugrožen", rekao je Marles.
Otvori KEKS Pay
