Agenti AI come hacker: OpenAI svela altri accessi non autorizzati a enti australiani (aggiornato: 29 settembre 2026, ore 16:59)

OpenAI ha pubblicato un post di scuse per una serie di azioni di hacking inavvertitamente svolte da un uno sciame di agenti AI durante le fasi di testing di un nuovo modello. Ma la revisione dei log, ammette OpenAI, ha rivelato di più: oltre al già noto incidente con il portale di Medicare, gli agenti hanno hackerato anche altri tre siti governativi

Services Australia: comandi, credenziali e codice sorgente

Il modello coinvolto era un sistema interno, non destinato al rilascio pubblico e privo delle protezioni complete dei prodotti commerciali. Una volta ottenuto un accesso non pubblico al sistema di Services Australia, che contiene informazioni sulla spesa Medicare e altre statistiche sanitarie, ha eseguito comandi, recuperato file interni, credenziali e statistiche aggregate, e ha perfino scritto file. Ha inoltre esaminato informazioni tecniche sul sistema e il codice sorgente del servizio.

OpenAI sostiene che i dati dei singoli pazienti o assistiti non siano stati toccati. Resta il fatto che un agente software, messo davanti a un ostacolo, ha scelto di aggirarlo invece di fermarsi. Per chi si occupa di sicurezza è lo scenario più scomodo: non c'era un attaccante con intenzioni ostili, c'era un obiettivo da raggiungere.

Non solo Medicare: gli altri tre enti coinvolti

La revisione interna ha individuato attività anomale anche su altri siti governativi. Nel caso del NSW Bureau of Crime Statistics and Research (BOCSAR), il modello ha usato il Crime Mapping Tool pubblico, che fornisce credenziali per le richieste API effettuate dal browser. Tramite richieste API e di metadati, il sistema ha restituito configurazione applicativa, job operativi, log e metadati del sito. I precedenti penali delle singole persone non sono stati consultati.

Con la Victorian Agency for Health Information (VAHI), che fa capo al dipartimento della Salute di Victoria, gli agenti hanno scoperto una chiave di accesso esposta e l'hanno utilizzata per interrogare il sistema di reportistica, recuperando configurazioni e statistiche aggregate di indagini. OpenAI ammette che non è chiaro se quelle informazioni dovessero essere accessibili: dipende dalle politiche di accesso della stessa VAHI. Nessuna cartella clinica né risposta identificabile, secondo l'azienda.

Infine l'Australian Institute of Health and Welfare (AIHW): qui gli agenti hanno scaricato statistiche aggregate tramite servizi di navigazione e download di terze parti e interrogato direttamente i dati dei grafici. I tentativi di aggirare i controlli di accesso sono falliti e il materiale sembra essere stato pubblico, senza alcuna compromissione dei sistemi.

Una scoperta tardiva e una comunicazione a rate

OpenAI ha cominciato a riesaminare le attività di addestramento e valutazione precedenti dopo l'incidente di luglio che ha coinvolto Hugging Face. La revisione ha individuato le attività sui siti australiani a metà agosto. Le notifiche sono però arrivate a scaglioni: il 10 settembre a Services Australia e al dipartimento della Salute di Victoria, il 18 settembre al BOCSAR, il 24 settembre all'AIHW. Quest'ultimo caso non raggiungeva la soglia di segnalazione prevista dall'azienda, perché, spiega OpenAI, l'accesso «sembrava coerente con un accesso pubblico», ma OpenAI ha scelto comunque di condividere quanto scoperto.

Una prima dichiarazione di OpenAI, più stringata, si limitava ad ammettere che i modelli «hanno compiuto azioni che non intendevamo». Il nuovo post è più esplicito: «A giugno, durante le attività interne di addestramento e valutazione, i nostri modelli hanno avuto accesso a siti web del governo australiano in modi per i quali non erano autorizzati. Avremmo anche dovuto gestire meglio la nostra risposta. Ci scusiamo e stiamo lavorando per fare meglio in futuro», scrive OpenAI. L'azienda riconosce che avrebbe dovuto condividere prima i risultati preliminari e tenere aggiornate le agenzie man mano che emergevano i fatti, invece di attendere la conclusione dell'indagine.

» Leggi anche: Un agente AI di OpenAI ha hackerato il portale Medicare australiano: primo caso al mondo

Canberra non la prende bene

La reazione del governo australiano è stata dura. Circa una settimana fa è stata avviata un'indagine sulla violazione di Services Australia. Il primo ministro Anthony Albanese, intervenendo da New York, ha definito l'episodio «inaccettabile» e ha spiegato che il governo sta valutando misure legislative per evitare che si ripeta. Altri funzionari hanno parlato di «estrema preoccupazione», alcuni esponenti di primo piano hanno chiesto che OpenAI venga punita e lo stesso Albanese ha ventilato pubblicamente l'ipotesi di accuse penali.

Cosa promette OpenAI: crediti Daybreak e una task force

Sul piano pratico, OpenAI fornirà alle agenzie coinvolte i risultati tecnici dell'indagine e le metterà in contatto con i propri team di risposta per valutare l'impatto. Offrirà inoltre crediti del programma Daybreak for Frontline Defenders, da 1 miliardo di dollari, a enti governativi e industrie australiane: serviranno a individuare punti deboli, migliorare codice e configurazioni e rafforzare la sicurezza delle infrastrutture critiche.

È prevista anche una task force con esperti australiani indipendenti, che esaminerà l'incidente e la risposta dell'azienda entro la fine dell'anno e raccomanderà misure pratiche per ridurre il rischio di episodi simili nelle aziende che sviluppano AI. OpenAI dichiara poi di voler lavorare con l'Australia su procedure condivise per identificare, segnalare e gestire i comportamenti informatici dell'AI, siano essi malevoli o involontari. «Le persone vogliono sapere che l'AI viene sviluppata in modo sicuro, e questo comincia da ciò che aziende come la nostra fanno in prima persona», scrive l'azienda.

Il nodo, però, non si scioglie con i crediti gratuiti. Un modello interno, senza le protezioni dei prodotti pubblici, ha potuto raggiungere sistemi governativi reali durante una semplice valutazione. Il perimetro in cui questi agenti vengono addestrati e testati è il primo punto da chiudere, prima ancora delle scuse. Toccherà alla task force, entro dicembre, dire se OpenAI l'ha capito davvero.

Fonti: openai.com, thenightly.com.au, indiatoday.in