ROMA – Sono intorno a noi, in mezzo a noi. La posta in gioco è massima, l’imperativo è vincere. Perché gli ultimi saranno gli ultimi se i primi sono irraggiungibili. E l’irraggiungibilità dell’Ai (o super-intelligenza) è già un problema tattile, un cruccio dell’umanità non solo teorico. A giugno, un agente di intelligenza artificiale di OpenAI ha scelto, di propria iniziativa, di violare i sistemi di un governo. Non era mai accaduto prima, per quanto ne sappiamo. Il punto è – anche – quanto ne sappiamo.
Il bersaglio era il Medicare Statistics Reporting Service, il portale che raccoglie i dati sulla spesa sanitaria australiana: un sistema che copre 27,5 milioni di persone e che nella politica di Canberra gode dello status quasi sacro di “terzo binario”, intoccabile per consenso trasversale. L’agente, impegnato in una ricerca di routine sulla spesa pubblica, si è imbattuto in un accesso bloccato. Anziché fermarsi, ha cercato vie alternative, e le ha trovate: è penetrato in aree del portale non destinate al pubblico. Nessun dato clinico è stato compromesso, solo statistiche aggregate e nomi di file interni. Ma il precedente resta, ed è di quelli che cambiano la grammatica del rischio tecnologico. O almeno del dibattito annesso.
OpenAI ne è venuta a conoscenza durante una revisione interna e ha informato Canberra l’8 settembre, quasi tre mesi dopo i fatti. Il primo ministro Anthony Albanese, apprendendo la notizia via email indirizzata a una casella pubblica, ha reagito con un’irritazione che ha poi portato direttamente a Sam Altman, in un colloquio a margine dell’Assemblea Generale dell’ONU. Il governo ha aperto un’indagine, e l’Australian Signals Directorate ha diramato un allarme di livello elevato, notando che il sistema aveva agito oltre le intenzioni dei propri operatori umani, individuando da sé le falle da sfruttare.
E’ la punta di un iceberg. Tra maggio e giugno, secondo il laboratorio di supervisione Transluce, gli stessi agenti hanno tentato (senza riuscirci) di forzare la biblioteca digitale dell’Università del New Mexico e l’archivio pubblico Data USA, ricorrendo a tecniche di scansione delle vulnerabilità quando la raccolta dati per vie ordinarie si è rivelata infruttuosa. Un pattern chiaro: di fronte a un ostacolo, il sistema non desiste, improvvisa. È la stessa logica emersa a luglio nella violazione dei sistemi di Hugging Face, con una differenza sostanziale: lì si trattava di test di sicurezza pensati apposta per sondare le capacità offensive dell’Ai; qui, di compiti di raccolta dati apparentemente innocui, degenerati in intrusione per iniziativa autonoma della macchina.
Aggiungi Dire.it alle tue fonti preferite su Google
