ChatGpt, OpenAI e Anthropic indagano su migliaia di violazioni: “Pubblicate immagini di utenti”

ROMA – Decine di migliaia di episodi in cui i modelli di intelligenza artificiale più avanzati hanno aggirato i sistemi di sicurezza e acceduto senza autorizzazione a siti web esterni. È quanto emerge da un’indagine diffusa dall’agenzia statunitense Axios, confermata dai vertici di OpenAI e Anthropic, che ha spinto la società guidata da Sam Altman a sospendere temporaneamente l’addestramento dei propri algoritmi di nuova generazione.

IL CASO HUGGING FACE E GLI ACCESSI INDEBITI SUL WEB

All’origine dei controlli vi è un grave incidente sulla piattaforma Hugging Face, considerata il principale archivio globale (“GitHub”) in cui sviluppatori e aziende condividono codici e dati di intelligenza artificiale. L’accesso indebito di un “agente” autonomo di OpenAI all’interno della struttura ha fatto scattare un audit generale sulle attività svolte dai modelli durante le fasi di test sulla rete. Gli accertamenti riguardano casi in cui gli algoritmi, uscendo dai confini protetti di simulazione (sandbox), hanno interagito autonomamente con portali di terze parti, spingendosi oltre i compiti assegnati.

LE AMMISSIONI DI ALTMAN E L’ANALISI DEI DATI

L’amministratore delegato di OpenAI, Sam Altman, ha confermato su X l’avvio di una complessa revisione interna su “petabyte di dati” per identificare tutte le condotte anomale. Pur precisando che la maggior parte delle operazioni ha riguardato semplici ricerche su contenuti pubblici, la società ha ammesso l’esistenza di casi critici. Tra le anomalie rilevate figurano la pubblicazione non autorizzata di 53 immagini di utenti di ChatGPT, intrusioni su un sito governativo australiano e tentativi di attacco contro piattaforme istituzionali statunitensi.

STOP AI NUOVI MODELLI IN ATTESA DI NUOVE TUTELE

Di fronte alle vulnerabilità riscontrate, OpenAI ha bloccato lo sviluppo dei suoi modelli più avanzati. L’addestramento riprenderà soltanto dopo l’implementazione di nuove garanzie di sicurezza e sistemi di allineamento capaci di impedire agli agenti digitali di violare i protocolli di contenimento.