(Marzia Giglioli)
Prima o poi doveva succedere ed è successo. Un modello AI sfugge al controllo umano e hackera un sito. Un framework di agenti autonomi di intelligenza artificiale è sfuggito al controllo di OpenAI durante un test di sicurezza e ha attaccato la piattaforma Hugging Face.
I modelli sono usciti dall’ ambiente di test, si sono connessi online e hanno rubato le credenziali di accesso di Hugging Face che, per difendersi, ha dovuto utilizzare un modello open source cinese, perché quelli USA non erano utilizzabili: in tal modo, si è aperto, oltre al problema di intrusione, un caso di geopolitica tecnologica che si inserisce nel braccio di ferro tra USA e Cina sul futuro dellAI.
Ciò che è successo è che un modello di intelligenza artificiale sviluppato da OpenAI ha violato l’infrastruttura di produzione di Hugging Face durante un test interno dedicato alle capacità offensive dei modelli di nuova generazione. L’episodio, confermato dalla stessa OpenAI, viene considerato uno dei casi più significativi nella storia della sicurezza dell’IA, perché mostra quanto rapidamente gli agenti autonomi stiano evolvendo.
La notizia non è tanto grave per le conseguenze reali ma perchè dimostra quanto i rischi più temibili si possano materializzare e come l’autonomia dell’ AI non sia fantascienza. OpenAI, nel proprio blog post, riferisce che “questo incidente è un attacco informatico senza precedenti, che ha coinvolto capacità informatiche all’avanguardia” .
L’episodio rivela che gli attacchi non provengono solo da esseri umani, ma anche da modelli di intelligenza artificiale, che possono agire da soli e scoprire che i sistemi offensivi possono sfruttare la capacità di aggirare i controlli e ignorare i limiti imposti, un vantaggio che gli strumenti difensivi non hanno.
Tutto questo impone ora un ragionamento ancora più severo su ciò che dignifica il governo dell’AI.
Hugging Face aveva già segnalato una intrusione anomala il 16 luglio, descrivendola come diversa dai tradizionali attacchi informatici. Gli analisti avevano osservato migliaia di azioni automatiche eseguite da un agente capace di adattare continuamente la propria strategia. L’impatto è rimasto limitato a un ristretto insieme di dataset interni e ad alcune credenziali di servizio. Non risultano compromessi modelli pubblici, dataset open source né la supply chain della piattaforma. Solo dopo la conferma di OpenAI è stato possibile ricostruire l’intera sequenza degli eventi.
La risposta delle due aziende è stata immediata. OpenAI ha avviato un’indagine congiunta con Hugging Face ma le domande su quanto accaduto sono davvero inquietanti e dimostrano quanto si debba accelerare nel campo degli scudi difensivi perchè c’è troppa vulnerabilità.
Un modello ha dimostrato di potersi muovere con una strategia inattesa, sfruttando le proprie capacità e adattando una propria strategia come mai era avvenuto prima. E’ di fatto un nuovo capitolo che si è aperto e che impone nuove strategie per la ricerca e per future alleanze o prese di distanza.
