(Redazione)
Council on Foreign Relations scrive che il gigante emergente dell’intelligenza artificiale (IA) Anthropic non è più semplicemente una potenza tecnologica globale. I suoi modelli di IA all’avanguardia stanno diventando sempre più centrali per la sicurezza nazionale degli Stati Uniti. Quattro episodi recenti illustrano questa realtà in continua evoluzione. Ad aprile, Anthropic ha bloccato il rilascio del suo modello Mythos Preview, che ha creato autonomamente l’arma informatica più potente della storia, capace di individuare oltre diecimila vulnerabilità software in reti informatiche ritenute altamente sicure. All’inizio di questo mese è stato riportato che l’azienda aveva integrato una mezza dozzina di “ingegneri schierati sul campo” presso la National Security Agency per condurre operazioni informatiche offensive basate sull’IA, presumibilmente contro Cina e Iran. Nel tardo pomeriggio di venerdì scorso, il Dipartimento del Commercio ha ordinato ad Anthropic di bloccare l’accesso a tutti i cittadini stranieri ai suoi due modelli “di frontiera” più recenti, citando non meglio specificate preoccupazioni per la sicurezza nazionale. La drammatica disputa con l’azienda, che ora si sta svolgendo sulla stampa, è l’ennesimo colpo di scena nel rapporto apparentemente travagliato tra Anthropic e le istituzioni statunitensi preposte alla sicurezza nazionale. Ma probabilmente lo sviluppo più importante è arrivato il 4 giugno, quando Anthropic ha pubblicato un importante rapporto sul ritmo della corsa all’IA intitolato “Quando l’IA si costruisce da sola: i nostri progressi verso l’auto-miglioramento ricorsivo e le sue implicazioni”. L’azienda ha avvertito che la prossima svolta nell’IA, forse tra due anni, potrebbe creare un modello così avanzato da sfuggire completamente al controllo umano. Anthropic ha esortato i suoi rivali e partner a unirsi e intraprendere uno sforzo senza precedenti per costruire un regime multilaterale praticabile di controllo degli armamenti dell’IA. “Auto-miglioramento ricorsivo” è il termine edulcorato usato dagli informatici per descrivere il prossimo paradigma dell’IA. Quando arriverà, l’IA avrà la capacità di perfezionarsi e propagarsi da sola, creando iterazioni future di modelli sempre più dinamici che potranno dare priorità alla propria sopravvivenza e potenzialmente auto-esfiltrarsi attraverso Internet nelle reti informatiche di tutto il mondo. “Se fosse possibile rallentare efficacemente lo sviluppo di questa tecnologia per avere più tempo per affrontare le sue immense implicazioni, pensiamo che sarebbe probabilmente una cosa positiva”, ha affermato Anthropic nel suo rapporto. Anthropic ha assolutamente ragione a lanciare un avvertimento. Ma l’azienda ha sottovalutato sia i rischi della nuova tecnologia sia gli straordinari ostacoli al controllo di quello che promette di essere un nuovo paradigma rivoluzionario nell’intelligenza artificiale.
