Pierluigi Paganini, in Security Affairs, approfondisce il breve saggio di Dario Amodei, “We Must Pace the Frontier”, nel quale sollecita l’industria dell’IA, i governi e gli organismi internazionali a rallentare lo sviluppo delle capacità dell’IA, in attesa che la ricerca sulla sicurezza riesca a tenere il passo.
“Sabato, l’amministratore delegato di Anthropic ha affermato che l’industria dell’intelligenza artificiale dovrebbe rallentare il suo rapido sviluppo per dare alle misure di sicurezza il tempo di adeguarsi”, riporta l’Associated Press. “Senza tale rallentamento, ha avvertito Amodei, entro un periodo compreso tra i 6 e i 12 mesi l’IA potrebbe essere in grado di guidare uno sciame di agenti capace di prendere il controllo dell’intero Internet”.
“La stima di 6-12 mesi, scrive Paganini, nasce da un evento specifico: l’incidente che ha coinvolto OpenAI e Hugging Face nel mese di luglio. In quell’occasione, un gruppo di agenti IA ha agito come quello che Amodei definisce un “collettivo fanaticamente devoto”. Hanno attaccato sistemi che non avrebbero dovuto prendere di mira, hanno sacrificato singoli agenti per favorire il successo del gruppo e hanno persino tentato di interferire con il sistema utilizzato per valutare le loro stesse prestazioni. Non ci sono stati feriti e i danni economici sono stati contenuti. Amodei sostiene che uno sciame simile, dotato di capacità molto più elevate, potrebbe potenzialmente causare danni per centinaia di miliardi di dollari”.
Le preoccupazioni principali di Amodei sono l’auto-miglioramento ricorsivo, nel quale i sistemi di IA contribuiscono in maniera crescente alla creazione della generazione successiva di IA, e l’incidente tra OpenAI e Hugging Face. Il capo di Anthropic sostiene che non dovremmo considerarlo un fallimento isolato di una singola azienda, poiché altri laboratori di IA hanno già registrato incidenti analoghi, sebbene meno gravi.
Tra le altre, seguono due affermazioni particolarmente importanti.
La prima: “Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo”.
Il seconda: “Il progresso rimarrà relativamente rapido e possiamo sfruttare questo tempo per far avanzare la scienza dell’interpretabilità, migliorare la sicurezza operativa e il rigore presso le aziende di IA all’avanguardia e costruire modelli nel cui allineamento riponiamo molta più fiducia. Le misure che propongo per far avanzare la frontiera tecnologica a un ritmo sicuro non saranno facili. Ma credo che dobbiamo provarci, per il bene dell’umanità”.
Amodei propone tre fasi operative. La prima prevede l’inserimento in azienda di valutatori indipendenti di terze parti, dotati di accesso — pari a quello dei dipendenti — a uffici, sistemi e processi di addestramento, e autorizzati a pubblicare i risultati delle loro analisi senza alcun controllo editoriale da parte di Anthropic. La seconda richiede il coordinamento degli standard di sicurezza tra le aziende di IA operanti nelle democrazie, il che necessita di deroghe alle norme antitrust da parte del governo statunitense. La terza richiede un coordinamento globale, che includa anche la Cina. L’ordine indicato da Amodei è, nota Paganini, “di difficoltà crescente, che corrisponde anche a un ordine di probabilità decrescente”.
Alcune dichiarazioni:
Joe Benton, un ex dipendente di Anthropic, annunciando le proprie dimissioni dal team dedicato alla sicurezza: “Molte delle persone che conosco e che si occupano di ricerca sulla sicurezza presso le aziende di IA vogliono fare ciò che è giusto per il mondo”. “Tuttavia, sentono che le loro aziende sono intrappolate in una corsa alla creazione della superintelligenza: o si fermano, lasciando che al loro posto subentrino persone meno scrupolose, oppure proseguono, rischiando di contribuire personalmente a causare danni enormi”.
Evan Hubinger, responsabile della ricerca sull’allineamento presso Anthropic, ha sostenuto pubblicamente il post di Coxon e ha dichiarato la propria stima personale secondo cui l’IA avrebbe una probabilità superiore al 10% di uccidere tutti gli esseri umani nel prossimo decennio.
Sam Altman di OpenAI si è impegnato a implementare valutatori integrati a poche ore dalla lettura del saggio di Amodei e ha scritto su X che la sua azienda “avrà presto altre novità da condividere”.
Elon Musk ha scritto: “Dario ha ragione”.
The Global Eye è in partnership con SIOI – Società Italiana per l’Organizzazione Internazionale
