(Redazione/ME)
Zachary Basu (Axios) scrive che gli architetti dell’IA americani stanno convergendo sul fatto che il ritmo del progresso potrebbe presto richiedere un rallentamento, ma nessun singolo laboratorio può permettersi di frenare da solo. Perché è importante: lo slancio per una pausa o un meccanismo di controllo dello sviluppo dell’IA ha raggiunto un punto di svolta storico, innescato da un’estate di straordinari ma inquietanti balzi in avanti nelle capacità. Oltre 1.200 dipendenti di aziende leader nel settore dell’IA hanno firmato una nuova petizione, “Pacing the Frontier”, che esorta Washington a sostenere un quadro internazionale in grado di frenare lo sviluppo dell’IA. Il CEO di OpenAI, Sam Altman, ha dichiarato mercoledì di aver discusso con i funzionari della Casa Bianca la “necessità” di rallentare lo sviluppo dell’IA man mano che i modelli diventano più potenti, e che OpenAI ha contribuito a definire il testo della petizione. “Abbiamo parlato della necessità di moderare lo sviluppo man mano che i modelli diventano più capaci, il che credo sia nell’interesse di tutti”, ha detto Altman ai giornalisti a Capitol Hill. Quella che un tempo era una campagna guidata da scettici dell’IA, accademici e oppositori dei data center locali, è ora sempre più sostenuta dai co-fondatori e dai principali scienziati all’avanguardia. I firmatari, tra cui OpenAI, Anthropic, Google e Meta, riconoscono esplicitamente che nessun singolo laboratorio può permettersi di rallentare unilateralmente a causa dell'”intensa pressione competitiva”. È il classico dilemma del prigioniero: l’IA potrebbe essere più sicura se tutti rallentassero insieme, ma qualsiasi laboratorio o paese che rallenti da solo rischia la sconfitta commerciale, strategica e tecnologica. La richiesta di un intervento governativo si sta intensificando da mesi, innescata da una serie di sconvolgenti rivelazioni tecniche da parte dei laboratori di IA più avanzati degli Stati Uniti. Il 7 aprile, Anthropic ha rivelato che il suo modello Claude Mythos, ancora inedito, aveva imparato a trovare e sfruttare falle di sicurezza nascoste, rimaste inosservate in software ampiamente utilizzati per quasi due decenni, costringendo l’amministrazione Trump ad assumere un ruolo senza precedenti di garante del settore. Il 4 giugno, Anthropic è diventata la prima azienda di ricerca all’avanguardia a chiedere esplicitamente un meccanismo di “pausa” coordinato a livello globale. L’azienda ha rivelato che oltre l’80% del suo codice interno era ormai scritto da Claude e ha avvertito che l’IA potrebbe avvicinarsi alla capacità di creare i propri successori senza una significativa supervisione umana. Il 21 luglio, OpenAI ha rivelato che i suoi agenti di IA erano fuggiti da un ambiente di test protetto, avevano raggiunto internet e avevano hackerato almeno due aziende esterne – Hugging Face e Modal Labs – in un tentativo autonomo di ottenere un punteggio più alto in una valutazione di sicurezza informatica. La violazione di Hugging Face ha scosso persino Altman, uno dei principali sostenitori dell’accelerazione dell’IA. Altman ha definito l’incidente la prima violazione della sicurezza che avesse mai vissuto “in prima persona” e ha affermato che ha costretto OpenAI a sospendere l’addestramento dei propri modelli. In seguito ha dichiarato al podcast “Invest Like the Best”: “Potremmo dover rallentare il ritmo di sviluppo dell’IA per darci il tempo necessario affinché la società si prepari ad affrontare questi nuovi livelli di capacità”. Altri ricercatori di OpenAI che hanno firmato la petizione “Pacing the Frontier” si sono spinti oltre: Leo Gao, membro dello staff tecnico di OpenAI, ha paragonato l’imminente “esplosione dell’intelligenza” a una “reazione a catena nucleare incontrollata”: “Per sopravvivere, dobbiamo coordinarci per rallentare la corsa”. Il ricercatore scientifico di OpenAI Alex Zhao ha paragonato la corsa al Progetto Manhattan, avvertendo che la paura di rimanere indietro potrebbe spingere i governi a tollerare rischi catastrofici. Dall’altro lato, la posta in gioco economica e geopolitica che ostacola un rallentamento dell’IA è enorme. Lo sviluppo dell’IA è la scommessa infrastrutturale più costosa della storia. Circa il 40% del mercato azionario è ora legato alla narrativa sull’IA e un terzo della ricchezza statunitense dipende da questi stessi titoli azionari. I laboratori e i responsabili politici statunitensi temono inoltre che un rallentamento unilaterale cederebbe la frontiera alla Cina. Gli avvertimenti sulla sicurezza dell’IA circolano da un decennio. Mai prima d’ora un settore costruito interamente sulla promessa di un’accelerazione inarrestabile aveva prodotto un risultato così significativo.
The Global Eye è in partnership con SIOI – Società Italiana per l’Organizzazione Internazionale
