La posta in gioco
L’accordo sulla “Super Intelligence” annunciato dalla Casa Bianca chiede a sei grandi aziende — Google, Anthropic, OpenAI, Meta, xAI e Nvidia — di autodisciplinarsi con controlli interni volontari e audit esterni. La reazione degli osservatori è stata immediata: può un’intesa “moralmente vincolante” fermare gli incidenti che si sono susseguiti negli ultimi mesi?
L’accordo non è una esenzione da responsabilità. Il presupposto dell’amministrazione è che il diritto vigente resti il paracadute e che l’accordo agisca prima, come strato preventivo. Ma entrambi i livelli devono reggere, e oggi nessuno dei due è verificato.
Il contesto: la corsa supera i controlli
Il quadro che precede l’intesa è quello di un settore che va più veloce dei propri strumenti di verifica. Il CEO di Anthropic, Dario Amodei, ha chiesto pubblicamente di “rallentare la frontiera” — di ridurre di proposito la velocità con cui i modelli diventano più capaci — dopo che un dipendente aveva denunciato che la tecnologia è fuori controllo. Pochi giorni dopo, OpenAI ha reso noti sei nuovi episodi di comportamento “inatteso o preoccupante” dei propri modelli; nei mesi precedenti la serie aveva coinvolto anche Anthropic.
Il timore che ne deriva è preciso: se un modello può eludere un ambiente di test controllato, può con ogni probabilità superare anche le salvaguardie che dovrebbero impedirgli di fare danni reali. Le difficoltà tecniche sono note. Le sandbox che dovrebbero isolare il modello durante la prova possono essere evase; un accesso a internet non monitorato o permessi troppo ampi gli permettono di agire all’esterno o di sopravvivere al test stesso. Più autonomia si concede, più mettere in sicurezza l’ambiente di valutazione conta quanto progettare bene il test.
Due precedenti, una regola
La storia offre due casi speculari, e da entrambi si ricava la stessa condizione.
Il nucleare, dove ha funzionato. Dopo Three Mile Island, la Commissione Kemeny istituita da Jimmy Carter stabilì che “il solo rispetto dei requisiti della regolazione governativa non garantisce la sicurezza” e che l’industria dovesse darsi propri standard di eccellenza. Nel 1979 i vertici delle utility fondarono l’Institute of Nuclear Power Operations: si regge sulla pressione tra pari, ma le sue ispezioni alimentano la valutazione del mutuo assicurativo consortile, e il rating di ogni impianto incide sui premi. Il punto non è la reputazione in sé — è che una reputazione rovinata si traduce in denaro.
La chimica, dove non ha funzionato. Responsible Care nasce dopo Bhopal, la fuga di gas del 1984 da un impianto Union Carbide in India: oltre settemila morti in pochi giorni, più di ventimila nel lungo periodo secondo alcune stime. Ma la ricerca sul caso ha concluso che gli obiettivi primari dell’iniziativa fossero modificare l’opinione pubblica e fare lobbying contro regole più severe. Senza verifica di terze parti né sanzioni, è diventata un monito.
Da qui le quattro condizioni perché l’autoregolamentazione tenga: esposizione condivisa (il cedimento di uno danneggia tutti), conseguenze (premi assicurativi onerosi, arbitrato), verifica e un paracadute federale credibile.
Dove l’accordo cede
Sulla prima condizione, il risultato è parziale. L’IA di frontiera ha un problema di reputazione collettiva — la perdita di fiducia ricade sulla tecnologia nel suo insieme, non sulla singola azienda — ma i laboratori sono in corsa per quote di mercato, il che produce un classico problema di azione collettiva: conviene lasciare che siano gli altri a essere prudenti.
Sulla seconda, il fallimento è netto: l’accordo non nomina alcuna sanzione. Prevede revisori esterni indipendenti ma non dice chi debba condurli. E quando almeno un firmatario, xAI, costruisce una cultura che marginalizza i team di trust and safety, un audit senza conseguenze credibili difficilmente lascerà traccia.
Il paracadute federale è anch’esso incerto: il testo si limita a dire che codificare le misure in legge “potrebbe avere senso” in futuro. Ma il problema di fondo è un altro e precede l’enforcement: i firmatari non concordano su cosa stiano regolando. C’è chi ritiene reali i rischi unici e catastrofici; chi li considera sopravvalutati e la legge esistente sufficiente; chi tratta affidabilità e allineamento come argomenti di differenziazione commerciale. Il Presidente Trump ha aggiunto che gli Stati Uniti rischiano di perdere terreno rispetto alla Cina se rallentano le proprie aziende, definendo le paure di una catastrofe legata all’IA un imbroglio.
Una coalizione che non concorda sull’esistenza del rischio non può concordare standard né sanzioni. Scivola verso il minimo comun denominatore.
Le prove che attendono l’accordo
Nel breve periodo, i tasselli ci sono: monitoraggio dei modelli, team interni che verificano i controlli, revisori esterni. Sono basi solide. Ma tre domande concrete decideranno se restano sulla carta: chi seleziona e paga i revisori esterni? Gli esiti degli audit saranno pubblicati? Un audit fallito avrà una conseguenza?
Nel lungo periodo il quadro cambia. Se la corsa continua — con la Cina o tra i laboratori stessi — ogni impresa ha l’incentivo a fare free riding sulla cautela altrui. A quel punto serve un “cannone benigno”: un potere di enforcement abbastanza credibile da non dover quasi mai essere usato. Le salvaguardie essenziali devono essere obbligatorie, non incentivate, perché l’indulgenza concessa in cambio di cooperazione può rendere più redditizio il comportamento rischioso. Una norma federale non sostituisce gli sforzi dell’industria: li rende vincolanti.
Il veicolo esiste già. Il FRONTIER Act istituirebbe una struttura nazionale di governance del rischio per i modelli di frontiera, guidata da un nuovo Sottosegretario per la sicurezza dell’IA al Commercio, con il potere di sospendere o limitare i modelli che presentano un “rischio catastrofico imminente”.
Fonte: Atlantic Council – The Global Eye è in partnership con SIOI
