C’è una contraddizione al cuore della governance dell’intelligenza artificiale di frontiera che vale la pena affrontare. Stati Uniti e Cina considerano l’IA una leva decisiva di vantaggio economico, tecnologico e di sicurezza nazionale: questo crea incentivi fortissimi a svilupparla il più in fretta possibile. Ma proprio quella velocità può generare sistemi che nessuno dei due governi è in grado di controllare in modo affidabile. È il paradosso di due rivali che, correndo, costruiscono insieme un rischio che nessuno dei due vuole.
Su questo snodo si inserisce la proposta del rappresentante democratico Ro Khanna, ranking member della commissione ristretta della Camera sulla Cina. Non un appello generico alla cautela, ma un’architettura precisa: un trattato vincolante, verificabile ed eseguibile tra Washington e Pechino, concentrato sulla gestione dei rischi più estremi legati all’IA avanzata. L’argomento di fondo è che i due paesi non possono permettersi una corsa agli armamenti dell’intelligenza artificiale, se i sistemi sempre più capaci possono produrre minacce che nessuna delle due parti sa gestire. Il dialogo, da solo, non basta.
La proposta arriva in un momento in cui i canali esistono già. Al summit di settembre, i presidenti Donald Trump e Xi Jinping hanno concordato l’istituzione di un meccanismo di comunicazione sulle questioni e sui rischi legati all’IA. Funzionari cinesi hanno ribadito pubblicamente la necessità di mantenere l’intelligenza artificiale sotto controllo umano, mentre i due governi continuano a competere su calcolo avanzato, modelli, semiconduttori e capacità tecnologiche. Il terreno diplomatico, quindi, non è vuoto: è appena stato dissodato, e la competizione tecnologica procede in parallelo senza rallentare.
Il primo pilastro è una pausa globale sull’auto-miglioramento ricorsivo. Khanna chiede restrizioni sui sistemi capaci di progettare, testare e migliorare altri sistemi di IA con intervento umano limitato o nullo. Il timore è che il miglioramento ricorsivo acceleri le capacità più velocemente di quanto le salvaguardie esistenti riescano a tenere il passo, rendendo necessari limiti internazionali a questa forma di autonomia. È uno spostamento importante: non si regolano più le applicazioni, ma la capacità di generare capacità.
Il secondo è una pausa globale sulla superintelligenza: Stati Uniti e Cina dovrebbero fermare congiuntamente lo sviluppo di sistemi che superino le capacità umane in praticamente tutti i domini, finché non siano stabilite salvaguardie adeguate. Qui si apre un problema che la proposta stessa lascia aperto: la definizione e la misurazione della superintelligenza restano contestate. E il baricentro della regolazione si sposta dalle applicazioni specifiche allo sviluppo delle capacità di frontiera in quanto tali.
Il terzo pilastro riguarda gli interruttori di emergenza per i modelli avanzati: meccanismi che permettano di disattivare un sistema se si comporta in modo imprevedibile o rappresenta una minaccia seria. Gli esperti discutono dell’efficacia reale di simili strumenti, e Khanna non li presenta come una misura autosufficiente, ma come uno strato aggiuntivo di controllo.
Il quarto è la verifica obbligatoria in ambienti isolati prima del rilascio: i modelli verrebbero testati in ambienti privi di connettività di rete esterna prima della messa in produzione, per individuare capacità pericolose e ridurre il rischio di uso per attacchi informatici su larga scala o altre forme di abuso catastrofico.
Il quinto pilastro è quello che rende l’intero impianto credibile o velleitario: verifica e ispezione internazionale. Un accordo tra concorrenti strategici richiede meccanismi per accertare il rispetto degli obblighi. Khanna propone tecnologie di verifica sviluppate congiuntamente, regimi ispettivi e, potenzialmente, un’agenzia internazionale di ispezione dell’IA, mutuando la logica dei trattati sul controllo degli armamenti della Guerra Fredda.
Il valore della proposta sta nel modo in cui inquadra il problema: l’IA safety come questione di controllo degli armamenti. La premessa sottostante è che la competizione non elimina la possibilità di una cooperazione limitata sui rischi che danneggerebbero entrambi i concorrenti. È una logica nota dalla deterrenza nucleare, applicata a una tecnologia che però ha caratteristiche diverse: sviluppo diffuso, verifica tecnicamente più opaca, attori privati al centro della corsa.
Gli ostacoli non sono secondari. Sfiducia reciproca, difficoltà di verifica, sistemi regolatori divergenti e disaccordi su cosa costituisca una capacità inaccettabile restano tutti sul tavolo, e la proposta non li risolve. Va detto con chiarezza: i cinque pilastri sono una proposta congressuale, non un quadro politico concordato tra i due paesi. La loro attuazione richiederebbe intesa su definizioni, standard tecnici, meccanismi di verifica e strumenti di esecuzione, passaggi che oggi non esistono.
Il punto geostrategico è questo. Il dialogo USA-Cina sull’IA ha già creato un canale diplomatico iniziale; la proposta di Khanna mostra come quel canale potrebbe evolvere da scambio di intenti a negoziato su vincoli concreti allo sviluppo dell’IA di frontiera. Il segnale più significativo non è l’adozione imminente del trattato, ma il riconoscimento crescente, anche in ambienti politici competitivi, che la governance dell’IA di frontiera potrebbe richiedere forme di cooperazione internazionale paragonabili a quelle con cui, in passato, si è tentato di gestire tecnologie con conseguenze sistemiche sulla sicurezza. In un’era di rivalità tecnologica, la tesi controintuitiva è che la cooperazione non è l’opposto della competizione: è la sua condizione di sostenibilità.
Fonte: Digital Watch Observatory – The Global Eye è in partnership con SIOI
