Il dibattito sulla regolazione dei modelli di intelligenza artificiale di frontiera è approdato al Congresso degli Stati Uniti, dove sono in discussione almeno tre proposte che attribuiscono il controllo a soggetti diversi. L’AI Kill Switch Act, presentato dal deputato democratico della California Ted Lieu e dal repubblicano del Texas Nathaniel Moran, attribuirebbe al segretario del Department of Homeland Security il potere di rallentare o arrestare i modelli di frontiera. Una diversa proposta di «kill switch», introdotta dal senatore repubblicano della Louisiana John Kennedy, collocherebbe lo stesso potere in mani private. Il FRONTIER Act, dei deputati repubblicani della California Jay Obernolte e della democratica del Massachusetts Lori Trahan, affiderebbe invece l’autorità regolatoria al Department of Commerce e a revisori indipendenti, sostenendo che la governance dell’AI non debba essere sepolta dentro l’apparato di sicurezza nazionale. La domanda di fondo — se l’approccio del kill switch sia appropriato e, in caso affermativo, chi debba tenere l’interruttore — è precisamente il tipo di questione che la cornice della minaccia tecnologica tende a risolvere in modo semplicistico.
Gli autori partono da una posizione favorevole allo slancio regolatorio in corso: il problema, scrivono, merita una risposta allargata a tutti, che consideri i rischi di cybersecurity e di sicurezza nazionale insieme al futuro del lavoro e all’accesso alla conoscenza. È da questa premessa, non da una critica alla regolazione in sé, che nasce il monito: il Congresso e gli altri attori affrontano una tentazione ricorrente nelle questioni tecnologicamente complesse e adiacenti alla sicurezza nazionale, ovvero la cybersecuritizzazione.
Il concetto non è nuovo né specifico dell’AI. Quando la cybersecuritizzazione si produce, i decisori appiattiscono questioni complesse su due sole delle loro dimensioni: la complessità tecnica e il pericolo per un interesse pubblico. Il criterio distintivo è che non si tratta di una minaccia tecnologica ordinaria. Una minaccia tecnica semplice resta nel proprio ambito e ammette una soluzione tecnica ordinaria; una minaccia tecnologica viene invece inquadrata come pericolosa per un bersaglio sociale non tecnico, e questo cambia radicalmente chi debba decidere come porvi rimedio. La decisione esce così dal perimetro ordinario della cybersecurity ed entra nella sfera di attori che si attribuiscono la capacità di affrontare la minaccia sociale oltre che quella tecnica.
Il fenomeno ha già una storia. La cybersecuritizzazione è emersa in un ventaglio di questioni adiacenti alla tecnologia, tra cui la disinformazione online e l’uso dei social media da parte dei minori. Il caso della disinformazione è istruttivo perché mostra il costo della scorciatoia: quella cornice ha lasciato poco spazio a una posizione intermedia e alle molte altre implicazioni del fenomeno che nessuno dei due schieramenti catturava, e la cybersecuritizzazione si è poi rivolta contro la sicurezza stessa. Lo sviluppo ha finito per minacciare la capacità di un’agenzia di difendere bersagli tradizionali come le reti elettriche, le infrastrutture di voto e i servizi idrici: cybersecuritizzando la disinformazione, l’agenzia ha contribuito a creare una reazione che ha indebolito il sostegno al suo più ampio lavoro di cybersecurity.
Perché l’AI di frontiera è particolarmente esposta. I modelli di frontiera comportano rischi reali di cybersecurity e di sicurezza nazionale, e al tempo stesso hanno le caratteristiche di una tecnologia socialmente dirompente: implicano il futuro del lavoro, l’accesso alla conoscenza, gli assetti economici, gli ordinamenti politici e altro ancora. È proprio questa doppia natura a rendere la cybersecuritizzazione così disponibile. Il problema non è che si invochino rischi inesistenti, ma che rischi esistenti vengano usati per appiattire le altre dimensioni in gioco, riducendo il dibattito alla contrapposizione secca tra sicurezza e prosperità.
Il caso illustrativo è l’episodio dei modelli Fable e Mythos. Ciò che era iniziato come una discussione su un rischio di cybersecurity contestato è degenerato nell’impiego dei pieni poteri di sicurezza nazionale del governo. I contorni di quel rischio restano tuttavia opachi: gli Stati Uniti hanno affermato, senza spiegarlo, che l’accesso di cittadini stranieri al prodotto costituiva un rischio sostanziale, mentre il fornitore sosteneva che il problema fosse un jailbreak di portata limitata. L’amministrazione è passata rapidamente dalla richiesta di un ritiro volontario dei modelli — senza condividere informazioni sufficienti — all’imposizione di controlli sulle esportazioni su scala piena, agendo senza consultare un ampio spettro di decisori. Il Congresso stesso ha protestato, in una lettera di giugno, di essere stato escluso, apprendendo le azioni dell’amministrazione da resoconti pubblici e da conversazioni con esperti. Un piccolo gruppo di individui, operando in gran parte in segreto, ha usato poteri giuridicamente dubbi per incidere su un settore industriale strategico, mentre il fornitore coinvolto ha avvertito che applicare quegli standard all’intera industria potrebbe di fatto arrestare ogni nuovo deployment di modelli per tutti i fornitori di frontiera.
Le conseguenze si propagano su tre piani. Vi è anzitutto la frattura interna: l’episodio ha radicato ulteriormente la contrapposizione tra sicurezza e prosperità, soffocando le posizioni più sfumate e riducendo un dibattito multidimensionale a due schieramenti trincerati. Vi è poi l’economia politica della credibilità: un regime di controlli imposto in fretta e revocato altrettanto in fretta rischia di indurre il pubblico a dubitare delle future affermazioni di rischio del governo, e poiché la cybersecuritizzazione può essere percepita come pretesto per altri moventi, essa indebolisce il consenso verso i tentativi successivi di affrontare minacce analoghe. È il rischio di gridare «al lupo» alla cybersecurity. Vi è infine la dimensione alleata e internazionale: i partner esteri hanno espresso scetticismo verso le intenzioni statunitensi, e il presidente francese Emmanuel Macron ha definito l’episodio «strettamente nazionalista» — un giudizio che pesa proprio nel settore in cui la leadership tecnologica è più contesa e dove il coordinamento normativo transnazionale sarebbe più necessario.
Sul piano analitico, la cornice della minaccia tecnologica accresce la segretezza attraverso due canali. Il primo è funzionale: le questioni tecniche sono opache e implicano competenza specializzata, sicché chi non possiede tale competenza viene scoraggiato dal partecipare, e l’esclusione avviene per auto-selezione senza bisogno di alcuna censura. Il secondo è giuridico: una questione tecnica che sia anche una minaccia si inserisce senza attrito nei regimi di segretezza già esistenti e socialmente accettati. Poiché la sicurezza nazionale è l’ambito in cui la segretezza è legittimata a prevalere sulla trasparenza, qualificare un problema come questione di sicurezza nazionale implica che la segretezza sia appropriata. L’effetto complessivo è quello di una carta vincente: classificare una questione come minaccia tecnologica consente agli ufficiali pubblici di saltare le domande sull’autorità giuridica, sugli standard probatori, sulle garanzie procedurali, sulle conseguenze distributive e sugli interessi pubblici concorrenti. La minaccia diventa la ragione per non porsi quelle domande.
La correzione proposta muove dalla constatazione che la cybersecuritizzazione può essere cortocircuitata, e che legislatori, giudici, ricercatori, giornalisti e pubblico possono pretendere dai decisori l’apertura della scatola nera attorno alle questioni cybersecuritizzate, insistendo perché gli altri interessi in gioco, dalla collaborazione scientifica all’equità procedurale, facciano parte del dibattito. Il Congresso ha ora l’occasione di farlo: le proposte in discussione offrono l’opportunità di rivisitare la governance dei modelli di AI in modo più meditato di quanto gli eventi dell’estate abbiano consentito. Anche il fornitore coinvolto ha accettato che il governo possa bloccare alcuni deployment non sicuri, purché lo faccia attraverso un processo trasparente, chiaro ed equo, stabilito per legge e fondato su evidenza tecnica. Una simile autorità dovrebbe nascere da deliberazione democratica e non risiedere esclusivamente nell’apparato di sicurezza nazionale; dovrebbe imporre al governo di tentare prima il rimedio efficace meno invasivo; dovrebbe obbligare a divulgare le evidenze alla base di una decisione, agli sviluppatori e al Congresso; e dovrebbe prevedere una revisione indipendente, sul modello di un inspector general o di un organo di vigilanza.
La posta strategica, in definitiva, non è se regolare l’AI di frontiera, ma chi decide e con quali vincoli procedurali. Il rischio identificato è che la cornice securitaria trasformi scelte politiche difficili in quasi-inevitabilità tecniche, sottraendo al dibattito pubblico la decisione su chi detiene il controllo dell’infrastruttura tecnologica più strategica del decennio. Resistervi significa restituire quelle scelte, e la responsabilità che comportano, ai molti anziché ai pochi.
Fonte: Lawfare – The Global Eye è in partnership con SIOI
