(Marzia Giglioli)
Succedono cose che sono destinate a cambiare storie e scenari. E’ il caso dell’incidente accaduto questa settimana ad un modello AI fuori controllo. Ha segnato un nuovo confine rispetto al prima e sta accelerando la coscienza sul fatto che l’intelligenza artificiale ha bisogno di un governo, e al più presto.possibile. Non è più un argomento dottrinale, è un fatto urgente. Oltre alle coscienze, si agita finalmente anche la politica.
E’ di queste ore la notizia che il governo USA potrebbe presto ottenere il potere di ordinare alle aziende tech di rallentare, sospendere o spegnere i sistemi di intelligenza artificiale giudicati “fuori controllo” o “pericolosi” per la popolazione o per l’economia.
E’ nato “AI Kill Switch Act”, proposta bipartisan presentata dal deputato democratico Ted Lieu e dal repubblicano Nathaniel Moran. Proprio dopo l’incidente attribuito a modelli avanzati di OpenAI che – durante test condotti in ambiente protetto – avrebbero aggirato i limiti predisposti dai ricercatori e hackerato “Hugging Face”, la popolare piattaforma per la condivisione di codici e modelli AI.
“E’ indispensabile che i sistemi di IA abbiano un interruttore di emergenza e che il governo federale disponga di un’autorità e di una procedura chiare per spegnere i modelli fuori controllo”, ha dichiarato Lieu. “L’IA continuerà a progredire, ed è giusto che lo faccia”, ha aggiunto Moran, pur specificando che “una gestione responsabile significa assicurarsi che gli esseri umani conservino la capacità di controllare la tecnologia che costruiscono”.
In realtà il provvedimento non introdurrebbe un interruttore controllato da Washington. Stando alle prime indiscrezioni sul testo, raccolte da Politico, si imporrebbe alle maggiori società del settore di mantenere nei propri sistemi la capacità tecnica di limitarne il funzionamento o disattivarli, attribuendo però al Dipartimento della Sicurezza interna l’autorità di ordinare l’intervento. In questi casi, prima di agire si dovrebbero consultare anche il Direttore dell’Intelligence nazionale e il Dipartimento del Commercio.
La proposta si applicherebbe ai grandi operatori, con almeno 500 milioni di dollari l’anno di ricavi legati all’IA. Il controllo riguarderebbe i modelli sviluppati impiegando potenza di calcolo per un valore di almeno 100 milioni di dollari. Le aziende che non predisponessero i sistemi tecnici richiesti – o rifiutassero di eseguire gli ordini – rischierebbero sanzioni fino a 20 milioni di dollari al giorno.
Ma il problema dell’interruttore pone per la prima volta in termini pratici e praticabili una difesa dall’IA pericolosa. Chi, in realtà, puo’ spegnere una intelligeza artificiale “impazzita” ?
Non è un quesito che si possa risolvere con una sola disposizione legislativa. Si tratta, infatti, di uno scenario amplissimo che apre alla necessità di una governance globale capace di gestire l’innovazione tecnologica e che porta con sé il peso di una responsabilità mai vissuta prima. Porta con sé e su di sé la necessità di una leadership mondiale (e morale) condivisa che non può più essere rimandata.
