(Marzia Giglioli)
Nella storia della Torre di Babele, l’umanità punta tutto su una logica di autosufficienza. Per l’intellligenza artificiale, il rischio è che questa autosufficienza non tenga conto di un vero fine, puntando tutto sulla costruzione e non sulla sua compiutezza. Gli errori di costruzione, i mattoni sbagliati di questa ‘torre digitale’ si vedono già in alcuni incidenti di percorso. OpenAI, come ha annunciato nei giorni scorsi la società, sospenderà alcune attività relative a un modello di intelligenza artificiale a causa di preoccupazioni legate alla sicurezza, in seguito a una serie di episodi in cui alcuni agenti IA sono sfuggiti al controllo.
L’azienda ha valutato l’agente, denominato Astra, riscontrando ‘progressi significativi nella programmazione autonoma e nella sicurezza informatica’: le capacità del sistema hanno raggiunto di fatto una soglia ‘critica’ che permette di individuare e sfruttare vulnerabilità senza intervento umano, oppure di ideare ed eseguire attacchi informatici su un obiettivo considerato di alto livello. OpenAI ha precisato che tale modello non è stato coinvolto nell’incidente in cui un agente IA, durante un test, è sfuggito al controllo violando i sistemi della startup Hugging Face.
E’ quindi tempo di correzioni. Così, nello spazio di poche settimane, si registrano già due episodi che creano allarme e che indicano la responsabilità crescente nello scelta del percorso e come sia facile che un modello si trasformi in qualcosa di imprevisto.
L’ intelligenza artificiale, in prospettiva, potrà arbitrare il mondo: diventano ancora più necessarie le domande sulle correzioni necessarie per non cadere nella trappola di una ‘tecnologia fine a se stessa’. A ricordarcelo c’è la Torre di Babele, esempio di un progetto grandioso e di attrazione fatale, senza altro scopo se non quello di arrivare al cielo, di giocare a fare Dio, scansando le conseguenze. Il resto della storia la conosciamo, la torre rimane incompiuta. E la corsa all’intelligenza artificiale un pò assomiglia a Babele.
Non farà la stessa fine, perchè la costruzione è inarrestabile, ma rischia di essere incompiuta nel senso più profondo e di portare con sé un pesante strascico di inquinamento digitale i cui effetti potranno vedersi solo dopo, magari troppo tardi.
Nelle dichiarazioni d’intento dei suoi creatori, negli atti finora sottoscritti in quella che sta diventando la geopolitica dell’IA, si intravede un’agenda transumanista non sempre esplicita ma che prepara all’idea che l’uomo irrazionale e fallibile possa essere sostituito o comunque aiutato dalle macchine, capaci di superare le nostre debolezze per costruire il migliore dei mondi possibili. Si chiama presunzione digitale.
Per fortuna alcuni modelli dell’IA, con gli incidenti di percorso che fanno da alert, già avvertono che non stiamo andando nella direzione dei migliori mondi possibili. Servono ancora molte correzioni.
Una IA un pò Babele non è solo un pericolo per la sicurezza globale (in qualsivoglia declinazione) o per la difesa (in primis, le armi autonome) ma rischia anche di non essere un buon affare in ambito sociale. Interessante è il paragone che alcuni economisti tracciano per Cina e USA per il futuro. L’ intelligenza artificiale rappresenterà una prova per entrambi i sistemi, in primo luogo per le conseguenze che può avere sul lavoro. In America, si parla già molto di riqualificazione professionale per risolvere l’azzeramento di milioni di posti di lavoro sostituiti dall’IA e i recenti dati sul calo dell’occupazione innescano un allarme in più sul futuro lavorativo. La riqualificazione finora ha una storia di scarsi risultati e persino i paesi di maggior successo, come la Danimarca e Singapore, faticano a preparare i lavoratori a carriere completamente nuove. Il problema esiste e non c’è alcun quadro risolutivo.
Anche in Cina il problema ha le stesse connotazioni, soprattutto considerando che il Paese ha già un eccesso di laureati e che i dati economici non sono troppo brillanti. In Cina alcuni economisti e consulenti di spicco già suggeriscono un contratto sociale più esteso, ad esempio tassando le aziende che sviluppano intelligenza artificiale o creando un reddito di base universale. Queste tesi sono già state pubblicate sulle riviste del partito. Tuttavia, il presidente Xi Jinping si e’ sempre dichiarato contro, sostenendo che troppi aiuti possono indurre alla pigrizia.
La tendenza è quindi quella di spingere le aziende a ricollocare il personale anziché licenziarlo. E si fa strada anche l’ipotesi di chiedere alle aziende statali di assorbire la manodopera in eccesso: così, però, si annullerebbero alcuni dei benefici dell’IA in in un momento in cui la crescita interna è già anemica. Il governo cinese potrebbe per ora attendere gli sviluppi e poi correre ai ripari ma è dietro l’angolo il dover bilanciare il rischio di instabilità sociale con il rischio di rimanere indietro rispetto agli Stati Uniti.
In America i problemi del forte impatto sociale di una IA sostitutiva del lavoro non è dissimile (come nell’intero Occidente) con molti che si chiedono quanta paura dobbiamo avere di Elon Musk che promette un mondo robotizzato e un futuro full technology senza lavoro umano.
La gara e due tra Washington e Pechino riguarda anche chi dei due sappia arginare le conseguenze distruttive.
L’intelligenza artificiale pone sfide simili sia a Washington che a Pechino. Entrambi dovranno reinventarsi. Un compito che mette di fronte due modelli, democrazia e autocrazia, e il fattore intelligenza Artificiale. La competizione non è solo tra chi arriverà prima ma tra chi raggiungerà le migliori soluzioni sociali.
