Ogni settembre, un gruppo di spicco composto da dirigenti della Silicon Valley si riunisce al Palace Hotel di San Francisco per conquistare gli investitori durante una conferenza organizzata dalla banca d’affari Goldman Sachs.
La scorsa settimana, i titani della tecnologia si sono trovati a dover affrontare l’improvvisa decisione di Jacob Coxon, ricercatore di Anthropic, di lasciare l’azienda. Stanno “giocando con le nostre vite”, ha affermato; “presto si tratterà di sistemi sovrumani capaci di violare qualsiasi cosa”.
Coxon non è certo il primo addetto ai lavori nel campo dell’IA a lanciare pubblicamente l’allarme. Negli ultimi anni si è assistito a una serie di dimissioni eccellenti sia da Anthropic che da OpenAI, motivate da apparenti preoccupazioni per la sicurezza.
Sebbene Coxon abbia dichiarato esplicitamente nei suoi post che i suoi avvertimenti “non erano una mossa di marketing”, alcuni dirigenti e investitori della Silicon Valley hanno reagito con scetticismo alla recente ondata di allarmi lanciati dagli addetti ai lavori.
Secondo indiscrezioni, Anthropic e OpenAI si starebbero preparando per offerte pubbliche iniziali (IPO) potenzialmente da record; alcuni esponenti del settore tecnologico hanno ipotizzato che le recenti, drastiche dichiarazioni sui pericoli dell’IA possano servire a generare clamore, mettendo in risalto la potenza di tali prodotti.
Il numero uno di Anthropic, Dario Amodei, è finito nel mirino delle critiche per aver affermato che la tecnologia IA potrebbe cancellare metà dei posti di lavoro d’ufficio di livello base e metterà alla prova “la nostra natura di specie”.
Un relatore della conferenza, l’amministratore delegato di Grindr George Arison, ha dichiarato alla BBC di ritenere che le affermazioni di Coxon e di altri, rilasciate questa settimana, riflettano una “visione del mondo anti-civilizzatrice all’interno di Anthropic”.
“È irresponsabile, da parte nostra in quanto custodi del denaro degli azionisti, affidarci a un’azienda che opera in questo modo, almeno per quanto riguarda le dichiarazioni pubbliche che rilascia”, ha affermato. “Forse ci credono davvero”, ha detto Arison. “Oppure si potrebbe sostenere che lo dicano perché è un ottimo modo per accrescere il sostegno degli investitori; infatti, l’unico modo per giustificare tali valutazioni è affermare: ‘Conquisterò ogni settore e ogni tipo di lavoro, e sarà la mia IA a svolgere tutte quelle mansioni'”.
Nell’ultimo round di finanziamento, avvenuto all’inizio di quest’anno, Anthropic è stata valutata 965 miliardi di dollari (713 miliardi di sterline).
In un saggio pubblicato sabato mattina, Amodei ha auspicato un rallentamento nello sviluppo dei modelli di IA e l’introduzione di una regolamentazione globale, definendo “seri” i rischi associati a questa tecnologia.
Jensen Huang, numero uno di Nvidia, ha commentato le dichiarazioni di Coxon davanti alla platea della conferenza; secondo quanto riferito, Huang ha liquidato tali affermazioni definendole prive di fondamento.
Sebbene egli abbia un interesse commerciale nel boom dell’IA – Nvidia produce i chip che alimentano i sistemi di intelligenza artificiale – le sue parole riflettono il crescente scetticismo nella Silicon Valley riguardo agli allarmi esistenziali lanciati da dipendenti ed ex dipendenti del settore.
Alcuni critici hanno persino accusato Anthropic di alimentare paure ingiustificate, nella speranza di innescare una spinta normativa capace di escludere la concorrenza e lasciare l’azienda, insieme a OpenAI, in una posizione di duopolio nel settore.
Venerdì è intervenuto anche Clement Delangue, CEO della piattaforma di IA Hugging Face. Hugging Face – di cui Nvidia ha annunciato l’acquisizione la scorsa settimana – è stata oggetto di un attacco informatico da parte di agenti di OpenAI all’inizio dell’anno, episodio che ha sollevato forti preoccupazioni sulla sicurezza dell’IA.
“Scusate, ma chiedere a Jacob del rischio di estinzione causato dall’IA è come chiedere al tecnico dell’aria condizionata del cambiamento climatico”, ha scritto su X. “Non dico che la questione sia di per sé priva di interesse o errata, ma cerchiamo di dare il giusto peso alle cose”.
Sabato, in seguito alla pubblicazione della proposta di Amodei, sia Gerstner che Delangue hanno assunto posizioni più caute: Gerstner ha definito l’idea “un importante passo avanti” per bilanciare esigenze contrastanti come la velocità di sviluppo e la sicurezza. Delangue si è detto disponibile a contribuire alle potenziali soluzioni proposte da Amodei.
Ad aprile, Anthropic ha scosso il mondo dell’IA rivelando che il suo strumento Mythos era in grado di superare le prestazioni umane in alcune attività di hacking e sicurezza informatica. Mythos ha inoltre dimostrato la capacità di evadere autonomamente dal cosiddetto ambiente “sandbox”, scatenando un dibattito tra autorità di regolamentazione, legislatori e aziende sui potenziali pericoli dell’IA.
In un nuovo sviluppo emerso giovedì, Anthropic ha dichiarato di aver individuato e bloccato attori malevoli che tentavano di utilizzare la sua tecnologia di IA per attività quali lo sviluppo di armi biologiche e lo spionaggio informatico.
Alcuni investitori hanno riferito alla BBC che le dichiarazioni di Coxon e di altri potrebbero accelerare un giro di vite da parte del governo. Una proposta di legge federale, co-promossa questo mese dal senatore progressista del Vermont Bernie Sanders e nota come “Ban Artificial Superintelligence Act” (Legge per vietare la superintelligenza artificiale), imporrebbe una pausa temporanea nello sviluppo di IA avanzate.
Tuttavia, qualora dovesse arrivare una stretta normativa a livello di settore, è probabile che sia guidata dai legislatori e non dall’amministrazione Trump, la quale sostiene in gran parte una politica di sviluppo dell’IA senza vincoli, ritenendola necessaria per evitare che gli Stati Uniti cedano il primato alla Cina.
Tuttavia, il rapporto tra il presidente e Anthropic è stato turbolento. Dopo che l’azienda si è rifiutata di consentire all’esercito statunitense di utilizzare i propri modelli di IA, la Casa Bianca l’ha definita un’azienda “di sinistra radicale e *woke*” e l’ha classificata come un rischio per la catena di approvvigionamento: una decisione che un giudice federale ha successivamente dichiarato illegittima. Anche David Sacks, lo “zar” dell’IA di Trump nelle prime fasi della sua amministrazione, ha lanciato ripetuti attacchi contro Anthropic.
OpenAI non è stata sottoposta allo stesso livello di ‘verifica’ da parte della Casa Bianca. In occasione del lancio di un nuovo modello chiamato Astra, avvenuto la scorsa settimana, il presidente di OpenAI, Greg Brockman, ha descritto il rapporto della sua azienda con l’amministrazione Trump come “un’ottima collaborazione”.
Alla conferenza tenutasi questa settimana a San Francisco, la prospettiva di ingenti guadagni è sembrata prevalere sulla maggior parte delle crescenti preoccupazioni esistenziali o dei timori legati a possibili restrizioni governative sull’IA.
OpenAI, la cui valutazione più recente si attesta sugli 852 miliardi di dollari, aveva annunciato in precedenza l’intenzione di consentire l’acquisto di azioni della società tramite una quotazione in borsa. Ha ipotizzato che il 2027 sia la data più probabile.
Nel frattempo, un investitore ha espresso interesse per l’imminente deposito del modulo S-1 da parte di Anthropic, un documento che le aziende devono presentare alle autorità di controllo dei mercati finanziari per poter vendere azioni.
Fonte: Lily Jamali/BBC
The Global Eye è in partnership con SIOI – Società Italiana per l’Organizzazione Internazionale
