Un ricercatore si dimette per timori legati a una intelligenza artificiale ‘fuori controllo’. La paura corre anche tra gli addetti ai lavori e, sul Wall Street Journal, il ricercatore di Anthropic Jacob Coxon, specializzato nell’addestramento di nuovi modelli di intelligenza artificiale, dichiara che lascerà l’azienda perché non vuole partecipare alla corsa per la creazione di sistemi di intelligenza artificiale in grado di auto-migliorarsi, temendo che tali sistemi possano sfuggire al controllo e distruggere l’umanità.
Coxon scrive a chiare lettere che il pericolo è reale e che Anthropic e i suoi concorrenti stanno velocizzando per costruire sistemi che non saranno in grado di controllare,
Nel motivare la sua scelta, il giovane scienziato ha affermato che nessuna singola azienda è attualmente in grado di sviluppare in sicurezza le tecnologie verso cui si sta andando. Coxon ha spiegato che, all’interno dei laboratori di frontiera, si utilizzano sempre più di frequente espressioni come ‘periodo critico’ e ‘fase finale’ per indicare l’imminente raggiungimento di una superintelligenza, ossia un sistema informatico con capacità cognitive superiori a quelle umane.
Nel dettaglio, il ricercatore pronostica che, nei contesti più aggressivi, la situazione potrebbe sfuggire di mano già entro la fine del prossimo anno, con scenari catastrofici che potrebbero portare all’estinzione della specie umana entro la fine del decennio.
Per evidenziare l’irresponsabilità della situazione attuale, Coxon ha paragonato il contesto odierno al Progetto Manhattan, il programma militare segreto sviluppato dal governo degli Stati Uniti in bunker blindati nel deserto durante la Seconda Guerra Mondiale per creare la bomba atomica.
Oggi, continua Coxon, decisioni con conseguenze globali vengono prese sui computer portatili di ingegneri a San Francisco o all’interno di Slack, l’applicazione aziendale per la messaggistica interna. Anche il CEO di Anthropic, Dario Amodei, e altri dirigenti dell’azienda hanno ripetutamente messo in guardia sui rischi dei modelli di IA non autorizzati e hanno esortato il settore a rallentarne lo sviluppo. Diversi ricercatori hanno lasciato OpenAI e altre aziende con preoccupazioni simili. L’addio di Coxon arriva inoltre – come scrive il WSJ – in un momento critico, mentre Anthropic si prepara per una IPO che si preannuncia come una delle più grandi di sempre. L’azienda punta a una valutazione di 2 trilioni di dollari, sottolineando al contempo agli investitori il proprio impegno per uno sviluppo responsabile dell’IA.
Marzia Giglioli
