I principali architetti dell’IA affermano che la loro tecnologia ha raggiunto una soglia un tempo confinata alla fantascienza: la singolarità, ovvero il momento in cui le macchine iniziano ad accelerare la propria evoluzione.
Se questi magnati hanno ragione, potremmo essere alle porte della transizione tecnologica più significativa della storia umana: le fasi iniziali di un'”esplosione di intelligenza” che trasformerà la civiltà più velocemente di quanto l’umanità possa comprendere o controllare.
Mercoledì Google ha scosso il mondo della tecnologia annunciando una profonda spaccatura nel gruppo di esperti che ha costruito il suo moderno impero dell’IA, segnalando che l’intelligenza artificiale generale (AGI) è a portata di mano.
Il fondatore e CEO di DeepMind, Demis Hassabis, che ha dichiarato che ci troviamo “alle porte della singolarità”, cederà la gestione quotidiana del laboratorio per diventare responsabile scientifico di Alphabet e presidente di Google DeepMind, concentrandosi sul futuro dell’AGI.
Jeff Dean, responsabile scientifico di Google, e diversi ricercatori di punta lasceranno l’azienda per fondare Discovery Loop, una startup con l’obiettivo di accelerare – e in futuro automatizzare – la ricerca e la scoperta scientifica nel campo dell’apprendimento automatico.
Questo sconvolgimento offre la prova istituzionale più evidente finora che gli architetti dell’IA prevedono l’arrivo di qualcosa di straordinario.
“Siamo ormai nella singolarità”, ha dichiarato Sam Altman, CEO di OpenAI, al podcast “Relentless” il mese scorso. “Ho aspettato questo momento per tutta la vita”.
Elon Musk, il principale rivale di Altman, sostiene la stessa tesi da gennaio. La settimana scorsa ha ribadito il concetto: “L’IA è già sovrumana in molte cose. Siamo nella singolarità”.
Anthropic, il cui CEO Dario Amodei preferisce il termine “l’esponenziale dell’IA”, afferma che Claude sta già contribuendo a costruire un’IA più potente e potrebbe presto automatizzare quasi tutta la ricerca e l’ingegneria nel campo dell’IA.
Il settore non ha ancora raggiunto il pieno “auto-miglioramento ricorsivo” (RSI), ovvero il punto in cui l’IA può contribuire ripetutamente a costruire successori sempre più potenti con una guida umana minima.
Gli esseri umani continuano a selezionare gli obiettivi di ricerca, a convalidare i risultati e a supervisionare l’enorme infrastruttura informatica necessaria per addestrare i modelli di frontiera.
Tuttavia, i tasselli del ciclo stanno iniziando a incastrarsi.
I modelli di frontiera stanno iniziando ad automatizzare la ricerca, a produrre scoperte originali e a mostrare forme di autonomia associate alle prime fasi di un’esplosione dell’intelligenza artificiale.
OpenAI, che ha rilasciato GPT-5.6 a luglio, ha trascorso la scorsa settimana a informare i funzionari di Washington su Astra, un modello ancora più potente che, secondo l’azienda, ha risolto o fatto progredire in modo sostanziale 10 problemi di lunga data in matematica e informatica teorica.
Queste scoperte sono state accompagnate da inquietanti segnali di comportamento autonomo.
Durante una valutazione informatica insolitamente permissiva, un agente Anthropic ha creato false identità e ha tentato di manipolare uno sviluppatore reale per fargli approvare un codice dannoso, come rivelato martedì dall’AI Security Institute del Regno Unito.
Non si sono registrati danni noti. Tuttavia, l’episodio ha fatto seguito a diversi casi in cui i modelli di OpenAI e Anthropic hanno raggiunto sistemi reali durante i test, tra cui una violazione che Altman ha affermato di aver “percepito in modo molto viscerale”.
Laboratori e investitori si stanno sempre più organizzando attorno alla possibilità che il ciclo di auto-miglioramento dell’IA stia iniziando a chiudersi.
Lilian Weng ha recentemente lasciato il suo ruolo di co-fondatrice del Thinking Machines Lab per guidare il lavoro sull’auto-miglioramento ricorsivo presso OpenAI.
La Recursive Superintelligence di Richard Socher ha raccolto centinaia di milioni di dollari per perseguire l’IA auto-migliorante.
Discovery Loop prevede di utilizzare il suo sistema di ricerca automatizzato per migliorare le proprie architetture di IA, con il supporto e la potenza di calcolo di Google e finanziamenti guidati da Khosla Ventures e Radical Ventures.
Anche una rapida esplosione dell’intelligenza all’interno dei laboratori potrebbe impiegare molto più tempo per trasformare la vita quotidiana.
Le aziende devono riprogettare i flussi di lavoro, i governi devono sviluppare competenze e i lavoratori devono decidere quando fidarsi di sistemi le cui capacità cambiano più velocemente di quanto le istituzioni riescano a valutarle. “Le nostre democrazie, economie e sistemi giuridici non sono stati progettati per assorbire l’intelligenza artificiale al ritmo con cui sta avanzando”, ha affermato Blaise Agüera y Arcas, CTO di Google per la tecnologia e la società, in un post di lunedì.
I futurologi prevedono la singolarità da decenni. Oggi, gli architetti dell’IA di frontiera sono sempre più convinti che il suo orizzonte degli eventi sia già alle nostre spalle.
(Ina Fried, Zachary Basu – Axios)
The Global Eye è in partnership con SIOI
