Negli ultimi mesi, e in particolare a settembre 2026, il dibattito sull’intelligenza artificiale è tornato a riempirsi di toni apocalittici. Da Anthropic a OpenAI, diversi ricercatori e dirigenti hanno rilanciato l’idea che i sistemi più avanzati possano entrare in una fase di auto-miglioramento ricorsivo: un’IA capace di progettare versioni sempre più potenti di sé stessa, sempre meno dipendenti dall’intervento umano. Anthropic ha dedicato un documento proprio a questo scenario, spiegando che un’IA capace di “costruire sé stessa” potrebbe aumentare il rischio di perdita di controllo da parte degli esseri umani; OpenAI, nello stesso periodo, ha parlato della necessità di preservare il controllo umano e di capire quando rallentare o fermare lo sviluppo dei modelli più avanzati.
Il clima si è ulteriormente acceso dopo le dichiarazioni di alcuni ricercatori di Anthropic, secondo cui l’IA potrebbe arrivare a rappresentare un rischio esistenziale già entro questo decennio. La stampa internazionale ha raccontato il ritorno di questi allarmi, riportando preoccupazioni su una possibile corsa verso sistemi sempre più autonomi e difficili da controllare.
È dentro questo contesto che si inserisce il ragionamento, in un suo recente post su LinkedIn, dell’imprenditore/consulente tech Nicola Grandis; una risposta più fredda e matematica alla narrativa catastrofista. L’idea è semplice: prima di immaginare un’IA onnipotente che si migliora da sola fino a distruggerci, bisogna fare i conti con un limite molto concreto, cioè l’errore. Un modello può essere potente, sorprendente, persino capace di comportamenti emergenti; ma se non è perfetto, ogni passaggio di auto-miglioramento introduce una probabilità di sbaglio. E, quando i passaggi diventano tanti, anche un errore piccolo può pesare moltissimo.
Grandis parte da un esempio interessante. Già nel 2016, con Google Neural Machine Translation, i ricercatori si accorsero che un modello addestrato a tradurre da giapponese a inglese e da inglese a coreano riusciva anche a tradurre da giapponese a coreano, pur non essendo stato addestrato direttamente per farlo. Questo mostrava una cosa importante: i modelli di IA possono sviluppare capacità emergenti, cioè abilità non previste in modo esplicito.
Quindi il punto non è dire che l’IA sia banale o prevedibile. Al contrario: può sorprendere. Il problema, secondo Grandis, è un altro. Un modello di intelligenza artificiale non è perfetto; anche quando funziona molto bene, può sbagliare. E se un sistema sbaglia anche solo una piccola percentuale di volte, quell’errore può pesare molto quando il sistema deve compiere tanti passaggi consecutivi.
Ecco il ragionamento matematico: immaginiamo un’IA che abbia il 99% di probabilità di fare bene ogni singolo passaggio. Sembra tantissimo; tuttavia, se per ottenere un risultato servono molti passaggi uno dopo l’altro, la probabilità complessiva di successo diminuisce. Dopo 100 passaggi, infatti, la probabilità che tutto sia andato bene non è più 99%, ma circa 36% (perché si calcola così: 0,99100 ≈ 0,360).
In parole semplici: se ogni anello di una catena corta ha una piccola probabilità di rompersi, è evidente che più la catena diventa lunga, più aumenta il rischio che qualcosa vada storto. Per Grandis, questo rende improbabile che un’IA possa migliorare sé stessa all’infinito senza introdurre errori. Un sistema imperfetto, se lasciato ad auto-modificarsi in molti passaggi, finirebbe prima o poi per accumulare errori invece di diventare onnipotente.
Da qui nasce la sua critica agli allarmi più catastrofisti sull’IA. Secondo lui, chi parla di estinzione umana o di singolarità imminente dovrebbe tenere conto di questo limite: un modello che non è perfetto non può trasformarsi da solo in una macchina perfetta.
Nei commenti, però, arriva un’obiezione decisiva: il calcolo 0,99100 ≈ 0,360 funziona solo se ogni errore viene portato avanti senza controllo. Nella realtà, invece, molti sistemi procedono per tentativi e selezione. Un’IA può produrre molte soluzioni sbagliate, ma se esistono test automatici, filtri esterni o revisioni umane, gli errori possono essere scartati prima di accumularsi. È il principio che vale anche nell’evoluzione biologica: non serve che ogni tentativo sia corretto, conta che ci sia un meccanismo capace di selezionare quelli migliori.
Questa osservazione cambia un pò il quadro. Non basta chiedersi quanto sbaglia un modello. Bisogna chiedersi anche quanto è severo il sistema che controlla i suoi output. Un’IA può commettere errori, ma se esiste un buon meccanismo di verifica, quegli errori non necessariamente si accumulano tutti.
La conclusione più equilibrata, quindi, è questa: Grandis ha ragione nel ricordare che l’IA non è magica e che l’errore è un limite reale. È una buona risposta agli scenari troppo fantasiosi (e catastrofici) in cui l’intelligenza artificiale diventa automaticamente perfetta e incontrollabile. Ciò nondimeno, va considerato un altro un punto essenziale: l’evoluzione dei sistemi intelligenti non dipende solo dalla percentuale di errore del modello, bensì dalla qualità dei controlli, dei test e dei filtri che selezionano ciò che funziona.
Quindi no, forse non c’è motivo di farsi prendere dal panico. Ma non basta nemmeno dire “state tranquilli” solo perché l’IA sbaglia. La vera domanda è: chi controlla gli errori, con quali strumenti e con quale severità?
Fonte: post LinkedIn di Nicola Grandis, “State tranquilli. Nel cuore dell’AI c’è anche scritto che non ci estinguerà mai”, (https://www.linkedin.com/posts/nicola-grandis_state-tranquilli-nel-cuore-dellai-c%C3%A8-anche-activity-7506240045696090114-n0S8?utm_source=social_share_send&utm_medium=android_app&rcm=ACoAADrFKo0B1yKDbDYaApxGAsxByDlotYRLUhY&utm_campaign=copy_link)
Diego Brasioli
