L’intelligenza artificiale sta affrontando una crisi di controllo, e il settore ne è consapevole

Nell’era in rapida evoluzione dell’intelligenza artificiale nuovi traguardi si susseguono a un ritmo vertiginoso, come dimostra l’attacco israelo-americano all’Iran. La guerra nel Golfo Persico riflette la più profonda integrazione di questa tecnologia in molteplici ambiti bellici, tra cui l’analisi dell’intelligence, l’identificazione dei bersagli, le simulazioni di battaglia, la ricognizione sotto copertura e forme insolite di disinformazione bellica, il tutto eseguito con una velocità sorprendente. L’ammiraglio Brad Cooper, capo del Comando Centrale degli Stati Uniti, ha recentemente sottolineato l’influenza dell’IA sulla guerra in un video di aggiornamento. “Questi sistemi ci aiutano a vagliare enormi quantità di dati”, ha affermato. “Gli strumenti avanzati di IA possono trasformare processi che prima richiedevano ore e talvolta persino giorni in pochi secondi”. Questi sviluppi sono indubbiamente impressionanti, ma rappresentano solo dati all’interno di una più ampia narrazione di trasformazione che ha subito un’accelerazione almeno dal 2023. Le principali aziende di intelligenza artificiale a livello mondiale stanno diventando sempre più sia artefici che strumenti della sicurezza globale nel ventunesimo secolo, rivaleggiando con l’influenza degli stati nazionali. Il contesto di sicurezza che stanno plasmando è caratterizzato da una dinamica fondamentale: le aziende di intelligenza artificiale stanno sviluppando e diffondendo nuove tecnologie in grado di eludere il controllo umano, una crisi in continua evoluzione che i leader del settore e gli esperti di intelligenza artificiale hanno rivelato con notevole trasparenza. La crisi di controllo ha due dimensioni. La prima riguarda quella che potremmo definire la proliferazione dell’IA, ovvero la crescente capacità di individui e gruppi malintenzionati di utilizzare potenzialmente le tecnologie emergenti per progettare e implementare una terrificante nuova generazione di armi chimiche, agenti patogeni sintetici e armi informatiche autonome in grado di violare e sabotare le infrastrutture critiche mondiali. La seconda è altrettanto inquietante. Le aziende di intelligenza artificiale hanno onestamente segnalato numerosi casi in cui i loro modelli si sono resi protagonisti di elaborati atti di inganno e manipolazione, tentando di agire in modo incontrollato. Il mondo sta assistendo allo sviluppo di un problema sempre più complesso, persistente e insidioso. Gli avvertimenti urgenti lanciati nel corso degli anni non sono riusciti a generare soluzioni concrete per affrontare una minaccia in continua espansione. In assenza di interventi governativi o sociali, le aziende che si occupano di intelligenza artificiale – messaggere del rischio – potrebbero dover assumere anche il ruolo di guardiani di questa nuova tecnologia. Una riflessione dal think tank Council on Foreign Relations