(ME)
Jim VandeHei e Mike Allen (Axios) scrivono: Chiediamo quasi sempre la stessa cosa in privato a ogni architetto e leader nel campo dell’IA: qual è il rischio legato all’IA che vi preoccupa di più? Quasi tutti rispondono allo stesso modo: un agente patogeno letale, che si diffonde in modo troppo silenzioso, capillare e rapido per essere fermato. il raro consenso tra gli esperti di IA deriva dalla convinzione che questi modelli avanzati potrebbero aiutare un malintenzionato a creare un agente patogeno letale prima che il governo e l’industria perfezionino i sistemi di rilevamento e prevenzione. Questo non è uno scenario probabile. E alcuni dei più grandi ottimisti dell’IA rifiutano gli scenari catastrofici. È semplicemente uno scenario plausibile, dato che l’IA sta diventando sempre più brava a comprendere le nostre vulnerabilità biologiche, proprio come ha fatto con le nostre vulnerabilità informatiche all’interno di grandi sistemi non umani. Gli esperti non stanno tergiversando. In un nuovo studio del MIT FutureTech e dell’Università del Queensland, 272 ricercatori hanno stilato una classifica dei 24 principali rischi legati all’IA. Hanno stimato una probabilità del 12% che le pericolose capacità dell’IA producano un esito catastrofico entro il 2030, e un’ulteriore probabilità del 12% che armi basate sull’IA abbiano la capacità di causare danni di massa. E questo considerando le misure di mitigazione per ridurre il rischio. Senza tali misure, le probabilità superano il 20%. I ricercatori hanno definito “catastrofico” un evento con oltre un milione di morti o 100 miliardi di dollari di danni. L’assistenza nella costruzione di armi chimiche o biologiche rientra a pieno titolo in questa categoria di rischio più elevata.
Behind the Curtain: The AI titans’ biggest private fear
