La corsa all’intelligenza artificiale sta aprendo un fronte meno appariscente di quello dei chip e dei grandi modelli, ma altrettanto strategico: la selezione dei soggetti autorizzati a valutarne la sicurezza. Il punto non è più soltanto stabilire quali prove debbano superare i sistemi più avanzati. È decidere chi possa condurle, con quale mandato e nell’interesse di chi.
La Casa Bianca di Donald Trump si trova davanti a un dilemma. Washington vuole conoscere in anticipo le capacità dei modelli di frontiera, soprattutto in ambiti come gli attacchi informatici, l’automazione della ricerca e l’elusione dei controlli. Al tempo stesso, l’amministrazione non intende costruire un apparato regolatorio che rallenti le aziende statunitensi nella competizione con la Cina. Ne deriva una formula fondata su accesso governativo, collaborazione volontaria con l’industria e valutatori esterni. Proprio quest’ultimo anello, però, rischia di diventare il più controverso.
Organizzazioni come METR possiedono competenze rare per misurare fino a che punto un modello possa svolgere autonomamente compiti complessi. La loro centralità le espone tuttavia a contestazioni politiche. Alcuni esponenti e ambienti vicini a questi organismi vengono associati all’altruismo efficace, corrente accusata dalla destra trumpiana di aver trasformato scenari estremi sull’intelligenza artificiale in una piattaforma per imporre vincoli preventivi. Si aggiunge il sospetto di una prossimità eccessiva alle stesse imprese sottoposte a esame. Il controllore, in altre parole, potrebbe dipendere economicamente, culturalmente o professionalmente dal controllato.
La controversia supera il confronto fra fautori della sicurezza e sostenitori dell’innovazione. Riguarda la formazione di una nuova infrastruttura di potere. Chi stabilisce che cosa costituisca una capacità pericolosa può influenzare i tempi di rilascio dei modelli, l’accesso agli appalti pubblici, la distribuzione delle responsabilità e, in prospettiva, le restrizioni sulle esportazioni. Una valutazione tecnica può così produrre conseguenze industriali e diplomatiche. Definire un modello come sicuro o insicuro equivale sempre più a concedergli o negargli un passaporto strategico.
Per gli Stati Uniti, il problema è aggravato dalla rivalità con Pechino. Controlli troppo deboli aumenterebbero il rischio che sistemi avanzati vengano sfruttati per operazioni informatiche, proliferazione tecnologica o attività ostili. Controlli troppo onerosi potrebbero invece rallentare i campioni americani e spingere capacità, investimenti e talenti verso giurisdizioni meno restrittive. La sicurezza dell’AI diventa quindi una componente della sicurezza nazionale, ma anche della politica industriale.
La soluzione più probabile non sarà l’indipendenza assoluta dei valutatori, difficilmente realizzabile in un settore dove competenze e risorse sono concentrate. Sarà piuttosto una gestione istituzionale delle dipendenze: criteri pubblici di accreditamento, dichiarazioni dei conflitti d’interesse, pluralità dei valutatori, rotazione degli incarichi e verifiche incrociate. Il governo dovrà inoltre conservare capacità tecniche proprie, per non delegare a soggetti privati decisioni che possono incidere sull’equilibrio militare ed economico.
La battaglia sui valutatori anticipa così una fase più matura della competizione tecnologica. Dopo la corsa a costruire i modelli arriva la corsa a definire gli standard con cui giudicarli. E come già accaduto nelle telecomunicazioni, nella finanza e nell’energia nucleare, chi controlla gli standard non si limita a sorvegliare il mercato: contribuisce a determinarne gerarchie, accessi e confini.
Fonte: Axios – Inside the scramble for trusted AI cops
The Global Eye è in partnership con SIOI – Società Italiana per l’Organizzazione Internazionale
