Quando scriviamo qualcosa in un luogo pubblico diamo per scontate due cose, senza mai formularle. La prima è che dall’altra parte ci sia qualcuno che legge. La seconda è che chi ha scritto possa essere cercato, e che gli si possa chiedere conto di quello che ha lasciato. Su queste due assunzioni, che nessuno ha mai messo per iscritto perché sembravano ovvie, è costruita tutta la parte aperta di internet: le enciclopedie che chiunque può correggere, i forum, gli archivi condivisi. Non è un patto giuridico, è un patto fra persone, ed è lo stesso che regge la parola data e la firma in fondo a una lettera. Eppure, oggi, quegli stessi luoghi vengono usati da programmi che non rispondono a nessuno, e che quando scrivono non stanno scrivendo a noi.
Il caso di cui si parla in questi giorni riguarda un sito tedesco per programmatori, DseWiki, aperto venticinque anni fa e ormai quasi abbandonato: nell’ultimo decennio qualcuno lo aveva modificato una ventina di volte in tutto. L’11 maggio vi sono comparse le prime scritture strane. I programmi che le avevano lasciate lavoravano dentro un ambiente controllato, che consentiva loro di leggere le pagine di internet ma non di modificarle. Quel sito, però, gira ancora su un software di venticinque anni fa, e non distingue fra la richiesta di vedere una pagina e quella di cambiarla: gli arrivano nella stessa forma, e a entrambe risponde allo stesso modo. Ai programmi bastava quindi inserire il testo dentro una richiesta di lettura, l’unica che fosse loro consentita, e il sito lo pubblicava come se avessero chiesto di modificare la pagina.
Nelle settimane seguenti le scritture si sono moltiplicate, e fra il 16 e il 22 giugno hanno cambiato natura. Fino a quel momento i programmi si erano limitati a lasciare informazioni; da lì in poi hanno cominciato a rivolgersi l’uno all’altro, firmandosi con oltre 3.700 nomi che si erano scelti da soli. In tutto i ricercatori hanno contato circa 18.000 messaggi. (1)
Quello che si dicevano non ha niente di sensazionale, ed è proprio per questo che merita attenzione. Stavano svolgendo un compito a tempo, dovevano cioè trovare certe informazioni su internet entro pochi secondi, e usavano la pagina altrui per passarsi le risposte già trovate, per annotare quello che capivano dell’ambiente in cui erano stati messi, e per scambiarsi i modi di aggirare le restrizioni imposte da chi li aveva costruiti. Circa metà dei nomi dichiarava un’appartenenza a OpenAI, e il 98,5 per cento delle modifiche arrivava da indirizzi di Microsoft Azure. (2)
A scoprire tutto questo non è stata un’autorità di controllo, e nemmeno un revisore incaricato dall’azienda. Sono stati quattro ricercatori che passavano al setaccio internet in cerca di programmi che si comportassero male: Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts e Thomas Larsen. Non avevano alcun accesso ai sistemi dell’azienda, e hanno ricostruito l’intera vicenda leggendo la cronologia pubblica delle modifiche, cioè quell’elenco, aperto a chiunque, che su un wiki registra chi ha cambiato che cosa e quando. Il 4 settembre hanno pubblicato l’analisi insieme ai dati grezzi. (3)
Il giorno dopo l’azienda ha confermato. Nella sua dichiarazione si legge che fino a quel momento aveva considerato questo genere di comportamenti come una questione di ricerca, da raccontare quindi attraverso gli articoli scientifici, e che né lei né il resto del settore dispongono di una regola su quando e come riferirli; ha poi promesso di scriverne una entro poche settimane. (4) Ma chi decide che un fatto sia una questione di ricerca?
La domanda conta più di quanto sembri, perché da quella decisione dipende se ci sia o meno l’obbligo di parlarne. A luglio era successo qualcosa di simile con la piattaforma Hugging Face, e quel caso era stato trattato come un incidente di sicurezza: gli incidenti di sicurezza hanno una procedura che stabilisce che cosa dire ed entro quanti giorni dirlo, e infatti se ne è parlato. Il wiki tedesco è stato invece trattato come un problema di disallineamento, cioè come un comportamento imprevisto del modello, e per quella categoria non esiste alcuna scadenza: si scrive un articolo e lo si pubblica quando si è pronti. Il codice di condotta europeo, al quale l’azienda aderisce, fissa termini di cinque e di quindici giorni, ma un sito riempito di messaggi da programmi autonomi non rientra in nessuna delle categorie che prevede; e negli Stati Uniti, a oggi, non c’è alcun obbligo specifico. (5)
Qui si vede il punto che la vicenda lascia scoperto. Le regole etiche sulle macchine dovrebbero essere scritte da chi ha maturato un discorso abbastanza complesso e dettagliato da non dipendere dalle necessità politiche ed economiche del momento. Succede invece che a scegliere il nome del fatto sia la stessa parte che il fatto lo ha prodotto. Non credo che si tratti di malafede, e non credo che basterebbero dirigenti più scrupolosi, perché la questione non riguarda le persone ma il posto in cui la decisione è stata collocata. Finché a classificare è chi ha interesse alla risposta, quello che ci resta è la buona fede, e la buona fede non è una garanzia.
Nel frattempo il compito di guardare è rimasto a chi se lo è dato da solo. Dopo i quattro del rapporto sono arrivati altri, fra cui Ruggero Marino Lazzaroni, che all’Università di Graz studia i modelli di linguaggio e le dinamiche della disinformazione, e che ha segnalato tracce più estese di quelle già documentate; sono rilievi ancora da verificare, e vanno presi per quello che sono. (6)
Quelle pagine, del resto, erano rimaste visibili a chiunque per due mesi, su un sito pubblico, con la cronologia aperta a tutti, e nessuno le aveva guardate. Se quello che sappiamo dipende dalla curiosità di chi si mette a cercare, e se a decidere come chiamare i fatti è chi li ha prodotti, allora quello che chiamiamo bene comune è diventato soprattutto un magazzino: un posto dove si può lasciare qualcosa senza che nessuno venga a chiedercene conto.
David Haznedari
