UN News (19 novembre 2026) riporta che l’Assemblea Generale delle Nazioni Unite ha ospitato un evento di alto livello sui rischi e sulle opportunità dell’intelligenza artificiale nella lotta contro lo sfruttamento dei minori, dal quale è emerso un quadro di ritardo strutturale della governance internazionale rispetto alla velocità dell’innovazione tecnologica.
La Rappresentante Speciale del Segretario Generale sulla violenza contro i minori, Najat Maalla M’jid, ha formulato la diagnosi più netta: «Abbiamo perso la battaglia sui social media perché eravamo in ritardo, e ora stiamo perdendo la battaglia sull’intelligenza artificiale perché siamo ancora in ritardo».
Il dato più grave è stato fornito dalla Vice Segretaria Generale Amina Mohammed, che ha citato uno studio dell’UNICEF: nell’ultimo anno almeno 1,2 milioni di minori in 11 Paesi hanno subito la manipolazione delle proprie immagini in deepfake a contenuto sessualmente esplicito.
La Rappresentante Speciale ha inoltre riferito che le segnalazioni di materiale pedopornografico collegato a sistemi di IA generativa sono aumentate del 1.325 per cento tra il 2023 e il 2024, secondo i dati del Centro Nazionale statunitense per i minori scomparsi e sfruttati (NCMEC) da lei citati, precisando che la maggior parte dei reati assistiti da IA resta non denunciata e non perseguita.
Sul piano operativo, la minaccia si articola in tre direttrici: chatbot impiegati per conquistare la fiducia dei minori, raccogliere dati personali e indurli a condividere immagini intime; applicazioni di «nudificazione» utilizzate per umiliare, minacciare e ricattare; sistemi di profilazione e targeting predittivo che consentono ad aggressori, trafficanti e gruppi criminali di raggiungere più agevolmente i minori vulnerabili.
John Trenary, investigatore con oltre venticinque anni di esperienza, ha aggiunto una variabile qualitativa decisiva: poiché l’IA è in grado di automatizzare e di generare contenuti interamente sintetici su scala industriale, il suo impiego illecito diventa «autoalimentante» — ogni volta che gli inquirenti contengono una modalità di abuso, ne emerge un’altra.
Kay Chau della Tech Coalition ha segnalato l’uso di chatbot per simulare giochi di ruolo abusanti o generare copioni di adescamento, nonché i rischi emergenti legati all’IA agentica, capace di eseguire compiti in autonomia. Mariana Rozo-Paz della Datasphere Initiative ha offerto il risvolto più emblematico del divario generazionale: in un programma di alfabetizzazione digitale in Colombia rurale, un gruppo di adolescenti ha disegnato Internet raffigurando una ragazza, «Lucia», identificata come il proprio agente di IA.
Il quadro normativo resta ancorato alla volontarietà. A luglio il Segretario Generale António Guterres ha lanciato l’AI Child Safety Pledge, che si propone di rendere i sistemi di IA sicuri e certificati prima che raggiungano i minori e di sancire tolleranza zero verso il materiale di abuso generato da IA. «Non accetteremmo mai che un giocattolo per bambini arrivasse sul mercato senza adeguati controlli di sicurezza, ma i sistemi di IA raggiungono i minori senza le stesse verifiche», ha osservato la Vice Segretaria Generale, per la quale «non possiamo lasciare la loro sicurezza alla buona volontà delle aziende tecnologiche».
Il settore privato, dal canto suo, non rivendica l’autoregolamentazione come soluzione. OpenAI ha pubblicato in aprile un Child Safety Blueprint che chiede la modernizzazione delle leggi sul Child Sexual Abuse Material (CSAM) generato o alterato dall’IA, il rafforzamento degli obblighi di segnalazione dei fornitori e misure di sicurezza integrate fin dalla progettazione; a settembre l’azienda ha dichiarato di sostenere l’adozione di requisiti nazionali obbligatori e basati sulle capacità dei sistemi. Il 16 novembre ha annunciato nuovi strumenti di rilevamento del materiale abusivo e risorse per gli investigatori. La Tech Coalition ha dal canto suo pubblicato a giugno e ottobre linee guida sulla rendicontazione di trasparenza per i modelli generativi e sui rischi dell’IA agentica, segnalando che l’age-gating (verifica dell’età) non impedisce agli utenti adulti di generare materiale illecito su piattaforme autorizzate solo agli adulti. La posizione industriale prevalente converge dunque sulla richiesta di norme vincolanti, non sulla loro elusione.
Sul fronte regolatorio, i tempi restano il punto critico. Il regolamento europeo sull’IA (Reg. UE 2024/1689), modificato a luglio dal Reg. UE 2026/1744, vieta i sistemi che generano o manipolano materiale pedopornografico e contenuti intimi non consensuali — divieto operativo dal 2 dicembre 2026, a poche settimane di distanza. La direttiva UE che criminalizza le nuove forme di abuso, finalizzata dagli ambasciatori degli Stati Membri il 21 ottobre 2026, attende ancora il recepimento nazionale. Sul versante della detection, la deroga all’ePrivacy che consente il rilevamento volontario è stata ripristinata solo il 23 luglio 2026 — dopo la scadenza del 3 aprile — e resta in vigore fino al 3 aprile 2028, in attesa del regolamento CSAM di lungo periodo ancora in negoziato. Nel Regno Unito, il Crime and Policing Act 2026 ha introdotto una fattispecie ad hoc per la detenzione e la fornitura di generatori di immagini di abuso, con pene fino a cinque anni. In novembre, Ofcom ha annunciato nuove regole che impongono alle piattaforme il banco degli utenti responsabili di generazione o diffusione, l’hash matching (confronto delle impronte digitali dei contenuti noti) esteso e strumenti automatizzati di rilevamento proattivo, con entrata in vigore prevista dall’inizio del 2027.
La Fondazione World Childhood ha chiuso il dibattito consegnando alla sala la voce di un giovane svedese: «La tecnologia è davvero straordinaria. Ma si capisce che chi dovrebbe controllarla non riesce a stare al passo». «I minori non dovrebbero mai doverci dire che gli adulti responsabili della loro sicurezza non riescono a stare al passo — ha concluso la Segretaria Generale dell’organizzazione, Paula Guillet de Montoux — Dimostrare che ne siamo capaci è nostra responsabilità».
Marco Emanuele



