Modifiche a "Prevenzione dell'uso di materiale CSAM generato da AI"

L'attuale legislazione italiana (e in parte il nuovo AI Act europeo) lascia ancora pericolose zone grigie per l'uso "tecnico" o "di ricerca" delle immagini generate dall'IA, comprese immagini di abusi sessuali su minori (Child Sexual Abuse Material, CSAM).

Per fermare questa deriva, serve una legge speciale che agisca su più fronti:

• Divieto assoluto di generazione e training: Nessuna istituzione pubblica o privata (incluse università e aziende tech che operano in Italia) può generare CSAM, neppure per scopi di red teaming (testare le vulnerabilità dei sistemi) o per addestrare filtri di sicurezza. I database esistenti di CSAM sintetico devono essere distrutti. La ricerca sui filtri di sicurezza deve basarsi su metodologie non visive o privacy-preserving che non prevedano la generazione o la visione dei materiali.

• Parificazione penale totale (il danno non è virtuale): La legge deve esplicitare che la creazione di immagini pedopornografiche tramite IA, anche se non raffigura bambini reali ma corpi fotorealistici, costituisce a tutti gli effetti reato, eliminando l'attenuante dell'inesistenza della vittima fisica. Il reato si perfeziona nel momento stesso del prompt generativo, indipendentemente dalla diffusione.

• Responsabilità oggettiva dei fornitori di IA: Le aziende che offrono servizi di IA generativa devono essere civilmente e penalmente corresponsabili in Italia se i loro modelli consentono nativamente la generazione di CSAM. Non basta un filtro a posteriori; il modello di base deve essere "progettato" matematicamente alla radice contro queste generazioni.

• Infiltrazione proattiva della Polizia Postale: Operazioni sotto copertura della Polizia Postale nei forum del Dark Web e nei gruppi social dove viene scambiato il materiale sintetico, equiparando le risorse investigative a quelle impiegate per i reati "fisici".

Fonti

• Terre des Hommes (2024): AI and OCSEA Full Report

  Il report denuncia in maniera chirurgica le falle sistemiche nell'attuale approccio all'IA e al materiale pedopornografico, sottolineando i rischi degli archivi di CSAM sintetico.

  https://int.terredeshommes.nl/uploads/d4b0b7da-ai-and-ocsea-full-report.pdf

• Internet Watch Foundation (IWF) (2023): How AI is being abused to create child sexual abuse imagery

  Analizza la terrificante esplosione di CSAM sintetico nei forum del dark web descrivendo i metodi e proponendo azioni radicali.

  https://www.iwf.org.uk/media/q4zll2ya/iwf-ai-csam-report_public-oct23v1.pdf

• Europol Innovation Lab (2022): Facing reality? Law enforcement and the challenge of deepfakes

  Il report analizza l'uso criminale dei deepfake e l'impatto devastante del materiale sintetico, incluso il CSAM, avvertendo le forze dell'ordine sull'impossibilità di distinguere la finzione dalla realtà e sul rischio per le vittime.

  https://www.europol.europa.eu/publications-events/publications/facing-reality-law-enforcement-and-challenge-of-deepfakes