In un’estate in cui Milano vive soprattutto di schermi, connessioni veloci e tempo rubato tra un treno per il lago, una serata all’aperto e una pausa in ufficio, torna al centro un tema che riguarda da vicino tutti: la qualità dei controlli sulle piattaforme digitali. Il caso che coinvolge Meta mette in evidenza un punto molto semplice e molto scomodo: anche sistemi pubblicitari automatizzati, se non monitorati con attenzione, possono diffondere contenuti gravissimi.
Secondo i dati della biblioteca annunci della società, su Facebook, Instagram, Messenger e Threads sono stati pubblicati oltre cinquanta annunci offensivi legati a immagini e video generati con intelligenza artificiale e riconducibili ad abusi sessuali su minori. Alcuni sarebbero rimasti online fino a tempi recentissimi, un dettaglio che ha riacceso domande già note ma mai davvero risolte: quanto riescono a intercettare i controlli automatici? E quanto, invece, serve ancora l’intervento umano?
Per gli utenti milanesi il tema non è astratto. In città e nell’hinterland, le piattaforme social sono ormai parte della vita quotidiana: si usano per informarsi, organizzare uscite, seguire eventi estivi, cercare indirizzi, vendere e comprare, promuovere attività. Proprio per questo la fiducia nei sistemi di moderazione diventa essenziale. Quando un contenuto di natura così grave riesce a entrare nel circuito pubblicitario, il danno non riguarda solo chi lo vede, ma l’intero ecosistema digitale.
Il caso evidenzia anche un altro aspetto della tecnologia di oggi: l’uso dell’intelligenza artificiale per produrre contenuti sempre più realistici e difficili da riconoscere. Se da un lato questi strumenti stanno entrando in molti settori, dall’altro rendono più complesso distinguere tra creatività, manipolazione e abuso. E nel momento in cui l’IA viene utilizzata per creare materiale illegale, la velocità con cui può essere generato supera spesso quella dei meccanismi di revisione.
Per le grandi piattaforme il problema è doppio. Da una parte c’è la promessa, ripetuta da anni, di sistemi di controllo più efficaci. Dall’altra c’è un modello pubblicitario che privilegia quantità, automatismi e rapidità di distribuzione. In mezzo ci sono le famiglie, i minori e gli utenti comuni, che si aspettano un ambiente digitale più sicuro, soprattutto su app usate ogni giorno anche da ragazzi e ragazze.
In un periodo in cui Milano si muove tra vacanze, turni ridotti e serate all’aperto, il telefono resta uno degli oggetti più usati e più esposti. È anche per questo che casi come questo hanno un impatto che va oltre la cronaca internazionale: ricordano quanto sia urgente investire in filtri più severi, revisione più accurata e procedure capaci di intervenire prima che un contenuto venga distribuito su larga scala.
La vicenda apre infine una riflessione più ampia sulla responsabilità delle piattaforme tecnologiche. L’innovazione, da sola, non basta a garantire sicurezza. Quando gli algoritmi diventano veicolo di contenuti tanto gravi, la questione non è solo tecnica: è etica, industriale e sociale. E riguarda da vicino anche una città come Milano, dove la vita digitale è ormai intrecciata con lavoro, studio, mobilità e relazioni quotidiane.
