Le app di intelligenza artificiale che trasformano foto e volti in contenuti sessualmente espliciti stanno diventando uno dei fronti più delicati della tecnologia di consumo. In questi giorni, San Francisco ha chiesto ai grandi store digitali di rimuovere alcuni servizi di questo tipo, accusati di guadagnare sulla diffusione di strumenti usati soprattutto contro donne e ragazze.
La notizia arriva mentre anche in Europa cresce l’attenzione verso gli usi più aggressivi dell’AI generativa. E per Milano, città dove si incrociano lavoro, formazione, startup e vita digitale di milioni di persone, il tema non è affatto lontano. Anzi, riguarda da vicino studenti, famiglie, aziende e chiunque utilizzi piattaforme social o app di editing foto senza conoscerne davvero i rischi.
Il punto non è solo tecnologico, ma culturale e di sicurezza. Le cosiddette app di “face swap” o “nudify” consentono di manipolare immagini in modo realistico, spesso senza consenso. In pochi passaggi è possibile alterare una foto, costruire contenuti falsi e condividerli in rete, con conseguenze pesanti sul piano della reputazione, della privacy e dell’equilibrio psicologico delle vittime.
Per questo la richiesta arrivata alle società che gestiscono gli store digitali ha un peso simbolico importante: non basta reagire dopo l’abuso, bisogna intervenire prima, rendendo meno accessibili gli strumenti più pericolosi. È un passaggio che tocca direttamente anche il dibattito su come vengono moderati gli applicativi basati sull’AI e su quanto controllo abbiano le piattaforme sui software distribuiti nei marketplace.
In Italia il tema si intreccia con una sensibilità crescente verso il revenge porn, il furto d’identità e le molestie online. A Milano, dove la vita sociale e professionale passa spesso dagli schermi, queste pratiche possono colpire in modo rapido e trasversale. Basta una foto presa da un profilo pubblico, un archivio di chat o un’immagine condivisa per avviare una catena di danni difficili da fermare.
Il problema è accentuato dalla facilità d’uso di questi strumenti. Non servono competenze tecniche avanzate: proprio questa accessibilità li rende attraenti e pericolosi. In un periodo in cui molti milanesi stanno per partire o organizzano weekend fuori città, tra locali all’aperto, festival serali e vacanze brevi, la circolazione di immagini sui social tende ad aumentare. Ed è in questi contesti che la prudenza digitale conta ancora di più.
Gli esperti di sicurezza informatica ricordano da tempo che la tutela passa da più livelli: regole chiare per le piattaforme, controlli più severi sugli store, educazione digitale e strumenti rapidi per segnalare i contenuti abusivi. Se un’app nasce per aggirare il consenso e monetizzare la violazione della dignità personale, il confine tra innovazione e abuso diventa molto sottile.
Per Milano, che ospita un ecosistema vivace di startup, creator, professionisti dei media e aziende tech, questa vicenda è anche un promemoria. L’innovazione non si misura solo dalla potenza dei modelli o dalla velocità delle app, ma dalla capacità di proteggere le persone. E nell’estate del 2026, con l’AI sempre più presente nella vita quotidiana, la domanda è semplice: quali strumenti vogliamo davvero far entrare nelle nostre tasche e nei nostri telefoni?
