San Francisco contro le app di deepfake: richiesta di rimozione per contenuti non consensuali

Il procuratore della città di San Francisco, David Chiu, ha lanciato un appello alle grandi aziende tecnologiche Apple e Google per la rimozione immediata di tredici applicazioni di face-swapping. Queste app, disponibili rispettivamente su App Store e Play Store, generano immagini intime non consensuali utilizzando l’intelligenza artificiale.

Chiu ha richiesto non solo la rimozione delle app, ma anche la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori, sottolineando che Apple e Google avrebbero incassato milioni di dollari attraverso acquisti in-app, nonostante le loro policy vietino contenuti pornografici, abusivi o molesti. La legge della California, infatti, proibisce il supporto a servizi che producono materiale pornografico deepfake.

In passato, l’ufficio del procuratore aveva già intrapreso azioni legali contro sedici siti web che si dedicavano alla stessa pratica. La questione ha sollevato preoccupazioni significative riguardo alla sicurezza e al benessere delle vittime, che possono subire danni alla propria reputazione e ripercussioni sulla salute mentale.

Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già eliminato centinaia di app con funzioni di “nudificazione”, incluse quelle segnalate, e ha limitato la ricerca di termini come “nudify” sul Play Store. Al momento, Apple non ha rilasciato commenti ufficiali sulla questione.

Chiu ha descritto la situazione come “assolutamente scioccante”, evidenziando l’ampiezza del fenomeno e le sue gravi conseguenze. Il procuratore ha espresso fiducia che le aziende agiranno prontamente per rimuovere le app incriminate e rafforzare i controlli, non escludendo ulteriori azioni legali nel caso in cui non venga rispettata la richiesta.