In Breve
- Qual è l'azione intrapresa da San Francisco contro le app di deepfake?
- Il procuratore David Chiu ha richiesto la rimozione di tredici app di face-swapping che generano immagini intime non consensuali.
- Cosa chiede il procuratore a Apple e Google?
- Chiede la cessazione di collaborazioni commerciali con gli sviluppatori e la rimozione delle app incriminate.
- Quali sono le conseguenze per le vittime?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
Il procuratore della città di San Francisco, David Chiu, ha preso una posizione decisa contro l’uso di tecnologie di intelligenza artificiale per la creazione di immagini intime non consensuali. In una recente iniziativa, Chiu ha inviato diffide ad Apple e Google, chiedendo la rimozione immediata di tredici applicazioni di face-swapping, otto delle quali disponibili sull’App Store e cinque sul Play Store.
Le richieste non si limitano alla rimozione delle app; il procuratore ha anche chiesto la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori responsabili e la fine dei profitti derivanti da acquisti in-app. Secondo Chiu, Apple e Google avrebbero guadagnato milioni di dollari nonostante le loro politiche per sviluppatori vietino esplicitamente contenuti pornografici, abusivi o molesti.
La legge della California è chiara: è vietato fornire supporto a servizi che producono materiale pornografico deepfake. L’ufficio del procuratore ha già intrapreso azioni legali in passato contro sedici siti web dedicati a pratiche simili, dimostrando un impegno costante nella lotta contro questa forma di abuso.
In risposta alle preoccupazioni sollevate, Dan Jackson, portavoce di Google, ha dichiarato che l’azienda ha già eliminato centinaia di app con funzioni di “nudificazione”, comprese le cinque segnalate da San Francisco. Inoltre, Google ha limitato la ricerca di termini come “nudify” all’interno del Play Store. Apple, al momento, non ha rilasciato commenti ufficiali sulla questione.
Chiu ha descritto la situazione come “assolutamente scioccante” per l’ampiezza del fenomeno e le sue conseguenze devastanti sulle vittime, che possono includere danni alla reputazione e ripercussioni sulla salute mentale. Il procuratore ha espresso fiducia nel fatto che le aziende rimuoveranno spontaneamente le app incriminate e rafforzeranno i controlli per prevenire ulteriori abusi. Tuttavia, ha anche avvertito che non esclude la possibilità di ulteriori azioni legali se le misure necessarie non verranno adottate.
Questa iniziativa di San Francisco si inserisce in un contesto più ampio di crescente preoccupazione per l’uso improprio della tecnologia e la protezione della privacy individuale. Con l’avanzare delle tecnologie di intelligenza artificiale, è fondamentale che le aziende tech si assumano la responsabilità di garantire che le loro piattaforme non vengano utilizzate per perpetuare abusi e violazioni della dignità umana.
