Immagina di caricare una tua foto in vacanza sulla tua piattaforma social preferita. Indossi un costume da bagno e sorridi alla telecamera. Ora immagina di imbatterti in questa stessa immagine mentre scorri il tuo feed di notizie. Riconosci il tuo viso, lo sfondo, e sembra la tua foto, ma in questa immagine sei completamente nud*. Ci sono alcune incongruenze – non riconosci il corpo nell’immagine – ma è comunque convincente.
Potrebbe sembrare una scena da un episodio di Black Mirror ma in realtà è una reale possibilità, grazie agli strumenti disponibili sull’app Telegram, che consentono agli utenti di caricare immagini innocenti di una persona (vestita) e richiedere che questa venga “svestita digitalmente”, a pagamento. Telegram ha più di 400 milioni di utenti mensili attivi.
Anche se Telegram funziona prevalentemente come app di messaggistica, presenta anche programmi autonomi (chiamati “bot”), uno dei quali è in grado di sintetizzare digitalmente queste immagini di nudo “deepfake”.
La società di rilevamento deepfake Sensity ha recentemente pubblicato una ricerca su Telegram. Hanno scoperto che il 70% degli utenti di Telegram utilizza il suo bot deepfake per prendere di mira le donne e che, alla fine di luglio 2020, almeno 104.852 immagini di nudo falso erano state condivise in un canale di “raccolte di immagini” disponibile sull’app. È probabile che il numero di immagini richieste dagli utenti che sono state condivise pubblicamente sia molto più alto. La facilità con cui tale “manipolazione dell’immagine” può essere eseguita all’insaputa delle vittime è allarmante.
Quindi l’uso di bot per produrre immagini deepfake di pseudo-nudo è legale?
Foto di minorenni
Il bot di Telegram è stato collegato a segnalazioni di immagini che sembrano essere di ragazze minorenni. In questo caso, se la persona nell’immagine è minorenne, la posizione giuridica è chiara. Le immagini di bambini reali che vengono alterate per apparire nude o sessualmente esplicite sono illegali a livello internazionale. La Convenzione sui diritti dell’infanzia, ratificata da 196 Paesi, impone alle parti della Convenzione di adottare misure per proteggere i bambini dallo sfruttamento sessuale e dall’uso nella produzione di materiale pornografico.
Fintanto che Telegram rimuove le immagini indecenti di bambini segnalate, la piattaforma non è colpevole, secondo l’attuale sistema legale internazionale, qualora un utente utilizzi il bot deepfake per produrre un’immagine indecente di un bambino. Ma è dubbio che questa legge renda il bot stesso illegale.
Nel Regno Unito, gli obblighi internazionali di protezione dei bambini dallo sfruttamento sessuale sono rafforzati da leggi che vietano la produzione di immagini sessuali manipolate, come le immagini ritoccate di un minore che appare nudo. Il Protection of Children Act (1978) vieta la creazione e la distribuzione di tali immagini, e la sezione 160 del Criminal Justice Act (1988) rende un reato per una persona anche avere in proprio possesso una immagine indecente manipolata di un minore.
E gli adulti?
Per gli adulti di età superiore ai 18 anni, la produzione di una immagine sessuale manipolata di una persona non è di per sé illegale ai sensi del diritto internazionale o nel Regno Unito, anche se è prodotta e distribuita senza il consenso della persona ritratta nell’immagine.
Questo è, come al solito, un caso in cui la legge deve stare al passo. Le leggi internazionali create per proteggere la privacy non proteggono necessariamente da questo tipo di abuso. L’articolo 8 della Convenzione europea dei diritti dell’uomo, che prevede il diritto al rispetto della “vita privata e familiare, della casa e della corrispondenza” di una persona, è stato utilizzato come base per le leggi nazionali in tutto il Regno Unito e in Europa per proteggere le fotografie, ma solo se l’immagine originale rimane inalterata.
Il bot di Telegram sfrutta quindi una lacuna legale quando si tratta di immagini deepfake di adulti (Telegram non ha risposto alle nostre domande sul bot e sulle immagini che produce, né alle richieste di Sensity alla pubblicazione del rapporto). Sebbene esistano leggi che possono proteggere gli adulti dallo sfruttamento e dagli abusi sessuali tramite i social media, queste leggi non sono così solide come quelle che proteggono i bambini. Non si applicano alle immagini prodotte dall’intelligenza artificiale dei bot di Telegram.
Ad esempio, nel Regno Unito, il fenomeno del revenge porn – la condivisione non consensuale di immagini di nudo e sessuali – è vietato dal Criminal Courts and Justice Act (2015). Ma questo non copre le situazioni in cui un’immagine originale o standard viene modificata per apparire sessuale o per mostrare nudo. La distribuzione di un’immagine in stile Telegram non verrebbe presa in considerazione in base alle disposizioni sul revenge porn, anche se la persona che crea l’immagine intendeva causare danni e angoscia alla vittima. In base a queste disposizioni una componente essenziale è che l’autore del reato abbia utilizzato un’immagine non alterata.
Affinché un’immagine modificata o deepfake di un adulto non rispetti la legge, devono essere coinvolti altri elementi. L’immagine creata deve essere considerata “gravemente offensiva” (in violazione della sezione 127 (1) del Communications Act 2003) e deve essere dimostrato che l’immagine manipolata sia stata inviata allo scopo di causare “ansia inutile”. Per provare questo reato, i pubblici ministeri devono stabilire un motivo ostile nei confronti della vittima. Se questo tipo di immagine è stata inviata per scherzo, ad esempio, non è probabile che contravvenga all’atto. Gli elementi di questo reato sono notoriamente soggettivi e difficili da provare.
Dato questo contesto, forse non sorprende sapere che tali atti siano raramente denunciati, per non parlare di indagati. I procedimenti penali per questo tipo di reato sono rari, nonostante le linee guida del Governo (britannico, NdT) stabiliscano che questi tipi di reati possano essere gravi.
Regolamentare i reati informatici
La regolamentazione della tecnologia richiede che la legge si tenga al passo con le tendenze in rapida evoluzione e altamente complesse. Telegram è solo un esempio del crescente interesse per immagini e video “deepfake”. È anche probabile che diventeranno sempre più realistici.
Il Regno Unito sta prendendo in considerazione una legislazione in base alla quale le piattaforme di social media potrebbero incorrere in multe per aver facilitato tali immagini. Il Governo ha proposto di fare in modo che aziende come Telegram si assumano maggiori responsabilità per la sicurezza dei propri utenti e affrontino i danni causati dal contenuto o dall’attività sul loro servizio. Ma i progressi sono vacillati e sfortunatamente la legislazione potrebbe non essere approvata fino al 2023.
Le app che facilitano o producono immagini false per il consumo generale sono una tendenza pericolosa che non si dissolverà senza modifiche considerevoli al quadro giuridico attuale.
Fonte
Magazine: The Conversation UK
Articolo: Can the law stop internet bots from undressing you?
Scritto da: Jo Ann Pattinson, Subhajit Basu
Data: 6 novembre
Traduzione a cura di: Caterina Fantacci
Immagine di copertina: Philipp Katzenberger
Immagine in anteprima: freepik
