Nel complesso ambiente multimediale di oggi, le persone possono avere difficoltà a separare la realtà dalla finzione. Il tutto si complica quando abbiamo a che fare con i deepfake. Utilizzando reti neurali profonde (una tecnica di machine learning), è sempre più facile manipolare in modo convincente immagini e video di persone attraverso il controllo del linguaggio, dei movimenti e dell’aspetto. In sintesi, si può imitare alla perfezione un personaggio famoso e fargli dire letteralmente quello che si vuole. In risposta, i ricercatori hanno creato un algoritmo che genera un attacco contro i sistemi di manipolazione facciale al fine di corrompere e rendere inutili tentativi di deepfake. I filtri proteggono dal deepfake.
L’algoritmo dei ricercatori consente agli utenti di proteggere i media prima di caricarli su Internet sovrapponendo un’immagine o un video con un filtro impercettibile. Quando un manipolatore utilizza una rete neurale profonda per tentare di alterare un’immagine o un video protetto dall’algoritmo, si renderizzano alcuni pixel in modo tale che i media diventano irriconoscibili e inutilizzabili come deepfake. I ricercatori hanno reso pubblicamente disponibile il loro codice open source. Il loro documento non è stato ancora sottoposto a revisione paritaria ed è disponibile su arXiv.
I filtri proteggono dal Deepfake, una tecnica dannosa altamente diffusa
Nataniel Ruiz, dottorando in informatica presso l’Università di Boston e coautore del documento, afferma che l’idea per il progetto gli è venuta dopo che si è interessato alle tecniche in rapido progresso per la creazione di deepfake. Ha avuto l’idea di interrompere i deepfake dopo aver parlato con il suo consulente di dottorato, Stan Sclaroff sui possibili usi dannosi della tecnologia dei deepfake.
Di fatto le applicazioni di deepfake traspongono realisticamente il volto di un individuo sul corpo di un altro. Per fare ciò, l’app necessità di grandi quantità di immagini della persona da manipolare. I recenti progressi nel campo ora consentono la creazione di immagini e video falsi di persone che usano solo poche immagini. È anche diventato più facile per i non esperti.
L’anno scorso, ad esempio, l’app FaceApp ha visto un’alta attenzione su di sé. Un’azienda russa ha creato FaceApp. Essa consente agli utenti di tutti i giorni di trasformare le immagini degli individui in versioni precedenti di se stessi, cambiare la loro espressione in un sorriso o altri trucchi. È possibile addirittura avere il proprio volto del sesso opposto.
La relativa facilità con cui gli utenti di Internet possono creare deepfake potrebbe ulteriormente confondere la realtà con la finzione. Il tutto, poi, può risultare dannoso se abbiamo la politica di mezzo. Facebook sta attualmente organizzando un concorso, alla ricerca di un team di ricercatori in grado di rilevare efficacemente i deepfake.
Fonte immagine copertina: Open Democracy (Screenshot from: “Synthesizing Obama: Learning Lip Sync from Audio” | | Original video by: Supasorn Suwajanakorn, Steven M. Seitz, Ira Kemelmacher-Shlizerman SIGGRAPH 2017)
Seguici su Telegram
