Il sistema permette di modificare gli spezzoni di film e serie tv sovrapponendo le facce degli utenti: semplice da usare, ma occhio alle condizioni…
L’applicazione si chiama Zao e serve a sovrapporre la propria faccia a quella degli attori di serie tv e film. Non ci sarebbe neanche il bisogno di dirlo: in Cina sta ottenendo un enorme successo. L’app in poco tempo ha raggiunto i primi posti nella classifica della versione cinese dell’App Store, cioè il servizio di Apple per scaricare su iPhone e iPad.
I risultati sono molto realistici e hanno spinto sempre più persone a provarla, anche se la società che la produce è stata accusata di trattare con poco riguardo i dati degli utenti. Sotto la lente d’ingrandimento ci sarebbero soprattutto alcune trascuratezze sulla privacy. Zao sfrutta la tecnica del “deepfake”: sovrappone e combina immagini a video esistenti, modificandone in parte i contenuti.
Here’s for Asian representation in Hollywood 😂 #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL
— Allan Xia (@AllanXia) September 1, 2019
È molto efficiente e veloce, diversi utenti hanno affermato di aver impiegato meno di 8 secondi per generare un risultato convincente. Altri sistemi per deepfake, al contrario, richiedono diversi minuti per l’elaborazione. Ma adesso la tecnica è talmente migliorata che in alcuni casi diventa indistinguibile un video modificato da quella che era la sua versione originale.
I problemi sulla privacy e i rischi annessi
Ma come funziona Zao? Basta fornire una fotografia, scegliere su quale spezzone di film o serie tv andrà inserita tra quelle messe a disposizione dall’app. A quel punto l’app elaborerà i contenuti sovrapponendo la faccia a quella di un attore presente nella scena. In tutto ciò non è nemmeno chiaro se Zao abbia i diritti o meno per utilizzare gli spezzoni. La società proprietaria si chiama Changsha Shenduronghe Network Technology, fa parte di Momo, una società cinese che gestisce servizi online di vario genere come un sistema per gli streaming video live e anche un’app per appuntamenti. L’azienda, nelle righe riguardanti le condizioni d’uso e privacy, chiarisce che i video generati possono essere impiegati per qualsiasi altra finalità. Gli utenti, insomma, ne cedono i diritti.
Since this all started with @LeoDiCaprio I’ll fittingly leave you with my #KateWinslet #Rose #Deepfake in #ZAO 🌹 pic.twitter.com/EUY33Llmqs
— Allan Xia (@AllanXia) September 2, 2019
Le critiche hanno spinto Zao a chiarire che le immagini “saranno impiegate soltanto per migliorare l’applicazione e non saranno offerte a terzi”. Gli spezzoni di film e serie tv, in realtà, riducono il rischio che i video possano essere utilizzati per scopi differenti e potenzialmente pericolosi. I deepfake, infatti, in passato sono stati utilizzati anche per il “revenge porn”: stesso discorso di prima, ci sono stati casi in cui è stato sovrapposto il volto dei propri ex partner ai protagonisti di video pornografici. L’altro rischio è il riconoscimento facciale: in Cina il tema è diventato centrale soprattutto considerando i piani di videosorveglianza di massa del governo cinese.
