Si chiama FakeApp ed è un software che, attraverso algoritmi di deep learning, adatta automaticamente i volti ai corpi nei video. Si è cominciato a parlare di questa app su Reddit, in una discussione creata apposta, a causa del modo poco legale in cui in molti la stanno utilizzando: gli utenti usano infatti i volti delle celebrità per creare porno finti, in cui il viso di attrici e pop star vengono incollati sui copri delle pornostar, e si muovo in perfetta coordinazione con essi, simulandone anche le espressioni.
Emma Watson, Cara Delavigne, Katy Perry, Daisy Ridley di Star Wars e altre star sono già state prese di mira dagli utilizzatori di FakeApp.
Al momento, a quanto pare, per l’elaborazione di una clip di breve durata sono necessarie dalle 8 alle 12 ore. Come dichiarato da uno degli sviluppatori della app a Motherboard, l’obiettivo è quello di rendere l’utilizzo di questo software accessibile a tutti, e di creare un database di volti e di video che un utente possa selezionare e combinare a suo piacimento, facendo una semplice selezione:
“Penso che l’attuale versione dell’app sia un buon inizio, ma spero di ottimizzarla ancora di più nei prossimi giorni e settimane. Voglio migliorarla a tal punto che i potenziali utenti possano semplicemente selezionare un video sul proprio computer, scaricare le informazioni correlate a un certo volto da una libreria pubblica e finalizzare il filmato con una faccia diversa semplicemente premendo un pulsante.”
La cosa più inquietante di un meccanismo del genere è che potenzialmente qualunque volto potrebbe finire in un porno finto, in questa maniera, in video che potrebbe addirittura sembrare realistico.