DeepFakes: quando il machine learning diventa pericoloso

Sono mesi che si fa un gran parlare di machine learning e di tutte le prospettive che si aprono con l’espansione di questi ambiti tecnologici. Al contempo, non mancano critiche ed allarmismi più o meno comprensibili. Soprattutto quando saltano fuori cose come DeepFakes, una scoperta tanto fascinosa quanto potenzialmente pericolosa.

Se non avete idea di cosa stiamo parlando, con DeepFakes si intende il recente fenomeno che vede l’applicazione del già noto face swapping all’interno dei video. Non si tratta di una novità totale, visto che funzionalità del genere si sono già viste all’interno di app come Snapchat, Instagram, MSQRD e via dicendo. Tuttavia, l’utilizzo in video è, anzi, era una pratica assai meno diffusa, viste le difficoltà tecniche e le capacità necessarie per la realizzazione.

DeepFakes e FakeApp: cosa sono?

Tutto nasce con un utente di Reddit, tale “deepfakes“, che da il via al tutto tramite la creazione di un algoritmo in grado di realizzare questi video. E non sorprende constatare come ciò sia presto cresciuto in maniera esponenziale, in primis con la creazione di un subreddit apposito (bannato poche ore fa) ma soprattutto la condivisione onlineodi FakeApp. Quest’ultimo altri non è che un software gratuito e piuttosto intuitivo per la realizzazione dei video in questione.

In soldoni, dando in pasto all’algoritmo numerose clip del volto di una determinata persona, esso è in grado di applicare questo viso all’interno di un video. Non c’è voluto molto perchè saltassero fuori video porno con protagoniste Scarlett Johansson, Daisy Ridley, Emma Watson, Jessica Alba e così via. Ovviamente non mancano i limiti tecnici, con risultati non sempre convincenti e dalla qualità non altissima. Tuttavia, in alcuni esempi i risultati sono tanto azzeccati quanto inquietanti.

Il fenomeno DeepFakes prende piede ma viene bannato ovunque

Per quanto possa solleticare molti l’idea di prendere il VIP di turno e schiaffarlo all’interno di un film per adulti, la realtà dei fatti è che DeepFakes si aggira in un campo legislativo non ben delineato. In realtà, un video del genere è tranquillamente paragonabile ad un video non consensuale. Purtroppo, però, spesso e volentieri è difficile regolamentare territori così intricati come quelli online.

Potrà anche far sorridere (e non solo) vedere il volto della propria attrice preferita in un filmino osé, ma analizziamo la situazione da un’altra prospettiva. Immaginate che siate voi a finire in questi video, o un vostro parente. O il/la vostro/a compagno/a. Immaginate, poi, che la persona presa di mira venga ricattata e che magari sia un politico, un uomo d’affari o chi per esso. Ecco, quindi, che la situazione si fa decisamente più seria.

Vista la copertura che l’argomento ha avuto di recente, non sono tardate le risposte di piattaforme come Reddit, Pornhub e Twitter, le quali hanno provveduto a bannare tutti questi contenuti. Tuttavia, come ben sappiamo, questi strumenti tendono a moltiplicarsi online ad un ritmo elevato. Viene quindi da chiedersi quali siano le azioni da intraprendere: basterà un semplice ban da parte di piattaforma social? Ma soprattutto, in che modo il machine learning effettivamente cambierà le nostre vite,vin positivo e in negativo?

[su_app]