Dopo i primi timidi (ed inquietantissimi) tentativi per arginare il fenomeno del revenge porn, Facebook annuncia nuova contromisure basate su un sistema di rilevamento delle immagini tramite AI.
Facebook annuncia una nuova arma contro il revenge porn: l’intelligenza artificiale!
Il sistema sperimentale introdotto in precedenza prevedevano che gli utenti caricassero le proprie foto di nudo per permettere al sistema di creare un’impronta virtuale e crittografare i dati grezzi del file; in questo modo se qualcuno avesse tentato di caricare una foto pericola, il sistema sarebbe stato in grado di rilevarlo tramite il check dell’impronta virtuale e bloccarla di conseguenza.
LEGGI ANCHE:
Christchurch: la strage è avvenuta in diretta su FB
Anche se questa novità ha dei risvolti leggermente imbarazzanti, sembra che Facebook sia riuscita ad affinare le capacità della sua AI introducendo un nuovo sistema in grado di rilevare automaticamente le immagini di nudo (o nudo parziale). Queste verranno poi passate ad un moderatore umano, il quale deciderà se bloccare o meno il contenuto (sia per le foto che per i video).
Tramite il machine learning e l’AI, ora sarà possibile rilevare i contenuti dannosi in modo proattivo, in modo da bloccare sul nascere la condivisione di contenuti inappropriati senza autorizzazione, sia su Facebook che Instagram.
Grazie a questo nuovo sistema sarà possibile evitare situazioni dannosissime, dove spesso le vittime sono ignare oppure sono riluttanti a denunciare i contenuti che hanno condiviso. Ciliegina sulla torta, quando una foto o un video passa al vaglio del moderatore umano (appositamente formato per questo ruolo), si procederà – qualora fosse necessario – con il blocco dell’account incriminato.
LEGGI ANCHE:
FaceCoin, la criptovaluta di FB e WhatsApp che potrebbe rivoluzionare i pagamenti
Per concludere, la compagnia di Mark Zuckerberg ha sottolineato che continuerà lo sviluppo di ulteriori potenziamenti per il sistema di sicurezza ed ha lanciato la seguente pagina per spiegare alle potenziali vittime come denunciare casi di revenge porn.
[su_app]
