Il riconoscimento facciale di Amazon avrebbe problemi di sesso e colore della pelle

Da circa un anno Amazon è entrata anche nel mercato dei sistemi di riconoscimento facciale, ottenendo clienti piuttosto importanti come dipartimenti di polizia e di immigrazione. Tuttavia, la tecnologia adottata non sarebbe esenti da problemi, come fatto presente da uno studio pubblicato la settimana scorsa dal MIT Media Lab. La preoccupazione deriverebbe da una minore precisione quando ad essere scannerizzate sono donne o persone di colore.

LEGGI ANCHE:
Amazon Scout è il robot autonomo per le consegne con Prime

Amazon avrebbe allenato male il proprio sistema di riconoscimento facciale

Denominato “Rekognition“, il servizio di riconoscimento facciale di Amazon va ad aggiungersi alla già amplia pletora di servizi non noti al grande pubblico, ma molto diffusi fra le aziende. I test sono stati condotti da Joy Buolamwini, membro del MIT, ed hanno dimostrato che, mentre non ci sono errori nell’identificare maschi di carnagione bianca,  con le donne la percentuale di errore sale al 19% e con le persone di colore del 31%.

Ma la problematica non sarebbe da addossare soltanto ad Amazon, dato che ulteriori test hanno verificato lo stesso inconveniente anche con i sistemi firmati Microsoft, IBM e la cinese Megvii. Tuttavia, dopo che Joy ha segnalato l’accaduto a Microsoft ed IBM, entrambe hanno apportato le modifiche del caso, successivamente testate con successo dallo stesso Joy.

Al contrario, Amazon non ha ancora fatto nulla in merito,  affermando che i risultati di questi test non sarebbero in grado di indicare un errore nella precisione. Da segnalare che i test non sono stati svolti sull’ultima versione di Rekognition e riguarderebbero soltanto l’analisi facciale (per espressioni e caratteristiche facciali) e non l’identificazione vera e propria.

[su_app]