Su propuesta consiste en un algoritmo capaz de detectar y reducir el sesgo de un sistema de reconocimiento facial 'remuestreando' rápidamente los datos con los que se le entrena, y asegurándose así de que se adapta a una gama más amplia de grupos humanos. Según explican en la presentación de su 'paper', del que se hace eco Marcos Merino en Xataca.
"nuestro algoritmo fusiona la tarea original de aprendizaje con un codificador automático variacional destinado a evaluar la estructura latente dentro del conjunto de datos, y luego usa de manera adaptativa las distribuciones latentes detectadas con el fin de reevaluar la importancia de ciertos aspectos de los datos durante el entrenamiento".
Los investigadores no prometen que su tecnología vaya a poder eliminar todos los posibles sesgos, pero la repercusión de su uso puede ser ciertamente significativa: en las pruebas que realizaron, el sistema de MIT redujo el "sesgo categórico" en un 60% sin que ello afectase a la precisión del reconocimiento facial.
Los investigadores realizaron las pruebas recurriendo al 'Pilot Parliaments Benchmark', un dataset creado 'ex profeso' en 2017 para evaluar los sesgos de género y raciales detectados en algunos de los datasets más usados en aquel momento: se compone de fotos de políticos de los parlamentos con mayor paridad de género tanto de Europa como de África.
Posiblemente, las aplicaciones y dispositivos con funciones de reconocimiento facial que usamos (o que usan sobre nosotros) en nuestro día a día tarden todavía un tiempo en implementar esta solución o alguna similar. Pero una vez que lo haga su efecto se hará notar, sobre todo, legitimando socialmente el uso de la biometría por parte de las fuerzas de seguridad.