El reconocimiento facial acumula problemas

Cámara vigilancia./Reuters
Cámara vigilancia. / Reuters

Una investigación de la NBC revela el uso de imágenes sin consentimiento

JOSÉ A. GONZÁLEZMadrid

El reconocimiento facial sigue abriéndose camino en el mundo de los smartphones y también en los distintos dispositivos de seguridad en las ciudades. Sin embargo y a pesar de que sigue actualizándose y mejorando su algoritmo, muestra cada vez más problemas de sesgos.

La más avanzada en la materia es Amazon con su sistema Rekognition, aunque se ha visto envuelta en más de un escándalo. Ahora, la pelota queda en el tejado de IBM tras una investigación de la cadena estadounidense NBC.

Los algoritmos y el aprendizaje automático necesitan un entrenamiento continuo con imágenes y el gran banco de fotografías es internet. La red de redes almacena una amplia gama de caras. Los usuarios suben a la nube sus fotos preferidas, comparten en las redes sociales sus momentos más divertidos.

Con esta información, investigadores y académicos pueden recopilar cientos de datos sobre sexo, edad, raza y rasgos faciales, a pesar de todos los problemas finales de las herramientas de reconocimiento facial.

Esta investigación, revelada por la NBC, apunta a IBM como la última compañía en sumarse a este entrenamiento. La tecnológica estadounidense lanzó en enero una colección de casi un millón de fotos tomadas de Flickr, según la NBC.

A través de estas imágenes, IBM trabajó para reducir el sesgo presente en las herramientas de reconocimiento facial. Sin embargo, la investigación revela que la tecnológica no contactó con los usuarios y propietarios de las imágenes para la investigación de la empresa.

Para el entrenamiento del algoritmo de IBM tomaron las imágenes con detalles que incluían la geometría facial y el tono de la piel y que podían usarse para desarrollar algoritmos de reconocimiento facial.

Antes de la puesta en marcha de este tipo de herramientas, el software necesita una puesta a punto para su correcto funcionamiento. Más allá de su objetivo final, este tipo de herramientas funciona en cuatro pasos.

Antes de activarse, las cámaras que integran el sistema capturan el rostro de la persona que se va identificar en el dispositivo elegido. A continuación, el programa obtiene la información biométrica de los rasgos faciales, que conforman el denominado patrón biométrico facial.

Más tarde, la información biométrica compara la información recopilada con las existentes en la base de datos y es aquí donde se han encontrado los mayores problemas en Amazon y donde IBM ha construido su gran galería a partir de Flickr.

Por último, el sistema de reconocimiento facial identifica el rostro como el que mayor porcentaje de similitud ha obtenido de los consultados, a partir de un umbral de coincidencia muy elevado.

Según un estudio realizado por el MIT Media Lab, el reconocimiento facial es más preciso para los hombres blancos y tiene muchos más fallos para las personas de piel más oscura, especialmente las mujeres. Concretamente, este informe señalaba que las aplicaciones de Microsoft e IBM identificaron erróneamente a las mujeres de piel más oscura el 35% de las veces y a los hombres de piel más oscura el 12%.