Los coches autónomos, aparcados por un algoritmo con sesgo

Autor: | Posteado en Noticias Sin comentarios

vehiculo autonomo vision por ordenadorvehiculo autonomo vision por ordenador

Los coches autónomos serán sin desconfianza la movilidad del futuro. Más fiables que los humanos, conducirán empleando menos bienes y ganarán varios puntos al ser compartidos y ocupar menos espacio en la vía pública. Sin embargo, una de los mayores barreras de estos autos son los algoritmos que no tratan a todas las individuos por igual. Algoritmos con sesgos. Habrá que aparcarlos.

¿El coche autónomo con sesgos raciales?

Existe mucha literatura científica respecto a como los algoritmos de machine learning o inteligencia artificial presentan graves problemas éticos. Uno de los últimos es el mostrado por Benjamin Wilson, Judy Hoffman y Jamie Morgenstern en febrero de 2019: ‘Inequidad predictiva en la detección de objetos’.

Este capítulo remarca como las individuos de tonos 1 a tres en la escala cromática corta de Von Luschan tienen mayores probabilidades de ser detectados por un automóvil autónomo frente a individuos de tonalidades cuatro a 6. Esta escala cromática 1-6 de tipos de piel (hay otra de 1 a 36) va de la piel muy clara o casi blanca a la piel muy oscura o casi negra, y es a menudo usada en exploración para resolver sesgos.

En esencia, lo que estos examinadores hicieron es observar como de bien o mal funcionaba el algoritmo en base al tono de piel. Y las consecuencias son evidentes: las pieles mas claras se detectan con mas frecuencia y mas rápido; las mas oscuras, con menos frecuencia o mas lentamente.

Esto cree graves problemas tecnicos que impiden a los vehículos autónomos conducir con normalidad. No solo porque presenta un dilema de seguridad, sino porque a este se suma un sesgo inspirado en vuestro color de piel y por tanto discriminatorio en base a nuestra etnia.

¿Por qué las cámaras no ven a las individuos mas oscuras?

Lo cierto es que existen varios mecanismos que crean complicado que un metodo de reconocimiento visual identifique a una persona. Por ejemplo, que esta no parezca una persona, quiza porque cargue con un bulto como una caja, porque arrastre un carrito o porque sean algunas individuos que caminan abrazadas. Pero en materia de color de piel logramos reconocer 2 enormes retos.

El 1° tiene que visualizar con la tonalidad propia frente al fondo. De noche, una persona de tonalidad 1 (casi blanco) refleja mas luz de los faros del coche que una persona de tonalidad 36 (casi negro). El fundamento es que los tonos claros tienen una mayor reflectancia, y cree un desafío para la visión por ordenador. Usando una escala Von Luschan de 1 a 36 es mas sencillo comprender lo que ocurre. Mientras que las tonalidades 1 a 27 resaltan en la noche, las 35-36 no lo hacen.

Pero inclusive las tonalidades de 16 a 23 suelen tener problemas de identificación en aquellos entornos en los que se use luz amarillenta, como la que deriva de las lámparas de incandescencia y las de bajo consumo; y particularmente en ambientes con calima, niebla, contaminación, etc.

El 2° desafío tiene que visualizar con la forma en que el algoritmo ha sido entrenado. Aunque cada vez hay mas desarrolladores de tonalidades oscuras, lo cierto es que es un sector dominado casi por completo por varones blancos. Y esto cree que durante las pruebas, al usarse a sí mismos como ejemplo de individuos para el algoritmo, a menudo se dejan fuera mas de la mitad de las tonalidades. Como resultado, el algoritmo identifica ‘persona’ con ‘tono de 1 a 14’. Si eres 19 o más, el algoritmo no sabe como computarte.

Mejorar la calidad óptica o añadir cámaras térmicas

El 1° de los problemas tiene una solucion relativamente sencilla. Basta con mejorar la calidad con la que se mide la foto para distinguir tonos próximos entre sí. Pensemos en una persona con la piel de tono 36 y el cabello oscuro, como es el caso de la fotografía de abajo, con fondo además oscuro. La fotografía de la izquierda no ha sido modificada salvo por el rectángulo rosa.

coches autonomos problemas para visualizar individuos de color solucion retoque fotografico

El rectángulo marca un área de especial importancia. Mientras que en la foto original nuestros ojos individuos localizan problemas para distinguir dónde completa la persona y comienza el fondo, la izquierda, sobre la que se han aplicado varios filtros, sí muestra en detalle el contorno. Un algoritmo que busque estos límites podrá reconocer la persona a enorme distancia sin problema.

Por descontado, los vehículos autónomos no contarán con fotografías de estudio, sino que habrán de tomar decisiones en milisegundos empleando fotografias mucho menos nítidas. De ahí que sea recomendable el uso de tecnología láser LiDAR para reconocer volúmenes o cámaras térmicas para leer el calor. En otras palabras: dejar al lado la identificación visual inspirada en el tono de piel, que durante varios años ha sido lo sencillo desde el punto de vista computacional.

Necesitamos desarrolladores de todas las tonalidades

El sesgo original de estos sistemas muestra porque los desarrolladores que diseñan los primeros algoritmos suelen ser blancos. Con documentos de Silicon Valley de 2019, es claro que las tonalidades claras (caucásicos y asiáticos) practicamente dominan entre el 60% y el 90% de las empresas, como muestra esta infografía de TechCrunch. El efecto es que los algoritmos identifican ‘tonalidad blanca’ con ‘persona’.

diversidad racial en sillicon valley

Aunque es cierto que los números avanzan hacia una incorporación mayor (en 2014 solo los blancos ocupaban cerca del 64% de los puestos, ahora ‘solo’ rondan el 40-50%), tardaremos años, si no décadas, en crear que examinadores y programadores de tonalidades oscuras tengan acceso a los medios para poder contribuir a la creación de tecnología.

Queda mucho camino, sin embargo reconocer los problemas que surgen del (mal) uso de una tecnología es el 1° paso para reformularla y investigar una perspectiva todo lo inclusiva que permita nuestra capacidad técnica. Es posible que estos errores básicos sean corregidos en pocos años, dado que de otro modo los vehículos autónomos seguirán siendo una excentricidad.

Por Marcos Martínez

Imágenes |Kento Hirasue, Rui Silvestre, Alexis Antoine, TechCrunch

The post(noticia) Los autos autónomos, aparcados por un algoritmo con sesgo appeared first on El blogger de Orange.

El blogger de Orange



El mejor truco del día para Android


Todo material (imágenes, texto y vídeo) para crear este artículo, pertenece a la Fuente Original que aparece arriba.

(No hemos eliminado ningún enlace original)

También puedes revisar estas noticias relacionadas.

Agrega tu comentario