Los sistemas de detección de peatones fallan por el color de piel
Un estudio analiza los sesgos de la tecnología de reconocimiento facial en los coches
Los avances en conducción autónoma han allanado el camino hacia un nuevo concepto de vehículo. Aunque todavía no se han alcanzado los niveles superiores, la sensorización de los coches es más que evidente. Se mejoran los habitáculos, se implantan sistemas conectados, se integran medidas de seguridad y la Inteligencia Artificial empieza a sentarse en el sillón del copiloto. Pero los fallos y los posibles sesgos están presentes.
Una nueva investigación ahonda en las dificultades que todavía tiene la tecnología para identificar y discriminar a peatones en función de su color de piel. Las más oscuras suelen ser más complicado para los sensores. El estudio de Georgia Tech ( PDF) concluye que la tecnología de reconocimiento facial y corporal incorporada en muchos sistemas de detección de personas «no reconoce» o «reacciona tarde» ante las personas de piel más oscura.
Los investigadores estudiaron las tecnologías más utilizadas en este campo de las seguridad en carretera y descubrieron imprecisiones entre el 4% y el 10% de los casos cuando se encontraban ante figuras humanas con tipos de piel cuatro, cinco y seis en la escala de Fitzpatrick- Una metodología científica empleada para diferenciar entre colores de piel humana en contextos de aprendizaje automático.
La consecuencia es que, en estos momentos, tienen una mayor precisión entre personas blancas. El estudio demostrado que los software comerciales más extendidos tienen una «precisión mucho peor» en mujeres con tipos de piel más oscuras. Entre las razones que esgrimen los investigadores se encuentra que la base de datos de imágenes empleadas por los sistemas para «entrenarse» suelen contener hasta 3,5 veces más ejemplos de figuras con piel blanca en comparación con las de mayor rango. Los fallos detectados también están asociados a la falta de datos suficientes.
La detección temprana -dicen los investigadores- sobre los posibles sesgos en las tecnologías de reconocimiento facial podrían derivar en cambios para «mitigar» el proceso de entrenamiento. Hacerlo por separado para diferentes grupos demográficos puede ser beneficioso. Los vehículos son cada vez más inteligente. Varios estudios en el pasado han demostrado que la tecnología de autoconducción no es lo suficientemente inteligente para su adopción masiva. En los ensayos por parte de empresas del sector se han registrado, recuerda el medio especializado «Streets Blog» que se hace eco del estudio, acciones mortales.
Uno de los grandes desafíos de los vehículos autónomos es lograr una reducción casi completa de los accidentes de tráfico, pero todavía no son lo suficientemente inteligente para evitar el 100% de los mismos. De hecho, un reciente estudio elaborado por el Instituto de Seguros para la Seguridad de las Carreteras descubrió que si todos los automóviles tuvieran sistemas de autoconducción al menos el 66% de los accidentes seguirían ocurriendo.
