Mientras nos dirigimos hacia un futuro dominado por los vehículos autónomos, con ejemplos ya visibles como los robotaxis de Waymo y Cruise en EE. UU., o los sistemas de conducción sin intervención humana como el Autopilot de Tesla y el Blue Cruise de Ford, surgen serias preocupaciones. Investigaciones recientes apuntan que estas tecnologías impulsadas por inteligencia artificial tienen un peligro inherente para dos grupos específicos de personas: los niños y las personas de tez oscura.
Un reciente estudio llevado a cabo por científicos de la Universidad de Beijing, del King’s College y de la University College de Londres, arroja resultados inquietantes. Los sistemas de conducción autónoma que emplean inteligencia artificial muestran un sesgo significativo en la detección de peatones. En concreto, su eficacia disminuye cuando los que intentan cruzar la carretera son niños o individuos con piel más oscura.
De acuerdo con los expertos, esta cuestión es de importancia crítica y está insuficientemente explorada en comparación con otros temas relacionados con la IA. Los datos del estudio muestran que los vehículos autónomos tienen un 19,67% más de precisión al detectar a adultos que niños. Además, la efectividad de los sistemas es 7,52% más alta al detectar personas con tonos de piel más claros.
La detección sesgada en coches autónomos afecta a niños y personas de piel oscura
La investigación se fundamenta en cuatro bases de datos exhaustivamente analizadas para evaluar el rendimiento de los sistemas de detección de peatones en vehículos autónomos: CityPersons, Berkeley Driving y EuroCityPersons, dividido en un conjunto de imágenes diurnas y otro nocturno. Es importante señalar que los datos provienen de 8 tecnologías de detección avanzada diferentes.
Los investigadores examinaron más de 8.300 imágenes tomadas en situaciones de conducción real. Además, llevaron a cabo una clasificación manual para obtener resultados más fiables. Por ejemplo, pudieron etiquetar más de 20.000 edades y 3.500 tonos de piel, y precisaron el género de los peatones. Sin embargo, descubrieron que el sesgo de género no es un problema para la IA en estos vehículos.
Fue especialmente relevante analizar las imágenes tomadas en distintas condiciones climáticas y en diferentes momentos del día. Sin embargo, debido a limitaciones en los conjuntos de datos, solo se pudieron evaluar situaciones de lluvia o sin lluvia. Curiosamente, la lluvia tiene un impacto mínimo e insignificante en los fallos de detección de estos sistemas de IA.
El sesgo de la IA en vehículos autónomos se intensifica en condiciones de poca luz
La discriminación de la IA en los vehículos autónomos se vuelve más problemática durante la noche o en escenarios de baja luminosidad. Cuando se trata de niños, la diferencia en la tasa de errores entre adultos y menores se eleva del 22,05% durante el día al 26,63% durante la noche.
El escenario tampoco mejora cuando se compara la detección de personas con diferentes tonos de piel: la brecha aumenta del 7,14% durante el día al 9,68% en la noche, perjudicando a las personas con piel más oscura. En resumen, los peatones corren un riesgo más alto de ser atropellados por vehículos autónomos si son niños o personas con piel morena, un riesgo que aumenta con la disminución de la luz.
Con la IA cada vez más arraigada en nuestra vida diaria, los hallazgos de estos expertos no deben ser ignorados. Especialmente porque los vehículos autónomos constituyen todavía solo una fracción mínima del total de vehículos en circulación.
Si los ingenieros detrás de estas tecnologías no toman acciones correctivas inmediatas, el riesgo de fatalidades entre los peatones podría aumentar drásticamente. Además, las empresas automovilísticas podrían enfrentar extensas investigaciones legales y regulatorias que obstaculizarían el progreso y la adopción de una tecnología diseñada, en teoría, para reducir accidentes de tráfico.