25 julio, 2019
Un grupo de investigadores de las universidades de Washington, Chicago y Berkeley ha publicado una base de datos con las imágenes que los sistemas de inteligencia artificial han identificado de forma errónea o para las que han demostrado grandes dificultades. Sistemas de gran eficacia, han obtenido pésimos resultados con esta recopilación.
En el caso de DenseNet-121 la efectividad suele ser del 90%, pero con la base de datos seleccionada solo del 2%.
La imagen fue identificada como presentando perros chihuahuas.
Detalles sobre el trabajo y los problemas encontrados pueden consultarse en el abstracto presentado.
El compendio, conocido como ImageNet-A contiene más de 7.500 archivos, e incluye cocodrilos etiquetados como colibríes y mariposas como lavadoras. Todas las imágenes fueron tomadas de Internet y ninguna fue alterada. El archivo general, ImageNet cuenta con más de 14 millones de imágenes, la mayoría de las cuáles se han identificado sin problemas.
En teoría no se trata de un pato, sino de un parquímetro. Está entre dos autos estacionados así que le damos medio punto. También puede ser un pato entrenado.
Las imágenes no solo suponen un fracaso individual, sino que su introducción en un sistema de aprendizaje automático podría ser un problema para todo el proceso de clasificación. En algunos casos esto supondría simplemente un servicio deficiente, sin embargo en otros podría producir errores con importantes consecuencias.
Identificado como un estetoscopio, nosotros tenemos algunas dudas al respecto.
Entre las aplicaciones en las que la deficiencia de las inteligencias artificiales podría ser más peligrosa se encuentran el campo de los autos sin conductor y el reconocimiento facial.
Y como hemos visto anteriormente, existen métodos ridículamente sencillos y efectivos para engañar a una IA.
Un problema intrigante
Lo más curioso de las imágenes es que no existe una razón clara de porque los sistemas de identificación fallan. Por dicha razón también es difícil encontrar una solución al problema. Sin embargo la inteligencia artificial es un campo de investigación en el que el nivel de inversión es muy grande, por lo que se espera que se produzcan grandes avances en los próximos años.
Pero el tiempo no es infinito porque los intereses comerciales y gubernamentales para emplear las tecnologías que hemos mencionado anteriormente son cada vez mayores.
Identificados como pretzels. Por esta razón no ponemos IA en defensa al consumidor. Medio punto por mantenerse en la categoría de lo comestible.
Algunas teorías señalan que es posible que las IA fallen por haber sido entrenadas con objetos demasiado sencillos, o por una tendencia a generalizar la información obtenida a través de una imagen y establecer cualidades individuales como propias de una categoría.
