Cómo engañar a tu algoritmo de Deep Learning

Los algoritmos de reconocimiento de imágenes son los que han dado impulso a este 3er verano de la Inteligencia Artificial. Son excelentes en múltiples circunstancias, pero, a diferencia de las personas que tenemos sentido común y podemos aprender rápida y fácilmente a distinguir nuevos patrones o patrones fuera de contexto, es un gran desafío para los computadores.

Un trabajo de 3 investigadores de USA muestra cómo pueden engañar a los algoritmos de IA al insertar imágenes fuera de contexto

Link al trabajo

En el primer experimento, insertan a un elefante en una habitación. Dependiendo dónde se ubique el elefante, el algoritmo logra identificarlo o no, y dependiendo de la superposición, a veces lo confunde con una silla.



En otro ejemplo, agregan más interferencia, agregando una imagen de una vaca cerca de las patas de un gato, y el sistema lo reconoce como una cebra, y si le agregan ruido de fondo como un perro.

¿Qué importancia tiene esto para la salud?
La superposición de imágenes o los artefactos en la toma de las imágenes pueden alterar de forma muy significativa la predicción.

Un buen ejemplo es el que se presenta en el siguiente trabajo de Nature de entrenamiento de algoritmo para detectar cáncer de piel
https://doi.org/10.1038/nature21056

Si la imagen es tomada junto a una regla, algo que es común cuando uno fotografía un nevo, el algoritmo tiende a clasificarla como maligna más frecuentemente.

1497971552020