Cómo engañar a tu algoritmo de Deep Learning

Los algoritmos de reconocimiento de imágenes son los que han dado impulso a este 3er verano de la Inteligencia Artificial. Son excelentes en múltiples circunstancias, pero, a diferencia de las personas que tenemos sentido común y podemos aprender rápida y fácilmente a distinguir nuevos patrones o patrones fuera de contexto, es un gran desafío para los computadores.

Un trabajo de 3 investigadores de USA muestra cómo pueden engañar a los algoritmos de IA al insertar imágenes fuera de contexto

Link al trabajo

En el primer experimento, insertan a un elefante en una habitación. Dependiendo dónde se ubique el elefante, el algoritmo logra identificarlo o no, y dependiendo de la superposición, a veces lo confunde con una silla.



En otro ejemplo, agregan más interferencia, agregando una imagen de una vaca cerca de las patas de un gato, y el sistema lo reconoce como una cebra, y si le agregan ruido de fondo como un perro.

¿Qué importancia tiene esto para la salud?
La superposición de imágenes o los artefactos en la toma de las imágenes pueden alterar de forma muy significativa la predicción.

Un buen ejemplo es el que se presenta en el siguiente trabajo de Nature de entrenamiento de algoritmo para detectar cáncer de piel
https://doi.org/10.1038/nature21056

Si la imagen es tomada junto a una regla, algo que es común cuando uno fotografía un nevo, el algoritmo tiende a clasificarla como maligna más frecuentemente.

1497971552020

1 me gusta

Estimado.

Encuentro en esta publicación un muy buen aporte hablando de lo que el Deep learning se refiere y las consideraciones que debemos tener con este en el futuro de la medicina. El Deep learning ha ido tomando durante los años cada vez mas fuerza en el ámbito médico, marcando ya casi un futuro claro y casi ilimitado, pero aun es un sistema que puede tener errores y requiere ser perfeccionado con el tiempo, demostrando aun en algunos aspectos ser inferior al humano. (Dejo un link a otro tema interesante de este mismo foro sobre la comparación de la IA y la inteligencia humana Por qué los humanos siempre seremos más inteligentes que las máquinas).

Un dato interesante que quiero aportar sobre este tema es las dudas que nos deja a futuro la aplicación de estas IA en la medicina:

¿Es seguro llevarlas a la practica ya? En verdad el Deep learning ya esta pisando fuerte dentro del área de imagenología para detectar anormalidades (demostrando incluso según algunos estudios mejor rendimiento que radiólogos), salvando tiempo y dinero. También ha demostrado buenos resultados en análisis microscópico anatomo patológico e inclusive como predictor de falla renal en pacientes.

¿Reemplazara este a la labor humana? Actualmente y por lo que se ve en el tiempo el Deep learning aun requiere supervisión humana. Las IA actualmente logran solo ver datos duros y requiere el razonamiento clínico de los médicos ante las tomas de decisiones, probablemente a futuro tome mas fuerza en la toma de decisiones, pero aun queda mucho que ver sobre eso. Lo importante es que esto no lleve a un reemplazo total de los doctores si no que se desarrolle una simbiosis con la IA durante el tiempo

¿Si comete un error, quien se hace cargo? Este tema aun esta en el limbo en el ámbito legal, dentro de las soluciones para esto es necesario que estos sistemas tengan la supervisión medica para su correcto funcionamiento.

Dando un resumen, el Deep learning esta impactando fuerte en la medicina, pero es un sistema que va a ir evolucionando con el tiempo y requiere la integración de los doctores en el buen uso de este.

Muchas gracias por leerme

Fernando Vivanco
Estudiante de 5to año de medicina UDD