¿Chile debe regular sobre IA aplicada a medicina?

Informática en Salud Legislación
1

Regulación de la Inteligencia Artificial aplicada a la medicina en Chile

En base a lo que he aprendido recientemente, el campo de la inteligencia artificial (IA) aún tiene un largo camino por recorrer. Existen muchos riesgos en su uso, especialmente en medicina, debido a su cercanía con las personas (pacientes). La IA presenta desafíos significativos, como la generación de datos sesgados, su propio entrenamiento y la selección adecuada de conjuntos de datos. Además, la impredecibilidad de las salidas de datos es un aspecto importante a considerar.

A pesar de estos inconvenientes, sería arrogante no reconocer que sus beneficios son enormes. Ya sea en el análisis de datos clínicos o en el procesamiento de imágenes, un buen desarrollo de la inteligencia artificial es fundamental para mejorar la eficiencia de los procesos médicos, especialmente en países en vías de desarrollo como Chile.

Es innegable que, en términos tecnológicos, Chile está rezagado en el desarrollo de la IA. No contamos con la infraestructura ni los centros de investigación suficientemente preparados para realizar grandes avances en este campo. De hecho, en una charla realizada por Lucila Ohno-Machado, titulada “Introduction to AI in Medicine”, se señala que es muy difícil para las universidades lograr avances significativos en IA debido a la fuerte inversión en infraestructura necesaria, que solo una empresa privada puede sustentar. Por lo tanto, una colaboración entre instituciones de educación superior y empresas privadas, respaldada por un sólido marco legal, podría ser la clave para avanzar.

¿Por qué un sólido marco legal? Considero que nuestra condición de país en desarrollo podría ser una ventaja. Podemos regular la IA en medicina de manera que se establezca un molde que permita a las futuras generaciones desarrollar sistemas con IA basados en una sólida base. Esto potenciaría el desarrollo tecnológico a largo plazo y, sobre todo, protegería el sistema de salud de posibles fallos en sistemas que incorporen IA y que, a largo plazo, podrían afectar gravemente a los pacientes.

Todo esto se basaría en un minucioso estudio del desarrollo de la inteligencia artificial aplicada a la medicina en países vanguardistas en esta materia. No solo debemos considerar su desarrollo tecnológico, sino también su marco jurídico en relación con la IA médica. La idea es moldear nuestro sistema de salud para que, en el futuro, cuando la IA sea fundamental en el desarrollo de la salud chilena, no tengamos que legislar de manera apresurada y poco diligente, como suele ocurrir en América Latina.

Por último, según una investigación rápida que realicé, aún no tenemos legislaciones importantes en materia de IA en Chile. Lo único que encontré fue un decreto realizado en 2021 titulado “Política Nacional de Inteligencia Artificial”, pero ni siquiera aborda específicamente la IA en medicina.

¿Qué opinas de una legislación en materia de IA en medicina? ¿Tu país ya ha desarrollado legislaciones en esta materia? ¿Con qué enfoque?

Fuentes en las cuales me base:

Soy estudiante de Ingeniería Civil en Informática e Innovación Tecnológica de la Universidad del Desarrollo. Actualmente, estoy cursando mi segundo año y este primer semestre del año 2024 me inscribí en el curso electivo de Introducción a la Informática en Salud, ya que siempre me ha interesado el campo médico.

1 me gusta
2

La regulación de la inteligencia artificial en medicina en Chile es crucial para asegurar su desarrollo seguro y eficaz. Aunque la IA presenta desafíos significativos, como la generación de datos sesgados, la calidad del entrenamiento de los modelos y la impredecibilidad de los resultados, sus beneficios potenciales son enormes, especialmente en el análisis de datos clínicos y el procesamiento de imágenes médicas. Dado que Chile está rezagado en infraestructura y carece de un marco legal específico, es esencial establecer una colaboración sólida entre instituciones educativas y empresas privadas, respaldada por una legislación robusta. Esta regulación no sólo protegerá a los pacientes y mejorará la calidad de la atención médica, sino que también fomentará un desarrollo tecnológico sostenible a largo plazo. Al aprender de las mejores prácticas y regulaciones de países avanzados en IA médica, Chile puede crear un marco legal que permita un desarrollo seguro y eficiente de la IA, estableciendo una base sólida para futuras innovaciones en el campo de la seguridad.

3

Aplicación de ChatGPT en la formación de pregrado de medicina

Hola Lucas,
Me presento: Soy Alexander Jansson, estudiante de medicina de la Facultad de Medicina Clínica Alemana de Santiago - Universidad del Desarrollo. Actualmente estoy cursando el tercer semestre de la carrera, y me resultó sumamente interesante lo que comentas, y tu reflexión con respecto a la inclusión de la IA para mejorar los servicios de salud en Chile.

Creo que debemos considerar seriamente la posibilidad de convertirnos en un referente en el ámbito del desarrollo de IAs, y la medicina es un campo en donde existe gran potencial para ello. Rápidamente se me viene un ejemplo a la mente, y el tremendo impacto que ha tenido en la salud chilena: DART, la IA desarrollada para detectar y tratar con tiempos la retinopatía diabética, enfermedad que, como su nombre indica, está dada por la diabetes, la cual está en aumento en nuestro país y cada día afecta a más personas. Casos como este me motivan como estudiante de la salud en el tremendo potencial que existe para revolucionar los tratamientos, logrando así una mejoría en el cuidado de los pacientes.

Particularmente, me surge la intriga con respecto a la inclusión de LLMs basados en IAs (como ChatGPT) en la formación de pregrado de medicina, y como estas herramientas podrían potenciar o quizás dificultar la formación de futuros médicos. Malik Sallam publicó el año pasado un Review en la revista Healthcare, en donde revisó 60 papers publicados tanto en PubMed como en Google Scholar asociados a la implementación de ChatGPT en educación, practica e investigación en salud y escritura académica.

Con respecto a los beneficios identificados:

  • Mejora la escritura académica/científica: El uso de los LLMs permite mejorar la calidad de los escritos científicos en el contexto de investigación y redacción académica, dado que tiene mejor redacción y dicción, lo que se refleja en una mayor facilidad para ser leído y traducido.
  • Análisis e investigación científica: Herramientas como ChatGPT permiten el análisis de grandes cantidades de datos de forma rápida y eficiente, lo que se traduce en que se pueda redirigir el tiempo a perfeccionar aspectos como el diseño experimental.
  • Aplicación en la práctica clínica: Producto de su capacidad para manejar grandes cantidades de datos y la capacidad de redacción que posee, permite ayudar en la escritura de los resúmenes de alta de los pacientes, optimizando el tiempo de los profesionales.

Sin embargo, también se identificaron una serie de riesgos asociados a su uso:

  • Problemas éticos asociados a su uso: Más de la mitad de los papers consultados hicieron mención de que los mayores riesgo asociados a la implementación de ChatGPT son del tipo éticos, puesto que puede aplicar sesgos presentes en los datos que tiene disponible, plagiar a otros autores al no atribuirles el crédito correspondiente. Existe más riesgo aún si la información solicitada no es evaluada y revisada por una persona capacitada o con conocimientos sobre el área (en este caso, salud).
  • Riesgo de información imprecisa o errónea: Los papers analizados identificaron que en diferentes ocasiones las citas realizadas por ChatGPT estaban erradas, eran insuficientes o directamente citaban a fuentes no reales. Esto lleva a que autores sugieran que no se debiese utilizar este LLM en la investigación científica, a menos que sus aplicaciones sean sometidas a revisión exhaustiva.
  • Generación de contenido excesivamente detallado y/o no original: Los autores de los estudios revisados hacen mención de que ChatGPT suele generar contenido no original, sobre detallado y/o excesivo en su cantidad de información, lo que termina siendo más una carga que un aporte para el autor, sobre todo al momento de revisarlo y sopesar su calidad.

Habiendo leído el review y considerando los puntos previamente dichos, creo que es relevante el entender que ChatGPT es una herramienta más que una solución directa a una problemática puntual. Es tecnología que nos entrega versatilidad y optimización de los tiempos, sobre todo en el ámbito de redacción. Esto puede ser muy útil en la formación de pregrado de médicos, especialmente a la hora de leer y resumir papers, permitiéndonos hacer una revisión del estado del arte con respecto a un tópico de investigación.
Además, creo que es interesante la capacidad de aplicación que hay para apoyar la redacción de documentos clínicos, como son los resúmenes de alta de un paciente. En un contexto formativo y guiado por un docente capacitado, podría permitir a los estudiantes el familiarizarse con dichos documentos, su redacción e incluso con las competencias necesarias para la elaboración de los prompts adecuados para solicitar la generación de texto a un LLM.
Siguiendo la línea anterior y tomando en consideración un paper publicado el año pasado en la revista Springer, el cual evaluó la factibilidad de la aplicación de ChatGPT en ámbito de salud. Resulta llamativa la capacidad de ChatGPT de categorizar con éxito la mayoría de parámetros clínicos de un paciente ingresado en la UTI (unidad de tratamientos intensivos), tales como resultados de laboratorio, tratamientos en curso y signos (valores hemodinámicos y respiratorios). Esto podría servir como guía a médicos en formación para tener una noción de como clasificar los datos, y luego verificar dicha organización con el docente a cargo, lo cual optimizaría el tiempo de estudio y comprensión de los parámetros.

Los LLM son herramientas que cada vez se irán perfeccionando más, y por lo mismo creo que no debemos demonizarlas ni vetarlas, sino que tenemos que enfocarnos en comprender su potencial y cómo pueden ayudarnos en nuestra formación profesional y quizás, más a futuro, en nuestra labor propiamente tal. Es por ello que, considerando lo que tú dices Lucas, es imperativo avanzar en una legislación que contemple a las IAs y LLMs y sus aplicaciones en los ámbitos médicos, académicos y científicos, permitiendo así su regularización para poder ser utilizadas de forma más sistemática y “formal”.

¡Saludos!

Fuentes consultadas: