Autores:
Dra. Vivian Delgadillo. Especialista en Medicina Interna, Magister en Educación para Profesionales de la salud.
Dr. Andrés Rico. CEO de AIpocrates.
Alejandro Hernández, uno de nuestros miembros fundadores, el 25 de julio de 2022, antes del boom del lanzamiento en noviembre 2022, publicó la columna “Conversación sobre Salud e inteligencia artificial con GPT-NeoX-20B: un modelo de lenguaje autorregresivo de código abierto basado en transformers”, en la cual, resaltaba una interfaz que se facilita la interacción entre el humano y el modelo, donde ante un prompt del Dr. Hernández GPT-NeoX explica que el procesamiento del lenguaje natural utiliza modelos estadísticos para comprender el significado del habla humana, como: texto, voz, imágenes, video, datos de series temporales y mucho más. Ante la pregunta ¿cuáles considera que son los principales riesgos que la inteligencia artificial puede generar para la salud humana? GPT-NeoX menciona que la inteligencia artificial está conectada a Internet, existe el riesgo de ciberataques, “fakes news” y otros abusos en los sistemas de IA. En el caso de los modelos de IA de atención médica, existe el riesgo de errores en los resultados predictivos, preventivos y tecnologías de soporte.
A junio de 2024, la progresión de los modelos Generative Pre-trained Transformers (GPT), demuestra el avance en la evolución de los LLM, ahora denominados fundacionales, con grandes capacidades operativas, tales: han pasado de aceptar entradas de un solo tipo (solo texto) a aceptar múltiples tipos de entrada (texto, imágenes, video, audio), categorizándolos como multimodales.
Pero para liberar, estas grandes capacidades dependen de las solicitudes al modelo, llamadas prompt, cuyas características han permitido su categorización como se ve en la siguiente figura:
De las funcionalidades más frecuentemente utilizadas por los LLM, además de la generación de texto, está la corrección de estilo de los textos. En la siguiente tabla exponemos un ejemplo de dicha función: en la primera fila un texto generado por un humano y en las filas siguientes se demuestra cómo los diferentes modelos, con el prompt (similar para todos), modificaron y mejoraron el texto. El único modelo que nos entregó diferentes opciones fue Gémini.
| Texto generado por un humano | Una de las posibles aplicaciones que podemos encontrar para las versiones actuales de los LLM, está el de extraer las ideas principales de un documento en PDF. En un evento académico con estudiantes y residentes de medicina, surgió una pregunta ¿qué tan deshonesto es hacer un resumen con LLM? Surgieron argumentos dentro de la discusión sobre las implicaciones éticas del uso de la inteligencia artíficial, el enfoque del uso como herramientas de lA de (LLM), como el resumir artículos médicos o el su uso en refinar la redacccion y la corrección gramatical, para asistir y mejorar la eficiencia en la investigación y el aprendizaje, al optimizar el manejo de grandes volúmenes de información. Se hace evidente necesidad de siempre verificar la información proporcionada por la lA, que se citen adecuadamente las fuentes originales en los resúmenes generados, entender que las capacidades, limitaciones y el alcance de de la lA, para lograr detectar la información inadecuada y los “malentendidos” (confabulación vs alucinaciones). La información médica es un desafio adicional y los resúmenes son una herramienta de aprendizaje y repaso para que los profesionales de la salud se mantenengan actualizados con los últimos estudios sin tener que leer cada articulo en su totalidad, pero obteniendo los puntos relevantes, siendo la inteligencia artificial una herramienta para asistir y mejorar la eficiencia en la adquisición de conocimientos, permitiendo a los médicos dedicar más tiempo a la atención del paciente, liberándolos de algunas tareas burocráticas y permitiéndoles dedicar más tiempo a la atención del paciente, La lA no reemplaza el juicio clínico ni la experiencia de los médicos, sino que actúa como un complemento para mejorar la calidad del cuidado de la salud. No sería deshonesto que un médico utilice una lA para resumir, sintetizar y comprender grandes volúmenes de información; de hecho, es una práctica eficiente, ya que la inteligencia artificial puede ser una herramienta para ayudar a los profesionales médicos a gestionar la gran cantidad de información disponible. Sin embargo, es importante que la implementación de la lA en la medicina se haga de manera responsable, asegurando la integridad y la seguridad del paciente. La inteligencia artificial no reemplaza el juicio crítico ni la experiencia del profesional, pero es una herramienta útil para potenciarla y disminuir el error médico, optimizando la toma de decisiones a nivel del consultorio, la salud poblacional y la educación médica. Ahora uno de los posibles de riesgos para la ética, es que la mayoría de los modelos de inteligencia artificial que pueden hacer un resumen de los PDF son versiones pagas, que no están al alcance de todas las personas. |
| Prompt | Corregir la gramática, la sintaxis, mejorar la fluidez lógica y la legibilidad, manteniendo un tono concreto y eliminando las ideas redundantes |
| Versión con Claude 3 Sonnet | Uno de los posibles usos de los modelos de lenguaje actuales (LLM) es extraer las ideas principales de un documento en PDF. En un evento académico con estudiantes y residentes de medicina, surgió la pregunta: ¿qué tan ético es hacer un resumen con LLM? Durante la discusión, se plantearon argumentos sobre las implicaciones éticas del uso de la inteligencia artificial (IA). Se enfocó en el uso de LLM como herramientas para resumir artículos médicos, refinar la redacción y corregir la gramática, asistiendo y mejorando la eficiencia en la investigación y el aprendizaje al optimizar el manejo de grandes volúmenes de información. Se evidenció la necesidad de verificar siempre la información proporcionada por la IA, citar adecuadamente las fuentes originales en los resúmenes generados y comprender las capacidades, limitaciones y alcance de la IA para detectar información inadecuada y «malentendidos» (confabulación vs alucinaciones). La información médica es un desafío adicional. Los resúmenes son una herramienta de aprendizaje y repaso para que los profesionales de la salud se mantengan actualizados con los últimos estudios sin tener que leer cada artículo en su totalidad, obteniendo los puntos relevantes. La IA es una herramienta para asistir y mejorar la eficiencia en la adquisición de conocimientos, permitiendo a los médicos dedicar más tiempo a la atención del paciente, liberándolos de algunas tareas burocráticas. La IA no reemplaza el juicio clínico ni la experiencia de los médicos, sino que actúa como un complemento para mejorar la calidad del cuidado de la salud. No sería deshonesto que un médico utilice la IA para resumir, sintetizar y comprender grandes volúmenes de información; de hecho, es una práctica eficiente. Sin embargo, es importante implementar la IA en la medicina de manera responsable, asegurando la integridad y la seguridad del paciente. La IA no reemplaza el juicio crítico ni la experiencia del profesional, pero es una herramienta útil para potenciarla y disminuir el error médico, optimizando la toma de decisiones a nivel del consultorio, la salud poblacional y la educación médica. Uno de los posibles riesgos éticos es que la mayoría de los modelos de IA que pueden hacer un resumen de PDF son versiones pagas, que no están al alcance de todas las personas.. |
| Versión GPT 4 | Una de las aplicaciones actuales de los modelos de lenguaje grandes (LLM) es la extracción de ideas principales de documentos en PDF. En un evento académico con estudiantes y residentes de medicina, surgió la pregunta: ¿qué tan deshonesto es hacer un resumen con LLM? Durante la discusión, se abordaron las implicaciones éticas del uso de la inteligencia artificial (IA), particularmente en la elaboración de resúmenes de artículos médicos, la mejora de la redacción y la corrección gramatical. Estos usos pueden asistir y mejorar la eficiencia en la investigación y el aprendizaje, al optimizar el manejo de grandes volúmenes de información. Es evidente la necesidad de verificar siempre la información proporcionada por la IA y citar adecuadamente las fuentes originales en los resúmenes generados. Es crucial entender las capacidades, limitaciones y alcance de la IA para detectar información inadecuada y evitar “malentendidos” como la confabulación y las alucinaciones. La información médica representa un desafío adicional. Los resúmenes son herramientas útiles para que los profesionales de la salud se mantengan actualizados con los últimos estudios sin tener que leer cada artículo en su totalidad. La IA puede asistir en esta tarea, permitiendo a los médicos dedicar más tiempo a la atención del paciente, aliviándolos de algunas tareas burocráticas. La IA no reemplaza el juicio clínico ni la experiencia de los médicos, sino que actúa como un complemento para mejorar la calidad del cuidado de la salud. Utilizar IA para resumir, sintetizar y comprender grandes volúmenes de información no es deshonesto; al contrario, es una práctica eficiente que ayuda a los profesionales médicos a gestionar la gran cantidad de información disponible. Sin embargo, es crucial que la implementación de la IA en medicina se realice de manera responsable, asegurando la integridad y la seguridad del paciente. La IA no sustituye el juicio crítico ni la experiencia del profesional, pero es una herramienta útil para potenciar estos elementos y disminuir el error médico, optimizando la toma de decisiones a nivel del consultorio, la salud poblacional y la educación médica. Uno de los posibles riesgos éticos es que muchos de los modelos de IA que pueden resumir PDF son versiones pagas, lo que limita su accesibilidad para todas las personas. |
| Versión con Gemini 1.0 | La ética del uso de LLM para resumir artículos médicos: Una perspectiva matizada En el ámbito médico, la inteligencia artificial (IA) y los modelos de lenguaje grande (LLM) están abriendo nuevas fronteras en la eficiencia y el acceso a la información. La capacidad de estos sistemas para extraer ideas principales de documentos en PDF, incluyendo artículos médicos, ha generado un debate sobre las implicaciones éticas de su uso. Resumiendo con LLM: ¿deshonesto o eficiente? Utilizar LLM para resumir artículos médicos no es intrínsecamente deshonesto. De hecho, puede ser una herramienta valiosa para optimizar el manejo de grandes volúmenes de información, lo que permite a los profesionales médicos mantenerse actualizados y tomar decisiones informadas. Sin embargo, es crucial reconocer las limitaciones de la IA. Los resúmenes generados por LLM deben ser siempre verificados con el artículo original, y las fuentes originales deben ser citadas adecuadamente. La IA no reemplaza el juicio clínico ni la experiencia del médico, sino que sirve como un complemento para mejorar la calidad de la atención médica. Beneficios potenciales de la IA en la medicina: Mayor eficiencia: La IA puede automatizar tareas como la extracción de información y la generación de resúmenes, liberando tiempo para que los médicos se centren en la atención al paciente. Acceso mejorado a la información: La IA puede ayudar a los médicos a encontrar y comprender rápidamente información relevante de una gran cantidad de estudios y artículos. Reducción del error médico: La IA puede ayudar a identificar posibles errores o discrepancias en la información médica, lo que puede mejorar la toma de decisiones y la seguridad del paciente. Consideraciones éticas clave: Integridad y precisión: Es fundamental garantizar que los resúmenes generados por IA sean precisos y representen fielmente el contenido del artículo original. Transparencia: Los médicos deben ser transparentes sobre el uso de la IA en la generación de resúmenes y deben poder explicar el razonamiento detrás de las conclusiones derivadas de la IA. Acceso equitativo: La implementación de la IA en la medicina debe considerar la accesibilidad y garantizar que todos los profesionales médicos, independientemente de su ubicación o recursos financieros, tengan la oportunidad de beneficiarse de estas tecnologías. En conclusión, el uso de LLM para resumir artículos médicos puede ser una herramienta valiosa para mejorar la eficiencia, el acceso a la información y la calidad de la atención médica. Sin embargo, es crucial utilizar esta tecnología de manera responsable y ética, teniendo en cuenta sus limitaciones y asegurando la integridad de la información. Es importante recordar que la IA aún está en desarrollo y su uso en la medicina debe ser monitoreado y evaluado cuidadosamente. A medida que la tecnología continúa evolucionando, es necesario establecer pautas y regulaciones claras para garantizar el uso responsable de la IA en el ámbito médico. |
| La ética del uso de LLM para resumir artículos médicos: Un análisis completo En el ámbito médico, la tecnología de Modelos de Lenguaje Grande (LLM) ha abierto un nuevo frente en la gestión y el procesamiento de información. La capacidad de estos modelos para extraer ideas principales de documentos en PDF, como artículos médicos, ha generado un debate sobre las implicaciones éticas de su uso. ¿Es deshonesto utilizar LLM para resumir documentos médicos? La respuesta no es tan simple como un sí o un no. La clave reside en la responsabilidad y el entendimiento con que se emplee esta herramienta. Beneficios potenciales: Mayor eficiencia en la investigación y el aprendizaje: LLM pueden ayudar a procesar grandes volúmenes de información de manera rápida y precisa, optimizando el tiempo de médicos e investigadores. Acceso a información actualizada: Los resúmenes generados por LLM permiten a los profesionales de la salud mantenerse al día con los últimos avances médicos sin tener que leer cada artículo en su totalidad. Mejora en la atención al paciente: Al liberar tiempo de tareas burocráticas, los médicos pueden dedicarlo a la atención directa del paciente. Aspectos éticos a considerar: Verificación de la información: Es fundamental verificar siempre la información proporcionada por la IA y citar adecuadamente las fuentes originales en los resúmenes generados. Limitaciones de la IA: Es crucial comprender las capacidades, limitaciones y alcance de la IA para detectar información inadecuada y evitar errores como la confabulación o las alucinaciones. Juicio clínico y experiencia: La IA no reemplaza el juicio clínico ni la experiencia de los médicos, sino que actúa como un complemento para mejorar la calidad del cuidado de la salud. Recomendaciones para un uso ético: Uso responsable: Implementar la IA en medicina de manera responsable, asegurando la integridad y la seguridad del paciente. Acceso equitativo: Promover el acceso equitativo a la tecnología LLM, independientemente de la capacidad económica de los usuarios. Capacitación y educación: Brindar capacitación a los profesionales de la salud sobre el uso adecuado de la IA en la práctica médica. En conclusión, utilizar LLM para resumir artículos médicos no es deshonesto en sí mismo, siempre y cuando se realice de manera responsable, ética y con un entendimiento claro de sus capacidades y limitaciones. La IA puede ser una herramienta valiosa para optimizar la gestión de la información, mejorar la eficiencia y, en última instancia, contribuir a una mejor atención médica. Es importante recordar que la ética en el uso de la IA es un tema en constante evolución y que se deben considerar nuevos marcos y regulaciones a medida que la tecnología avanza. | |
| La ética del uso de LLM para resumir artículos médicos: Un análisis En el ámbito médico, la tecnología de los Modelos de Lenguaje Grande (LLM) está abriendo nuevas posibilidades para el procesamiento y análisis de información. Una de sus aplicaciones más prometedoras es la extracción de ideas principales a partir de documentos en PDF, como artículos científicos. Sin embargo, surge la interrogante: ¿es ético utilizar LLM para resumir artículos médicos? Argumentos a favor: Mejora la eficiencia: Los LLM pueden procesar grandes volúmenes de información de manera rápida y precisa, permitiendo a los profesionales médicos mantenerse actualizados con los últimos estudios sin tener que leer cada artículo en su totalidad. Optimiza el tiempo: Dedicar menos tiempo a la lectura de artículos permite a los médicos enfocarse en la atención al paciente y otras tareas relevantes. Facilita la comprensión: Los resúmenes generados por LLM pueden ser más concisos y claros que el texto original, facilitando la comprensión de la información clave. Argumentos en contra: Preocupaciones éticas: La IA no reemplaza el juicio clínico ni la experiencia de los médicos. Es crucial que los profesionales médicos utilicen su propio juicio para evaluar la información proporcionada por la IA y tomar decisiones informadas. Precisión y confiabilidad: Si bien los LLM han avanzado considerablemente, aún pueden cometer errores o generar información inexacta. Es fundamental verificar siempre la información proporcionada por la IA y citar adecuadamente las fuentes originales. Acceso desigual: Muchos modelos de LLM son de pago, lo que limita su accesibilidad para profesionales en áreas con recursos limitados. Conclusión: Utilizar LLM para resumir artículos médicos no es intrínsecamente deshonesto, siempre y cuando se haga de manera responsable y ética. Es importante recordar que los LLM son herramientas, no sustitutos del juicio clínico. Los profesionales de la salud deben utilizar su propio conocimiento y experiencia para evaluar la información proporcionada por la IA y tomar decisiones informadas en beneficio de sus pacientes. Recomendaciones: Verificar la información: Siempre verificar la información proporcionada por la IA con las fuentes originales. Citar adecuadamente: Citar las fuentes originales en los resúmenes generados por LLM. Ser consciente de las limitaciones: Reconocer que los LLM aún están en desarrollo y pueden cometer errores. Utilizar la IA de manera responsable: Implementar la IA en la práctica médica de manera responsable y ética, asegurando la integridad y la seguridad del paciente. Promover el acceso equitativo: Abogar por un acceso equitativo a los modelos de LLM para profesionales médicos de todas las regiones. En definitiva, la IA tiene el potencial de ser una herramienta valiosa para mejorar la eficiencia y la calidad de la atención médica. Sin embargo, es crucial utilizarla de manera responsable y ética, siempre teniendo en cuenta el juicio clínico y la experiencia de los profesionales médicos como elementos fundamentales para la toma de decisiones. |
¿Es correcto el uso de LLM? Presentamos la propuesta de un algoritmo para la toma de decisiones publicado por Aleksandr Tiukanov para un adecuado uso.
Resumiendo los PDF con modelos de LLM, se seleccionó el artículo “Foundation models for generalist medical artificial intelligence” publicado en Nature y con un prompt se le solicito extraer los puntos más relevantes.
| Claude 3 Sonnet (versión gratuita) | GPT 4 |
| I. Nuevo paradigma: Inteligencia Artificial Médica Generalista (GMAI) A. Modelos flexibles y reutilizables B. Realizan diversas tareas médicas con pocos datos etiquetados II. Capacidades clave de GMAI A. Especificación dinámica de tareas B. Combinaciones flexibles de modalidades de entrada y salida C. Representación formal del conocimiento médico para razonamiento avanzado III. Casos de uso potenciales de alto impacto A. Reportes radiológicos fundamentados B. Procedimientos médicos aumentados C. Soporte de decisiones al pie de cama D. Toma de notas interactiva E. Chatbots para pacientes F. Generación de secuencias de proteínas IV. Desafíos de GMAI A. Validación para tareas no vistas B. Verificación de salidas complejas C. Sesgos sociales D. Privacidad de datos E. Altos costos computacionales V. Cambio de paradigma esperado A. Mayor control, adaptabilidad y aplicabilidad B. Necesidad de abordar retos técnicos y regulatorios. | Introducción – Definición: Modelos fundacionales en IA médica – Importancia: Capacidad para realizar múltiples tareas sin entrenamiento específico Capacidades – Diagnóstico: Precisión en diversas modalidades médicas – Informes médicos: Generación automática y detallada – Soporte quirúrgico: Asistencia en tiempo real durante cirugías Aplicaciones – Radiología: Interpretación de imágenes y generación de informes – Cirugía: Asistencia en procedimientos complejos – Cuidado del paciente: Monitorización y recomendaciones de tratamiento Desafíos – Técnicos: Necesidad de grandes volúmenes de datos diversos – Éticos: Consideraciones sobre el uso y sesgo de datos – Regulatorios: Normativas y validación de modelos Conclusión – Potencial: Transformación significativa en la medicina – Requisitos: Superar desafíos para la implementación efectiva |
Con base en lo observado, es evidente, el potencial generativo de estos modelos y como se expresa en la columna “Jugando con el Fuego de los Dioses” escrita por el Dr. Luis Eduardo Pino, la inteligencia artificial tiene el potencial de transformar, pero se requiere de una cuidadosa gestión en su uso, resaltando el valor de la transparencia, evitando subestimar los riesgos y con una meticulosa aplicación en los escenarios clínicos y académicos.
Bibliografía:
- Black, Sidney, Stella Biderman, Eric Hallahan, Quentin Anthony, Leo Gao, Laurence Golding, Horace He, et al. 2022. “GPT-NeoX-20B: An Open-Source Autoregressive Language Model.” In Proceedings of BigScience Episode #5 — Workshop on Challenges & Perspectives in Creating Large Language Models, 95–136. virtual+Dublin: Association for Computational Linguistics.
- Moor M., te Al., Foundation models for generalist medical artificial intelligence, Nature 2023; 616, 259-265. https://doi.org/10.1038/s41586-023-05881-4
aipocrates.blog 