Autor: Luis Carlos Quintero Malo M.D. Especialista y magister Bioetica. Asesor y bioeticista clínico. Miembro de Aipocrates
La herejía necesaria
Los anuncios de modelos de inteligencia artificial generativa aplicables a varios campos de la medicina han abierto tensiones qué de ser teóricas ahora están irrumpiendo en la cotidianidad clínica, por ejemplo, el uso de modelos para asistir a los médicos en la toma de decisiones a la cabecera del paciente o en el consultorio, diferentes estudios para demostrar que los modelos de lenguaje, a gran escala generales, como Cloud, Gemini o ChatGPT tienen el mismo rendimiento que modelos especializados en medicina como OpenEvidence(RAG/ajuste fino). Esto ha generado que en AIpocrates discutamos acerca de qué tan vigentes siguen los principios y guías con los que reflexionamos y nos apalancamos como médicos hoy para tomar decisiones.
Uno de esos debates terminó en un encuentro con Andrés Rico, CEO del tanque de pensamiento, una deliberación sobre rápida progresión de los modelos de inteligencia artificial generativa, y como ha cambiado lo que permiten hacer las herramientas y lo que de verdad pasa en el uso diario de la inteligencia artificial en salud, y llegamos a una conclusión: los elementos éticos son los el motor de la evolución de la medicina en la era de la IA y no un adorno de los procesos. De esa conclusión se desprende otra, incómoda tal vez: los principios de la bioética no son eternos ni bajaron de ninguna montaña grabados en piedra. Los escribieron personas concretas para responder a desafíos y escándalos concretos, ligados a tecnologías específicas. Y, como toda obra humana, envejecen, pero con la inteligencia artificial envejecen más rápido que nunca, porque los cambios en la medicina ya no se miden en siglos, sino en meses o semanas.
Mi tesis tiene dos caras:
- La primera: los principios evolucionan como consecuencia de los avances tecnológicos y de los procesos sociales, culturales y éticos que esos avances desatan.
- La segunda, que casi nadie dice: hoy esa evolución, además de responder a la tecnología, es la fuente de una mirada crítica e incluyente sobre la propia IA.
Antes el proceso de discusión de una circunstancia determinada, daba tiempo para la deliberación de un cuerpo colegiado, es decir, primero, el problema y luego la conceptualización y determinación. Pero con, la inteligencia artificial, los tiempos cambian, y ahora la bioética tiene que pararse delante del proceso de desarrollo y ejecución para guiar la toma de decisiones, no debe correr detrás del algoritmo. Hay preguntas que el ser humano no puede delegar: para quién trabaja el modelo, a quién beneficia y qué beneficios trae su uso.
Quien no acepte esta doble dinámica está defendiendo un libro en un museo, no una disciplina viva.
El cuarteto que nació de la vergüenza
Conviene recordar que la bioética nació como reacción: a los escándalos de experimentación médica del siglo XX, a los experimentos nazis, a Tuskegee y a la necesidad de definir con justicia quién accedía a tecnologías como la diálisis, el ventilador mecánico y los trasplantes. Es decir, nació de la obligación de decidir quién vivía. Pues, el ventilador mecánico desdibujó la frontera entre la vida y la muerte y los trasplantes exigieron redefinir la muerte misma (muerte cerebral de paro cardiorrespiratorio). La bioética sirvió incluso para que los médicos dejaran de hacer procedimientos que el statu quo aceptaba, pero que no ofrecían ningún beneficio clínico.
En 1979 Tom Beauchamp y James Childress publicaron Principles of Biomedical Ethics, casi al tiempo que el Informe Belmont, para ordenar ese desconcierto y responder a una herida todavía abierta: Tuskegee, donde durante cuarenta años se dejó sin tratamiento a hombres negros con sífilis para observar la evolución de la enfermedad.
El principialismo nació en la cosmovisión liberal norteamericana de los años setenta, centrada en el individuo, en sus derechos y en su capacidad de decidir. Fue una respuesta brillante a un problema preciso: el poder desmedido del médico y del investigador sobre un paciente pasivo. Por eso la autonomía ocupó el centro y el consentimiento informado, su estandarte, se volvió casi sagrado. Nada de esto es un defecto. El problema empieza cuando olvidamos la fecha y tratamos una herramienta histórica como si fuera universal.
En América Latina lo sabemos bien: aquí la autonomía del individuo que llamamos paciente, usuario o sujeto de investigación, choca con la familia como unidad de decisión y con una pobreza que vacía de sentido la elección.
Y la IA repite el error a escala industrial. Muchos de los algoritmos que llegan a nuestros sitios de práctica clínica fueron entrenados con datos de otras poblaciones, otros cuerpos y otros sistemas de salud, y se aplican sin traducción cultural. Aplicar así el cuarteto o el algoritmo es una forma elegante de colonialismo: moral en un caso, digital en el otro.
Maliandi: el conflicto es la estructura
El filósofo argentino Ricardo Maliandi dio un paso que muchos todavía no han asimilado. Su ética convergente parte de dos ideas incómodas. La primera, que los principios viven en tensión permanente y no en armonía. La segunda, que esa conflictividad es la condición misma de la vida moral y no un accidente que la buena voluntad resuelve.
Maliandi reorganizó el cuarteto en dos ejes:
En el eje sincrónico (lo que ocurre aquí y ahora) enfrenta a la universalidad con la individualidad: lo que vale para todos frente a lo que es irrepetible en cada persona. Allí se reencuentran la justicia y la autonomía.
En el eje diacrónico (lo que ocurre en el tiempo) enfrentan la conservación con la realización: proteger lo que existe frente a transformarlo para que florezca. Allí se reencuentran la no maleficencia y la beneficencia.
La diferencia parece de nombres, pero es de fondo. Beauchamp y Childress nos dieron una lista para aplicar. Maliandi nos dio un mapa de tensiones para deliberar. Y ese mapa describe con precisión la IA en salud. Un modelo entrenado para servir a millones (universalidad) puede borrar al paciente que no se parece al promedio (individualidad). La prudencia frente a una tecnología inmadura (conservación) choca con la promesa de diagnósticos más tempranos (realización). Maliandi nos enseñó que siempre perderemos algo y que debemos hacerlo con conciencia. Pero su mapa fue dibujado para un mundo donde quien decidía era siempre un ser humano.
Cuando el que decide ya no tiene rostro
Hoy un algoritmo prioriza quién entra primero a la unidad de cuidado intensivo. Otro lee una mamografía antes que el radiólogo. Otro decide si una EPS autoriza un procedimiento. Ninguno de ellos firma la historia clínica, ninguno comparece ante un tribunal de ética médica, ninguno puede ser interrogado sobre sus razones. Y nosotros seguimos preguntando si el paciente firmó el consentimiento.
Aquí está el centro de mi propuesta. Los cuatro principios clásicos, y sus cuatro reformulaciones convergentes, presuponen un agente moral humano. La inteligencia artificial rompe ese supuesto. Por eso propongo cuatro principios que traducen a los anteriores, sin reemplazarlos, al lenguaje de una decisión compartida entre personas y máquinas:
- Privacidad, heredera de la autonomía y la individualidad. No hay decisión libre si mis datos ya decidieron por mí. Hoy la persona no se defiende solo en la consulta: se defiende en la base de datos.
- Transparencia, heredera de la justicia y la universalidad. Un sistema cuyos criterios están ocultos no puede ser justo, porque nadie puede verificar si trata igual a los iguales.
- Supervisión, heredera de la no maleficencia y la conservación. Ningún algoritmo debe operar sobre un cuerpo humano sin un ser humano capaz de detenerlo. Al primer deber, no dañar, se suma otro: no abdicar.
- Explicabilidad, heredera de la beneficencia y la realización. Un beneficio que nadie puede explicar tampoco se puede verificar, y creer en él es un acto de fe. La medicina no se puede fundar en la fe en una caja negra.
No soy el único que intuye este giro. Luciano Floridi y otros autores ya propusieron sumar la explicabilidad a los principios clásicos. Mi apuesta va más lejos. Agregar un quinto principio deja intacto el cuarteto, y lo que yo sostengo es que el cuarteto entero cambió de piel.
Alguien dirá, con razón, que estos nombres ya circulan: aparecen en las directrices europeas, en la Recomendación de la UNESCO y en la guía de la OMS. Es cierto, y hay más. La UNESCO ya advierte que la transparencia puede chocar con la privacidad, y desde 2019 un grupo de investigadores de Cambridge pide que la ética de la IA se ocupe de las tensiones entre principios. No pretendo haber descubierto el conflicto. Lo que propongo es darle una genealogía y una estructura: si los nuevos principios heredan los ejes de Maliandi, sus tensiones dejan de ser ajustes técnicos que se resuelven caso por caso.
En el eje sincrónico, la privacidad choca con la transparencia: proteger los datos de cada persona tensiona la exigencia de abrir el sistema para que todos puedan verificarlo. En el eje diacrónico, la supervisión choca con la explicabilidad: cuanto mejor se explica y se demuestra el beneficio de un algoritmo, mayor es la tentación de dejarlo actuar con menos vigilancia humana. Quien trabaja en un hospital lo sabe: la herramienta que más convence es la que menos se revisa.
Estas tensiones no son fallas de diseño que la ingeniería resolverá. Son la forma permanente de la decisión compartida entre personas y máquinas, y por eso exigen deliberación, no solo cumplimiento, exige humanos capacitados y entrenados de manera suficiente para la toma de decisión final, establecer roles y responsabilidades, más allá de la mera gobernanza del dato. “Human in the loop” y no “human on the loop”
Cambiar la mirada para cambiar las herramientas
La evolución de los principios tiene poco de moda académica: es una consecuencia lógica. Cada época mira el mundo desde una cosmovisión, y esa mirada define qué consideramos un problema moral. En los setenta, el problema era el médico que decidía por el paciente. La perspectiva de Maliandi muestra que el problema pasó a ser el conflicto inevitable entre valores legítimos. Hoy el problema es una decisión que nadie toma del todo y de la que nadie responde del todo.
Si cambia el problema, cambia el análisis. Si cambia el análisis, deben cambiar las estrategias. Y si cambian las estrategias, tenemos que rehacer nuestras herramientas. El formato de consentimiento informado que firmamos hoy no dice una palabra sobre el algoritmo que leyó el examen. Los comités de ética evalúan protocolos, pero rara vez auditan un modelo. Los tribunales juzgan conductas de médicos, pero no tienen cómo juzgar el sesgo de un software que el médico obedeció de buena fe. Seguimos usando martillos frente a problemas que ya no son clavos.
Por eso hablo de una gobernanza bioética adaptativa. No basta con agregar un capítulo de IA al curso de bioética. Hay que:
- Rediseñar el consentimiento para que incluya el uso de sistemas inteligentes.
- Formar comités capaces de preguntar cómo fue entrenado un modelo y con qué población.
- Exigir que todo sistema clínico tenga un responsable humano con nombre propio.
- Enseñar a los nuevos profesionales a desconfiar con método, no a obedecer con comodidad, ni a cuestionar porque sí.
Aquí está la segunda cara de mi tesis. Los nuevos principios responden a la IA y, al mismo tiempo, la interrogan. Exigen que el campesino del Huila, el indígena del Cauca y el adulto mayor sin alfabetización digital estén representados en los datos y en las decisiones. Una IA que no explica, no se deja supervisar ni protege al más vulnerable, amplifica la desigualdad que ya existía; de neutral no tiene nada. Por eso la bioética no puede ser la oficina que bendice la tecnología después de comprada. Tiene que ser la conciencia crítica que decide si se compra, cómo se usa y ante quién rinde cuentas.
Sé que esta propuesta tiene detractores. Habrá quien diga que los principios clásicos bastan si se interpretan bien, o que la transparencia y la explicabilidad son exigencias técnicas y no morales.
¡Bienvenido el debate! Para eso existe la bioética. Pero que nadie confunda la fidelidad con la inmovilidad.
Beauchamp y Childress fueron revolucionarios porque se atrevieron a romper con la ética médica paternalista de su tiempo. Maliandi lo fue porque se atrevió a decir que la armonía era una ilusión. Honrarlos no es repetirlos. Honrarlos es hacer lo que ellos hicieron: mirar el presente sin miedo y nombrar lo que todavía no tiene nombre.
La pregunta que dejo abierta es simple y brutal: si mañana un algoritmo se equivoca con la vida de un paciente, ¿cuál de nuestros cuatro principios clásicos nos dirá quién debe responder? Si no tenemos respuesta, el problema no es que el algoritmo sea inmoral. Es que nuestra bioética llegó tarde.

Referencias
- Ad Hoc Committee of the Harvard Medical School to Examine the Definition of Brain Death. (1968). A definition of irreversible coma. JAMA, 205(6), 337–340.
- Alexander, S. (1962, 9 de noviembre). They decide who lives, who dies. Life, 53(19), 102–125.
- Beauchamp, T. L., & Childress, J. F. (1979). Principles of biomedical ethics. Oxford University Press. (8.ª ed., 2019).
- Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review, 1(1).
- Floridi, L., Cowls, J., Beltrametti, M., et al. (2018). AI4People: An ethical framework for a good AI society. Minds and Machines, 28(4), 689–707.
- High-Level Expert Group on Artificial Intelligence. (2019). Ethics guidelines for trustworthy AI. European Commission.
- Jones, J. H. (1981). Bad blood: The Tuskegee syphilis experiment. Free Press.
- Maliandi, R. (2010). Ética convergente. Tomo I: Fenomenología de la conflictividad. Las Cuarenta.
- Maliandi, R., & Thüer, O. (2008). Teoría y praxis de los principios bioéticos. Ediciones de la UNLa.
- National Commission for the Protection of Human Subjects of Biomedical and Behavioral Research. (1979). The Belmont Report: Ethical principles and guidelines for the protection of human subjects of research. U.S. Department of Health, Education, and Welfare.
- UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial. UNESCO.
- Whittlestone, J., Nyrup, R., Alexandrova, A., & Cave, S. (2019). The role and limits of principles in AI ethics: Towards a focus on tensions. En Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society. https://doi.org/10.1145/3306618.3314289
- World Health Organization. (2021). Ethics and governance of artificial intelligence for health: WHO guidance. World Health Organization.
