Autor: Luis Carlos Quintero Malo M.D. Especialista y magister Bioetica. Asesor y bioeticista clínico. Miembro de Aipocrates

La bioética de ayer y de hoy

Durante más de cuatro décadas, la bioética ha operado sobre un supuesto que rara vez se hacía explícito: que los dilemas morales que enfrenta ocurren en sistemas relativamente estables, delimitados en el tiempo y en el espacio. Por ejemplo ¿Es correcto suspender este tratamiento? ¿Debe respetarse esta decisión del paciente? ¿Es éticamente admisible este ensayo clínico? Son preguntas legítimas, y el marco principialista de Beauchamp y Childress —autonomía, beneficencia, no maleficencia y justicia— ha demostrado, desde 1979, una capacidad extraordinaria para ordenar el juicio moral frente a ellas. Pero ese marco fue diseñado para un mundo donde la decisión era el punto de llegada: se deliberaba, se decidía, y el caso se cerraba.

La inteligencia artificial rompe ese supuesto de raíz. No estamos ante un dilema puntual, ya la decisión no es el punto de llegada, enfrentamos un sistema que aprende continuamente, que modifica su comportamiento con cada nuevo dato, que afecta simultáneamente a millones de personas y que produce efectos indirectos casi imposibles de anticipar en el momento de su diseño.

La pregunta clásica —¿qué decisión es correcta?— sigue siendo necesaria, pero ya no es suficiente. La pregunta que exige el presente es otra: ¿cómo diseñamos un sistema de gobernanza ética capaz de seguir tomando decisiones correctas mientras la realidad que regula cambia constantemente?

Dos velocidades, bioética vs modelos de IA

Aquí se hace visible una tensión que cualquier clínico, jurista o regulador reconoce de inmediato: la velocidad del desarrollo tecnológico ha superado y dejado de ser compatible con la velocidad tradicional de la deliberación ética. Los comités de ética institucional, los tribunales, las guías clínicas y los marcos regulatorios fueron construidos para deliberar con calma, revisar con rigor y decidir con prudencia, un proceso que, con razón, puede tomar meses o años. La inteligencia artificial, en cambio, se despliega, se actualiza y se redefine en semanas. El resultado es un desfase estructural: cuando la reflexión bioética llega a una conclusión sólida sobre una tecnología, esa tecnología ya ha mutado en algo distinto.

Este desfase no es un problema de falta de voluntad ni de recursos. Es un problema de arquitectura. Seguimos aplicando un modelo de decisión —diseñado para resolver casos discretos— a un fenómeno que exige un modelo de adaptación. Y la diferencia entre ambos no es cosmética: es un cambio en el objeto mismo de estudio de la disciplina.

De la Bioética 1.0 a la Bioética 2.0

Conviene nombrar ese cambio con precisión. La que podríamos llamar Bioética 1.0 tiene como objeto resolver dilemas puntuales, como método la deliberación, y como producto una decisión. Es el modelo que ha gobernado la práctica clínica y la investigación biomédica durante décadas, y que sigue siendo insustituible para los casos que efectivamente son discretos y delimitados.

Pero frente a los sistemas tecnológicos complejos emerge la necesidad de una Bioética 2.0, cuyo objeto ya no es resolver un caso sino gobernar un sistema; cuyo método ya no es solo la deliberación puntual sino el aprendizaje continuo; y cuyo producto ya no es una decisión cerrada sino un proceso adaptable, capaz de corregirse a sí mismo.

Esto no implica abandonar los principios clásicos. Al contrario: dignidad, autonomía, justicia, beneficencia y no maleficencia siguen siendo el núcleo duro, el destino que no cambia. Lo que cambia es la ruta —el método— mediante el cual esos principios se traducen en decisiones concretas frente a sistemas que se transforman más rápido que los procedimientos diseñados para evaluarlos. Es la misma lógica de un sistema de navegación satelital: el destino permanece fijo, pero la ruta se recalcula constantemente en función de las condiciones del camino.

Cuando los principios migran de forma

Un ejercicio revelador consiste en observar cómo los cuatro principios clásicos, sin perder su núcleo, están adoptando expresiones nuevas frente a los sistemas algorítmicos.

• La autonomía, entendida clásicamente como individualidad y capacidad de decisión del sujeto, hoy exige mecanismos de supervisión humana efectiva sobre sistemas que de otro modo decidirían sin ella.
• La justicia, entendida como universalidad y equidad en el trato, se traduce en la exigencia de transparencia: no puede haber trato equitativo frente a un sistema cuyos criterios de decisión son opacos incluso para quienes lo operan.
• La no maleficencia, que clásicamente buscaba conservar la integridad del paciente y evitar el daño, encuentra hoy su expresión en la privacidad de los datos, porque el daño ya no solo se produce sobre el cuerpo sino sobre la información que lo representa.
• La beneficencia, entendida como la realización del bien para el paciente, exige ahora explicabilidad: un beneficio que no puede explicarse ni justificarse ante quien lo recibe es, en el mejor de los casos, un beneficio incompleto.

Esta correspondencia no es una sustitución de los principios sino su despliegue natural frente a un nuevo tipo de agente moral relevante: el sistema algorítmico. Los principios no envejecen; lo que envejece es la forma en que los aplicamos cuando el objeto regulado deja de ser un acto médico puntual y se convierte en una infraestructura que aprende.

Vale la pena detenerse en la capa intermedia de este tránsito, porque es allí donde ocurre el verdadero trabajo conceptual. Entre el principio clásico y su expresión tecnológica hay un concepto puente que explica por qué la correspondencia no es arbitraria: la individualidad conecta autonomía con supervisión, porque solo hay decisión propiamente humana donde existe control efectivo sobre lo que decide por nosotros; la universalidad conecta justicia con transparencia, porque un criterio solo puede aplicarse por igual a todos si puede ser conocido por todos; la conservación conecta no maleficencia con privacidad, porque proteger de daño hoy significa, en buena medida, proteger la integridad de los datos que nos representan; y la realización conecta beneficencia con explicabilidad, porque un bien que no puede comprenderse por quien lo recibe difícilmente puede reclamarse como beneficio pleno.

Esta capa intermedia no es un artificio retórico: es el puente conceptual que permite sostener, con rigor académico, que los principios bioéticos no se abandonan frente a la inteligencia artificial, sino que se despliegan en un lenguaje nuevo.

Pensar rápido, pero no pensar mal

La conclusión inmediata podría parecer peligrosa: si la tecnología avanza más rápido que la ética, ¿no deberíamos simplemente deliberar más rápido, aunque sea a costa del rigor? Esa es precisamente la trampa que hay que evitar. La velocidad sin deliberación no es agilidad ética: es abdicación. La respuesta correcta no es sacrificar el rigor deliberativo en nombre de la velocidad, sino rediseñar la arquitectura del proceso deliberativo para que pueda operar en ciclos más cortos sin perder profundidad.

Esto exige pensar en un ciclo de retroalimentación permanente, no en un veredicto final. Un ciclo donde la innovación tecnológica activa mecanismos automáticos de detección de riesgo; donde ese riesgo desencadena un análisis bioético que no parte de cero cada vez, sino que se apoya en criterios ya deliberados y disponibles; donde ese análisis convoca una consulta plural de actores —pacientes, clínicos, científicos, juristas, ingenieros, reguladores y ciudadanía— capaz de nutrir la decisión sin paralizarla; donde la decisión se implementa, se monitorea, se mide su impacto real, y donde ese impacto retroalimenta una corrección que da lugar a una nueva decisión, más informada que la anterior. En este modelo, la decisión deja de ser el punto final del proceso ético para convertirse en una etapa dentro de un sistema que nunca deja de aprender.

Una gobernanza de cinco capas

Para que este ciclo no quede en una aspiración retórica, resulta útil pensarlo como una arquitectura de cinco capas. La primera capa contiene los valores permanentes —dignidad, derechos humanos, justicia— que no cambian bajo ninguna circunstancia. La segunda es la evaluación dinámica, donde los propios sistemas tecnológicos ayudan a identificar riesgos emergentes antes de que se materialicen en daño. La tercera es la deliberación plural, el espacio donde el juicio humano —irreductible e insustituible— pondera lo que la evaluación dinámica ha detectado. La cuarta es la implementación adaptable, que permite que una política o un protocolo se ajuste con la velocidad que el contexto exige, sin tener que reconstruir el marco regulatorio completo cada vez. Y la quinta es el aprendizaje institucional, donde cada decisión tomada —acertada o no— deja una huella que mejora la capacidad del sistema para decidir la próxima vez.

Llamemos a esto Gobernanza Bioética Adaptativa: un modelo de toma de decisiones diseñado para sistemas tecnológicos complejos, que integra los principios bioéticos universales con mecanismos continuos de aprendizaje, monitoreo y corrección, garantizando que la innovación permanezca alineada con la dignidad humana, la justicia y el bien común en contextos de cambio acelerado.

La pregunta que todavía no nos hacíamos

Los modelos éticos tradicionales han preguntado, con toda razón, qué decisión maximiza el bien en un caso dado. Esa pregunta sigue siendo válida, pero frente a sistemas que nunca dejan de cambiar ya no basta. Hace falta una pregunta complementaria: ¿qué decisión mantiene al sistema aprendiendo sin comprometer la dignidad humana?

Ese desplazamiento —de una pregunta sobre el acto correcto a una pregunta sobre el proceso correcto— no busca reemplazar los fundamentos clásicos de la disciplina, sino responder algo que sus fundadores no tuvieron que enfrentar: cómo gobernar éticamente sistemas que aprenden, cambian y afectan simultáneamente a millones de personas.

Para quienes formamos comités de ética, asesoramos instituciones o participamos en el diseño de política pública sobre inteligencia artificial en salud, el desafío inmediato no es escoger entre velocidad y rigor. Es diseñar procesos capaces de sostener ambos a la vez: deliberar con la misma seriedad de siempre, pero en ciclos lo suficientemente cortos como para no llegar tarde a la pregunta que importa. La bioética no necesita renunciar a su tradición deliberativa para sobrevivir a la era algorítmica. Necesita, simplemente, aprender a deliberar en el mismo tiempo en que el mundo que evalúa sigue cambiando.

La noción de gobernanza adaptativa propuesta aquí para la bioética se inspira en una tradición más amplia de gestión de sistemas complejos, desarrollada originalmente para la gobernanza de sistemas socioecológicos (Folke et al., 2005), y se traslada a la bioética como una extensión conceptual propia, no como una aplicación literal de esa literatura.

Referencias

Beauchamp, T. L., & Childress, J. F. (1979). Principles of Biomedical Ethics (1.ª ed.). Oxford University Press.

Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review, 1(1). https://doi.org/10.1162/99608f92.8cd550d1

Folke, C., Hahn, T., Olsson, P., & Norberg, J. (2005). Adaptive governance of social-ecological systems. Annual Review of Environment and Resources, 30, 441–473. https://doi.org/10.1146/annurev.energy.30.050504.144511

High-Level Expert Group on Artificial Intelligence, Comisión Europea. (2019). Ethics Guidelines for Trustworthy AI. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai

Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389–399. https://doi.org/10.1038/s42256-019-0088-2

World Health Organization. (2021). Ethics and Governance of Artificial Intelligence for Health. WHO. https://www.who.int/publications/i/item/9789240029200