Por Luis Carlos Quintero Malo
Médico, bioeticista clínico y asesor en Bioética e Inteligencia Artificial. Miembro AIpocrates
En la primera parte de esta reflexión vimos que el principal desafío de la inteligencia artificial no reside únicamente en su velocidad, sino en el desfase frente a unas instituciones que necesitan más tiempo para comprenderla y gobernarla. Si la tecnología aprende y cambia continuamente, nuestras formas de control también deben aprender a evolucionar.
De una ética que decide a una Gobernanza Bioética Adaptativa
Toda época obliga a la ética a formular nuevas preguntas. Durante buena parte del siglo XX, la bioética respondió con notable eficacia a un conjunto de dilemas asociados a tecnologías relativamente estables: el trasplante de órganos, la reproducción asistida, el final de la vida o la investigación clínica. En todos esos escenarios existía un supuesto compartido: la tecnología permanecía esencialmente constante mientras las personas deliberaban sobre su uso.
La inteligencia artificial altera esa premisa.
No estamos ante una herramienta que simplemente ejecuta instrucciones previamente definidas. Nos enfrentamos a sistemas que incorporan nuevos datos, actualizan modelos, interactúan con millones de usuarios y modifican continuamente el contexto en el que producen sus resultados. La innovación deja de ser un acontecimiento puntual para convertirse en un proceso permanente.
Ese cambio transforma también la naturaleza de la deliberación ética.
Tradicionalmente, la bioética se organizó alrededor de una pregunta concreta: ¿es correcta esta decisión? El proceso era conocido: identificar el dilema, analizar los hechos, ponderar los principios y emitir un juicio razonado. La decisión cerraba el caso y permitía avanzar.
Ese modelo continúa siendo indispensable en la práctica clínica. Ningún algoritmo puede reemplazar la deliberación moral que exige un paciente concreto, una familia o un comité hospitalario. Sin embargo, cuando el objeto de análisis ya no es un caso aislado sino un sistema que evoluciona continuamente, la pregunta deja de ser suficiente.
La cuestión ya no consiste únicamente en decidir correctamente hoy.
Consiste en construir procesos capaces de seguir produciendo decisiones legítimas mañana, cuando el sistema haya cambiado, aparezcan nuevos datos, evolucionen las expectativas sociales o emerjan riesgos que hoy todavía no somos capaces de anticipar.
Ese desplazamiento, aparentemente sutil, representa un cambio profundo de paradigma.
La bioética deja de concebirse exclusivamente como un espacio donde se resuelven conflictos para convertirse también en una disciplina que diseña capacidades institucionales de aprendizaje. Su función ya no termina cuando concluye la deliberación; comienza precisamente allí, acompañando la evolución de la tecnología mediante evaluación continua, monitoreo permanente y capacidad de corregir el rumbo cuando la evidencia así lo exige.
Quisiera insistir en un punto que considero esencial.
Nada de esto supone relativizar los principios bioéticos clásicos.
La dignidad humana continúa siendo el fundamento irrenunciable de cualquier innovación responsable. La autonomía sigue orientando el respeto por las decisiones de las personas; la beneficencia y la no maleficencia continúan exigiendo maximizar beneficios y reducir daños; la justicia mantiene su papel como criterio para distribuir oportunidades, riesgos y recursos de manera equitativa.
Lo que cambia no es la brújula ética.
Lo que cambia es el modo de utilizarla.
Del mismo modo que un navegador moderno recalcula continuamente la ruta sin modificar el destino, la gobernanza de la inteligencia artificial debe ser capaz de revisar sus decisiones sin abandonar los principios que las orientan. La estabilidad pertenece a los valores; la adaptación corresponde a los procedimientos.
Es precisamente desde esa convicción que propongo avanzar hacia lo que denomino Gobernanza Bioética Adaptativa.
No la concibo como un nuevo código de principios ni como una regulación adicional. La entiendo como un modelo institucional de gobernanza capaz de integrar los fundamentos universales de la bioética con mecanismos continuos de aprendizaje, evaluación y corrección, permitiendo que la innovación tecnológica permanezca alineada con la dignidad humana incluso cuando cambia más rápido que las normas destinadas a regularla.
En este enfoque, el control deja de ser un acto administrativo para convertirse en una capacidad permanente de las organizaciones.
Una institución no demuestra que gobierna responsablemente la inteligencia artificial porque apruebe un protocolo o constituya un comité. Lo demuestra cuando es capaz de detectar tempranamente nuevos riesgos, aprender de ellos, corregir decisiones, actualizar procedimientos y mantener la confianza pública mientras la tecnología continúa evolucionando.
En términos prácticos, esta Gobernanza Bioética Adaptativa puede expresarse en cuatro capacidades complementarias.
La primera consiste en desarrollar una bioética anticipatoria. Significa identificar los riesgos durante la fase de diseño y no únicamente cuando el daño ya se ha producido. En un hospital, por ejemplo, implica preguntarse antes de implementar un algoritmo de triaje si determinados grupos de pacientes podrían resultar sistemáticamente desfavorecidos por la calidad de los datos utilizados para entrenarlo.
La segunda capacidad incorpora la ética al propio proceso de desarrollo tecnológico. El enfoque conocido como ethics by design deja de entender la reflexión ética como un requisito posterior a la innovación y la integra desde el inicio. Preguntas como quién podría verse perjudicado, qué sesgos podrían amplificarse o quién responderá ante un error dejan de ser asuntos exclusivos de los comités de ética y pasan a formar parte del diseño mismo de los sistemas.
La tercera capacidad exige una gobernanza dinámica. No todas las aplicaciones de inteligencia artificial presentan el mismo nivel de riesgo y, por tanto, no todas requieren el mismo grado de supervisión. Un algoritmo destinado a organizar agendas hospitalarias no demanda la misma vigilancia que uno utilizado para apoyar decisiones diagnósticas, priorizar pacientes para ingreso en una unidad de cuidados intensivos o participar en la asignación de órganos para trasplante. La intensidad del control debe ser proporcional al impacto potencial sobre las personas.
Finalmente, la cuarta capacidad reconoce que ninguna estrategia de gobernanza será suficiente si el conocimiento ético permanece concentrado en pequeños grupos de especialistas. La alfabetización ética debe distribuirse entre quienes desarrollan la tecnología, quienes la implementan, quienes toman decisiones institucionales y quienes finalmente conviven con sus consecuencias. La responsabilidad moral de la inteligencia artificial no pertenece únicamente a los bioeticistas; constituye una competencia compartida entre médicos, ingenieros, desarrolladores, juristas, gestores, reguladores y ciudadanos.
Estas cuatro capacidades no pretenden ralentizar la innovación.
Pretenden hacer posible una innovación digna de confianza.
Porque la verdadera medida del progreso tecnológico no reside en la velocidad con la que aparecen nuevos algoritmos, sino en la capacidad de las instituciones para asegurar que cada avance continúe estando al servicio de las personas.
El control como proceso, no como veredicto
Existe una tendencia profundamente arraigada en nuestra manera de entender la regulación tecnológica: imaginar que el control consiste en emitir un veredicto definitivo. Una ley, un protocolo institucional o la aprobación de un comité suelen interpretarse como el punto de llegada de un proceso de evaluación. Una vez adoptada la decisión, asumimos que el problema ha quedado resuelto.
Ese modelo fue razonablemente eficaz para tecnologías cuyo comportamiento permanecía relativamente estable durante años. La inteligencia artificial, sin embargo, nos enfrenta a una realidad distinta. Los sistemas evolucionan, incorporan nuevos datos, interactúan con contextos cambiantes y generan efectos que no siempre pueden anticiparse durante su diseño. Pretender gobernarlos mediante decisiones estáticas equivale a intentar navegar un río en movimiento utilizando un mapa dibujado para un lago.
Por ello, el control ya no puede entenderse como un acto aislado. Debe concebirse como un proceso continuo de observación, evaluación, aprendizaje y corrección. Más que la lógica de un tribunal que dicta una sentencia definitiva, la gobernanza de la inteligencia artificial necesita aproximarse al funcionamiento de un sistema inmunológico: detectar tempranamente las amenazas, responder de manera proporcional, aprender de cada experiencia y fortalecer continuamente su capacidad de adaptación.
Esta idea tiene una consecuencia ética de enorme importancia.
Rara vez existe una decisión tecnológica que beneficie a todos por igual. Un algoritmo diseñado para optimizar la asignación de órganos puede aumentar la eficiencia global del sistema y, al mismo tiempo, perjudicar a un paciente concreto. Un modelo predictivo puede mejorar la seguridad clínica promedio y, sin embargo, reproducir desigualdades históricas si fue entrenado con datos sesgados. Incluso las tecnologías desarrolladas con las mejores intenciones generan inevitablemente tensiones entre valores igualmente legítimos.
La pregunta ética, entonces, deja de ser cómo eliminar completamente el riesgo —un objetivo inalcanzable en cualquier innovación humana— y pasa a ser otra mucho más exigente: ¿cómo construimos procesos suficientemente transparentes, participativos y revisables para corregir nuestros errores antes de que se conviertan en injusticias estructurales?
La confianza pública no nace de la promesa de que la inteligencia artificial nunca fallará. Nace de la certeza de que, cuando falle, existirá una comunidad institucional capaz de reconocer el error, comprender sus causas, asumir responsabilidades y aprender de ellas. La legitimidad no depende de la infalibilidad de los algoritmos; depende de la calidad ética de las instituciones que los gobiernan.
La verdadera lección del fuego
La historia del fuego suele celebrarse como el comienzo del dominio humano sobre la naturaleza. Quizá su enseñanza más profunda sea otra.
Nuestros antepasados no aprendieron simplemente a producir una llama. Aprendieron a convivir con una fuerza que podía alimentar la vida o destruirla. Ese aprendizaje no fue el resultado de una gran invención, sino de incontables generaciones que transformaron la experiencia en conocimiento, el conocimiento en normas compartidas y esas normas en cultura. La tecnología cambió poco durante siglos; fueron las personas quienes cambiaron para poder utilizarla con seguridad.
Hoy enfrentamos un desafío radicalmente distinto.
La inteligencia artificial evoluciona mucho más rápido que nuestra capacidad para construir esa cultura de responsabilidad. No disponemos de generaciones para aprender mediante ensayo y error. Disponemos, en el mejor de los casos, de unos pocos años para desarrollar instituciones capaces de acompañar una innovación que no espera a que terminemos de comprenderla.
Por eso, la respuesta no puede ser detener el progreso tecnológico. Sería tan estéril como imaginar que la humanidad habría renunciado al fuego por miedo a las llamas. La respuesta consiste en acelerar, con la misma determinación, nuestra capacidad colectiva para gobernar la innovación. Necesitamos regulaciones concebidas como procesos vivos y no como textos inmutables; comités de ética que acompañen de manera continua la implementación de las tecnologías y no solo su aprobación inicial; organizaciones que aprendan de forma permanente; y una educación que forme ciudadanos capaces de comprender tanto las oportunidades como los límites de la inteligencia artificial.
En 1971, Van Rensselaer Potter definió la bioética como un puente hacia el futuro. Durante décadas ese puente permitió conectar el extraordinario desarrollo de la biomedicina con la reflexión ética necesaria para preservar la dignidad humana. Hoy ese puente debe ampliarse. Ya no une únicamente la medicina con la ética; conecta a la humanidad con un ecosistema tecnológico que transforma simultáneamente la salud, la educación, la economía, la ciencia y la vida democrática.
La pregunta decisiva de las próximas décadas no será cuánto pueda llegar a hacer una máquina.
La verdadera pregunta será qué tan rápido seremos capaces de aprender a gobernarnos a nosotros mismos.
Porque el futuro no dependerá exclusivamente de la inteligencia de los algoritmos.
Dependerá, sobre todo, de la inteligencia ética de las sociedades que decidan utilizarlos.
Y quizá esa sea la mayor lección que el fuego todavía puede enseñarnos: las civilizaciones nunca se han definido por las tecnologías que inventan, sino por la sabiduría con la que aprenden a gobernarlas.
