Por Luis Carlos Quintero Malo – Médico, bioeticista clínico y asesor en Bioética e Inteligencia Artificial – Miembro AIpocrates.
Hace aproximadamente un millón de años, algún antepasado de nuestra especie observó un incendio provocado por un rayo y, en lugar de alejarse, decidió acercarse. No descubrió el fuego en un instante heroico ni protagonizó una escena fundacional de la humanidad. Lo que inició fue un proceso mucho más lento y trascendental: aprender a convivir con una tecnología cuya fuerza podía iluminar una comunidad, cocinar sus alimentos, protegerla del frío o destruirla por completo.
La arqueología muestra que entre el contacto ocasional con el fuego natural y la capacidad de conservarlo, transportarlo y producirlo deliberadamente transcurrieron cientos de miles de años. Dominarlo no consistió simplemente en encender una llama, sino en construir prácticas, normas y conocimientos que permitieran utilizarlo con relativa seguridad y transmitir ese aprendizaje de generación en generación. El verdadero logro de nuestros antepasados no fue inventar el fuego —la naturaleza ya lo había hecho—, sino desarrollar las capacidades sociales necesarias para gobernarlo.
Esta historia suele narrarse como uno de los grandes avances tecnológicos de la humanidad. Creo, sin embargo, que también puede entenderse como el primer gran ejercicio de gobernanza tecnológica. Mucho antes de que existieran leyes, universidades o comités de ética, las comunidades humanas ya aprendían que ninguna tecnología puede sostenerse únicamente sobre su potencia; necesita también mecanismos de control, aprendizaje y responsabilidad compartida.
No recurro a esta analogía por su valor histórico, sino porque ilumina una de las preguntas más importantes de nuestro tiempo: ¿cuánto necesita una sociedad para aprender a gobernar una tecnología, y qué ocurre cuando ese tiempo deja de medirse en siglos y comienza a medirse en meses?
Durante buena parte de la historia, innovación y adaptación institucional avanzaron con ritmos relativamente comparables. La electricidad transformó la vida cotidiana en el curso de un siglo. Internet comprimió ese proceso a unas pocas décadas. La inteligencia artificial está reconfigurando el trabajo, la educación, la investigación científica y la atención en salud en apenas unos años. Lo que antes permitía generaciones de aprendizaje colectivo hoy debe resolverse dentro de un ciclo regulatorio, un periodo gubernamental o, en ocasiones, antes de que la siguiente versión de un sistema sustituya a la anterior.
Esa aceleración suele alimentar una falsa dicotomía. Se presenta la tecnología como una fuerza inevitablemente benéfica o como una amenaza que debe contenerse. Ninguna de las dos posturas hace justicia a la experiencia histórica. El fuego permitió cocinar alimentos y también incendiar ciudades; la energía nuclear produce electricidad y puede devastar poblaciones enteras; la inteligencia artificial promete ampliar nuestras capacidades diagnósticas, científicas y educativas, al tiempo que plantea riesgos inéditos para la privacidad, la equidad, la autonomía y la confianza pública.
Las tecnologías, en sí mismas, no poseen una orientación moral. Lo decisivo siempre ha sido la calidad de las instituciones, de las normas y de la deliberación ética que orientan su desarrollo. Desde sus orígenes, la bioética no ha preguntado únicamente qué es técnicamente posible, sino qué resulta moralmente aceptable, para quién, bajo qué condiciones y con qué mecanismos de responsabilidad cuando las consecuencias no son las esperadas.
La verdadera novedad de la inteligencia artificial, por tanto, no radica únicamente en su potencia. Radica en que, por primera vez, la velocidad de la innovación amenaza con superar la capacidad de nuestras instituciones para aprender a gobernarla. Ese desajuste —más que la tecnología misma— constituye, a mi juicio, uno de los problemas bioéticos definitorios del siglo XXI.
Cinco años que condensaron un cambio de época
Hay momentos en la historia en los que varias décadas parecen concentrarse en unos pocos años. La inteligencia artificial ha vivido uno de esos momentos. Entre 2021 y 2026 no solo evolucionaron los modelos computacionales; cambió la forma en que gobiernos, instituciones, profesionales y ciudadanos comenzaron a comprender qué significa convivir con una tecnología capaz de aprender, producir conocimiento y participar, de manera creciente, en procesos tradicionalmente reservados al juicio humano.
El primer gran paso ocurrió en 2021, cuando la UNESCO adoptó la Recomendación sobre la Ética de la Inteligencia Artificial, el primer marco mundial construido específicamente para orientar el desarrollo responsable de esta tecnología. Aquella recomendación no pretendía frenar la innovación. Su propósito era recordar que los avances tecnológicos solo generan progreso cuando permanecen subordinados a valores humanos fundamentales como la dignidad, la autonomía, la justicia, la beneficencia, la no maleficencia, la transparencia y la rendición de cuentas. En ese momento, sin embargo, la discusión seguía siendo predominantemente prospectiva: la inteligencia artificial aún era percibida por muchos como un asunto de laboratorios, grandes empresas tecnológicas y centros de investigación.
Todo cambió entre 2022 y 2023.
La aparición masiva de la inteligencia artificial generativa desplazó el debate desde los círculos especializados hacia la vida cotidiana. En cuestión de meses, millones de personas comenzaron a utilizar sistemas capaces de redactar documentos, generar código, sintetizar información, producir imágenes, analizar contenido visual y ofrecer interpretaciones preliminares de información clínica o científica. La inteligencia artificial dejó de ser una promesa tecnológica para convertirse en una herramienta de uso diario.
La velocidad de adopción fue extraordinaria. Mucho más rápida que la capacidad de las instituciones para comprender todas sus implicaciones.
Con esa expansión aparecieron también riesgos que hasta entonces habían sido, en gran medida, hipotéticos. La generación masiva de desinformación, los deepfakes, la reproducción de sesgos presentes en los datos de entrenamiento, el uso intensivo de información personal y la creciente tentación de delegar decisiones complejas en sistemas algorítmicos dejaron de ser escenarios futuros para convertirse en desafíos concretos de la práctica clínica, la educación, la justicia y la administración pública.
Fue precisamente esa aceleración la que obligó a una respuesta institucional sin precedentes.
Entre 2024 y 2025 comenzaron a consolidarse marcos regulatorios y éticos que, aunque diferentes entre países, compartían una misma orientación: aumentar la transparencia de los algoritmos, fortalecer la trazabilidad de las decisiones automatizadas, exigir auditorías proporcionales al nivel de riesgo y mantener una supervisión humana efectiva sobre los sistemas con mayor impacto social. La aprobación del Reglamento Europeo de Inteligencia Artificial (AI Act), junto con las recomendaciones de la Organización Mundial de la Salud, la evolución de los criterios regulatorios de agencias como la FDA y el desarrollo de estándares internacionales, ilustran ese cambio de paradigma: la pregunta ya no era únicamente qué puede hacer la inteligencia artificial, sino cómo garantizar que lo haga de manera segura, responsable y compatible con los derechos fundamentales.
En el ámbito sanitario esa transformación resultó especialmente significativa.
Comenzó a consolidarse un principio ampliamente compartido por los principales marcos internacionales: la inteligencia artificial puede ampliar las capacidades del profesional de la salud, pero no sustituye su responsabilidad ética ni clínica. El modelo conocido como human-in-the-loop reconoce que los sistemas inteligentes pueden ofrecer recomendaciones valiosas, identificar patrones difíciles de detectar o apoyar procesos diagnósticos y administrativos; sin embargo, la decisión clínica continúa siendo una responsabilidad humana, precisamente porque incorpora dimensiones —contexto, valores, comunicación, compasión y deliberación moral— que ningún algoritmo puede asumir por sí solo.
En 2026, más que afirmar que hemos alcanzado una inteligencia artificial plenamente confiable, resulta más preciso reconocer que transitamos hacia una nueva etapa de madurez. La discusión ya no gira exclusivamente alrededor del rendimiento técnico de los modelos, sino de las condiciones que hacen posible confiar en ellos: explicabilidad, robustez, protección de datos, ausencia de discriminación, evaluación continua del riesgo y mecanismos efectivos de supervisión. En otras palabras, estamos pasando de admirar sistemas cada vez más poderosos a construir las instituciones necesarias para que también sean sistemas confiables.
Mirado en perspectiva, este recorrido de apenas cinco años reproduce, a una velocidad extraordinaria, el mismo patrón que acompañó la domesticación del fuego hace cientos de miles de años. Primero aparece una capacidad tecnológica que despierta fascinación. Luego llega su adopción masiva. Más tarde emergen riesgos que obligan a establecer límites, responsabilidades y formas de aprendizaje colectivo. Finalmente, comienza la construcción de mecanismos de gobernanza capaces de integrar la innovación dentro de un orden social legítimo.
La diferencia es evidente.
Nuestros antepasados dispusieron de siglos para aprender a gobernar el fuego.
Nosotros apenas disponemos de unos pocos años para aprender a gobernar la inteligencia artificial.
Y esa diferencia de escala temporal constituye, probablemente, el mayor desafío ético de nuestra época.
El problema no es la velocidad de la tecnología: es el ritmo de nuestras instituciones
Existe una afirmación que se repite con frecuencia cada vez que aparece una innovación disruptiva: la ética siempre llega tarde. Aunque intuitiva, esa idea resulta insuficiente y, en cierto sentido, injusta con la propia historia de la ética. El problema no es que la reflexión moral sea lenta por naturaleza. El verdadero problema es que las sociedades aprenden, regulan y transforman sus instituciones a una velocidad muy distinta de aquella con la que hoy evolucionan las tecnologías digitales.
Más que hablar de un retraso de la ética, conviene reconocer que convivimos con tres velocidades distintas, cuya desincronización explica buena parte de las tensiones contemporáneas.
La primera es la velocidad tecnológica. Los modelos de inteligencia artificial evolucionan en cuestión de meses. Nuevas arquitecturas aparecen antes de que las anteriores hayan sido plenamente comprendidas; sistemas que parecían experimentales pasan rápidamente a incorporarse en hospitales, universidades, empresas y administraciones públicas.
La segunda es la velocidad institucional. Elaborar una regulación, construir estándares técnicos, desarrollar mecanismos de auditoría o alcanzar consensos internacionales requiere años de deliberación. Y esa lentitud no representa necesariamente un defecto. En una democracia, las decisiones que afectan derechos fundamentales exigen debate, evidencia y legitimidad. La prudencia institucional constituye, muchas veces, una garantía para la libertad.
Existe, sin embargo, una tercera velocidad todavía más profunda: la del cambio cultural. Las normas jurídicas pueden modificarse relativamente rápido; las costumbres, la confianza social y la manera en que una comunidad entiende la responsabilidad, el riesgo o la autonomía cambian mucho más lentamente. Son procesos que rara vez se completan en una generación y que dependen de la educación, de la experiencia acumulada y de la construcción gradual de consensos.
Durante la mayor parte de la historia estas tres velocidades permanecieron razonablemente alineadas. El fuego, la agricultura, la imprenta o incluso la electrificación evolucionaron a un ritmo que permitió a las sociedades adaptar progresivamente sus instituciones. Existía tiempo para aprender de los errores, corregir prácticas y transformar la cultura antes de que apareciera una innovación completamente distinta.
La inteligencia artificial ha roto ese equilibrio.
Por primera vez, una tecnología evoluciona más rápido de lo que nuestras instituciones son capaces de comprender, evaluar y gobernar. El intervalo que antes separaba la innovación de la regulación se ha reducido hasta casi desaparecer. Cuando un organismo público concluye el análisis de un sistema, probablemente ya exista una versión más potente; cuando un comité de ética termina de deliberar, el algoritmo puede haber incorporado nuevas capacidades; cuando una organización diseña un protocolo de uso responsable, la práctica cotidiana ya ha planteado dilemas que ese protocolo nunca imaginó.
El desfase, por tanto, no reside únicamente en la rapidez de la innovación. Reside en que nuestras estructuras de gobernanza fueron concebidas para un mundo relativamente estable, donde las tecnologías permanecían invariables durante años y los procesos regulatorios podían desarrollarse sin que el objeto regulado cambiara de manera sustancial. Hoy ocurre exactamente lo contrario: regulamos sistemas que evolucionan mientras intentamos comprenderlos.
Esta constatación obliga a revisar una idea profundamente arraigada en la cultura regulatoria del siglo XX: la creencia de que el control consiste en emitir un conjunto de normas suficientemente completo para prevenir los riesgos futuros. Ese modelo funcionó razonablemente bien cuando las innovaciones seguían trayectorias previsibles. Resulta mucho menos eficaz frente a tecnologías que aprenden, se actualizan y modifican continuamente su comportamiento.
En el ámbito sanitario esta diferencia es especialmente evidente. Un trasplante de órganos, un protocolo de investigación clínica o un dispositivo médico certificado permanecen relativamente estables después de su aprobación. Un sistema de inteligencia artificial, en cambio, puede modificar su rendimiento tras incorporar nuevos datos, adaptarse a poblaciones diferentes o comportarse de forma distinta cuando cambia el contexto clínico en el que se utiliza. La evaluación ética deja entonces de ser un acto puntual para convertirse en un proceso permanente de vigilancia, aprendizaje y revisión.
Esta transformación no invalida la bioética clásica; al contrario, confirma su vigencia. Los principios formulados por Beauchamp y Childress —autonomía, beneficencia, no maleficencia y justicia— continúan siendo la brújula moral de la práctica clínica y de la innovación tecnológica. Lo que debe evolucionar no son los principios, sino los mecanismos mediante los cuales esos principios orientan tecnologías que cambian continuamente. La pregunta deja de ser únicamente «¿es correcta esta decisión?» para convertirse en otra mucho más exigente: ¿cómo construimos instituciones capaces de seguir tomando decisiones éticamente legítimas mientras la tecnología, la evidencia y el contexto continúan transformándose?
Ese cambio de perspectiva marca, a mi juicio, el verdadero desafío de la bioética en la era de la inteligencia artificial. Ya no basta con deliberar bien una vez. Necesitamos instituciones capaces de aprender con la misma continuidad con la que aprenden las tecnologías que pretendemos gobernar.
Si la tecnología aprende y evoluciona de manera continua, ¿pueden nuestras instituciones seguir gobernándola con respuestas estáticas? En la segunda parte exploraremos por qué este desafío exige transformar no solo nuestras normas, sino también nuestra manera de entender el control, la responsabilidad y el aprendizaje institucional.
Te invitamos a leerla…
aipocrates.blog 