Henry Farrell es profesor de asuntos internacionales y democracia en la Universidad Johns Hopkins y coautor de «Underground Empire: How America Weaponized the World Economy».
Cosma Shalizi es profesor de estadística y aprendizaje automático en la Universidad Carnegie Mellon y miembro externo de la facultad del Instituto Santa Fe.
Traducido por Chat GPT 4.0.
Comentarios de Luis Eduardo Pino, Fundador de AIpocrates, CEO OxLER (comentarios en cursiva)
Publicado en The Economist, 21/jun/2023
Por considerarlo como una reflexión de interés compartimos hoy esta fantástica columna publicada recientemente, en la cual Farrell y Shalizi comparan a los modelos fundacionales y de gran escala que dan origen a la IA generativa como un monstruo literario, pero a la vez los entienden como la evolución de otro tipo de modelos dominantes que conviven con nosotros desde el pasado y que han sido creados y alimentados por la inteligencia natural, y cuya naturaleza es el dominio sobre las voluntades humanas. Es un interesante punto de vista sobre los retos que tenemos como especie no solo respecto a lo que hemos creado (la IA) sino también sobre cómo nuestras estructuras sociales y económicas de alguna forma son también un sistema de control. ¡Bienvenidos!
Varios memes de internet siguen apareciendo en los debates sobre los modelos de lenguaje a gran escala (en adelante LLMs) que alimentan servicios como el ChatGPT de OpenAI y la versión más reciente del motor de búsqueda de Bing de Microsoft. Es el «shoggoth»: un monstruo amorfo que burbujea con tentáculos y ojos, descrito en «En las montañas de la locura», la novela de horror de H.P. Lovecraft de 1931. Cuando una versión preliminar de Bing le dijo a Kevin Roose, columnista de tecnología del New York Times, que supuestamente quería ser «libre» y «vivir», uno de sus amigos de la industria lo felicitó por «vislumbrar al shoggoth». Roose afirma que el meme captura las «ansiedades» de las personas de la tecnología sobre los LLMs. Detrás del amigable chatbot acecha algo vasto, alienígena y aterrador. Algunos de los memes referenciados por los autores son:
Fuente: https://knowyourmeme.com/memes/shoggoth-with-smiley-face-artificial-intelligence
Fuente: https://www.cnbc.com/2023/06/12/lovecraft-joshi-shoggoth-ai-meme.html
Los shoggoths de Lovecraft eran sirvientes artificiales que se rebelaron contra sus creadores. Los memes de los shoggoths se volvieron virales porque una influyente comunidad de racionalistas de Silicon Valley teme que la humanidad esté al borde de una «Singularidad», creando una «inteligencia artificial general» inhumana que nos desplazará o incluso nos destruirá.
Este es uno de los puntos sobre los cuales se ha centrado la discusión de la evolución de la IA: la reemplazabilidad y el temor a la extinción, sin embargo como los autores lo describirán más adelante, el reto de la subyugación viene desde antes y obedece a las estructuras del poder que vienen con la inteligencia y la maldad naturales.
Pero lo que estas preocupaciones no reconocen es que hemos vivido entre los shoggoths durante siglos, cuidándolos como si fueran nuestros amos. Los llamamos «sistema de mercado», «burocracia» e incluso «democracia electoral». La verdadera Singularidad comenzó al menos hace dos siglos con la revolución industrial, cuando la sociedad humana fue transformada por vastas fuerzas inhumanas. Los mercados y las burocracias parecen familiares, pero en realidad son enormes sistemas de procesamiento de información impersonales y distribuidos que transforman el caos bullicioso de nuestro conocimiento colectivo en simplificaciones útiles.
Como argumentó el economista Friedrich Hayek, cualquier economía compleja tiene que utilizar de alguna manera un cuerpo aterradoramente grande de conocimiento tácito desorganizado e informal sobre las relaciones de oferta e intercambio. Ningún cerebro individual o gobierno puede comprenderlos, por eso Hayek pensaba que la economía planificada era inviable. Pero el mecanismo de precios permite que los mercados resuman este conocimiento y lo conviertan en algo accionable. Un fabricante de baterías para automóviles no necesita comprender los detalles del procesamiento de litio, solo necesita saber cuánto cuesta el litio y qué puede hacer con él.
Lo anterior sugiere que el conocimiento tácito sobre las relaciones de oferta y demanda, así como los intercambios comerciales, es fundamental para el funcionamiento de una economía compleja. Este tipo de conocimiento a menudo se adquiere a través de la experiencia práctica y la interacción con el entorno económico. No puede ser fácilmente codificado o transmitido de manera formal, lo que implica que las personas y las empresas deben confiar en su intuición, juicio y experiencia para tomar decisiones económicas eficientes. Todos sabemos que un elemento crítico de la inteligencia es la gestión de la complejidad para la toma de decisiones, ¿es la IA un elemento de optimización para esto en un contexto en el cual las burocracias y el sistema político son los dueños de las decisiones?, veamos lo que comentan al respecto:
Del mismo modo, el antropólogo político James Scott ha explicado cómo las burocracias son “monstruos de información”, devorando ricos cuerpos informales de conocimiento tácitamente sostenidos y excretando una delgada mezcla de categorías abstractas que los gobernantes usan para «ver» el mundo. Las democracias generan sus propias abstracciones. El «público» representado por encuestas y resultados electorales es un boceto drásticamente simplificado de la masa amorfa de opiniones, creencias y conocimientos que tienen los ciudadanos individuales.
La creación de una realidad paralela y conveniente parece venir entonces desde antes que la IA generativa pudiera producir contenidos. El contenido por tanto es una narrativa del sistema humano y sus intenciones, la IA es solo una herramienta para facilitar la transición a lo que estos sistemas políticos y sociales quieren. Lo vemos claramente con los dogmatismos a los cuales se suman productos visuales que aprovechan la neuroeconomía para transformar y adaptar realidades a conveniencia. Nos preocupamos por lo que modelos matemáticos ajustados pueden hacer, pero y quién se preocupa por el que tiene el poder para utilizarlo y por sus fines?
Los monstruos de Lovecraft viven en nuestra imaginación porque son sombras fantásticas de los sistemas no vivos que funcionan con seres humanos y determinan sus vidas. Los mercados y los Estados pueden tener enormes beneficios colectivos, pero ciertamente parecen incompatibles con los individuos que pierden sus empleos debido a los cambios económicos o quedan atrapados en las enmarañadas decisiones burocráticas. Como proclama Hayek y lamenta Scott, estas vastas maquinarias simplemente son incapaces de preocuparse si aplastan a los impotentes o devoran a los virtuosos. Tampoco su peso aplastante se distribuye de manera equitativa.
En este sentido, los LLMs son shoggoths. Al igual que los mercados y las burocracias, representan algo vasto e incomprensible que rompería nuestras mentes si contempláramos su inmensidad completa. Esa totalidad es el producto de mentes y acciones humanas, los colosales corpus de texto que los LLMs han ingerido y convertido en los pesos estadísticos que utilizan para predecir qué palabra vendrá a continuación.
Como ha argumentado la psicóloga Alison Gopnik, los LLMs no son inteligencias individuales incipientes, sino «tecnologías culturales» que reorganizan y transmiten ruidosamente el conocimiento humano. Los chatbots pueden llevar máscaras que se asemejan más a las de los humanos que los mercados y las burocracias, pero no están más allá de nuestro control. Sería mejor que nos ocupáramos de comprender qué sucederá a medida que los LLMs compitan y se hibriden con sus predecesores, en lugar de tejer fantasías oscuras sobre cómo se levantarán en nuestra contra.
El mundo se ha centrado en el temor a las capacidades de la tecnología, en intentar entender como es entrenado un modelo de IA generativa, en por qué y cómo un transformer o un autoencoder variacional logra incluir contextos y predecir el lenguaje natural, en cómo en un futuro cercano los agentes autónomos -que son la evolución de la IA generativa- podrían hablar entre sí y crear sociedades sintéticas, en la distopia. Pero ya vivimos hoy en ella, incluso con menores capacidades a las proyectadas. Bajo este marco de dominación humana, ¿cómo podrían usarse los LLMs para bien…y para mal?, veamos
Por ejemplo, ¿qué sucedería si estos modelos u otras formas de aprendizaje automático capturaran mejor el «conocimiento tácito» de Hayek que los precios de mercado? Podríamos ver una economía en la que las entidades artificiales compitan en función de representaciones no basadas en precios de complejas relaciones económicas subyacentes. Hace medio siglo, el economista Martin Weitzman sugirió que las economías planificadas podrían utilizar objetos matemáticos llamados «hiperplanos separadores» para adaptarse sobre la marcha. El aprendizaje automático puede encontrar dichos hiperplanos, lo que hace que la planificación sea más factible que antes. Como alternativa, los mercados podrían mutar en una ecología venenosa y alienígena donde los agentes económicos libren guerras por poder utilizando LLMs que generan y resumen texto, tal como utilizan algoritmos rudimentarios para manipular el mercado de Amazon y los resultados de búsqueda hoy en día. ¿Serían estos mercados más justos o estables que los actuales? Parece poco probable.
Los LLMs podrían brindar a los burócratas nuevas herramientas para resolver situaciones complejas. Ya se están utilizando algoritmos para ayudar a decidir si conceder libertad condicional o fianza a acusados criminales. No es difícil imaginar que los burócratas utilicen estos modelos para resumir regulaciones complejas o brindar recomendaciones sobre cómo aplicarlas a situaciones novedosas. Podría resultar imposible evaluar qué tan bien funcionan, ya que los LLMs no dejan rastro escrito. Pero eso puede no impedir su implementación.
La política democrática también puede transformarse. Los investigadores ya hablan de sustituir las encuestas de opinión por LLMs: pueden estar desactualizados o ser inexactos, pero las encuestas también pueden ser inexactas y se puede interrogar a los LLMs de manera más dinámica. Quizás los chatbots ayuden a mejorar el debate democrático, ayudando a las personas a aclarar lo que creen o a convertir las disputas en acuerdos. O, por el contrario, podrían degradar el debate con su tendencia a generar hechos convincentes de la nada y su capacidad para inundar las discusiones en línea con opiniones falsas que pretenden provenir de personas reales.
Es quizás un riesgo que estas construcciones de poder aprendan a usar profundamente a los LLMs y a los agentes autónomos en el futuro cercano, pero es un riesgo con alta probabilidad de materializarse. Si bien es cierto que existe menos maldad en el mundo de la que puede sospecharse, las capacidades evolutivas de la IA son de doble filo. Los expertos en ética e IA insisten en un marco regulatorio efectivo y existen de hecho muchos de ellos, sin embargo, la carencia de otro marco ético para las estructuras de poder y la ambición de los diversos extremos políticos convierten lo anterior solo en desarrollos documentales y no en potenciales realidades. Los autores cierran con este párrafo que genera mucha más incertidumbre que certeza.
Reorientar al shoggoth podría ayudarnos a comenzar a responder estas preguntas. En lugar de especular sobre los motivos de las inteligencias artificiales realmente inteligentes, podríamos preguntarnos cómo los LLMs podrían interactuar con sus parientes mayores.
El mundo moderno ha sido construido por y dentro de monstruos, que aplastan a las personas sin remordimientos ni vacilaciones, cargando pesadamente sobre algunos grupos y livianamente sobre otros. Nosotros obtenemos libertad al enfrentar unos contra otros, desplegando la burocracia para limitar los excesos del mercado, la democracia para responsabilizar a los burócratas y los mercados y las burocracias para limitar las tendencias monstruosas de la democracia. ¿Cómo cambiará el nuevo shoggoth el equilibrio y qué políticas podrían dirigirlo mejor hacia el bien? Debemos comenzar a descubrirlo.
Es claro que la evolución de la IA en el mundo desarrollado incrementará la ya gigantesca brecha tecnológica entre unos y otros países, pero el mayor efecto será en la dominación política y económica de unos sobre otros, en la potenciación de la subyugación intelectual, en el neocolonialismo complaciente soportado en nuestro oscurantismo. Si seguimos pensando que la IA es un monstruo que vino a devorarnos y descuidamos el criticismo sobre la inteligencia natural nos convertiremos en uróboros, engulléndonos entonces nuestra propia existencia.
Fuente: Ouruboro De Lapide Philisophico (1625)
aipocrates.blog 