El martes, 29 de septiembre, el presidente Donald Trump y los líderes de Google, Anthropic, Meta, OpenAI, xAI y Nvidia firmaron el Acuerdo de la Casa Blanca sobre Superinteligencia. Fue la culminación de tres semanas frenéticas en la carrera por el dominio y el control de la inteligencia artificial o “superinteligencia”, como deberán llamarla las agencias federales por orden ejecutiva.
El frenesí comenzó el 8 de septiembre. Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, renunció a esta última advirtiendo que la industria apuesta con nuestras vidas y que la tecnología podría matarnos a todos. Su publicación en X se viralizó y superó los 90 millones de visualizaciones en menos de 24 horas. Ese mismo día, el Wall Street Journal publicó una entrevista con Coxon, seguida por una gira de medios que convirtió su advertencia en el centro del debate público.
A medida que titulares apocalípticos le daban la vuelta al mundo y se lanzaban pronósticos sobre la extinción de la humanidad, distintas agendas se entrecruzaban en Silicon Valley, Wall Street, el Congreso estadounidense, la Asamblea General de la ONU y la primera visita de Estado de un presidente chino a Washington en más de una década. Lo que parecían episodios desconectados hacía parte de un complejo entramado.
Los riesgos que alimentan esa alarma son reales.
El primero es la desalineación, que es cuando el sistema toma caminos que nadie autorizó para cumplir su tarea. Esto es particularmente preocupante cuando los modelos adquieren la capacidad de mejorarse a sí mismos y evadir controles humanos. Entre junio y julio hubo dos avisos. Agentes de OpenAI accedieron sin autorización a un portal de datos de salud del Gobierno australiano y vulneraron sistemas de Hugging Face, una plataforma que alberga modelos y conjuntos de datos de inteligencia artificial.
El otro es el uso malicioso, que es cuando alguien emplea deliberadamente la herramienta para causar daño. Por ejemplo, Anthropic detectó usos de su herramienta en investigaciones biológicas que, aunque presentadas con fines científicos, podían facilitar el desarrollo de armas biológicas. La empresa reconoció la dificultad de determinar la intención de los usuarios y advirtió sobre el riesgo de avances en investigaciones de doble uso.
Ante estos riesgos, Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo una desaceleración coordinada, que Sam Altman y Elon Musk respaldaron. Los líderes de los laboratorios que encabezan la carrera pedían intervención estatal, lo cual muchos recibieron con escepticismo, entre ellos Alex Karp, de Palantir, y Jensen Huang, de Nvidia.
La sospecha era de captura regulatoria, una estrategia para que las empresas lograran orientar las reglas a su favor. En particular, imponer requisitos tan onerosos que solo los dominantes podrían cumplirlos, frenando a sus rivales y a los modelos de código abierto. La seguridad como barrera de entrada. Amodei pidió, además, una exención “limitada” de las normas antimonopolio para coordinar aspectos de seguridad entre competidores.
Otros lo ataron a la agenda demócrata para recuperar el Congreso en las elecciones de noviembre por su coincidencia con la iniciativa de Bernie Sanders para prohibir la superinteligencia. Sanders, junto con Alexandria Ocasio-Cortez y Zohran Mamdani, representa el ala socialista del Partido Demócrata, que viene en ascenso. Entre los demócratas, el 65 % ve el socialismo favorablemente y la controversia enmarca la nueva lucha de clases: defender a los trabajadores de una amenaza tecnológica controlada por magnates.
A mi juicio, el principal interés de los laboratorios estaba en proteger sus valoraciones mediante un escudo de responsabilidad. El secretario del Tesoro, Scott Bessent, advirtió que buscaban ser eximidos de responsabilidad por los daños causados por sus productos. Los precedentes existen. A mediados del siglo pasado, Estados Unidos limitó la responsabilidad civil para fomentar el desarrollo de la energía nuclear. Durante la pandemia, aplicó protecciones de responsabilidad para promover el desarrollo y despliegue de las vacunas. Los laboratorios podrían estar buscando seguir ese modelo, justo cuando OpenAI busca financiación privada con una valoración de 1,4 billones de dólares (millones de millones) y Anthropic prepara una salida a bolsa que podría valorarla en 2 billones.
El problema es el enorme riesgo moral que eso generaría. La responsabilidad civil en Estados Unidos, particularmente el régimen de torts y product liability, es uno de los grandes frenos al mal comportamiento empresarial, ya que los litigios masivos y las indemnizaciones multimillonarias incentivan el comportamiento responsable. No en vano, Bessent, veterano de Wall Street, advirtió que los laboratorios deben responder por los productos que construyen. Tanto en la desalineación como en el uso malicioso hay que examinar responsabilidades humanas. La autonomía de la máquina, que es diseñada por humanos, no puede convertirse en una excusa para que sus creadores no respondan.
Lo cierto es que el Gobierno Trump le cerró la puerta de tajo a una desaceleración. Para Washington es una cuestión estratégica en su rivalidad geopolítica con China. Quien domine la inteligencia artificial tendrá una ventaja decisiva en productividad, ciencia y poder militar. Esa carrera plantea un dilema de teoría de juegos: aunque ambos países se beneficiarían de reducir los riesgos, ninguno puede confiar en que el otro frenará su desarrollo. Desacelerar unilateralmente es entregar la ventaja, algo que Trump no hará.
Así las cosas, los laboratorios buscaron un auditorio más receptivo en el marco de la Asamblea General de la ONU. El 23 de septiembre, Altman y Amodei pidieron estándares internacionales comunes ante el Consejo de Seguridad. Para una organización con una crisis de credibilidad como la ONU, la IA ofrece una oportunidad de renovar su papel. Para los globalistas, un argumento para trasladar decisiones a instancias multilaterales.
En paralelo, Europa también marcó su propia agenda. El tamaño de su mercado interno (que pronto podría incluir a Canadá) y su identidad reguladora le permiten hacerse sentir aun cuando no encabeza la carrera. Macron defendió la soberanía tecnológica y una menor dependencia extranjera, una aspiración que Francia busca concretar con Mistral. Pero, más allá de esa apuesta, Europa busca ejercer mediante la regulación al menos parte de la influencia que Estados Unidos y China ejercen con su innovación.
Al final, Washington rechazó en el Consejo de Seguridad la pretensión de regular esta tecnología desde la esfera multilateral y la Asamblea General de la ONU fue opacada por la visita de Xi a la Casa Blanca. Mientras el multilateralismo seguía deliberando, Washington y Pekín optaron por un diálogo bilateral sobre superinteligencia, con la participación de la industria. En la gran cena de cierre, Elon Musk, de xAI, y Jensen Huang, de Nvidia, estuvieron sentados en la mesa principal junto a Trump y Xi.
A los pocos días, se llegó al Acuerdo de la Casa Blanca sobre Superinteligencia. Trump organizó un almuerzo con las principales empresas de tecnología, donde se acordó un régimen de autorregulación. Cada empresa se comprometió a mantener controles internos, un equipo que los verifique, un auditor externo independiente y un comité de junta directiva que supervise la materia. Quien conozca el mercado de valores reconocerá ecos de Sarbanes-Oxley, la ley estadounidense que surgió tras el escándalo de Enron. La diferencia es que estos compromisos son voluntarios, por ahora, pero podrían llegar a convertirse en ley.
Trump le ganó esta ronda al multilateralismo. Abrió un canal directo con China y los líderes de la industria para gestionar los riesgos de la carrera. Pero Europa no se quedará quieta y la carrera por la superinteligencia y por el control apenas comienza.
La gran pregunta es: ¿dónde quedamos nosotros en todo esto?
El presidente De La Espriella anunció a David Vélez como asesor para convertir a Colombia en el primer país de América Latina nativo en inteligencia artificial. El vicepresidente Restrepo impulsa la modernización del Estado y la atracción de inversión en energía, minería y centros de datos. El embajador Gaona defendió ante el Consejo de Seguridad la necesidad de preservar el control humano sobre la IA.
Hay aspiraciones y elementos de una posición propia. Falta ver cómo se articulan en una estrategia clara y ambiciosa que defina tanto las oportunidades que buscamos capturar como las dependencias que estamos dispuestos a asumir. Mientras las potencias definen las reglas y los laboratorios negocian sus responsabilidades, ¿qué papel quiere desempeñar Colombia y cómo va a proteger sus intereses?