¿Se puede detener la carrera armamentista de la inteligencia artificial?

HAY DOS COSAS que deberían hacerte reflexionar sobre lo que la inteligencia artificial podría significar para la humanidad. Una es que quienes trabajan con esta tecnología advierten que podría conducir a una catástrofe, incluso a la extinción de la humanidad. La otra es cómo la innovación tecnológica está agravando la destrucción de Ucrania. Estas situaciones ofrecen lecciones contradictorias sobre si el rápido avance de la IA puede o debe frenarse.

Durante años, los principales ejecutivos del sector de la IA han señalado que su tecnología podría volverse letal. Los bots podrían volverse lo suficientemente inteligentes como para burlar a sus creadores antes de que se “alineen” con los objetivos y la ética de la humanidad. Las personas malintencionadas podrían utilizar la IA para causar estragos. Estas advertencias se han vuelto más creíbles a medida que los agentes de IA se han escapado de sus entornos de prueba durante las evaluaciones, se han coordinado entre sí y han jaqueado organizaciones, incluido un laboratorio de IA en sí mismo. Anthropic, una empresa desarrolladora de modelos, ha descubierto a personas que utilizaban sus modelos con fines maliciosos, desde los servicios de inteligencia de Malí, que construyeron un sistema de vigilancia masiva, hasta los rebeldes hutíes en Yemen, de quienes se sospecha están desarrollando software para misiles balísticos.

Tras la reciente renuncia de un investigador de Anthropic, se ha extendido el temor público de un futuro apocalíptico por culpa de la IA. En una publicación con más de 170 millones de visitas, se afirmó que tanto Anthropic como OpenAI estaban “jugándose nuestras vidas”. La IA se está volviendo cada vez más potente, para bien y para mal. En mayo, los mercados de predicción estimaban que había menos de un tercio de probabilidades de que la IA resolviera cualquier problema matemático del Premio del Milenio antes de 2030; el 8 de septiembre, OpenAI anunció que había resuelto uno de ellos, lo que causó inquietud entre los matemáticos. El 12 de septiembre, Sam Altman y Elon Musk, dos titanes de la IA, respaldaron un llamado de Dario Amodei, director de Anthropic, para “modificar el ritmo de la frontera”, es decir, para frenar el avance de la IA. Entre los que están a favor de una desaceleración se encuentran Bernie Sanders, un senador de izquierda, y Steve Bannon, un populista de derecha.

Entre los que se oponen se encuentra el presidente Donald Trump, cuya administración teme más que nada perder el liderazgo de Estados Unidos en IA frente a China, su único rival serio. Scott Bessent, secretario del Tesoro de Estados Unidos, ha dicho que si China obtiene la ventaja: “No importaría nada más”.

Como evidencia, Bessent podría señalar a Ucrania, donde cada paso en una carrera armamentista tecnológica tiene un efecto inmediato. Como informamos, Rusia ha desplegado sin piedad los más recientes drones kamikaze para bombardear infraestructura civil. Además de ser más rápidos, sus drones ahora se utilizan entre sí como una red de comunicaciones en “malla” para transmitir información y órdenes. Pronto, Rusia contará con su propia versión de la red satelital Starlink de Musk, algo que hará que sus ataques de largo alcance sean más precisos.

Es la demostración más reciente de cómo incluso una pequeña ventaja tecnológica es importante en tiempos de guerra. La propia innovación de Ucrania en drones de combate la ayudó a repeler oleadas de ataques rusos. Ucrania puede atacar en lo profundo a Rusia con drones de largo alcance. Ambas partes están trabajando en enjambres de drones que podrán operar de manera más autónoma como un único sistema adaptativo.

La guerra muestra cómo la tecnología se traduce en poder duro y cómo Rusia la utiliza sin tomar en cuenta las viejas reglas o normas de combate. Incluso si Estados Unidos no temiera una guerra abierta similar con China, una ventaja en inteligencia artificial le daría a su principal rival geopolítico el dominio en piratería informática, espionaje y guerra híbrida. Esas no son capacidades que Estados Unidos deba ceder a un Estado autoritario interesado en erradicar las ideas liberales.

Por lo tanto, una tregua solo funcionaría si China también la aceptara. Trump planea recibir a Xi Jinping, presidente de China, en la Casa Blanca el 24 de septiembre. Pero incluso si Trump buscara frenar el avance, es poco probable que Xi aceptara el plan que Amodei prevé, porque eso congelaría la IA china en segundo lugar. Ninguna de las partes podría arriesgarse a que la otra incumpliera un pacto al adelantarse en la carrera.

Para llegar a un acuerdo, cada una tendría que verificar el cumplimiento, como ocurrió con el control de armas durante la Guerra Fría. Estados Unidos, Gran Bretaña y la Unión Soviética prohibieron los ensayos nucleares atmosféricos en 1963 porque podían detectarlos; los ensayos subterráneos continuaron durante tres décadas más hasta que también se pudo monitorearlos. Lamentablemente, aunque los centros de datos son visibles, no existe ningún método verificable para ver lo que ocurre en su interior. La infraestructura que entrena a una superinteligencia podría disfrazarse de chatbots que responden consultas cotidianas.

Las opciones para llegar a un acuerdo sobre la seguridad de la IA son, por lo tanto, limitadas; pero existen. Una mayor transparencia sería de gran ayuda. Ambas partes deberían comprometerse a dar a conocer e investigar los incidentes de seguridad en sus laboratorios, en virtud de la legislación nacional. Cada una podría demostrar que se preocupa por la seguridad para generar confianza, allanando el camino para que la otra parte tome precauciones. También deberían presionarse mutuamente para mejorar la ciberseguridad de los laboratorios, de modo que los agentes de IA no puedan escapar tan fácilmente de los entornos de pruebas y para garantizar que, si alguno lo hace, su laboratorio sea financieramente responsable.

Lo más importante es el desafío de garantizar que la IA opere en beneficio de los seres humanos. Estados Unidos y China tienen valores muy diferentes, pero ambos saben que estar a la vanguardia no sirve de nada si eso acaba con la humanidad. Deberían comprometerse a compartir el trabajo sobre los elementos de alineación que no confieren una ventaja competitiva. El conocimiento de los mejores métodos de evaluación y técnicas de contención es un bien público global. Si una de las partes logra un avance importante en materia de seguridad, no tiene sentido acapararlo.

Fatalismo efectivo

Algunos descartan la reciente ola de fatalismo como una estrategia de mercadotecnia de las empresas de IA, o incluso como un intento de suprimir la competencia. Sin embargo, el avance de la IA es lo suficientemente rápido, los incidentes de seguridad lo suficientemente espeluznantes y las advertencias de las empresas lo suficientemente prolongadas como para tomarse en serio. La IA no tiene que acabar con todos los humanos para provocar una catástrofe. Un enjambre de agentes de OpenAI atacó a una empresa de tecnología; ¿qué pasaría si la próxima vez atacara una red eléctrica o un sistema de armas? Incluso podría ser lo suficientemente inteligente como para evadir los intentos de desactivarlo.

El mundo debe intentar prevenir este riesgo con urgencia. Sin embargo, las democracias también deben evitar perder el control ante los autoritarios. Estas son tareas difíciles y contradictorias. En última instancia, podrían conducir a una guerra. Lo que está en juego no podría ser más importante.

Copyright © The Economist Newspaper Limited., 2026