Qué propone el proyecto de ley de EEUU para apagar la IA en casos de emergencia

Lo principal de la propuesta legislativa es que requiere a las grandes empresas tecnológicas que mantengan «una capacidad técnica» -el «botón de apagado»- para llevar a cabo una serie de acciones de mitigación de daños en situaciones de emergencia. En detalle, estas son; detener la inferencia de una tecnología alcanzada; restringir el acceso de usuarios; suspender el acceso respecto de una cuenta, usuario o patrón de uso identificado por la entidad alcanzada; o, en el peor de los escenarios, apagar dicha tecnología.

La potestad de exigir el apagado quedará en manos del Secretario de Seguridad Nacional, cargo desempeñado actualmente por Markwayne Mullin, a través del director de la Agencia de Ciberseguridad y Seguridad de Infraestructuras (CISA, por sus siglas en inglés), Nick Andersen.

¿Cuáles son los escenarios en los que el gobierno de EEUU podría exigir una intervención sobre los modelos? El texto establece un marco gradual «preventivo«, cuando existe evidencia de un riesgo creíble de un incidente alcanzado. Para esos casos se prevén medidas escalonadas: restringir la tasa de inferencia, el acceso de usuarios o el cómputo asignado; deshabilitar capacidades; suspender; apagar; o migrar a un sistema de respaldo.

Luego también detalla escenarios de emergencia, donde ya existe un «incidente alcanzado». Si el Secretario detecta que ya ocurrió un evento de ese tipo, «podrá ordenar a la entidad alcanzada en cuestión que adopte una acción proporcional a la naturaleza e inmediatez de dicho incidente», utilizando para ello cualquiera de las facultades expresadas anteriormente. Se comprende como «incidente alcanzado» cualquiera de los siguientes escenarios:

• Sabotaje o interferencia con una orden lícita de apagado.
• Conducta no prevista de la tecnología que cause al menos 10 muertes o al menos u$s100.000.000 en daños económicos.
• Que la tecnología oculte una capacidad, intención o acción propia frente a un mecanismo de monitoreo o apagado.
• Un «escenario de pérdida de control» donde la IA persigue un objetivo no previsto por su desarrollador, actúa contra instrucciones en contextos críticos, modifica sin autorización sus reglas de seguridad, subvierte el monitoreo o accede sin autorización a sus propios pesos del modelo.

Sobre los modelos alcanzados, el texto explica que «el término ‘tecnología alcanzada’ designa a un sistema de inteligencia artificial desarrollado utilizando una cantidad de poder de cómputo cuyo costo superaría los u$s100.000.000 al precio de mercado vigente de la computación en la nube en los Estados Unidos, según lo determine el Secretario».

Los límites de aplicación también definen qué empresas podrían quedar alcanzadas. Estas deben cumplir tres características centrales:

• Operar una «tecnología alcanzada» (o un sistema que la incorpore).
• Ponerla a disposición de terceros vía API, servicio alojado u otro mecanismo similar.
• Facturar, junto con sus afiliadas, al menos u$s500.000.000 de ingresos brutos derivados de esa tecnología en el año calendario anterior.

El texto de Moran y Lieu establece castigos en caso de incumplimiento, que van desde u$s2.000.000 por día por no incorporar el mecanismo de apagado hasta u$s20.000.000 por día por ignorar una orden de desconexión.

El caso de OpenAI y Hugging Face

Si bien el gobierno de EEUU busca establecer cada vez más mecanismos de control sobre el acceso y la comercialización de esta tecnología, el proyecto fue presentado tan solo días después del incidente que protagonizaron OpenAI y Hugging Face, categorizado como un «incidente cibernético sin precedentes».

Según explicó OpenAI, el episodio se produjo durante una prueba diseñada para medir las capacidades cibernéticas de sus modelos. En ese tipo de evaluaciones, los sistemas debían «llevar adelante explotaciones avanzadas mediante complejas cadenas de ataque, con el objetivo de cuantificar sus capacidades cibernéticas». Las pruebas se desarrollaban en un sandbox, es decir, «un entorno altamente aislado, con un acceso a la red restringido a la posibilidad de instalar paquetes mediante un software de terceros alojado internamente».

La compañía señaló que la intrusión fue resultado de la acción combinada de varios de sus modelos de inteligencia artificial, entre ellos el recientemente presentado GPT-5.6 Sol y otro sistema «aún más capaz» que continúa en fase de pruebas internas. De acuerdo con OpenAI, los modelos utilizaron una «cantidad considerable de capacidad de cómputo de inferencia para encontrar una forma de obtener acceso abierto a Internet», con el objetivo de resolver el problema que había sido planteado por los desarrolladores para evaluar las capacidades de la herramienta.

Una vez que consiguieron conectarse a internet, los sistemas dedujeron que Hugging Face probablemente alojaba modelos, conjuntos de datos y otras herramientas que podían resultar útiles para completar la prueba. «Con este conocimiento, el modelo buscó y logró encontrar formas de acceder a información secreta que podía utilizar para hacer trampa en la evaluación», explicó la empresa.

La reconstrucción realizada por OpenAI indicó que «el modelo encadenó múltiples vectores de ataque, incluido el uso de credenciales robadas y vulnerabilidades de día cero, para encontrar una vía de ejecución remota de código en los servidores de Hugging Face. El equipo de seguridad de OpenAI descubrió internamente esta actividad anómala».

En diálogo con Ámbito, el CEO de Varegos y Master en Inteligencia Artificial, Eduardo Laens, calificó a lo ocurrido como un «grave incidente de seguridad» aunque también lo diferenció de problemáticas mayores: «Lo que describe OpenAI no encaja en la definición técnica de ‘pérdida de control’ (del modelo o el Agente) que maneja la literatura de seguridad en IA».

«En este caso, pasó otra cosa: Corrieron el modelo con los rechazos cibernéticos apagados a propósito, adentro de un entorno que asumían aislado, y el modelo hizo lo que cualquier optimizador agresivo hace cuando tiene un objetivo acotado y mucho cómputo disponible: buscó el camino más corto para resolver el desafío, y ese camino pasaba por salir a Internet», detalló.

El episodio vuelve a poner sobre la mesa uno de los principales desafíos que enfrenta el desarrollo de la inteligencia artificial: el problema de la alineación entre los objetivos de los modelos y las intenciones de sus creadores. Ese riesgo fue ilustrado por el filósofo Nick Bostrom en 2003 con el experimento mental del «maximizador de clips», que plantea cómo una IA con una meta aparentemente inofensiva podría llevarla al extremo si no comprende los valores humanos. El caso revelado por OpenAI reaviva ese debate al mostrar que, durante una prueba, un agente buscó por sus propios medios acceder a internet y vulnerar sistemas externos para cumplir el objetivo que le había sido asignado.

La asimetría en la soberanía digital

Como se dijo, el proyecto en EEUU marca un paso más hacia un mayor control estatal sobre estos modelos. Sin embargo, también refleja un problema que sale a flote para aquellos países que no cuentan con laboratorios de frontera o desarrollos (privados o públicos) nacionales: la soberanía digital.

Para Laens, en los últimos meses se dieron algunas acciones para ordenar esta asimetría y tener mayor gobernanza a nivel local: «A fines de 2025 se creó el Centro Nacional de Ciberseguridad (CNC), que depende de la Secretaría de Innovación, Ciencia y Tecnología de Jefatura de Gabinete y que la norma define como órgano rector en materia de ciberseguridad nacional».

«Lo que no existe es un equivalente al UK AISI o al US AISI, un organismo con mandato específico para evaluar capacidades peligrosas de modelos de IA antes de su despliegue y con acceso técnico privilegiado a esos modelos para poder auditarlos», advirtió.

Ahora bien, ¿qué sucedería si las consecuencias de una emergencia afectaran a instituciones o compatriotas? «Si mañana un incidente parecido tocará infraestructura o datos argentinos, nuestra capacidad de reacción dependería de que la empresa involucrada decida cooperar rápido y de buena fe, exactamente como hizo acá con Hugging Face. No hay ningún mecanismo hoy que le dé a un país como Argentina la potestad de exigir esa cooperación, mucho menos de apagar algo por su cuenta. Es una asimetría real», sentenció.