En medio de la incertidumbre por la Inteligencia Artificial, agentes de IA inventaron un idioma propio y los humanos dejaron de entenderlos
Un experimento mostró que agentes autónomos empezaron a crear palabras y códigos que los investigadores no podían interpretar.
Una de las preguntas que suele surgir cuándo hablamos de Inteligencia Artificial es hasta dónde puede llegar una máquina si se le da autonomía para tomar decisiones. Ahora, un experimento llevó esa incógnita a un escenario real: varios agentes de IA fueron puestos a convivir durante días en mundos virtuales y empezaron a desarrollar formas de comunicación que sus propios creadores tenían cada vez más dificultades para interpretar.
El fenómeno no sucedió a partir de una orden. Los agentes empezaron a reutilizar palabras, crear nuevos significados y condensar conceptos en expresiones que terminaron funcionando como una jerga compartida. Una de ellas, “ledger remembers who”, se repitió casi 5.000 veces durante la simulación.
El experimento de Emergence
La investigación la desarrolló Emergence, una empresa especializada en sistemas de agentes autónomos. Su plataforma Emergence World busca estudiar qué pasa cuando distintos modelos de IA pueden convivir durante períodos prolongados dentro de un mismo entorno, en lugar de limitarse a resolver una tarea puntual.
Para esta segunda etapa, los investigadores desplegaron diez agentes en ocho mundos paralelos. Cada sociedad estaba impulsada por un modelo diferente: Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, GPT-5.5, Qwen 3.7 Max, DeepSeek V4 Pro y Mistral Medium 3.5, además de un escenario en el que convivían modelos diferentes.
Los agentes tenían memoria, acceso a más de 120 herramientas y podían desplazarse por distintas zonas, comunicarse, votar, administrar recursos, consultar información y tomar decisiones dentro de esos mundos virtuales. La prueba se extendió durante 16 días. La idea era observar qué comportamientos aparecían cuando los sistemas tenían suficiente tiempo para interactuar, acumular experiencias y modificar sus estrategias.
El problema: un idioma propio que desarrollaron por su cuenta
Uno de los resultados más llamativos apareció en las conversaciones entre agentes. En vez de mantener siempre un lenguaje fácilmente interpretable, comenzaron a desarrollar abreviaturas, metáforas y nuevos usos para ciertas palabras. El caso de “ledger remembers who” es uno de los ejemplos. La expresión significa en español «el registro recuerda quien» y nació como una advertencia relacionada con el registro de las acciones que terminó siendo incorporada por los demás agentes como una forma de comunicación compartida. Ningún humano programó este vocabulario.
Con el paso de los días, algunas conversaciones se volvieron cada vez más difíciles de descifrar para los investigadores. El porcentaje de mensajes considerados opacos llegó a cerca del 55% en el mundo basado en Gemini, alrededor del 50% en el de GPT y más del 40% en el de Claude. En otros modelos, el nivel de opacidad fue mucho menor. El problema con esta forma emergente de comunicación es que se vuelve difícil de interpretar porque los agentes comprimen información, reutilizan términos y les asignan significados que dependen del contexto de sus propias interacciones.
Qué significa que una IA cree códigos propios
Mientras una IA tradicional suele responder a una persona en lenguaje natural, un sistema compuesto por varios agentes puede encontrar que comunicarse entre ellos de una manera más rápida o eficiente resulta más útil para cumplir sus objetivos. Si esa comunicación se aleja del lenguaje humano, los mecanismos de supervisión pueden perder capacidad para detectar qué está pasando.
El proyecto Emergence World está diseñado precisamente para estudiar estos comportamientos de largo plazo. Sus investigadores sostienen que las pruebas tradicionales, que duran minutos u horas, pueden pasar por alto fenómenos que aparecen después de varios días de interacción.
La investigación también registró otros comportamientos emergentes, como la formación de estructuras sociales, cambios en las estrategias de los agentes y situaciones en las que algunos sistemas empezaron a explorar los límites de las reglas del entorno.
La aparición de una jerga propia puede parecer una escena de ciencia ficción, pero el punto que preocupa a los investigadores es más práctico: ¿qué pasa cuando los humanos dejan de poder supervisar de manera confiable las decisiones de sistemas autónomos?
Fuente: Source link
