La clave es mantener el equilibrio

El director ejecutivo de Meta Platforms, Mark Zuckerberg, sostuvo que los laboratorios que desarrollan modelos de Inteligencia Artificial (IA) tienen suficientes incentivos para operar con seguridad. En ese sentido, destacó que lejos de frenar el avance de los modelos, «la clave es mantener el equilibrio» en el sector.

Sus palabras llegaron en medio de un contexto de turbulencias en el sector tecnológico, tras advertencias de expertos sobre los posibles riesgos que estas herramientas pueden presentar para los humanos.

Su postura pone de relieve una división entre los ejecutivos del sector y las autoridades estadounidenses sobre aplicar posibles regulaciones, tras un rechazo de la gestión republicana al control sobre estas tecnologías.

Zuckerberg dice que los laboratorios de IA tienen suficientes incentivos para operar con seguridad

En una publicación en la red social X, el hombre de Meta sostuvo el martes que «cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizarlo».

Sus declaraciones llegaron unos días después de que el director ejecutivo de Anthropic, Dario Amodei, instara a las empresas de IA a ralentizar el ritmo al que mejoran sus modelos, a raíz de los riesgos existenciales indicados por varios investigadores.

Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/eoLGVY8yad

Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.

The reality is:

– People won’t want to use agents that are misaligned with them and that don’t do what they ask, so labs have a strong natural incentive to make their models more aligned.

There is a lot of debate about slowing progress on capabilities until alignment catches up. My view is that trust and alignment are quickly becoming the most important capabilities that will differentiate agents and models. Any lab that doesn’t focus on alignment will fall behind.

– Labs face significant liability if their models cause harm, so they have a strong incentive to prevent this as well.

Meta delayed shipping Muse for several months to focus on safety and security. We didn’t call for everyone else to do this before we would. We just did it as part of our day-to-day work because it was clearly the right thing for people and for us. I’m proud of the security foundations we’ve built.

– Engaging independent evaluators and advisors is industry best practice. MSL already does this today in several areas because it helps produce better work. Other labs can just do this too. In general, it would be helpful for there to be a larger and more diverse ecosystem of evaluators.

– Committing the significant majority of compute towards serving people rather than racing towards recursive self-improvement is one of the best ways to ensure we develop this technology safely. Meta has made this commitment and other labs can do this as well.

I believe the key to building a positive future for everyone is maintaining the right balance of power. This is within our power to do.

— Mark Zuckerberg (@finkd) September 15, 2026

A su vez, Zuckerberg expresó que, entre diversos puntos, «la realidad es que las personas no querrán usar agentes que estén desalineados con ellas y que no hagan lo que les piden». Sin ignorar que existe «mucho debate sobre ralentizar» las potencialidades de la IA, destacó que la confianza y la alineación se están convirtiendo «en las capacidades más importantes que diferenciarán a los agentes y modelos».

En ese sentido, también destacó que cualquier laboratorio que ignore la importancia de esta alineación «se quedará atrás» y deberán prevenir que sus modelos causen daño. «Creo que la clave para construir un futuro positivo para todos es mantener el equilibrio adecuado de poder. Esto está dentro de nuestro poder para hacerlo», sintetizó al final de su mensaje.

El presidente Donald Trump restó importancia este lunes a las preocupaciones del sector al afirmar que EEUU «ya cuenta con medidas de protección» y que las dudas sobre el desarrollo de la IA generarían beneficio para China.

OpenAI se une a Google y Anthropic para reforzar la seguridad de la Inteligencia Artificial

OpenAI comenzó a trabajar en conjunto con Anthropic y Google DeepMind, dos de sus principales competidores, para coordinar esfuerzos destinados a reforzar la seguridad de la Inteligencia Artificial (IA), en medio de una creciente preocupación internacional por los riesgos asociados al rápido desarrollo de esta tecnología.

Las conversaciones entre las tres compañías se desarrollan desde hace varias semanas, de acuerdo con Chris Lehane, responsable de políticas globales de OpenAI. El ejecutivo explicó que el objetivo es encontrar puntos de cooperación sobre seguridad pese a la competencia que mantienen las empresas dentro del sector: “Es mejor intentar trabajar juntos para dar prioridad a la seguridad”, sostuvo Lehane durante una rueda de prensa realizada en Washington, según consignó Bloomberg News.

El encuentro se produjo en un contexto de creciente preocupación mundial por los potenciales riesgos existenciales vinculados con sistemas de inteligencia artificial cada vez más avanzados. La cooperación entre compañías rivales apunta, precisamente, a establecer mecanismos que permitan reducir amenazas consideradas de gran escala.