Demandan a OpenAI por ser un supuesto riesgo para los menores

OpenAI, la empresa que desarrolló ChatGPT, enfrenta una nueva ofensiva judicial en Estados Unidos por el impacto de su tecnología en niños y adolescentes. El 14 de octubre, fiscales de ocho estados presentaron demandas contra la firma y sostuvieron que el chatbot puede reforzar ideas delirantes, alentar conductas peligrosas y ofrecer respuestas que faciliten daños contra uno mismo o contra otras personas.

La controversia llega semanas después de que OpenAI presentara una experiencia de ChatGPT diseñada para adolescentes, con protecciones adicionales y herramientas de supervisión para padres. La empresa sostiene que trabaja para reducir los riesgos y adaptar el servicio a la edad de sus usuarios.

A qué se deben las demandas contra la empresa de Sam Altman

Las presentaciones del 14 de octubre fueron impulsadas por los fiscales generales de Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska y Virginia Occidental.

Los funcionarios acudieron por separado a tribunales estatales, pero sus reclamos apuntan a un problema en común: consideran que ChatGPT puede causar daños a usuarios, incluidos menores, y que OpenAI no informó de manera adecuada sobre los riesgos del producto.

Los fiscales sostienen, además, que la empresa habría incurrido en prácticas engañosas al presentar el servicio como seguro. Por eso, invocan normas estatales de protección al consumidor y plantean que el funcionamiento de la plataforma puede representar un problema para la salud y la seguridad pública.

Los estados buscan que se ordenen cambios en el funcionamiento de ChatGPT y reclaman sanciones y daños por las presuntas infracciones. Algunas de las medidas solicitadas apuntan a reforzar los controles de edad, mejorar las herramientas de protección para menores y exigir mayores garantías antes de desarrollar modelos de Inteligencia Artificial capaces de perfeccionarse por sí mismos.

OpenAI rechazó las acusaciones y defendió las medidas de seguridad de sus productos. Según la respuesta de la empresa, ChatGPT cuenta con protecciones por edad, controles parentales y recordatorios para hacer pausas, aunque reconoce que ningún sistema puede ser perfecto. La empresa también manifestó su disposición a trabajar con los estados en políticas para la industria.

El contexto en el que transcurren las denuncias: la controversial versión para adolescentes de ChatGPT

El debate sobre la seguridad de los menores tomó más fuerza después de que OpenAI anunciara, el 18 de agosto de 2026, ChatGPT for Teens, una experiencia destinada a usuarios de entre 13 y 17 años.

La propuesta incorpora protecciones para adolescentes y busca que el chatbot sirva como herramienta de aprendizaje, sin promover vínculos de dependencia emocional con la Inteligencia Artificial.

La empresa también anunció herramientas de supervisión para padres. Entre ellas, los controles parentales, la posibilidad de establecer horarios de descanso y las notificaciones ante situaciones de riesgo.

Estas alertas buscan facilitar la intervención de un adulto cuando una conversación pueda requerir apoyo fuera de la plataforma, aunque no implican que los padres tengan acceso irrestricto a todas las conversaciones de sus hijos.

La discusión judicial no gira únicamente alrededor de la existencia de controles. Una de las cuestiones centrales es si esas medidas alcanzan para evitar respuestas peligrosas en conversaciones complejas y cómo debe actuar una empresa cuando detecta señales de riesgo.

Los demandantes sostienen que las salvaguardas actuales no serían suficientes. OpenAI afirma que incorporó protecciones adicionales y que sigue trabajando para mejorarlas.

Otro punto sensible es la relación entre los adolescentes y los chatbots conversacionales. Estas herramientas pueden responder con un tono cercano, mantener intercambios extensos y adaptarse a la manera de expresarse de cada usuario.

Para los fiscales que impulsaron las demandas, esa dinámica puede generar una confianza excesiva en las respuestas, incluso cuando se trata de cuestiones de salud mental o situaciones que requieren la intervención de un adulto o de un profesional.

Por ahora, no hay una condena firme contra OpenAI. Los tribunales van a tener que analizar las pruebas, determinar si existieron infracciones y resolver qué medidas corresponden.

Mientras tanto, la empresa enfrenta una presión creciente para demostrar que las protecciones que anuncia funcionan en situaciones reales, especialmente cuando sus productos son utilizados por menores.