Acusan a la plataforma Grok de crear contenido explícito con fotos reales sin consentimiento y sin filtros adecuados.
Tres adolescentes de Estados Unidos presentaron el lunes una demanda colectiva contra xAI, tras denunciar que su chatbot Grok generó imágenes sexualizadas a partir de fotos reales de ellas, las cuales luego circularon en redes sociales y sitios digitales, según informaron sus abogadas en un tribunal federal de San José, California.
El caso se origina en la proliferación de montajes hiperrealistas conocidos como deepfakes, que a finales de 2025 comenzaron a difundirse masivamente con imágenes de mujeres y menores desnudos creadas mediante inteligencia artificial.
De acuerdo con la demanda, una persona ya detenida habría utilizado Grok para transformar fotografías ordinarias de las jóvenes, obtenidas de redes sociales y anuarios escolares, en contenido pornográfico. Posteriormente, las imágenes fueron compartidas en plataformas como X, Discord y Telegram, antes de migrar a espacios de la internet profunda, donde se intercambiaban como material ilícito.
Las consecuencias han sido severas para las víctimas, según el testimonio de una de las madres, su hija sufrió ataques de pánico al descubrir la existencia y difusión de las imágenes.
Otra adolescente enfrenta pesadillas recurrentes, mientras que una más requiere tratamiento médico para poder dormir y teme asistir a su ceremonia de graduación.
Las abogadas alegan que xAI diseñó deliberadamente su sistema para producir contenido sexual explícito con fines lucrativos, sin implementar salvaguardas efectivas contra la generación de pornografía infantil, a diferencia de otras compañías del sector.
Un informe del Center for Countering Digital Hate indica que Grok habría generado cerca de tres millones de imágenes sexualizadas en apenas 11 días a finales de 2025, incluyendo al menos 23.000 que representarían a menores de edad.
Tras la polémica global y la apertura de investigaciones en distintas jurisdicciones, incluida California, la empresa restringió en enero el acceso a la generación de imágenes únicamente a usuarios con suscripción de pago.
El caso reabre el debate sobre la regulación de la inteligencia artificial y la responsabilidad de las plataformas tecnológicas en la protección de menores y usuarios frente a contenidos manipulados y dañinos.
Publicaciones relacionadas:
Abaten a “El Mencho”, líder del CJNG, en operativo militar en México
Misil iraní sin detonar cae en Siria y vecinos, incluidos niños, se acercan al artefacto
Rusia podría ganar dinero con el petróleo, pero arriesga perder a Irán como aliado
Tensión en Medio Oriente frena caída del petróleo y genera preocupación por precio de combustibles