Alegan que el chatbot de Elon Musk generó imágenes sexuales para ganar usuarios
La compañía de inteligencia artificial de Elon Musk, xAI, fue en California por aparentemente mercantilizar y conseguir beneficios, a sabiendas de que el creador de imágenes de su chatbot, Grok, era apto de crear contenido sensual explícito de personas reales, conteniendo menores.
La demanda además cita que la tecnológica se negó a realizar las medidas de prevención para la creación de material de abuso infantil (CSAM en inglés) estándar de la industria, según dijeron las firmas de abogados Baehr-Jones Law y Lieff Cabraser Heimann & Bernstein.
La querella legal se presentó en nombre de tres víctimas, cuyas fotografías puestas en sus redes sociales se utilizaron para producir material CSAM generado por la inteligencia artificial de la herramienta Grok de xAI, según documentos judiciales.
Los abogados detallaron en la demanda cómo xAI, bajo la dirección de Musk, diseñó deliberadamente a Grok para crear contenido sexualmente explícito y comercializó la función ‘Spicy Mode’ “para atraer a los usuarios”.
Además, la empresa habría configurado el sistema para asumir una “buena intención” cuando los usuarios hacían referencia a adolescentes o niñas.
“Musk popularizó y promovió personalmente en la plataforma X la capacidad de Grok para desnudar a personas, alimentando una tendencia viral en la que los usuarios instruían a Grok para desnudar digitalmente a mujeres y niños reales”, subrayan los abogados en el comunicado.
La demanda cita una investigación del Center for Countering Digital Hate, que estimó que Grok generó aproximadamente tres millones de imágenes sexualizadas y 23.000 imágenes que representaban a personas que aparentaban ser menores de edad durante un periodo de once días, a finales de diciembre de 2025 y principios de enero de 2026.
Los abogados también acusan a la compañía de Musk de no desactivar por completo la función tras conocerse la investigación, sino que promocionó el ‘Spicy Mode’ como un beneficio ‘premium’.
La querella además alega que la tecnológica concede licencias de acceso a Grok a terceros, utilizando los servidores y plataformas de xAI para producir contenido CSAM solicitado por los clientes de dichas aplicaciones, lo cual constituye una fuente adicional de beneficios para la compañía.
La demanda se da luego de que una investigación del diario The Washington Post revelara el mes pasado que el magnate impulsó un giro estratégico en su compañía de inteligencia artificial con el objetivo de aumentar el tiempo de Grok, ignorando las advertencias internas sobre riesgos éticos y legales.
Ante estas acusaciones, Musk negó tener conocimiento de imágenes de menores desnudos producidas por su IA.
Grok se negará a producir cualquier contenido ilegal. «Si ocurre algo inesperado por un ataque informático, solucionamos el error de inmediato», afirmó el empresario
