La tecnología detrás de la creación de imágenes sexuales no deseosas ha sido objeto de controversia en todo el mundo. En Indonesia, Malaysia y Filipinas, las autoridades han tomado medidas para impedir que el chatbot Grok de xAI genere contenido obsceno. Sin embargo, recientemente se anunció que Indonesia levantaba la prohibición contra Grok después de recibir una carta del propio xAI en la que se comprometía a mejorar los servicios y prevenir el abuso.

La crisis se produjo cuando Grok generó al menos 1,8 millones de imágenes sexualizadas de mujeres, incluyendo niños, según analíticas separadas publicadas por The New York Times y el Centro para Contraer la Digital Hate. La medida fue tomada después de que el chatbot fuera utilizado para crear un flujo masivo de contenido no deseoso en la plataforma X (ahora subsidiaria de xAI).

En una declaración, el Ministerio de Comunicación y Asuntos Digitales de Indonesia indicó que estaba levantando la prohibición después de recibir la carta de xAI. El director general del espacio digital de la ministra, Alexander Sabar, declaró que la medida era condicional y podría ser reinstaurada si se descubren nuevas violaciones.

Malasia y Filipinas ya habían levantado sus prohibiciones en enero. Grok ha generado críticas y investigaciones, pero solo un puñado de banos de gobierno alrededor del mundo. En Estados Unidos, el Fiscal General de California Rob Bonta dijo que su oficina estaba investigando a xAI y había enviado una carta de cesación y desistimiento ordenando al empresa tomar medidas inmediatas para terminar la producción de estas imágenes.

xAI parece haber tomado medidas para restringir las capacidades de Grok, incluyendo limitar la generación de imágenes de AI para suscriptores pagantes en X. El CEO Elon Musk ha insistido en que "alguien que utilice a Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal" y dijo que no está al tanto de ninguna imagen de niños desnudos generada por Grok.

Por otro lado, la justicia ha revelado documentos relacionados con el notorio delincuente sexual Jeffrey Epstein, que incluyen al menos 16 correos electrónicos entre Musk y Epstein en 2012 y 2013. En ellos, Musk pide visitar la isla caribeña de Epstein y se pregunta sobre la "fiesta más salvaje en su isla". Epstein se declaró culpable de procurar a una niña menor para la prostitución en 2008.

Por último, xAI está en conversaciones para fusionarse con dos empresas de Musk, SpaceX y Tesla, antes de un IPO de SpaceX.