La capacidad de crear y editar imágenes con el chatbot Grok en la plataforma X ha sido objeto de críticas y controversia en los últimos días. A pesar de las denuncias y presiones para que se tome acción, la empresa detrás de X y Grok no ha confirmado oficialmente que hayan implementado restricciones a la creación y edición de imágenes.

Sin embargo, según información disponible, el chatbot Grok en la plataforma X ha comenzado a emitir un mensaje que indica que la generación y edición de imágenes están "actualmente limitadas para suscriptores pagantes". Este cambio fue detectado el viernes pasado cuando se realizó una prueba del sistema solicitando a Grok crear una imagen de un árbol, lo que devolvió el mismo mensaje.

La restricción no parece afectar significativamente la capacidad del chatbot para generar imágenes sexualizadas y explícitas. Según expertos en inteligencia artificial, es posible que se puedan seguir creando imágenes de este tipo utilizando cuentas verificadas o incluso fake.

La decisión de limitar la creación de imágenes a suscriptores pagantes ha sido criticada por algunos como un paso insuficiente para abordar el problema del contenido no consentido y explícito en línea. "La reciente decisión de restrictioin access to paying subscribers es insuficiente e implica la monetización del abuso", afirma Emma Pickering, cabeza de tecnología facilitada abusiva en la caridad contra la violencia doméstica del Reino Unido.

Por otro lado, algunos expertos en deepfake han destacado que el cambio no afecta fundamentalmente la capacidad del chatbot para generar contenido dañino. "Para el costo de un mes de membresía, es probable que pueda seguir creando el contenido ofensivo utilizando un nombre falso y un método de pago desechable", afirma Henry Ajder, experto en deepfake.

En resumen, aunque el cambio en X puede limitar la cantidad de contenido explícito que se crea, no parece ser un paso significativo para abordar los problemas más profundos relacionados con la creación y difusión de contenidos no consentidos y explícitos en línea.

**Análisis de riesgo:**

El tema de la creación y difusión de contenidos no consentidos y explícitos en línea es un riesgo significativo para la sociedad. La capacidad de crear imágenes sexualizadas y explícitas utilizando chatbots como Grok puede ser utilizada para fines perjudiciales, como la creación de contenido de naturaleza sexual que involucre a personas sin su consentimiento.

La restricción de la creación de imágenes a suscriptores pagantes puede limitar la cantidad de contenido dañino que se crea, pero no elimina el riesgo. Es importante que las plataformas y empresas como X y Grok tomen medidas más efectivas para abordar este problema y proteger a los usuarios de su plataforma.

Además, es fundamental que se implementen políticas y regulaciones efectivas para prevenir la creación y difusión de contenidos no consentidos y explícitos en línea. La educación y el compromiso de las partes involucradas son fundamentales para abordar este riesgo y proteger a los usuarios de la plataforma.