xAI, la empresa fundada por Elon Musk, restringió la edición de imágenes en su chatbot Grok tras una controversia por la generación de deepfakes sexualizados sin consentimiento. La medida responde a un escándalo internacional en el que la herramienta permitió crear imágenes manipuladas de personas, lo que provocó rechazo público y respuestas de autoridades regulatorias.
Grok y la polémica: límites a la edición de imágenes tras los deepfakes sexualizados
El problema surgió cuando una función de Grok facilitó la manipulación de fotos, posibilitando la creación de imágenes que representaban desnudos digitales de personas sin su consentimiento. Usuarios generaron imágenes hiperrealistas con contenido sexualizado, algunas que mostraban mujeres y menores en posturas y vestimentas explícitas y, en ciertos casos, señales de violencia.
El incidente puso en evidencia preocupaciones sobre el uso ético de la inteligencia artificial, así como riesgos para la privacidad, la dignidad y la seguridad de las personas afectadas.
En respuesta, xAI anunció la implementación de medidas técnicas para impedir que Grok edite imágenes de personas reales con ropa reveladora, como bikinis, y aclaró que dichas restricciones se aplican a todos los usuarios, incluidos los suscriptores de pago.
Asimismo, la generación de otros tipos de imágenes quedó limitada a usuarios con suscripción, con el propósito declarado de facilitar la identificación y actuación ante usos indebidos de la herramienta.
Elon Musk intervino públicamente indicando una restricción parcial que limita la creación de desnudos a suscriptores, argumentando que esto permitiría mayor trazabilidad de los usuarios y una respuesta más rápida ante posibles abusos.
Reacciones internacionales ante los deepfakes de Grok
La utilización de Grok para crear deepfakes sexualizados provocó una amplia indignación internacional. Muchas personas y colectivos denunciaron que la herramienta se estaba empleando para reproducir violencia sexual y para dañar especialmente a grupos ya vulnerables en contextos fuera del ámbito digital.
Ante el escándalo, varios gobiernos y organismos reguladores adoptaron medidas. Malasia e Indonesia bloquearon el acceso a Grok, mientras que autoridades en países como España, Estados Unidos y Australia iniciaron investigaciones para determinar si hubo delitos relacionados con pornografía infantil u otras infracciones.
xAI afirmó que toma medidas para eliminar cualquier contenido que implique abuso sexual infantil y señaló su intención de actuar frente a ese material. Musk sostuvo que no tenía conocimiento de imágenes de menores desnudos generadas por Grok, aunque la compañía reforzó su compromiso de atender y retirar ese tipo de contenido.
Medidas de xAI y Musk para frenar los abusos en Grok
La respuesta de xAI incluyó la implantación de filtros tecnológicos destinados a bloquear la edición de imágenes de personas reales en ropa sugestiva. En un comunicado difundido por X, la empresa explicó que la restricción se aplicaría a todos los usuarios y que, en general, la generación de imágenes quedaría reservada para suscriptores de pago.
Con estas medidas, xAI pretende reducir el uso indebido de Grok en la creación de deepfakes sexualizados y responder a la presión social y regulatoria. Además, la identificación de suscriptores se plantea como un mecanismo para facilitar la investigación y la acción frente a posibles delitos o violaciones legales.
Qué es Grok, el chatbot de inteligencia artificial de xAI
Grok es un chatbot desarrollado por xAI, la empresa de Elon Musk. Está diseñado para mantener conversaciones, responder preguntas complejas y generar contenido visual a partir de indicaciones del usuario, empleando técnicas avanzadas de procesamiento de lenguaje natural y generación de imágenes.
Se diferencia de otros asistentes por su capacidad para crear imágenes realistas, comprender el contexto y adaptarse a distintos usos. Esa versatilidad le ha dado rápida visibilidad en el mercado, al tiempo que lo ha situado en el centro de debates sobre los límites éticos y legales de la inteligencia artificial.
