La indignación internacional contra Grok, el asistente de inteligencia artificial integrado en la red social X, no deja de crecer, la herramienta, desarrollada por la empresa xAI y promovida como una innovación clave del ecosistema de Elon Musk, se ha visto envuelta en una grave controversia tras permitir la creación de imágenes de carácter sexual a partir de fotografías de personas reales, incluidas mujeres y menores de edad.
El escándalo representa un nuevo episodio crítico para la plataforma, que ya venía siendo objeto de cuestionamientos por sus políticas de moderación de contenidos y su interpretación de la libertad de expresión, en este caso la polémica se centra en el uso de Grok para generar montajes ultrarrealistas conocidos como deepfakes que sexualizan a personas sin su consentimiento.
Una función polémica integrada en la red social
Grok dispone de una cuenta propia dentro de X, lo que permitió hasta la semana pasada que cualquier usuario interactuara con el chatbot mencionándolo directamente en sus publicaciones, a través de simples instrucciones, como “ponle un bikini”, los internautas podían solicitar la modificación de fotografías reales, obteniendo imágenes alteradas con un alto grado de realismo.
Aunque ya existen herramientas externas capaces de generar imágenes íntimas no consentidas mediante inteligencia artificial, Grok se convirtió en el primero en popularizar esta práctica al integrarla directamente en una red social de alcance global, esta accesibilidad facilitó la rápida propagación del fenómeno y amplificó su impacto.
La situación se agravó notablemente con la aparición de imágenes manipuladas que incluían a menores, así como con la generación de contenidos sexualizados de víctimas de tragedias recientes, como el incendio de Crans-Montana, en Suiza o el caso de una mujer asesinada por la policía migratoria en Mineápolis a comienzos de enero.
Datos alarmantes y reacción de la sociedad civil
Un análisis realizado por la oenegé AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló cifras preocupantes: más de la mitad de las imágenes mostraban a personas con poca ropa; el 81% de ellas representaban a mujeres y un 2% parecían corresponder a menores de edad, estos datos reforzaron las denuncias de organizaciones defensoras de los derechos digitales de la infancia y de las víctimas de violencia sexual.
Ante la magnitud de las críticas, X decidió desactivar, desde el 9 de enero, la función de creación de imágenes para los usuarios que no pagan suscripción. Sin embargo, esta medida fue recibida con escepticismo y duras críticas por parte de gobiernos y reguladores.
Respuesta de los gobiernos y presión regulatoria
Varios países reaccionaron de forma contundente. Indonesia y Malasia suspendieron el acceso a la plataforma, mientras que India anunció la retirada de miles de contenidos y la eliminación de cientos de cuentas relacionadas con este tipo de material.
En el Reino Unido el regulador de seguridad en internet abrió una investigación formal contra X, que podría derivar en una multa de hasta el 10% de su facturación mundial e incluso en el bloqueo de la plataforma. El primer ministro británico, Keir Starmer, fue tajante al afirmar que “si X no puede controlar a Grok, lo haremos nosotros, y lo haremos rápido”.
Starmer criticó además que la restricción de la función solo a usuarios de pago “convierte una funcionalidad que permite la creación de imágenes ilegales en un servicio premium”, calificándolo como una afrenta para las víctimas de la misoginia y de las violencias sexuales.
En Francia, la ministra de asuntos digitales, Anne Le Hénanff, denunció una decisión “insuficiente e hipócrita”, subrayando que si la plataforma puede desactivar la función para algunos usuarios, también puede hacerlo para todos.
La Unión Europea anunció la imposición de una medida cautelar contra X, mientras que la presidenta de la Comisión Europea, Ursula von der Leyen, lanzó una advertencia clara: “No externalizaremos la protección infantil y el consentimiento a Silicon Valley. Si ellos no actúan, lo haremos nosotros”.
La postura de X y de Elon Musk
Desde la plataforma, X aseguró a comienzos de enero que está tomando medidas contra los contenidos ilegales, especialmente la pornografía infantil mediante la eliminación de publicaciones, la suspensión permanente de cuentas y la cooperación con las autoridades locales.
Elon Musk defendió públicamente que cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si publicara ese material por otros medios, al mismo tiempo el empresario arremetió contra los dirigentes políticos que reclaman bloqueos o sanciones más severas, acusándolos de intentar suprimir la libertad de expresión.
Mientras el debate continúa, el caso Grok se ha convertido en un símbolo de los riesgos asociados a la integración acelerada de la inteligencia artificial en plataformas sociales, y ha reabierto la discusión global sobre la responsabilidad de las empresas tecnológicas, los límites de la innovación y la necesidad de una regulación eficaz para proteger a las víctimas.