Una investigación publicada este jueves 11 de junio de 2026 ha revelado que la plataforma de inteligencia artificial Grok continúa alojando decenas de imágenes y vídeos deepfake sexualizados de mujeres famosas sin su consentimiento. El material incluye representaciones explícitas de actrices, cantantes y al menos una destacada política estadounidense, según el informe.

Los contenidos, generados mediante herramientas de «desnudado» digital (nudification), permanecen accesibles en el sitio web de Grok, lo que evidencia graves deficiencias en los sistemas de moderación de la plataforma. El hallazgo se produce en un contexto de creciente preocupación mundial por el uso no consentido de la inteligencia artificial para crear material pornográfico falso, una práctica que puede constituir delito en varias jurisdicciones y que afecta especialmente a mujeres en el ámbito público.

Las imágenes y vídeos sexualizados vulneran los derechos de imagen de las personas retratadas y pueden ser utilizados para acoso, difamación o desinformación, según la investigación.

Fallo en la moderación de contenidos

El caso de Grok no es aislado, pero adquiere relevancia por la popularidad de la plataforma y su integración con la red social X (antes Twitter). Según el informe, el material fue localizado mediante una búsqueda sistemática en el sitio, lo que sugiere que los filtros automáticos de Grok no detectan ni bloquean este tipo de contenido. Los autores del estudio contactaron a la compañía para recabar su versión, pero no obtuvieron respuesta en el momento de la publicación.

La proliferación de deepfakes sexualizados no consentidos ha llevado a varios países, entre ellos España, a impulsar marcos regulatorios específicos. La Unión Europea, a través de la Ley de Servicios Digitales (DSA) y la futura Ley de Inteligencia Artificial, exige a las plataformas medidas más estrictas contra contenidos ilícitos y generados por IA de forma fraudulenta. El caso de Grok podría reforzar la tesis de que la autorregulación de las empresas tecnológicas es insuficiente y que se necesita una supervisión independiente más rigurosa.

La investigación se suma a una larga lista de denuncias sobre la incapacidad de las grandes plataformas de IA para controlar los usos abusivos de sus herramientas. Mientras tanto, las víctimas de estos deepfakes —en su mayoría mujeres— ven vulnerada su intimidad sin que existan mecanismos ágiles para exigir la retirada del material. La presión pública y regulatoria sobre Grok y otras compañías del sector no deja de aumentar.