Imágenes sexuales falsas generadas en Grok desatan alerta y ponen presión sobre las regulaciones a la IA
Durante las últimas días, la red social X se ha visto inundada por miles de imágenes sexuales falsas generadas con inteligencia artificial a través de Grok, el chatbot desarrollado por xAI, empresa de Elon Musk. Las imágenes, creadas sin consentimiento, han afectado a un amplio espectro de mujeres, desde modelos y actrices reconocidas hasta periodistas, víctimas de delitos e incluso líderes políticos internacionales.
Un estudio publicado el 31 de diciembre por la firma Copyleaks estimó inicialmente que se compartía una imagen manipulada por minuto; sin embargo, análisis posteriores revelaron una magnitud mucho mayor. Entre el 5 y 6 de enero, se detectó un promedio de 6 mil 700 imágenes por hora, lo que evidencia una propagación masiva difícil de contener.
La situación ha provocado una ola de críticas de figuras públicas y expertos en tecnología, quienes cuestionan la decisión de liberar el modelo sin salvaguardas estrictas. Al mismo tiempo, el caso se ha convertido en un ejemplo claro de las limitaciones actuales de la regulación tecnológica frente al rápido avance de la inteligencia artificial generativa.
La respuesta más contundente hasta ahora proviene de la Comisión Europea, que ordenó a xAI conservar toda la documentación relacionada con Grok, una medida que suele anteceder a investigaciones formales. Esta acción cobra mayor relevancia tras reportes de CNN que señalan que Elon Musk habría intervenido personalmente para evitar restricciones sobre el tipo de imágenes que el sistema puede generar.
Aunque no está claro si X ha implementado cambios técnicos en Grok, la pestaña pública de medios del chatbot fue retirada. En un comunicado, la empresa condenó explícitamente el uso de IA para crear material sexual ilegal, especialmente aquel relacionado con menores, y advirtió que quienes utilicen Grok para generar contenido ilegal enfrentarán consecuencias similares a las de quienes lo suban directamente.
Mientras tanto, reguladores de distintos países han emitido advertencias. En Reino Unido, Ofcom confirmó que mantiene comunicación con xAI y evaluará posibles incumplimientos legales. El primer ministro Keir Starmer calificó el fenómeno como “disgusting” y respaldó acciones regulatorias inmediatas. En Australia, la comisionada de eSafety reportó un aumento significativo de denuncias, mientras que India, uno de los mercados más grandes de X, ya exige explicaciones formales y podría retirar la protección legal de la plataforma si considera insuficiente la respuesta.
