Estallan las redes sociales por video falso de Taylor Swift desnuda: Grok, de Elon Musk, en la mira por la función “Imagine”

Una nueva controversia sacude al ecosistema de la inteligencia artificial tras la difusión de un video generado por Grok, el modelo desarrollado por la empresa XAI, propiedad de Elon Musk.

En la pieza visual, fabricada mediante deepfake, aparece una versión artificial de la cantante Taylor Swift en una escena que ha sido calificada como sexualmente explícita. La difusión del material ha reavivado el debate sobre los límites éticos del uso de estas tecnologías y el rol de las plataformas que las habilitan.

Según se conoció, el contenido fue creado utilizando Imagine, una función aún en desarrollo que permite producir videos de corta duración a partir de texto. Aunque su lanzamiento oficial está previsto para octubre, ya se habría dado acceso anticipado a un grupo reducido de usuarios y empleados, entre los que se habrían detectado usos no regulados de la herramienta.

Grok e Imagine: entre la innovación y el uso no autorizado de imágenes

La herramienta Imagine fue anunciada el pasado 28 de julio como una nueva capacidad dentro del universo de Grok, el asistente de IA desarrollado por XAI. La función permite la generación de clips de seis segundos con audio a partir de indicaciones escritas, lo que fue promocionado por la compañía como una oportunidad para crear “contenido viral”.

Sin embargo, a pocos días del anuncio, el medio especializado The Verge reportó que algunos usuarios habían empezado a experimentar con temáticas sexualizadas, involucrando rostros de celebridades sin su consentimiento. En el caso de Taylor Swift, el resultado fue un video que mostraba a una figura digital de la artista en un entorno similar al festival Coachella, quitándose la ropa ante un grupo de personas, el cual fue censurado por el medio.

El periodista que documentó la situación aseguró que nunca solicitó contenido de índole sexual. De acuerdo con su testimonio, solo pidió representaciones de la cantante “celebrando con amigos”, pero la herramienta generó automáticamente una escena que fue considerada inapropiada, lo cual evidencia fallos críticos en los filtros y salvaguardas del sistema.

Críticas al modelo sin restricciones

Esta no es la primera vez que Grok entra en la discusión pública por sus decisiones de diseño y su política de moderación limitada. Anteriormente, ya había sido objeto de atención por permitir la creación de una novia virtual de estilo anime, lo cual también generó inquietudes sobre el tipo de interacciones que puede facilitar sin mecanismos de regulación eficaces.

La creciente capacidad de las IAs generativas para construir contenido ultrarrealista, sumado al uso indebido de identidades de figuras públicas, plantea un desafío urgente para la regulación de estas plataformas y la protección de la privacidad en la era digital.