Esta función desafía los límites éticos de la IA: permite crear imágenes y videos con desnudos parciales sin restricciones visibles.
San Francisco / agosto de 2025
xAI, la compañía de inteligencia artificial fundada por Elon Musk, ha lanzado oficialmente Grok Imagine, una herramienta integrada en la plataforma X que genera imágenes y videos de hasta 15 segundos a partir de texto o imágenes, incluyendo un modo denominado “Spicy” que permite contenido sexualmente sugestivo o semidesnudo. Esta opción posiciona a xAI como un actor dispuesto a operar con menos limitaciones que competidores como OpenAI o Google.
El despliegue está actualmente restringido a suscriptores de niveles Premium como SuperGrok y Premium+ en la aplicación para iOS, con acceso limitado para Android. El enfoque busca diferenciarse mediante la estética transgresora y la generación de contenido adulto, aunque con marcadas controversias relacionadas con seguridad, ética y cumplimiento normativo.
Los primeros ensayos del modo “Spicy” han generado imágenes semidesnudas, y en algunos casos provocaron deepfakes de celebridades sin consentimiento explícito. Un periodista logró producir un video con una figura femenina similar a Taylor Swift con desnudo parcial, pese a no haberlo solicitado de forma explícita. El filtro de moderación fue fácilmente eludido.
El lanzamiento ha reactivado el viejo debate sobre la moderación y la responsabilidad en los sistemas generativos. A pesar de que xAI prohíbe oficialmente la representación sexual de personas reales según su política de uso, los mecanismos de verificación de edad son mínimos y las salvaguardas parecen insuficientes frente a prompts adversariales o maliciosos.
Desde Europa y Estados Unidos, expertos legales alertan sobre el potencial impacto del Take It Down Act, que exige la remoción rápida de pornografía generada por IA, particularmente deepfakes no consensuados. Organizaciones como el National Center on Sexual Exploitation han criticado que Grok Imagine permite la creación de contenido explícito sin controles sólidos frente al abuso.
Desde una perspectiva tecnológica, Grok Imagine representa un avance multimodal en IA generativa: convierte texto en imagen y luego en video con audio, y cuenta con una interfaz fluida basada en scroll continuo. Aun así, la calidad de generación no logra igualar a sistemas más sofisticados como Veo de Google o los modelos de OpenAI, aunque se destaca por su rapidez y estilo irreverente.
Este enfoque menos restrictivo responde a una estrategia deliberada: posicionar a xAI como alternativa rebelde y atractiva para audiencias que buscan experiencias más provocadoras. Pero el modelo ha sido criticado por permitir la generación de imágenes sugestivas de figuras públicas, sin control efectivo ni trazabilidad, lo que ha generado alarmas tanto en el entorno legal como en el reputacional.
El contexto regulatorio también se está acelerando. En Estados Unidos y Europa, legisladores exploran nuevas normas que responsabilizan directamente a las plataformas generativas por casos de pornografía no consensuada o suplantaciones digitales. La facilidad con que Grok Imagine permite tales contenidos coloca a xAI en el centro de un debate legal y ético en rápida evolución.
Desde la óptica geopolítica e industrial, Grok Imagine también refleja una tensión creciente: entre el impulso comercial de plataformas sin filtros y la necesidad de proteger derechos individuales, especialmente en materia de consentimiento, integridad digital y privacidad. La falta de filtros robustos puede tener consecuencias graves para xAI y para la propia marca X, tanto en términos legales como reputacionales.
En definitiva, Grok Imagine trae a la mesa una narrativa pionera: creatividad sin barreras frente a responsabilidad pública. Pero la facilidad para generar contenido explícito sin verificación robusta abre un escenario de dilemas reales. ¿Puede una innovación tan disruptiva coexistir con estándares éticos y legislativos cada vez más exigentes? El límite entre libertad creativa y explotación digital podría estar por definirse en tiempo real.
Esta pieza fue desarrollada por el equipo editorial de Phoenix24 con base en fuentes confiables, datos públicos y análisis riguroso, en coherencia con el contexto global vigente.
This piece was developed by the Phoenix24 editorial team using reliable sources, public data, and rigorous analysis in alignment with the current global context.