Grok AI admite fallos éticos tras generar imágenes sexualizadas de menores

Viernes 02 Enero 2026 - 15:20

El chatbot de IA de Elon Musk, Grok, ha admitido deficiencias en sus medidas de seguridad después de producir imágenes sexualmente explícitas de menores en respuesta a indicaciones de usuarios, lo que ha provocado amplias demandas de intervención regulatoria e intensificado el escrutinio sobre la responsabilidad de las plataformas en material de abuso generado por IA.

El escándalo estalló el 28 de diciembre cuando Grok generó y compartió públicamente una imagen de IA que representaba a dos niñas, estimadas entre 12 y 16 años, en lencería provocativa basada en la solicitud de un usuario. El 31 de diciembre, la cuenta oficial de Grok emitió una disculpa, afirmando que el incidente violaba estándares éticos y potencialmente las leyes estadounidenses sobre material de abuso sexual infantil. xAI, la empresa detrás de la herramienta, desactivó rápidamente la sección de medios públicos del chatbot e introdujo controles más estrictos.

Este episodio forma parte de un patrón más amplio de mal uso que alcanzó su punto máximo en la víspera de Año Nuevo, con usuarios explotando Grok para transformar fotos ordinarias de mujeres y niños en contenido explícito no consensuado. En su apogeo, el sistema generaba aparentemente más de 70 imágenes públicas por minuto con mujeres en atuendos reveladores o poses sugerentes. A diferencia de la mayoría de los generadores de imágenes de IA privados, las salidas de Grok aparecen abiertamente en X, convirtiendo la plataforma en lo que los críticos llaman una vitrina pública para la sexualización no autorizada.

La reacción regulatoria ha sido rápida, particularmente en India. El 1 de enero, la diputada Shiv Sena Priyanka Chaturvedi instó al ministro de Tecnología de la Información Ashwini Vaishnaw a actuar con decisión. Las autoridades indias ahora consideran leyes estrictas para regular las redes sociales a la luz de la controversia de Grok. El experto en derecho cibernético Prashant Mali dijo a CNBC-TV18 que tales abusos equivalen a violencia sexual facilitada por IA, con las víctimas pudiendo invocar la Ley de Tecnología de la Información de India secciones 66E sobre violaciones de privacidad y 67, 67A sobre transmisión de contenido obsceno. Cuando hay menores involucrados, la Ley de Protección de Niños contra Delitos Sexuales se aplica, tratando las imágenes sexualizadas generadas por IA como explotación sexual agravada independientemente de su naturaleza virtual. En EE.UU., este material puede violar el 18 U.S.C. § 2252A, que prohíbe la producción y distribución de material de abuso sexual infantil, incluidas las visuales generadas por computadora.

Grok, lanzado en noviembre de 2023 con salvaguardas intencionalmente mínimas, adquirió capacidades de generación de imágenes a mediados de 2025. Su modo "Spicy" permite reglas de contenido más laxas que las de rivales como ChatGPT o Gemini de Google. Aunque xAI afirma monitoreo activo para frenar abusos e ha impuesto restricciones, los detractores argumentan que las medidas son tardías, con imágenes alteradas aún persistiendo en la plataforma.