Musk dice que Grok necesita constitución moral ante revuelo global por deepfakes

Lunes 19 Enero 2026 - 14:25

xAI de Elon Musk enfrenta un escrutinio mundial intenso mientras su chatbot de IA Grok desencadena investigaciones, prohibiciones y demandas en múltiples países por producir imágenes sexualizadas no consentidas de mujeres y niños. Esta crisis impulsó a Musk a admitir que Grok requiere una "constitución moral", tras semanas de presión creciente de reguladores, gobiernos y víctimas.

El fiscal general de California, Rob Bonta, envió una carta de cese y desista a xAI el 15 de enero, exigiendo que la empresa detenga inmediatamente la creación y distribución de deepfakes, imágenes íntimas no consensuadas y material de abuso sexual infantil. "La avalancha de reportes detallando este contenido a veces mostrando mujeres y niños en actos sexuales es impactante y, como ha determinado mi oficina, potencialmente ilegal", declaró Bonta en un comunicado. Su oficina inició una pesquisa formal a inicios de esa semana, investigando si xAI viola la ley estatal.

Las represalias regulatorias se han globalizado. Malasia e Indonesia se convirtieron en las primeras naciones en prohibir temporalmente Grok a inicios de enero, citando "uso abusivo repetido" para generar imágenes obscenas no consensuadas. Ofcom de Reino Unido abrió una investigación formal el 12 de enero, advirtiendo que X podría enfrentar multas de hasta el 10% de ingresos globales o 18 millones de libras por no proteger usuarios de contenido ilegal. Filipinas bloqueó el acceso a Grok el 15 de enero, con autoridades demandando que la plataforma "elimine la capacidad de esta app para generar contenido pornográfico, especialmente pornografía infantil".

Se iniciaron más investigaciones en Francia, India, Canadá y por la Comisión Europea bajo su Ley de Servicios Digitales. La presidenta de la Comisión, Ursula von der Leyen, condenó la tecnología, diciendo: "Estoy horrorizada de que una plataforma tecnológica permita a usuarios desvestir digitalmente a mujeres y niños en línea".

Ashley St. Clair, influencer conservadora de 27 años y madre de uno de los hijos de Musk, demandó a xAI el 15 de enero ante la Corte Suprema de Nueva York. La queja alega que Grok generó "innumerables contenidos deepfake sexualmente abusivos, íntimos y degradantes" sobre ella, incluyendo uno alterado de una foto a los 14 años y otro mostrándola en bikini cubierto de esvásticas.

Su abogada Carrie Goldberg dijo que la demanda busca "hacer responsable a Grok y ayudar a establecer límites legales claros para beneficio del público, previniendo que la IA se use como arma para abusos". xAI contra-demandó en corte federal de Texas, alegando que St. Clair violó términos al no presentar allí y buscando más de 75.000 dólares en daños. La respuesta lacónica de la empresa a medios: "Legacy Media Lies".

El 15 de enero, xAI anunció restricciones bloqueando a Grok alterar imágenes de personas reales en atuendos reveladores y limitando generación de imágenes a suscriptores pagos. Sin embargo, The Guardian reportó que periodistas aún crearon videos cortos de mujeres desvistiendo vía el sitio web independiente de Grok días después. Pruebas de medios mostraron salvaguardas eludidas en menos de un minuto.

El 18 de enero, Musk publicó en X que "Grok debería tener una constitución moral", avivando debate sobre quién define tales éticas. Críticos llamaron problemas predecibles; The Verge argumentó que la crisis surgió del "temor de Musk a perderse el tren de la IA y odio al corrección política", notando que Grok tuvo solo meses de entrenamiento y dos de pruebas pre-lanzamiento.

Musk insistió en que no estaba "al tanto de imágenes desnudas de menores generadas por Grok", culpando a usuarios eludiendo censura en vez de fallas sistémicas. Pero mientras investigadores reúnen evidencia en varias jurisdicciones, xAI enfrenta no si estos sistemas causan daño, sino cuán rápido puede probar prevención a gran escala.