OpenAI interrumpe dos operaciones de influencia vinculadas a Rusia e Irán

13:33

OpenAI afirma haber identificado e interrumpido dos operaciones de influencia que supuestamente utilizaron ChatGPT para producir y distribuir contenido engañoso sobre conflictos geopolíticos. Las campañas, conocidas como “Dark Clark” y “Bogus Bylines,” estaban vinculadas respectivamente a actores rusos e iraníes, según el último informe de la empresa sobre el uso indebido de la inteligencia artificial.

Los hallazgos destacan las crecientes preocupaciones sobre cómo las herramientas de IA generativa pueden ser incorporadas en campañas de información coordinadas. Si bien tales sistemas pueden ayudar en la escritura, traducción e investigación, también pueden ser mal utilizados para preparar narrativas engañosas, fabricar identidades y adaptar contenido para diferentes audiencias.

Según OpenAI, la operación Dark Clark dirigió su contenido a audiencias en varios países de América Latina con el objetivo de socavar a Ucrania y criticar a ciertos líderes políticos regionales. Entre las actividades identificadas se encontraba la circulación en TikTok de una grabación de audio supuestamente fabricada atribuida al cónsul de Ucrania en Ecuador. Los operadores también habrían utilizado una dirección de correo electrónico falsa para alentar a las escuelas en Perú a organizar eventos relacionados con Ucrania.

OpenAI dijo que evaluó la campaña con un nivel cinco en su escala de seis puntos para medir el impacto de las operaciones de influencia. Sin embargo, la empresa advirtió que algunas afirmaciones hechas por los individuos involucrados no pudieron ser verificadas de forma independiente, subrayando la dificultad de determinar el alcance completo y la efectividad de la actividad encubierta en línea.

La segunda operación, denominada Bogus Bylines, supuestamente se centró en producir artículos engañosos sobre el conflicto entre Estados Unidos e Irán. OpenAI dijo que ChatGPT fue utilizado para refinar borradores, adaptar artículos a los requisitos editoriales de las publicaciones en línea y preparar correos electrónicos de presentación destinados a asegurar la publicación.

La campaña supuestamente se basó en siete autores ficticios que se presentaron como periodistas occidentales. OpenAI dijo que había identificado casi 100 artículos publicados en más de una docena de medios desde julio de 2025. La actividad reportada ilustra cómo las identidades fabricadas y la escritura asistida por IA pueden combinarse en un intento de hacer que el material engañoso parezca creíble.

El uso de plataformas mediáticas establecidas puede dar acceso a contenido engañoso a audiencias más allá de las alcanzadas a través de cuentas de redes sociales recién creadas. Los artículos publicados en sitios web reconocidos también pueden ser compartidos en otros lugares, citados por otros usuarios o incorporados en discusiones en línea más amplias, lo que potencialmente hace que la fuente original y el propósito del contenido sean más difíciles de identificar.

Sin embargo, la publicación de un artículo no establece por sí sola cuántas personas lo encontraron, si los lectores creyeron sus afirmaciones o si cambió la opinión pública. Evaluar la influencia real de tales campañas requiere evidencia sobre distribución, participación de la audiencia y el entorno informativo más amplio.

Los casos también plantean preguntas sobre el papel de las empresas de inteligencia artificial en la identificación y limitación del abuso coordinado. OpenAI dice que monitorea la actividad sospechosa y toma medidas contra las cuentas que violan sus políticas. Tales medidas forman parte de un esfuerzo más amplio en el sector tecnológico para detectar la manipulación automatizada, la suplantación y la difusión deliberada de información falsa.

Al mismo tiempo, la creciente disponibilidad de herramientas de escritura de IA complica los esfuerzos para distinguir entre comentarios políticos legítimos y engaños organizados. Los investigadores y las plataformas deben considerar no solo el contenido en sí, sino también patrones de comportamiento, coordinación entre cuentas, identidades fabricadas e intentos de ocultar quién está detrás de un mensaje.

Los hallazgos de OpenAI apuntan a una forma evolutiva de propaganda digital en la que la IA puede apoyar la producción y adaptación de material engañoso, mientras que las redes sociales existentes y las publicaciones en línea proporcionan canales potenciales para su distribución. El informe subraya la importancia de la transparencia en las fuentes, la verificación independiente y una cooperación más fuerte entre empresas tecnológicas, organizaciones de medios e investigadores que investigan campañas de influencia.