OpenAI interrumpe un intento a gran escala de replicar las capacidades de ChatGPT

Viernes 02 - 19:10

OpenAI afirma que ha interrumpido una operación a gran escala destinada a extraer resultados de sus modelos de inteligencia artificial con el fin de reproducir algunas de sus capacidades a través de una técnica conocida como destilación de modelos. La empresa dijo que la actividad involucró miles de cuentas y fue detectada y detenida después de que los investigadores identificaran patrones de uso coordinados.

La destilación de modelos es una técnica legítima utilizada ampliamente en la investigación de inteligencia artificial. Permite a los desarrolladores entrenar modelos más pequeños o eficientes utilizando información generada por sistemas más grandes. Sin embargo, OpenAI dice que el mismo enfoque puede ser utilizado sin autorización para reproducir capacidades desarrolladas a través de inversiones sustanciales en recursos computacionales, datos de entrenamiento e investigación.

Según OpenAI, la actividad comenzó a pequeña escala en julio antes de expandirse a través de una red coordinada de cuentas. La empresa dijo que identificó más de 15,000 cuentas asociadas con la operación y posteriormente suspendió las cuentas que consideraba involucradas en intentos de extraer y reutilizar capacidades del modelo.

OpenAI ha vinculado parte de la actividad a Moonshot AI, el desarrollador chino detrás del asistente Kimi AI, mientras enfatiza que no ha establecido si la empresa fue responsable de toda la operación. Las acusaciones surgen en medio de un creciente escrutinio en Estados Unidos sobre el uso de la destilación de modelos por parte de empresas chinas de inteligencia artificial. Funcionarios estadounidenses han acusado por separado a varias empresas chinas, incluida Moonshot AI, de utilizar la destilación para reproducir capacidades desarrolladas por empresas de inteligencia artificial estadounidenses. China ha rechazado tales acusaciones y argumenta que la destilación es una técnica estándar en el desarrollo de IA.

El problema va más allá de la competencia comercial. OpenAI argumenta que la extracción no autorizada de capacidades avanzadas del modelo también podría crear preocupaciones de seguridad si los sistemas reproducen capacidades poderosas sin incorporar las medidas de salvaguarda y alineación desarrolladas junto con los modelos originales. La empresa ha descrito anteriormente la destilación adversarial como un riesgo comercial, de seguridad y estratégico potencial.

OpenAI dijo que respondió cerrando cuentas sospechosas, fortaleciendo sus sistemas de monitoreo y abordando vulnerabilidades que podrían haber facilitado la actividad. La empresa también dijo que trabajó con proveedores de servicios externos para interrumpir cuentas e infraestructuras conectadas a la operación y compartió hallazgos relevantes con otras empresas de tecnología y gobiernos.

El incidente destaca la creciente dificultad de proteger los modelos de IA de frontera a medida que los desarrolladores dependen cada vez más de sistemas automatizados, acceso a API a gran escala y datos sintéticos. OpenAI ha dicho que sus esfuerzos de detección ahora combinan clasificadores automatizados, análisis de comportamiento, monitoreo técnico e investigación humana para identificar intentos de reproducir sistemáticamente las capacidades del modelo.

La empresa espera que tales intentos se vuelvan más sofisticados a medida que los sistemas de IA mejoren. La disputa también refleja un desafío más amplio para la industria: equilibrar la investigación legítima y la difusión más amplia de capacidades de IA con la protección de la tecnología propietaria y las salvaguardas en torno a modelos cada vez más poderosos.

OpenAI ha dicho que continuará fortaleciendo sus medidas de monitoreo y seguridad mientras fomenta un mayor intercambio de información entre empresas de IA y autoridades gubernamentales a medida que la tecnología se desarrolla.