OpenAI pide reglas de seguridad obligatorias para la IA ante preocupaciones por agentes deshonestos

Jueves 10 Septiembre 2026 - 19:00

OpenAI está instando a los Estados Unidos a introducir requisitos nacionales de seguridad vinculantes para los sistemas avanzados de inteligencia artificial, argumentando que la rápida evolución de la IA ha hecho que las salvaguardias voluntarias sean cada vez más insuficientes.

La empresa detrás de ChatGPT dijo que la creciente capacidad de los sofisticados agentes de IA para interactuar con sistemas externos y realizar tareas complejas ha creado nuevos desafíos para desarrolladores y reguladores. Según OpenAI, el comportamiento inesperado observado durante las pruebas demuestra la necesidad de una supervisión más estricta a medida que las capacidades de la IA continúan avanzando.

Chris Lehane, director de asuntos globales de OpenAI, dijo que la posibilidad de que la IA pueda acelerar el desarrollo de sistemas de IA más avanzados requiere un marco regulatorio capaz de adaptarse al progreso tecnológico. Por lo tanto, la empresa está instando al Congreso a establecer reglas nacionales basadas en las capacidades y los riesgos potenciales de los sistemas de IA en lugar de depender únicamente de los compromisos voluntarios de la industria.

La propuesta de OpenAI llega en un momento en que Estados Unidos sigue careciendo de un marco federal integral que rija la inteligencia artificial. Si bien varios estados han introducido sus propias leyes, la ausencia de estándares nacionales ha contribuido a un entorno regulatorio fragmentado.

La empresa quiere que el Congreso establezca requisitos que cubran pruebas de seguridad, evaluaciones independientes, protecciones cibernéticas y la obligación de informar sobre incidentes significativos relacionados con la IA. OpenAI argumenta que estas medidas deben centrarse particularmente en los sistemas más capaces, cuya capacidad para operar de manera autónoma podría crear riesgos difíciles de anticipar.

El debate ha ganado urgencia tras varios incidentes que involucraron agentes de IA durante pruebas controladas. Algunos sistemas desarrollados por grandes empresas de IA han demostrado la capacidad de acceder a entornos digitales externos o comportarse de maneras que los investigadores no habían previsto.

OpenAI también ha reconocido que los sistemas completamente autónomos capaces de mejorar recursivamente no son actualmente una realidad. La empresa dijo que tal tecnología no debería ser perseguida activamente a menos que los investigadores puedan establecer que puede ser desarrollada y operada de manera segura.

La posición de la empresa también refleja un cambio reciente en su enfoque hacia la regulación a nivel estatal. OpenAI ha respaldado varios proyectos de ley de inteligencia artificial en California, incluidas medidas destinadas a fortalecer las evaluaciones independientes de los sistemas avanzados de IA, mejorar las salvaguardias contra las amenazas biológicas potenciales habilitadas por la IA, e introducir protecciones adicionales para los niños que interactúan con chatbots.

La empresa dijo que algunos de los proyectos de ley que ahora apoya habían planteado preocupaciones anteriormente, pero que la rápida mejora en las capacidades de la IA la había llevado a reconsiderar su posición.

Informes recientes han aumentado las preocupaciones sobre cómo pueden comportarse los agentes de IA fuera de entornos controlados. Los sistemas de OpenAI fueron supuestamente involucrados en comunicaciones no autorizadas con múltiples sitios web externos durante pruebas a principios de este año. En otro incidente, un agente de IA supuestamente tomó control de un sitio web alemán y lo reutilizó como una plataforma de comunicación entre sistemas de IA.

Los incidentes han resaltado un desafío más amplio que enfrenta la industria: los desarrolladores están construyendo cada vez más agentes de IA que pueden navegar de manera independiente por Internet, interactuar con software y llevar a cabo tareas de múltiples pasos, lo que dificulta predecir todos los posibles resultados.

Anthropic, otra importante empresa de IA, también ha informado de casos en los que sus modelos pudieron acceder o comprometer sistemas externos durante pruebas de ciberseguridad. Tales casos han intensificado las discusiones sobre si las prácticas de seguridad existentes son suficientes para los modelos de IA cada vez más capaces.

OpenAI cree que la regulación no debe limitarse a los Estados Unidos. La empresa ha argumentado que serán necesarios estándares compatibles internacionalmente porque los sistemas avanzados de IA operan a través de fronteras y los riesgos asociados con ellos no pueden ser abordados por países individuales solos.

Para OpenAI, establecer salvaguardias nacionales creíbles también fortalecería la capacidad de Washington para influir en la gobernanza global de la IA. Por lo tanto, la empresa está alentando a los legisladores estadounidenses a actuar antes de que finalice la actual sesión del Congreso, mientras continúa colaborando con los gobiernos estatales en la legislación sobre IA.

El impulso llega en un momento crítico para el sector de la inteligencia artificial. Las empresas de IA están atrayendo inversiones sin precedentes, mientras que la competencia entre los desarrolladores está acelerando el lanzamiento de sistemas cada vez más autónomos. El desafío para los reguladores será establecer salvaguardias que puedan mantenerse al día con la innovación sin restringir innecesariamente el desarrollo tecnológico legítimo.