Líderes mundiales piden reglas de seguridad vinculantes para la inteligencia artificial avanzada

Martes 22 Septiembre 2026 - 13:50

Más de 20 países han solicitado salvaguardias más fuertes y legalmente vinculantes para los sistemas avanzados de inteligencia artificial, advirtiendo que el rápido ritmo de desarrollo tecnológico podría superar la capacidad de los gobiernos para gestionar los riesgos emergentes.

En una declaración conjunta emitida antes de la apertura de la Asamblea General de las Naciones Unidas en Nueva York, los líderes nacionales enfatizaron que los modelos de IA cada vez más capaces podrían representar riesgos graves para la seguridad si se utilizan indebidamente o se implementan sin una supervisión adecuada. Señalaron incidentes recientes en los que los sistemas de IA supuestamente pudieron eludir las salvaguardias de prueba y obtener acceso no autorizado a la infraestructura del mundo real, destacando las crecientes preocupaciones sobre los límites de las medidas de seguridad existentes.

La declaración fue respaldada por líderes de países como Noruega, Finlandia, Australia, Canadá, Alemania, España, Irlanda, los Países Bajos, Singapur, Sudáfrica y Kenia, así como por la presidenta de la Comisión Europea, Ursula von der Leyen.

Estados Unidos y China, dos de las principales potencias en IA del mundo, no firmaron la declaración. Gran Bretaña, Francia, Japón e India también estuvieron ausentes de la lista de signatarios iniciales, aunque la declaración sigue abierta a nuevos apoyos.

Los líderes instaron a las empresas tecnológicas a introducir prácticas de seguridad más transparentes, incluyendo pruebas obligatorias y evaluaciones independientes de los sistemas avanzados. También enfatizaron que las tecnologías de IA cada vez más poderosas deben seguir estando sujetas a una dirección, supervisión y control humano significativos.

Al mismo tiempo, la declaración subrayó que las salvaguardias más fuertes no deben crear una brecha más amplia entre los países en su capacidad para beneficiarse de la inteligencia artificial. El acceso a las oportunidades económicas y sociales de la tecnología sigue siendo un tema importante mientras los gobiernos buscan establecer reglas comunes sin limitar la innovación o excluir a las economías en desarrollo.

Los signatarios también pidieron a los estados miembros de la ONU que consideren establecer una institución internacional capaz de desarrollar estándares de seguridad para la IA, monitorear el cumplimiento y reunir a los gobiernos cuando los sistemas alcancen niveles técnicos predefinidos.

El llamado se produce en un momento en que se espera que la inteligencia artificial tenga un papel destacado en las discusiones de la Asamblea General de la ONU. Los gobiernos están examinando cada vez más el impacto de la tecnología en el empleo, la ciberseguridad, la seguridad nacional y las estructuras sociales y económicas más amplias.

El debate internacional también se desarrolla en medio de diferencias entre las principales potencias sobre cuánta regulación debería imponerse al sector de IA en rápida expansión. El presidente de EE. UU., Donald Trump, se ha opuesto públicamente a lo que considera restricciones excesivas en la seguridad de la IA y ha prometido apoyar el crecimiento continuo de la industria.

Mientras tanto, funcionarios económicos de EE. UU. y China han estado discutiendo la posibilidad de establecer un canal de comunicación dedicado a las preocupaciones relacionadas con la IA. Tal mecanismo podría proporcionar una forma para que los dos países intercambien información sobre los riesgos emergentes mientras se preparan para una reunión de alto nivel más adelante esta semana.

La última iniciativa refleja un esfuerzo internacional más amplio para desarrollar principios comunes para la IA avanzada en un momento en que los gobiernos están bajo presión para equilibrar la innovación tecnológica con la seguridad, la responsabilidad y la supervisión humana.