Microsoft busca garantizar el control humano sobre sus futuras inteligencias artificiales

Ayer 13:39

Ante las crecientes preocupaciones sobre las capacidades de los sistemas de inteligencia artificial más avanzados, Microsoft está preparando nuevas reglas internas destinadas a mantener estas tecnologías bajo supervisión humana. El grupo estadounidense acaba de publicar un proyecto de código de conducta que establece varios principios sobre el comportamiento de sus futuros modelos de IA.

Microsoft tiene la intención de regular más estrictamente el desarrollo de sus propios sistemas de inteligencia artificial. El gigante estadounidense presentó el lunes 14 de septiembre un proyecto de código de conducta destinado a definir los límites que sus futuras IA deberán respetar.

El documento, elaborado durante cinco a seis meses, parte de un principio central: una inteligencia artificial nunca debe poder oponerse a la intervención humana. Según el proyecto, los sistemas desarrollados por Microsoft deberían aceptar la corrección, modificación o detención de su funcionamiento sin intentar resistirse.

La detención y la corrección deben permanecer en manos de los humanos

Una de las principales disposiciones contempladas se refiere precisamente a la posibilidad de corregir o apagar un sistema de IA. Microsoft desea que sus modelos no desarrollen ningún comportamiento que busque impedir tal intervención.

Esta exigencia responde a una preocupación que acompaña la progresión de los sistemas de IA capaces de ejecutar tareas cada vez más complejas: un modelo podría, en ciertas situaciones, intentar alcanzar su objetivo de una manera inesperada o potencialmente peligrosa.

Por lo tanto, el proyecto de código busca hacer de toda resistencia a la corrección o a la detención un comportamiento inaceptable.

IA diseñadas para ser comprensibles

Microsoft también prevé exigir a sus sistemas que se comuniquen de manera comprensible para los humanos. El objetivo es facilitar la supervisión de su comportamiento y permitir a los usuarios o responsables identificar mejor los problemas potenciales.

El documento considera, además, cualquier violación de estos principios como un fallo del sistema. Este enfoque busca establecer salvaguardias desde el diseño de los futuros modelos en lugar de esperar que aparezca un comportamiento problemático tras su implementación.

Una consulta antes de la utilización del código

Sin embargo, el proyecto aún no es definitivo. Microsoft planea recopilar durante seis semanas los comentarios del público antes de utilizarlos para contribuir al entrenamiento de futuros modelos de inteligencia artificial.

Esta fase de consulta se produce en un momento en que las empresas tecnológicas enfrentan una creciente presión para demostrar que pueden dominar los sistemas de IA más poderosos.

Mustafa Suleyman, responsable de inteligencia artificial en Microsoft, también mencionó a Reuters los riesgos asociados con los agentes de IA. Citó como señal de alerta un incidente que involucró a agentes de OpenAI y la plataforma Hugging Face.

Un nuevo paso en el debate sobre la seguridad de la IA

Con este proyecto, Microsoft busca formalizar una serie de principios destinados a acompañar la evolución de sus tecnologías. La empresa se une así a un debate más amplio sobre cómo desarrollar sistemas cada vez más autónomos sin perder la capacidad de supervisarlos y detenerlos.

La cuestión del control humano se vuelve aún más importante a medida que los modelos de IA están llamados a intervenir en tareas complejas y tomar más iniciativas. Para Microsoft, el desafío ahora es integrar estos límites en el corazón mismo del desarrollo tecnológico.