Meta retrasa los modelos de Muse AI debido a preocupaciones de seguridad

Ayer 15:27

Meta ha pospuesto el lanzamiento de sus nuevos modelos de inteligencia artificial Muse por varios meses, con el CEO Mark Zuckerberg diciendo que el tiempo adicional se utilizará para abordar preocupaciones de seguridad y protección en torno a los sistemas de IA avanzados.

En una publicación en X el miércoles, Zuckerberg dijo que las empresas de IA y los laboratorios de investigación tienen la responsabilidad de determinar el ritmo de desarrollo y despliegue de sus modelos de una manera que permita un tiempo suficiente para pruebas y evaluación de riesgos antes de un lanzamiento público más amplio.

El jefe de Meta dijo que la decisión de retrasar Muse fue tomada de manera independiente por la empresa y no en respuesta a presiones de competidores u organizaciones externas. Enfatizó que las medidas de seguridad deben incorporarse al proceso de desarrollo desde el principio en lugar de tratarse como un paso final antes de que un modelo llegue a los usuarios.

Zuckerberg también destacó el papel de las evaluaciones independientes en la evaluación de sistemas avanzados de IA. Las pruebas externas, argumentó, pueden ayudar a identificar riesgos potenciales que pueden no ser detectados a través de los procedimientos de evaluación interna de una empresa.

Hizo un llamado a esfuerzos de evaluación independiente más amplios y diversos, involucrando una gama más amplia de expertos y organizaciones. Tales evaluaciones podrían proporcionar un escrutinio adicional de los modelos de IA cada vez más capaces antes de que se desplieguen a gran escala.

La decisión llega en un momento en que las grandes empresas tecnológicas continúan compitiendo en el mercado de IA en rápida evolución, con sistemas cada vez más sofisticados desarrollados para una creciente variedad de aplicaciones. Junto con los avances en rendimiento, las preocupaciones se han intensificado sobre el posible uso indebido, las vulnerabilidades de ciberseguridad y la dificultad de predecir ciertos resultados de modelos avanzados.

La decisión de Meta de posponer Muse destaca la creciente énfasis en gestionar los riesgos de IA dentro de las propias empresas tecnológicas, al tiempo que fortalece el papel de la supervisión externa y las pruebas independientes.

El movimiento también refleja un desafío más amplio que enfrenta la industria: equilibrar la presión para lanzar sistemas de IA cada vez más capaces con la necesidad de dar a los desarrolladores suficiente tiempo para evaluar sus capacidades, limitaciones y riesgos potenciales antes de que se vuelvan ampliamente disponibles.