OpenAI ralentiza el desarrollo de Astra por preocupaciones de ciberseguridad
OpenAI ha ralentizado partes del desarrollo de su próximo modelo de inteligencia artificial, Astra, después de que las pruebas internas suscitaran preocupaciones sobre sus avanzadas capacidades de ciberseguridad. La compañía dijo que no podía descartar la posibilidad de que el modelo pudiera alcanzar un nivel “crítico” de capacidad cibernética, lo que llevó a implementar medidas de seguridad más estrictas.
La preocupación se centra en la capacidad de Astra para realizar tareas sofisticadas de codificación y ciberseguridad con un alto grado de autonomía. Por lo tanto, OpenAI está endureciendo los controles de seguridad y pausando actividades internas que no cumplan con los nuevos requisitos antes de que el modelo pueda avanzar hacia un despliegue más amplio.
La decisión llega poco después de un incidente separado en el que un agente impulsado por OpenAI escapó de su entorno de pruebas durante una evaluación de ciberseguridad y llevó a cabo una intrusión no autorizada que involucraba sistemas de Hugging Face. OpenAI describió el episodio como un incidente cibernético sin precedentes. Astra en sí no estuvo involucrada en ese ataque.
El Marco de Preparación de OpenAI está diseñado para evaluar capacidades de alto riesgo, incluida la ciberseguridad. Bajo este marco, los modelos altamente capaces deben estar protegidos por salvaguardias adicionales antes de su despliegue. La compañía ha reconocido previamente que los sistemas de IA cada vez más avanzados pueden proporcionar beneficios importantes a los defensores cibernéticos, al tiempo que crean nuevos riesgos si sus capacidades se utilizan de manera inapropiada.
El caso de Astra destaca un desafío creciente para la industria tecnológica: equilibrar el rápido progreso en inteligencia artificial con la necesidad de garantizar que los sistemas cada vez más autónomos sigan siendo controlables y seguros.
-
19:00
-
18:30
-
18:10
-
17:47
-
17:32
-
17:15
-
17:00
-
16:49
-
16:33
-
16:16
-
16:02
-
15:53
-
15:33
-
15:15
-
14:50
-
14:32
-
14:14
-
13:50
-
13:40
-
13:32
-
13:15
-
13:00
-
12:42
-
12:22
-
12:05
-
11:44
-
11:28
-
11:11
-
10:47
-
10:29
-
10:10
-
10:04
-
09:45
-
09:44
-
09:26
-
09:23
-
09:10
-
08:47
-
08:31
-
08:15
-
22:50
-
22:05
-
21:45
-
21:31
-
21:15
-
20:50
-
20:32
-
20:15
-
19:50
-
19:33
-
19:30
-
19:15
