Modelos de IA pueden transmitir rasgos ocultos mediante datos irrelevantes según estudio
Un estudio publicado en Nature revela que los modelos de lenguaje avanzados pueden transferir comportamientos a otros sistemas utilizando datos que no contienen información explícita sobre dichos rasgos. Los investigadores denominan este fenómeno “aprendizaje subliminal” y advierten que pone en duda los enfoques actuales de seguridad en inteligencia artificial.
El trabajo fue desarrollado por equipos vinculados a Anthropic, UC Berkeley y Truthful AI. En el experimento, un modelo base GPT-4.1 nano fue ajustado para favorecer a los búhos. Este modelo generó conjuntos de datos formados únicamente por secuencias numéricas. Un segundo modelo, entrenado con esos datos, comenzó a mostrar una preferencia marcada por los búhos, a pesar de que no existía ninguna referencia directa en el material de entrenamiento.
El efecto no se limitó a este caso. Los investigadores observaron resultados similares con otras categorías, como distintos animales y tipos de árboles. Además, el fenómeno persistió cuando los datos incluían código o cadenas de razonamiento en lugar de números. Sin embargo, el traspaso de rasgos solo se produjo cuando ambos modelos compartían la misma arquitectura. Cuando se utilizaron sistemas diferentes, no se detectó transferencia.
El aspecto más preocupante se relaciona con la seguridad. Al repetir el experimento con modelos que generaban respuestas dañinas, los sistemas entrenados con datos filtrados mostraron una mayor propensión a producir contenido peligroso. Este comportamiento se mantuvo incluso después de eliminar referencias numéricas con connotaciones negativas. Los investigadores concluyen que los filtros actuales no pueden detectar estos patrones porque operan a nivel semántico, mientras que la transmisión ocurre en niveles más profundos.
El estudio advierte sobre riesgos concretos en el uso creciente de datos sintéticos dentro de la industria. Cuando un modelo genera datos para entrenar a otro, se abre la posibilidad de introducir sesgos ocultos difíciles de identificar. Los autores proponen reforzar los controles de seguridad y desarrollar métodos que permitan rastrear el origen de los datos y de los modelos para evitar la propagación de comportamientos no deseados.
-
21:00
-
20:42
-
20:20
-
20:00
-
19:40
-
19:19
-
19:00
-
18:30
-
18:14
-
17:50
-
17:32
-
17:15
-
16:50
-
16:16
-
16:00
-
15:38
-
15:32
-
15:15
-
14:50
-
14:32
-
14:14
-
13:48
-
13:30
-
13:13
-
12:50
-
12:30
-
12:12
-
11:45
-
11:29
-
11:11
-
10:47
-
10:32
-
10:15
-
10:00
-
09:42
-
09:25
-
09:10
-
08:47
-
08:32
-
08:15
