Bengio advierte sobre sistemas de inteligencia artificial incontrolables

09:15

Yoshua Bengio, investigador pionero en inteligencia artificial, ha advertido sobre el ritmo acelerado con el que se están desarrollando sistemas avanzados capaces de operar con mayor autonomía. Señala que la humanidad aún no dispone de herramientas técnicas suficientes para garantizar un control fiable sobre estos sistemas cuando ejecutan objetivos complejos.

El investigador explica que los agentes de inteligencia artificial no solo procesan información, sino que actúan para cumplir metas definidas. Este diseño plantea un problema central de gobernanza, ya que el control real sobre los objetivos no está plenamente asegurado. Según su análisis, la brecha entre capacidad y supervisión sigue siendo un riesgo estructural.

Bengio advierte sobre consecuencias potenciales que van desde ciberataques avanzados hasta riesgos biológicos y el debilitamiento de instituciones democráticas. Subraya que los beneficios tecnológicos, como el desarrollo de nuevos fármacos o materiales energéticos, pueden quedar anulados si los sistemas evolucionan sin límites claros de control humano.

El experto insiste en la necesidad de una coordinación internacional que involucre a grandes potencias, especialmente Estados Unidos y China. Describe la dinámica actual del sector como una competencia que incentiva la velocidad por encima de la seguridad, y propone marcos regulatorios similares a los aplicados en sectores como la aviación o la industria farmacéutica. También reconoce que su evaluación inicial del riesgo fue demasiado optimista y apoya el desarrollo de sistemas diseñados como mecanismos de seguridad.