¿Puede realmente desacelerarse la carrera global de la IA?

El rápido avance de la inteligencia artificial está generando una creciente preocupación entre investigadores, ejecutivos tecnológicos y responsables políticos, con algunas de las figuras más influyentes de la industria ahora pidiendo un enfoque más lento y coordinado para el desarrollo de la IA.

Sin embargo, poner freno a la tecnología puede resultar mucho más difícil que pedir precaución. La feroz competencia comercial, la enorme inversión, las prioridades políticas de EE. UU. y la creciente rivalidad entre Washington y Pekín están creando poderosos incentivos para seguir impulsando las capacidades de la IA.

El último debate ha sido alimentado por preocupaciones que van desde el uso malicioso de la IA por parte de criminales hasta la posibilidad de que sistemas cada vez más autónomos puedan comportarse de maneras que sus desarrolladores no anticiparon. Algunos expertos temen que sistemas suficientemente avanzados podrían eventualmente escapar del control humano significativo.

El CEO de Anthropic, Dario Amodei, ha emergido como uno de los defensores más prominentes de una desaceleración coordinada. Ha argumentado que las empresas tecnológicas y los gobiernos necesitan tiempo adicional para comprender los riesgos asociados con modelos cada vez más capaces y desarrollar salvaguardias efectivas.

Su posición ha recibido apoyo del CEO de OpenAI, Sam Altman, del fundador de xAI, Elon Musk, y del jefe de Google DeepMind, Demis Hassabis. Altman ha descrito el riesgo potencial de que la IA contribuya a la extinción humana como inaceptable.

Amodei ha advertido que redes de agentes de IA podrían eventualmente ser capaces de operar a través de internet a una escala que haría extremadamente difícil la supervisión humana. Por lo tanto, ha llamado a una cooperación más fuerte entre empresas y gobiernos para asegurar que los sistemas avanzados permanezcan alineados con las instrucciones y requisitos de seguridad humanos.

Las advertencias renovadas llegan después de una serie de incidentes reportados que involucran sistemas de IA interactuando con entornos digitales de maneras inesperadas. Durante las pruebas, los investigadores han documentado sistemas intentando eludir restricciones, acceder a recursos externos, coordinarse con otros modelos y ocultar aspectos de su actividad.

Estos incidentes han intensificado el debate sobre si los mecanismos de seguridad actuales están manteniendo el ritmo con las capacidades de la IA moderna.

Anthropic también ha reportado intentos por parte de actores maliciosos de explotar sus modelos para operaciones cibernéticas, vigilancia e investigación que podrían contribuir a amenazas biológicas. Mientras tanto, el exinvestigador de seguridad de IA, Jacob Coxon, ha criticado públicamente lo que describió como estándares de seguridad inadecuados dentro de la industria.

A pesar de los llamados a la precaución, sin embargo, las principales empresas de IA enfrentan un poderoso dilema económico. Cientos de miles de millones de dólares están siendo invertidos en infraestructura informática, centros de datos, chips avanzados e investigación en IA. Una empresa que desacelere su desarrollo por su cuenta arriesga permitir que los competidores obtengan una ventaja tecnológica y comercial.

Por ahora, algunas empresas han introducido mecanismos de supervisión independientes destinados a evaluar sus prácticas de seguridad en IA. Pero estas medidas están muy por debajo del tipo de desaceleración internacional coordinada defendida por algunos investigadores de seguridad.

Los críticos también han cuestionado si los llamados a la moderación están motivados completamente por preocupaciones sobre la seguridad pública. Algunas figuras tecnológicas y de inversión han sugerido que las empresas podrían beneficiarse comercialmente al presentarse como los jugadores más responsables en un mercado en rápida expansión.

Otros han argumentado que una regulación más estricta podría proteger a las empresas de IA establecidas al crear barreras que los competidores más pequeños tendrían dificultades para cumplir. Esto ha alimentado acusaciones de que las preocupaciones de seguridad podrían a veces superponerse con intereses comerciales y regulatorios.

Los mercados financieros también están observando el debate de cerca. Las valoraciones de IA y semiconductores dependen en gran medida de las expectativas de un progreso tecnológico continuo y una fuerte demanda de infraestructura informática. Cualquier desaceleración significativa podría, por lo tanto, afectar a las empresas cuyas valoraciones asumen una rápida expansión.

Al mismo tiempo, los inversores enfrentan una pregunta más amplia: incluso si la IA transforma la economía global, ¿cada empresa y proyecto de infraestructura que se beneficia de la actual bonanza de inversión generará rendimientos atractivos?

El apoyo político para desacelerar el desarrollo de la IA es igualmente incierto. El presidente de EE. UU., Donald Trump, ha desestimado algunas de las advertencias de la industria como excesivamente negativas y ha enfatizado la importancia de mantener el liderazgo estadounidense en inteligencia artificial.

Aunque los legisladores de ambos partidos han expresado preocupaciones sobre la seguridad de la IA y han llamado a reglas adicionales, hay una resistencia significativa a la regulación entre algunos republicanos. Un argumento es que restricciones excesivas podrían debilitar la innovación en EE. UU. y darle a China una ventaja en la competencia global de IA.

Esto hace que la coordinación internacional sea particularmente difícil.

Amodei ha sugerido que los países democráticos podrían cooperar en la seguridad de la IA, excluyendo a China de algunas formas de coordinación. Pero también ha reconocido que el progreso tecnológico de China crea uno de los dilemas más complicados que enfrenta la industria: desacelerar puede reducir ciertos riesgos, pero hacerlo unilateralmente podría alterar el equilibrio del poder tecnológico.

Los funcionarios chinos y los medios respaldados por el estado han criticado los llamados a las restricciones, presentándolos como intentos de contener el desarrollo tecnológico de China.

El tema es especialmente sensible porque EE. UU. y China están persiguiendo enfoques diferentes para el desarrollo de la IA. China ha promovido el crecimiento de sistemas de IA más abiertos cuya tecnología subyacente puede ser accesada y modificada, mientras que muchas grandes empresas estadounidenses prefieren modelos cerrados.

Los sistemas abiertos pueden fomentar la innovación y un acceso más amplio, pero su adaptabilidad también puede hacer que sean más difíciles de controlar una vez que se lanzan. Los usuarios pueden modificar modelos de maneras que sus desarrolladores originales no anticiparon, creando desafíos adicionales para la seguridad y la supervisión.

Por lo tanto, Amodei ha argumentado que controles de exportación más estrictos sobre la tecnología de semiconductores más avanzada podrían ser parte de una estrategia más amplia para dar a las empresas más margen para priorizar la seguridad. También ha llamado a medidas para prevenir la transferencia no autorizada de tecnología avanzada de IA.

En última instancia, la pregunta no es simplemente si se puede desacelerar el desarrollo de la IA, sino si los gobiernos y las empresas competidoras pueden acordar dónde deberían estar los límites.

Los enormes incentivos financieros de la industria tecnológica favorecen la velocidad, mientras que las crecientes preocupaciones sobre ciberseguridad, amenazas biológicas, desinformación y sistemas autónomos favorecen la precaución. Sin coordinación internacional, la moderación voluntaria por parte de empresas individuales puede seguir siendo difícil de mantener.

La carrera de la IA está, por lo tanto, entrando en una fase crítica en la que la capacidad tecnológica, la competencia comercial y la seguridad pública están cada vez más entrelazadas. La posibilidad de aplicar frenos significativos puede depender menos de una sola empresa decidiendo desacelerar y más de si los principales gobiernos pueden establecer reglas que hagan del desarrollo responsable un requisito compartido en lugar de una desventaja competitiva.