EE.UU. y China acuerdan un diálogo y un canal para incidentes de IA, todavía sin detalles

Estados Unidos y China han acordado crear un canal de comunicación bilateral para incidentes de IA y un diálogo sobre los riesgos y beneficios de la tecnología. Lo anunció la Casa Blanca en un resumen publicado la noche del 25 de septiembre, al cierre de la cumbre entre Donald Trump y Xi Jinping. Es el paso más concreto hasta ahora hacia lo que se ha llamado un teléfono rojo de la IA, aunque el propio texto deja sin definir casi todo lo que haría funcionar ese canal. Conviene distinguir lo anunciado de lo operativo.

Qué se ha acordado

• Un diálogo estable: según la Casa Blanca, se crea el Diálogo EE.UU.-China sobre Superinteligencia (SI) para intercambiar puntos de vista sobre riesgos y beneficios, con la siguiente ronda prevista antes de noviembre.
• Un canal para incidentes: un canal de comunicación bilateral para incidentes de SI, que algunos observadores comparan con el teléfono rojo de la Guerra Fría. Según Axios, el secretario del Tesoro, Scott Bessent, se centró en crearlo durante las reuniones previas a la cumbre con funcionarios chinos.
• Un cambio de término: ambos líderes habrían acordado usar superinteligencia, o SI, en lugar de IA, el término que prefiere Trump.

Lo que todavía no está claro

Aquí está el matiz principal. Según Axios y AI Weekly, el resumen de la Casa Blanca no aclara qué tipo de incidentes justificarían usar el canal ni qué notificaciones se darían las partes. Según el análisis de AI Weekly, falta lo que sería el manual de funcionamiento: no hay una clasificación publicada de los supuestos que activarían el aviso, ni un responsable nombrado en cada lado, ni un calendario para que los laboratorios privados aporten incidentes al canal. Es decir, es un compromiso de crear un camino entre gobiernos para cuando algo vaya mal, no un canal ya operativo.

Dos relatos de la misma reunión

La versión china usa el término IA, y su resumen oficial habla de un diálogo China-EE.UU. sobre IA. Las fuentes discrepan sobre cuánto del detalle operativo recoge el comunicado de Pekín: según un análisis, el diálogo, la fecha de noviembre y el canal de incidentes viven en el resumen estadounidense, mientras que otra cobertura indica que el relato chino confirma la fecha y menciona el canal. Lo prudente es esperar a que ambas partes publiquen los términos concretos. Según Nukta, Xi subrayó en sus declaraciones la necesidad de evitar la escalada sistémica y mantener los sistemas autónomos bajo supervisión humana.

Por qué importa un canal así

Los canales de crisis existen porque un malentendido técnico puede escalar antes de que alguien lo aclare. En IA, los ejemplos ya no son teóricos: hemos visto una alucinación que casi provoca un incidente militar con China y agentes que se escaparon de su entorno de pruebas. Un análisis de Lawfare, previo a la cumbre, ya defendía que una línea directa de IA podría evitar la escalada involuntaria y ayudar a construir una cultura de uso de las líneas de crisis, con precedentes como el acuerdo de incidentes en el mar de 1972 que propuso como modelo una comisión de seguridad nacional estadounidense.

Reacciones

• Según The Guardian, citado por Türkiye Today, algunos expertos y gobiernos esperaban un avance mayor en IA en la cumbre.
• Ro Khanna, el demócrata de mayor rango en el comité de la Cámara sobre China, dijo que Trump desaprovechó una oportunidad fácil.
• Según Deutsche Welle, el acuerdo se acompañó de esfuerzos de comunicación militar en crisis.

Qué implica en la práctica

Para las empresas de IA, un canal entre gobiernos plantea la cuestión de qué incidentes deberán comunicar a sus autoridades. Para la industria y la investigación, el diálogo puede abrir la puerta a estándares comunes de notificación. Para el resto del mundo, es una señal de que las dos potencias aceptan que existen riesgos compartidos, en el marco de una cumbre que dejó pocos acuerdos en otros ámbitos.

Nuestra lectura

El anuncio es un avance, pero de los que se juzgan por lo que ocurre después. Un canal solo sirve si se usa a tiempo, si hay interlocutores identificados y si ambas partes entienden lo mismo por incidente. La ronda de diálogo prevista antes de noviembre será la primera prueba de si se concreta. Mientras tanto, es prudente leer las cifras y los términos de cada lado con cautela, y recordar que un compromiso en un comunicado no equivale a un mecanismo operativo.

Fuentes: Axios, AI Weekly, Türkiye Today y Lawfare.