Acordar una pausa en el desarrollo de la IA es la parte fácil. Lo difícil es comprobar que todos la cumplen. A diferencia de un ensayo nuclear, que sacude sismógrafos a miles de kilómetros, entrenar un modelo enorme en un centro de datos no deja una huella visible desde fuera: solo hacen falta chips, electricidad y datos. Por eso la cuestión que más ocupa ahora a los investigadores en gobernanza de la IA no es solo si conviene frenar, sino cómo se verificaría un freno. Las respuestas técnicas existen en fase temprana, y sus límites son tan instructivos como sus promesas.
Por qué la verificación es el punto débil
Los tratados de control de armas se apoyaron en tecnologías de vigilancia como los satélites y los sismógrafos, y un informe citado por TIME recuerda que, según el precedente nuclear, poder verificar el cumplimiento suele ser necesario para que las partes acepten firmar. Aplicado a la IA, el argumento es que una pausa solo parece imposible porque todavía no existen los equivalentes de esos instrumentos. Como la IA vive físicamente en centros de datos, casi todas las propuestas parten de vigilar la computación: qué chips existen, dónde están y qué están ejecutando.
Las propuestas técnicas
Un piloto que TIME describió en agosto muestra por dónde van los tiros. Ingenieros de la consultora Amodo Design prueban en Sheffield, sobre ocho chips, un sistema de monitorización que aspira a instalarse algún día en cualquier centro de datos. Según la información publicada, permitiría demostrar que los chips solo ejecutan modelos ya existentes y no entrenan otros nuevos, e incluso qué modelo concreto se está ejecutando: una versión vigilante toma fragmentos de lo que hace el centro de datos y los vuelve a calcular para confirmar que el modelo es el declarado.
Otra vía, en la que trabaja Lucid Computing según TIME, se apoya en los entornos de ejecución confiables que fabricantes como Intel y Nvidia ya han desarrollado para que un chip pueda procesar información de forma confidencial, incluso frente al propietario del centro de datos. Los expertos citados añaden medidas complementarias: funciones de seguridad integradas en el hardware, vigilancia de las redes de los centros de datos y recursos más clásicos como la protección de denunciantes, las entrevistas al personal y la labor de los servicios de inteligencia. Encaja con la idea de confiar pero verificar que presidió la Guerra Fría.
Los límites de lo que existe hoy
- Coste de computación: el sistema que TIME vio en funcionamiento requería una potencia de cálculo equivalente a entre un tercio y un quinto del modelo que vigilaba, lo que podría reducir de forma notable la capacidad, y por tanto la rentabilidad, de cualquier centro de datos que lo aloje.
- Datos cifrados: según un análisis del boletín AI StopWatch, el sistema todavía necesita trabajo para manejar información cifrada.
- Capacidad oculta: ni el método de Amodo ni el de Lucid pueden confirmar que un adversario no esconda un centro de datos secreto, un límite señalado por TIME.
- Clústeres cada vez más pequeños: una taxonomía académica en arXiv concluye que evitar la fuga de un régimen de control y la adquisición de recursos sigue siendo abordable con umbrales de computación bajos, pero detectar capacidad oculta se vuelve intratable a medida que instalaciones más pequeñas bastan para capacidades avanzadas. Otro trabajo advierte de que el entrenamiento distribuido puede hacer útiles pequeños clústeres combinados.
- Subversión de la vigilancia: si los estados no confían en la monitorización de los chips, podrían recurrir a medidas más costosas, como apagar los chips y dejar que inspectores rivales comprueben que están desconectados, lo que encarece mucho la moderación.
El contexto político
Según TIME, Anthropic anunció en junio que dedicaría recursos a ayudar a construir los sistemas que exigiría una ralentización o pausa creíble. En julio, según AI StopWatch, más de mil empleados de empresas punteras pidieron al Gobierno que trabajara con la industria en los mecanismos de gobernanza necesarios para hacer viable una ralentización global. Y en septiembre el debate se reforzó con la propuesta de marcar el ritmo de la IA apoyada por varios consejeros delegados. AI StopWatch califica este campo de infrafinanciado, con pocos equipos dedicados a él.
Qué implica en la práctica
- Verificar es condición previa: sin herramientas creíbles de comprobación, cualquier acuerdo, incluso entre potencias, se apoya solo en la buena fe.
- El coste importa: una vigilancia que consume un tercio de la potencia que vigila choca con los incentivos económicos de quienes la alojan.
- El diseño del hardware: incorporar funciones de verificación en los propios chips es más viable si se decide antes de fabricarlos.
- La dimensión internacional: cualquier régimen sin las grandes potencias tiene poco alcance, como muestra la dificultad de mantener canales como el teléfono rojo de IA entre EE.UU. y China.
Nuestra lectura
La conclusión honesta es que las tecnologías de verificación existen como prototipos, tienen costes elevados y presentan huecos de fondo, en especial la capacidad oculta. No hay hoy un mecanismo que permita a dos partes desconfiadas comprobar de forma completa que el otro no entrena en secreto. Pero su desarrollo es barato en comparación con lo que está en juego y puede hacer viables formas parciales de moderación, como comprobar que una instalación por encima de cierto umbral no está entrenando.
También conviene señalar que vigilar centros de datos plantea sus propios problemas de privacidad, seguridad y secreto comercial, y que un debate sobre pausas sin estas herramientas corre el riesgo de quedarse en declaraciones. Es un enfoque distinto y más técnico que el de propuestas como el proyecto de ley para prohibir la superinteligencia: aquí la pregunta no es qué prohibir, sino cómo saber si algo se cumple.
Fuentes: TIME (agosto), TIME (junio), taxonomía académica en arXiv y AI StopWatch. El tema lo planteó también Wired.