Un analista militar pidió a un chatbot que revisara la documentación de carga de un buque chino. La IA concluyó, erróneamente, que el barco transportaba componentes de un programa de armas nucleares. Ese error, empaquetado después como informe de inteligencia, llegó a poner en marcha los preparativos para abordar la nave. Según CNN, que lo publicó el 18 de septiembre apoyándose en cuatro fuentes conocedoras del caso, la operación se detuvo a última hora, cuando alguien decidió revisar el documento a fondo.
Qué ocurrió, según lo publicado
El relato que recogen CNN y Ars Technica es el siguiente. Un analista del Mando de Operaciones Especiales del Pacífico usó un chatbot para analizar información sobre el manifiesto de un carguero con bandera china que operaba en Oriente Medio, en plena guerra de Estados Unidos con Irán. El chatbot identificó mal el material que llevaba el barco. Después, el mismo analista volvió a recurrir a la IA para convertir esa conclusión en un informe de inteligencia estándar, el tipo de documento en el que confían los mandos, y el informe circuló por la estructura militar.
La alarma fue inmediata. Según dos de las fuentes de CNN, personal armado se preparaba para subir al barco. Solo poco antes de la operación se investigó el origen del informe y se descubrió que se había elaborado con ayuda de IA y que era incorrecto. Una de las fuentes lo calificó de completamente falso y aseguró que estuvo cerca de provocar una guerra. El buque continuó su travesía comercial.
Conviene mantener la cautela: todo el relato descansa en fuentes anónimas. No se ha identificado ni el chatbot ni su proveedor, no son públicos los mensajes ni las pruebas sobre la carga, y el Pentágono y el mando implicado no respondieron a las peticiones de comentario de CNN.
Por qué una IA se inventa algo así
Los modelos de lenguaje no consultan una base de hechos verificados: generan la continuación más plausible a partir de patrones aprendidos. Cuando la información es ambigua o incompleta, como puede ocurrir con un manifiesto de carga, pueden rellenar el hueco con algo verosímil y expresarlo con la misma seguridad que un dato correcto. En el texto final no hay una señal fiable que distinga entre «esto consta en el documento» y «esto me lo he inventado». Los modelos más recientes fallan menos, pero no han eliminado el problema, y por eso las organizaciones serias insisten en que la responsabilidad del resultado sigue siendo de la persona que lo entrega.
El fallo no fue solo de la IA, sino de la cadena
Si se mira el episodio paso a paso, hay tres eslabones débiles. Primero, se usó IA para interpretar documentación sensible sin contrastar la conclusión con la fuente original. Segundo, una segunda pasada de IA dio al resultado el formato y la apariencia de un informe oficial, con la autoridad que eso implica. Tercero, el documento circuló sin una verificación humana independiente. Lo que evitó el desenlace fue una revisión tardía, no un control diseñado para eso.
Es un patrón conocido como sesgo de automatización: la tendencia a fiarse del resultado de un sistema porque parece objetivo y rápido. Según las fuentes de CNN, este no sería un caso aislado, y no existen pautas conjuntas estandarizadas para detectar errores de IA en uno de los procesos más delicados de la actividad militar, la identificación y selección de objetivos.
El contexto: Washington acelera la adopción
Ars Technica recuerda que el secretario de Defensa, Pete Hegseth, publicó en enero una estrategia de aceleración de la IA que ordena al Pentágono adoptar estas herramientas con más rapidez en sus redes, y que la plataforma GenAI.mil se construyó sobre Gemini for Government antes de sumar Grok for Government como segunda opción. Esa prisa por integrar la tecnología convive con las dudas sobre sus controles, un debate que también asoma en el pulso legal entre el Pentágono y Anthropic.
Qué implica en la práctica
De este caso se desprenden medidas de sentido común que valen para cualquier organización que use IA en decisiones de peso:
- Verificación independiente obligatoria antes de que un contenido generado con IA sirva de base para decisiones con consecuencias graves.
- Trazabilidad: que cada informe indique qué partes salieron de IA y a partir de qué fuentes, para que quien lo lea sepa cuánto debe contrastar.
- Fricción deliberada en los pasos críticos: cuanto más caro es el error, más lento y comprobado debe ser el proceso.
- Canales de desescalada entre potencias, porque un malentendido causado por un error técnico se agrava si no hay forma rápida de aclararlo, como plantea la idea de un teléfono rojo de IA entre EE.UU. y China.
Nuestra lectura
Este episodio no demuestra que la IA sea inservible para el análisis de inteligencia; demuestra que el riesgo depende de cómo se integra. Un error de un chatbot en el trabajo diario suele costar un correo mal redactado. Aquí estuvo a un paso de una acción armada contra un buque de otra potencia. La IA acelera el trabajo, pero también acelera la propagación de los errores, y esa velocidad debe compensarse con controles proporcionales a lo que cuesta equivocarse.
También conviene ser prudentes con lo que aún no sabemos. Es un único caso, conocido por filtraciones y sin confirmación oficial. Lo que sí parece claro es que la pregunta relevante ya no es si los modelos alucinan, sino qué controles existen cuando lo hacen, algo que ya vimos en las alucinaciones de IA en los tribunales.
Fuentes: reportaje original de CNN y cobertura de Ars Technica.
1 comentario en «Una alucinación de IA casi provoca un incidente militar con China»