El caso de las torres de vigilancia de la frontera sur de Estados Unidos, que ha llegado hasta el Congreso, deja una lección que va más allá de este programa: casi siempre se anuncia lo que un sistema de vigilancia con IA puede detectar, y casi nunca se mide lo que ocurre después. La investigación de MIT Technology Review sobre las torres y los movimientos posteriores permiten formular cinco preguntas que sirven para evaluar cualquier programa público de este tipo, desde cámaras de matrículas hasta gafas inteligentes. Aquí están, con lo que se sabe en cada caso.
1. ¿Qué se mide exactamente?
La CBP, según el reportaje, dice evaluar la tecnología por su efecto en la detección, la coordinación de la respuesta, la seguridad de los agentes y los resultados de las misiones. Pero, según la investigación, el Departamento de Seguridad Nacional no lleva registro de las muertes ocurridas al alcance de las torres ni de otras métricas de éxito o fracaso, y la agencia nunca ha examinado formalmente si las torres deberían haberlas detectado. Un indicador que no se calcula no se puede discutir. Se ha detectado a cuántas personas es un dato distinto de se ha ayudado o se ha llegado a tiempo.
2. ¿Qué se conserva para poder investigar?
Según la investigación, las imágenes y los datos de las torres de Anduril se sobrescriben cada 30 días, y un antiguo funcionario de asuntos internos de la CBP dijo que no se guardan más tiempo salvo que formen parte de una investigación activa, que solo se abre si alguien muere bajo custodia. Sin datos no hay forma de comprobar después si una torre vio o no a alguien, y esa es una carencia de diseño, no un detalle técnico.
3. ¿Cuál es el alcance real, no el anunciado?
El fabricante, Anduril, respondió que el alcance depende del terreno, los obstáculos y los límites virtuales que fija la CBP, y que un incidente cercano no implica que la torre no detectara nada. Es un argumento razonable. Pero es precisamente la evaluación independiente la que puede resolver la duda: el reportaje aplicó análisis topográfico a casos concretos y concluyó que algunas personas debían ser visibles. Sin ese contraste, se depende de la palabra de quien vende y de quien opera.
4. ¿Quién evalúa, y con qué independencia?
La representante Delia Ramirez propone acabar con el programa como parte de un plan más amplio para desmantelar el DHS, algo con pocas opciones en el Congreso actual, como ya analizamos en el proyecto de ley de Ramirez. Aunque se rechace esa propuesta, queda el punto de fondo: un programa que planea gastar unos 1.000 millones de dólares en cerca de 1.500 torres más hasta 2034 debería someterse a una evaluación ajena a quien lo contrata y a quien lo fabrica. Un profesor que ha estudiado esta tecnología admite que probablemente ofrece información útil en ciertos lugares y condiciones, y esa es una hipótesis que se puede comprobar.
5. ¿Qué pasa cuando falla?
Un sistema de detección es tan útil como la respuesta que dispara. En el caso de las torres, el reportaje documenta más de 1.050 muertes al alcance de su cobertura entre 2015 y principios de 2026, una cifra que mide proximidad, no evitabilidad, y que analizamos en nuestro artículo sobre esa investigación. Preguntar qué ocurre cuando falla implica saber quién responde, cómo se documenta y qué cambia después.
Las mismas preguntas en otros casos
- Flock: cuando decenas de gobiernos locales cancelan contratos, la pregunta es qué evidencia de eficacia se les pidió antes de firmar, como vimos en la oferta de bajas voluntarias de la empresa.
- Gafas inteligentes: la policía de Delhi las usó para grabar protestas mientras Meta defiende su LED de captura; la pregunta es quién verifica que la salvaguarda funciona, como recogimos en el caso de India.
Nuestra lectura
Estas cinco preguntas no toman partido por mantener o eliminar un programa concreto: sirven para saber si se puede juzgar con datos. En el caso de las torres, hoy no se puede, y eso es lo más preocupante, sea cual sea la conclusión. Cualquier ciudadano, periodista o concejal que se enfrente a un contrato de vigilancia con IA puede usarlas como lista: qué se mide, qué se conserva, cuál es el alcance real, quién evalúa y qué ocurre cuando falla.
Fuentes: MIT Technology Review, investigación, metodología y el anuncio de la ley de Ramirez.
1 comentario en «Cómo saber si un sistema de vigilancia con IA funciona: cinco preguntas que faltan en la frontera»