Cuando un modelo de lenguaje se equivoca, el resultado suele ser una respuesta mala o un texto que hay que corregir. Cuando el sistema que falla pilota un dron militar, conduce un camión por una autopista o suelda una pieza estructural de un vehículo, el margen de error desaparece. Tres organizaciones que trabajan justo en ese terreno, Shield AI, Waabi y General Motors, comparten un panel en TechCrunch Disrupt 2026, del 13 al 15 de octubre en San Francisco, bajo el título Building AI Systems When Failure Is Not an Option. Más allá del anuncio del evento, lo interesante es lo que ya se sabe de cómo cada una construye fiabilidad en sistemas donde fallar tiene consecuencias físicas.
Quiénes participan
Según TechCrunch, el panel reunirá a Nathan Michael, director de tecnología de Shield AI; Raquel Urtasun, fundadora y consejera delegada de Waabi; y Mikell Taylor, directora de estrategia de robótica del Centro de Robótica Autónoma de General Motors. Michael dirigió antes el Resilient Intelligent Systems Lab de Carnegie Mellon, centrado en validar sistemas multirrobot. Urtasun fundó Waabi en 2021 tras dejar la dirección de investigación de IA de Uber ATG.
Lo que cada organización aporta al problema
- Shield AI: desarrolla autonomía para entornos de defensa. Según HyperAI, la compañía ha sido seleccionada recientemente como proveedora de software de misión para fuerzas armadas estadounidenses, un contexto en el que un fallo puede comprometer una misión o poner en riesgo vidas.
- Waabi: lleva la conducción autónoma a camiones de carga. Según Newsy Today, se apoya en Waabi World, su propio simulador, para entrenar y poner a prueba los sistemas de conducción antes de llevarlos a la carretera real, precisamente porque, como plantea Urtasun, nadie puede exponer un vehículo autónomo a todas las situaciones posibles del mundo real antes de certificarlo.
- General Motors: integra IA y robótica en la fabricación de vehículos que conducen millones de personas, a través de su Centro de Robótica Autónoma.
Los temas que se abordarán
Según la propia TechCrunch, la conversación tratará sobre cómo crear una cultura de seguridad, cómo probar y validar estos sistemas, cómo sortear los obstáculos regulatorios y cómo generar confianza en tecnología que opera con supervisión humana limitada. Son las mismas preguntas que ya aparecen en otros ámbitos de la IA de alto riesgo, como el debate sobre si existen garantías reales de controlar a los agentes de IA o sobre cómo verificar que un sistema cumple lo que promete.
Por qué este debate importa más allá del evento
La IA física, la que pilota, conduce o fabrica, no admite el mismo margen de iteración que un chatbot: un fallo no se corrige con la siguiente respuesta. Eso obliga a un tipo de validación distinta, con pruebas exhaustivas, simulación a gran escala y procesos regulatorios que no existen para la mayoría del software de IA de consumo. Las tres organizaciones representan sectores distintos, defensa, transporte de mercancías y fabricación de automóviles, pero comparten el mismo reto de fondo: demostrar fiabilidad antes de desplegar, no después de un incidente.
Qué implica en la práctica
- Para el sector: la simulación a gran escala, como la de Waabi World, se está convirtiendo en un paso previo obligado antes de cualquier despliegue físico.
- Para los reguladores: sistemas de este tipo exigen marcos de certificación específicos, distintos de los que se aplican al software convencional.
- Para el debate público: la confianza en la IA física se construye con datos de pruebas y validación, no con demostraciones puntuales.
Nuestra lectura
Más allá de la promoción del propio evento, el tema de fondo es real y relevante: a medida que la IA se traslada del texto y la imagen a sistemas físicos con consecuencias irreversibles, la pregunta deja de ser qué tan capaz es un modelo para pasar a ser cómo se demuestra, de forma verificable, que no va a fallar en el peor momento. Es un estándar mucho más exigente que el que rige hoy a la mayoría de los productos de IA generativa, y las respuestas concretas de estas tres organizaciones merecerán seguimiento.
Fuentes: TechCrunch, HyperAI y Newsy Today.