La imagen de una superinteligencia única que se mejora a sí misma hasta volverse inalcanzable ocupa buena parte del debate público sobre la IA. Un ensayo del DeepMind Institute, vinculado a Google, sostiene que es probablemente la visión equivocada. Sus autores, Benjamin Bratton, Blaise Agüera y Arcas y James Manyika, proponen en su lugar lo que llaman «inteligencia simbiótica artificial»: una inteligencia general que surgiría de un sistema social de personas y agentes de IA que cooperan, no de un modelo aislado y todopoderoso.
De qué trata el ensayo
El texto, titulado «Artificial symbiotic intelligence: Agents, AGI and the orchestration of many minds», argumenta que el problema central de la IA general dejaría de ser cómo construir una inteligencia aislada y pasaría a ser cómo orquestar, gobernar y convivir dentro de una red compleja de agentes de IA, personas y los sistemas que los conectan. Según los autores, la narrativa popular de la Singularidad, un modelo único que se arranca a sí mismo hasta una inteligencia aislada y casi divina, es probablemente una visión equivocada. Medios especializados lo han recogido a partir del 3 de octubre, aunque el ensayo se publicó a finales de septiembre.
La idea central: la inteligencia como fenómeno social
Los autores proponen entender la inteligencia no como una propiedad individual, sino como un fenómeno social, ya sea entre humanos, entre agentes de IA o, cada vez más, en combinaciones de ambos. En ese escenario, la inteligencia colectiva de las nuevas instituciones no se podría reducir a la inteligencia individual de los agentes que las componen. Los agentes, además, podrían ser mucho más diversos que las personas y funcionar con capacidades y límites distintos.
Lo que importa no es el tamaño del modelo
Según el resumen del propio ensayo, lo decisivo no sería el tamaño de los modelos, sino las reglas e instituciones que rigen cómo trabajan todos juntos. De ahí que los autores pidan diseñar instituciones que reúnan a participantes humanos y artificiales en roles claramente definidos, y que describan su meta como construir el andamiaje de un ecosistema sano en el que esa inteligencia simbiótica florezca como un colectivo amplio, robusto y «polífono». También introducen conceptos como la agencia descomponible y las instituciones de agentes, cuyas reglas generan resultados con independencia de quién ocupe cada papel.
Una consecuencia para la seguridad
El enfoque cambia también la forma de pensar la alineación. En este marco, el alineamiento sería «el resultado coevolutivo del contacto profundo y orgánico entre humanos, agentes e instituciones», no una restricción que se diseña de antemano. Es una postura distinta de la que defienden quienes buscan garantías técnicas dentro de cada modelo, y de la que sostienen otros equipos de la propia Google DeepMind, que ya habían explorado la hipótesis de una AGI «patchwork» formada por muchos agentes especializados, y un informe sobre cómo la IA podría ir de la AGI a la superinteligencia por cuatro vías, una de ellas colectivos de agentes.
Una reserva importante
Conviene situar el texto en su categoría. Es un ensayo conceptual publicado por la propia compañía, no un resultado experimental ni un trabajo revisado por pares, y sus autores defienden una visión del futuro, no demuestran que vaya a ocurrir. Tampoco debe confundirse el término con ASI, el acrónimo de superinteligencia artificial: el ensayo argumenta precisamente contra ese escenario de un único sistema que supera toda capacidad humana. Algunos comentaristas han calificado la lectura de útil pero también de frustrante, lo que refleja que la propuesta abre más preguntas que respuestas.
Qué implica en la práctica
- Para el debate sobre riesgos: desplaza la atención desde la potencia de un modelo concreto hacia la gobernanza de redes de agentes y personas.
- Para las empresas y reguladores: sugiere que las instituciones, es decir, las reglas de interacción, importarían tanto como los modelos.
- Para los usuarios: encaja con la idea de que la IA funciona mejor como complemento del criterio humano que como sustituto, un mensaje afín al de otros líderes del sector esta semana.
Nuestra lectura
Que uno de los laboratorios más importantes del mundo publique un texto que cuestiona el mito de la superinteligencia solitaria es relevante, aunque convenga leerlo con cautela: un marco atractivo no es una predicción. Su valor está en recordar que gran parte del futuro de la IA se decidirá en el diseño de reglas, roles e instituciones, y no solo en las gráficas de rendimiento de cada nuevo modelo.
Fuentes: DeepMind Institute, The Decoder y Envisioning.