OpenAI ha anunciado la creación de un grupo asesor independiente de matemáticos, tras una serie de anuncios de resultados matemáticos que acabaron generando una crisis de reputación en la comunidad. La iniciativa, presentada el lunes 21 de septiembre, es un intento de mejorar cómo la empresa presenta y publica lo que producen sus modelos. Los matemáticos consultados lo ven como un buen primer paso, pero con dudas sobre su alcance real, y el propio texto de OpenAI deja claro qué queda fuera de su mandato.
Qué se ha anunciado
Se trata del Grupo Asesor sobre Matemáticas e Inteligencia Artificial, alojado en el Institute for Advanced Study de Princeton, en Nueva Jersey, y formado, según varias coberturas, por nueve matemáticos de primer nivel. Según el anuncio, aconsejará sobre la revisión y la comunicación de los resultados emergentes: ayudará a valorar su importancia, a coordinar su difusión y a respetar los estándares académicos y profesionales de la investigación matemática. También opinará sobre cómo las herramientas de IA pueden apoyar la investigación y el aprendizaje. OpenAI afirma que el grupo operará con independencia de la empresa, con libertad para ofrecer consejos que nadie le haya pedido, comentar el impacto de OpenAI en las matemáticas y hacer públicas sus recomendaciones.
El límite que la propia empresa fija
Hay un punto que conviene no pasar por alto. El anuncio establece que el grupo no se encargará de aconsejar sobre el ritmo del progreso matemático interno de la empresa. Es decir, podrá opinar sobre cómo se comunican los resultados, pero no sobre si conviene producirlos más despacio. TechCrunch lo destaca justo después de recordar que, a principios de mes, 25 matemáticos galardonados con la Medalla Fields firmaron una carta abierta en la que sostienen que los laboratorios de IA amenazan su trabajo intelectual mientras compiten por resolver problemas famosos, y de que OpenAI dice que su IA ha resuelto ya más de un centenar de problemas abiertos.
El contexto: los anuncios que precedieron al grupo
La formación del grupo llega tras episodios como el anuncio, el 8 de septiembre, de una solución al problema de existencia y suavidad de las ecuaciones de Navier-Stokes, uno de los problemas del milenio, en su variante con una fuerza externa. Según MindStudio, OpenAI dijo que el resultado se verificó con el asistente de demostraciones Lean y que en él intervinieron unos 10.000 agentes de IA que intercambiaron cerca de cinco millones de mensajes durante unas 88 horas. El anuncio desató una disputa: los matemáticos Tristan Buckmaster y Levent Alpöge, este último empleado de Anthropic, habían anunciado el día anterior una singularidad para las ecuaciones de Euler, y acusaron a la empresa de haberse apoyado en su método, algo que OpenAI niega. Scientific American añade otra crítica: que la solución depende de una fuerza externa, cuando la mayoría de los expertos piensa en el problema sin ella. El resultado, según Wikipedia, no ha sido verificado de forma independiente todavía. Ya recogimos el debate en nuestra cobertura previa sobre las ecuaciones de Navier-Stokes.
Las reacciones de los matemáticos
- Buen primer paso, con dudas: según The Verge, la llegada del grupo pilló por sorpresa a muchos investigadores, que se quedaron con preguntas básicas sobre qué hará exactamente, cómo se eligió a sus miembros y si OpenAI seguirá sus consejos.
- Torre de marfil: Francesco Fournier-Facio, futuro profesor en Heriot-Watt, se declaró ambivalente: cree que implicarse más solo puede mejorar las cosas, pero duda de que el grupo refleje a la comunidad afectada y dijo que da la sensación de una torre de marfil.
- Distancia con la mayoría: Simon Machado, de la ETH de Zúrich, cuestionó cómo se eligieron los nueve miembros y recordó que la realidad de los matemáticos de élite difiere de la que vive la mayoría.
- Argumento a favor de participar: Martin Hairer, miembro del grupo, defendió que sería hipócrita no implicarse ahora que OpenAI hace un esfuerzo, tras las críticas por su conducta y su comunicación.
Qué implica en la práctica
Para la comunidad matemática, el grupo puede ser un canal de interlocución, pero solo si publica sus recomendaciones y si la empresa las sigue. Para las demás empresas de IA, es un modelo posible de relación con comunidades científicas, lo que enlaza con el debate más amplio sobre lo rápido que avanza la IA respecto a las previsiones. Y para el público, es un recordatorio de que un resultado anunciado por una empresa no equivale a un resultado verificado por la comunidad.
Nuestra lectura
Crear un panel asesor no es lo mismo que cambiar de conducta, y el hecho de que quede fuera de su mandato el ritmo de trabajo es una limitación importante. A la vez, tiene sentido que quienes critican a la empresa participen en un foro que puede hacer públicas sus opiniones. Lo razonable es juzgarlo por lo que haga: si publica evaluaciones críticas, si la empresa coordina sus anuncios con él y si otros laboratorios adoptan procedimientos similares. Hasta entonces, es una promesa razonable con incertidumbres reales.
Fuentes: anuncio de OpenAI, TechCrunch, The Verge y Scientific American.