Robert O’Callahan, ingeniero de Google DeepMind en Auckland, Nueva Zelanda, ha dimitido alegando que el ritmo actual de desarrollo de la IA es «demasiado elevado». Lo llamativo de su caso no es solo la dimisión en sí, sino quién la firma: no es un investigador de alineación ni de seguridad de modelos, sino un ingeniero de herramientas de diseño de chips, y él mismo se ha esforzado en distanciar su decisión de la ola reciente de renuncias muy comentadas en el sector.
Quién es O’Callahan y en qué trabajaba
Según AI Miracle, O’Callahan trabajó antes en Mozilla, creó el depurador rr y la herramienta Pernosco, y más recientemente construyó herramientas de diseño de chips dentro de Google DeepMind. No trabajaba directamente en el desarrollo de modelos de IA: su equipo mejoraba herramientas para el diseño de hardware, pensadas para acelerar la creación de una nueva generación de chips de IA más rápidos y baratos.
Qué dijo exactamente
En su publicación en X del 25 de septiembre, escribió: «Disfrutaba mi trabajo y quería a la gente, pero mi equipo en GDM estaba trabajando en una nueva generación de chips para hacer la IA mucho más rápida y barata, y creo que la IA ya está progresando demasiado deprisa, así que tuve que dejarlo». Según The Decoder, en su publicación más extensa, titulada «Goodbye Google», calificó el riesgo de una IA superinteligente como «real pero incierto» y describió aspirar a una superinteligencia artificial en el corto plazo como «inherentemente irresponsable». También advirtió de riesgos más inmediatos: rendición cognitiva, psicosis inducida por IA, soledad, concentración de poder, disrupción económica, riesgos de ciberseguridad y falta de rendición de cuentas. Dijo que apostaría a que los daños de la IA superan a sus beneficios.
Un matiz que él mismo subrayó
Aquí está la precisión más importante, que el resumen inicial de esta noticia pasaba por alto. Según OfficeChai, O’Callahan fue cuidadoso en distanciar su decisión de la ola de salidas de alto perfil por seguridad de IA que han dominado los titulares en las últimas semanas, diciendo que la coincidencia en el tiempo fue casual y que se debió sobre todo a un viaje de mochilero planeado desde hacía tiempo. Es decir, él mismo pide no leer su salida como parte de una tendencia coordinada, aunque coincida cronológicamente con otras.
Otras salidas recientes, para contexto
Según Aroged, el mes pasado otro investigador de Google DeepMind, Bilal Chughtai, dijo que había dejado la empresa durante el verano porque le preocupaba que los humanos no tuvieran suficiente tiempo para evitar que la IA nos haga daño. Y según AI Front Page, la salida de O’Callahan llega en medio de un debate más amplio entre investigadores de IA, que incluye al investigador de Anthropic Jacob Coxon, que dimitió a principios de septiembre, y a Evan Hubinger, responsable de ciencia de alineación en Anthropic. Son casos distintos, con motivaciones propias, que conviene no fundir en una única narrativa.
Su propia valoración del impacto
Según LatestLY, O’Callahan reconoció que su salida individual tendrá un impacto limitado dada la escala global del desarrollo de IA, pero sostuvo que ignorar las implicaciones éticas de su trabajo no sería coherente con sus propios principios (se describe como cristiano practicante en su perfil). También dijo creer que la regulación de la industria es «desesperadamente necesaria», según NewsBytes.
Qué implica en la práctica
- Una voz distinta al debate: a diferencia de los investigadores de alineación que suelen protagonizar estas salidas, O’Callahan aporta la perspectiva de alguien que trabajaba en el hardware que sostiene físicamente el avance de la IA, no en los propios modelos.
- Ninguna salida individual frena la industria: como segñala AI Miracle, que un ingeniero se vaya no va a ralentizar la hoja de ruta de chips de Google, pero suma otra voz crítica desde dentro.
- Conviene distinguir motivaciones: este caso, a diferencia de otros, no se presenta como parte de una protesta coordinada, según el propio protagonista.
Nuestra lectura
Lo más interesante del caso de O’Callahan no es que sume una firma más a la lista de renuncias por preocupaciones sobre IA, sino que él mismo pida cautela al interpretarla: no es una protesta coordinada, sino la decisión individual de alguien que, tras años de considerar su trabajo «relativamente inofensivo», concluyó que su efecto principal era acelerar una tecnología que ya avanza, en su opinión, más rápido de lo que la sociedad puede digerir.
Fuentes: The Decoder, OfficeChai, AI Miracle y Aroged.