OpenAI atraviesa una semana especialmente tensa en materia de seguridad. El 1 de octubre se conoció que la compañía había despedido a tres investigadores de su equipo de seguridad por, según su propia versión, incumplir las normas sobre el acceso y manejo de información sensible. Dos días después, David Robinson, uno de los responsables de los informes de seguridad que acompañan a sus grandes lanzamientos, publicó en The Atlantic un ensayo titulado «Dejé OpenAI porque su cultura está rota».
Los tres despidos, según lo que se sabe
El Wall Street Journal informó el 1 de octubre de que OpenAI se había separado de tres miembros de su equipo de seguridad que presuntamente compartieron información confidencial con una organización externa de seguridad en IA. Un portavoz de la compañía lo confirmó con una declaración breve: han prescindido de tres personas «por violar nuestras políticas sobre acceso y manejo de información sensible de la empresa». Según Bloomberg, la información en cuestión estaba relacionada con la arquitectura de la infraestructura de OpenAI. OpenAI no ha detallado qué documentos o datos se compartieron ni ha identificado a la organización externa implicada, y los tres investigadores tampoco han dado públicamente su versión con detalle. Se trata, por tanto, de acusaciones sin verificación independiente.
Quién es David Robinson
Robinson explica en su ensayo que pasó tres años y medio en OpenAI, un tiempo que, según él, le sitúa entre los empleados más veteranos de la compañía. Dirigió el trabajo de transparencia del equipo de seguridad, participó en la redacción del marco de preparación (Preparedness Framework) y supervisó los informes de seguridad publicados con 12 lanzamientos de modelos de frontera. Dimitió la semana del 28 de septiembre y publicó su ensayo el sábado 3 de octubre. Su salida fue informada primero por Business Insider.
Qué dice el ensayo
Robinson se describe a sí mismo, con ironía, como «algo así como un cliché»: un empleado de una gran empresa de IA que lanza una advertencia sombría al marcharse. Su tesis es que el problema no se resuelve solo con normas concretas o nuevas leyes, sino con un cambio en la cultura de estas empresas. «La hora del ensayo y error ha terminado», escribe. Sostiene que OpenAI y el resto de las compañías del sector no están siendo «ni de lejos lo bastante cuidadosas», y que deberían dar más peso a la experiencia y la investigación en seguridad antes de desarrollar sistemas más capaces. «Mientras la empresa corre de un lanzamiento al siguiente, no alcanza el nivel de cuidado que creo necesario», afirma.
La crítica al despliegue iterativo
Un punto central es la crítica a lo que OpenAI llama «despliegue iterativo»: lanzar sistemas y reforzar las salvaguardas a medida que surgen problemas. Robinson defiende que los sistemas cada vez más capaces requieren garantías más parecidas a las de sectores como la aviación o la energía nuclear, con redundancias, y no un enfoque de corregir después de desplegar. También advierte de que las medidas actuales de cuánto se ajustan los sistemas a los valores humanos son «toscas», y que «cuanto más inteligentes dejen crecer los modelos mientras estos problemas siguen sin resolverse, más peligrosa se vuelve la situación». Según la cobertura, el propio ensayo reconoce que OpenAI sostiene que defiende sus prácticas de seguridad.
Una cultura que va más allá de una empresa
Mientras gran parte de la información sobre OpenAI se ha centrado en la pérdida de confianza de antiguos colegas en su consejero delegado, Sam Altman, el ensayo de Robinson sugiere que los problemas de cultura de OpenAI son los mismos de Silicon Valley en general. Es un matiz relevante: su crítica no apunta solo a una compañía, sino a la dinámica competitiva de todo el sector.
Un patrón que ya había ocurrido
La historia recuerda a episodios anteriores. En mayo de 2024, Jan Leike dejó OpenAI diciendo que la cultura y los procesos de seguridad habían pasado a un segundo plano frente a los «productos brillantes», y la compañía disolvió el equipo de superalineamiento que él y Ilya Sutskever codirigían. Ese mismo año, OpenAI despidió a dos investigadores por presuntas filtraciones. Un medio especializado cuenta la de Robinson como al menos la séptima salida de un responsable de seguridad en unos dos años, una cifra que procede de una sola fuente y que conviene tomar con cautela.
El contexto: una posible salida a bolsa
Parte de la cobertura señala que estas salidas llegan mientras OpenAI apunta, según se informa, a una salida a bolsa en el cuarto trimestre de 2026, lo que aumenta el escrutinio sobre sus prácticas. También llegan tras un informe de The New York Times según el cual la empresa habría pasado por alto advertencias de empleados sobre sus prácticas de seguridad al probar modelos.
Qué implica en la práctica
- Para el debate sobre seguridad en IA: el ensayo desplaza la discusión desde qué reglas aprobar hacia qué incentivos y qué cultura interna tienen las empresas.
- Para los empleados que quieren alertar: el despido de tres personas por compartir información con un tercero muestra el conflicto entre confidencialidad corporativa y supervisión externa.
- Para leer estas noticias: el testimonio de un antiguo empleado es información de primera mano, pero también la de alguien que participó en el sistema que critica.
Nuestra lectura
Es sano recordar que quienes se van y critican a su empresa tienen su propia perspectiva, y que OpenAI mantiene que refuerza sus prácticas. Aun así, la coincidencia de los despidos, la dimisión de Robinson y el patrón de salidas anteriores alimenta una pregunta que la compañía tendrá que responder con hechos, no solo con comunicados: cómo se decide cuánta seguridad es suficiente antes de lanzar un modelo, y quién puede verificarlo desde fuera.
Fuentes: TechCrunch, Calcalist y The Hacker News.