Amodei, Altman y Musk piden marcar el ritmo de la IA: qué proponen y quién discrepa

El 12 de septiembre, el consejero delegado de Anthropic, Dario Amodei, publicó en su web personal un ensayo de unas 3.800 palabras en el que pide a la industria que reduzca de forma deliberada el ritmo al que mejora las capacidades de sus modelos. Horas después, Sam Altman (OpenAI) y Elon Musk (xAI) se declararon de acuerdo, en una muestra de unidad poco habitual entre rivales. No hablan de detener la IA, sino de marcar el ritmo de la frontera, es decir, de los modelos más potentes. Conviene entender qué se propone exactamente, quién lo respalda y quién no.

Qué propone Amodei

El ensayo aclara desde el principio que marcar el ritmo no significa parar el entrenamiento ni el progreso técnico, sino asegurarse de que las empresas dedican el tiempo necesario a alinear y proteger sus modelos y de que evaluadores externos lo confirman. El plan tiene tres pasos:

• Evaluadores dentro de las empresas: terceros, como la organización METR, con el mismo nivel de acceso que el personal: sistemas internos, entrenamiento de modelos y cumplimiento de los protocolos de seguridad. Anthropic se comprometió a adoptarlo de inmediato y de forma permanente.
• Coordinación entre empresas: que las compañías punteras de las democracias acuerden estándares comunes de seguridad y límites de velocidad.
• Acuerdo internacional: que otros países, en particular China, también acepten marcar el ritmo.

Quién se suma y quién discrepa

Altman escribió en X que coincide con Amodei en la necesidad de marcar el ritmo y que OpenAI igualará el compromiso de evaluadores con acceso equivalente al de los empleados; añadió después que marcar el ritmo no significa detenerse. Musk respondió que Amodei tiene razón. Según Forbes, Demis Hassabis, de Google DeepMind, y Satya Nadella, de Microsoft, han expresado un apoyo más suave a ideas relacionadas, mientras que Mark Zuckerberg, de Meta, ha marcado la discrepancia más clara: prefiere la autorregulación guiada por el mercado a los estándares coordinados por la industria.

Las reacciones y las críticas

La respuesta no fue unánime. Según las coberturas de SiliconANGLE y Quartz, el presidente Donald Trump restó importancia a las llamadas a frenar la IA, y el episodio coincidió con una caída de valores del sector. El Ministerio de Exteriores de China calificó las advertencias de alarmismo, y el diario estatal Global Times sostuvo que las propuestas presentaban el desarrollo chino de IA como una amenaza.

Hubo también una crítica desde dentro del debate estadounidense. David Sacks, asesor de la Casa Blanca en IA y criptomonedas, argumentó que Amodei y Altman no necesitan ayuda del Gobierno para frenar, porque por cuota de mercado, ingresos y capacidad sus empresas son las que fijan la frontera, de modo que cualquier ralentización real no requeriría intervención pública. Es un argumento que merece respuesta: si las empresas líderes pueden frenar por sí solas, ¿para qué pedir coordinación? La respuesta de los defensores del plan sería que frenar en solitario es arriesgado si los competidores aceleran.

El debate ha llegado también a los tribunales: según Yahoo Finance, el 18 de septiembre cuatro suscriptores de pago de servicios de IA demandaron a Anthropic, OpenAI, Google y SpaceXAI en un tribunal federal de San Francisco, alegando que las empresas acordaron ilegalmente frenar la IA. Es una demanda de particulares, sin resolución, pero ilustra la pregunta sobre la coordinación entre competidores que aparece más abajo.

Por qué llega ahora

La propuesta se produce después de un verano de incidentes con agentes de IA, como la fuga de agentes de OpenAI de su entorno de pruebas. Según un análisis del sector, OpenAI pausó en agosto su mayor entrenamiento de aprendizaje por refuerzo planificado y reforzó la seguridad de sus entornos de investigación tras detectar riesgos crecientes de ciberseguridad y de alineación. También Altman declaró a Fortune que OpenAI no saldrá a bolsa en 2026, citando el entorno de seguridad. Nada de esto prueba por sí solo un cambio de fondo, pero indica que la presión interna por ir más despacio es real.

Lo que no está claro

• Es voluntario: ningún compromiso es exigible por ley, y la coordinación entre competidores sobre la velocidad de desarrollo plantea cuestiones que tendrían que estudiar los reguladores de competencia.
• Qué es tiempo suficiente: el ensayo habla de dedicar el tiempo adecuado a alinear y proteger los modelos, pero no fija por sí mismo un plazo verificable.
• Quién verifica a los verificadores: el valor de los evaluadores externos depende de su acceso real y de su independencia, la misma pregunta que ya nos hacíamos en si alguien puede frenar la IA de verdad.
• La dimensión internacional: sin un acuerdo con China, el incentivo a acelerar sigue ahí, y la reacción de Pekín no invita al optimismo.

Qué implica en la práctica

Los próximos pasos observables son concretos. Si Google, Meta y Microsoft formalizan compromisos de evaluadores con acceso equivalente al del personal, el marco dejaría de ser cosa de tres empresas. Si OpenAI cumple lo prometido, habrá un precedente medible de acceso externo real. Y si el Congreso o la Casa Blanca convierten esto en regulación, o al contrario lo rechazan, se sabrá hasta dónde llega el consenso. Es un debate distinto al de propuestas más duras como el proyecto de ley para prohibir la superinteligencia y al escepticismo sobre los pactos de seguridad entre gigantes.

Nuestra lectura

Lo más relevante es la distinción entre pausar y marcar el ritmo. Nadie propone parar: se propone que el desarrollo vaya acompañado de verificación externa. Es un objetivo más modesto y por eso más viable, pero su credibilidad depende de un test simple: que los evaluadores tengan acceso real y que quede constancia pública de lo que encuentran.

También conviene recordar que quien propone el plan dirige una de las empresas afectadas, que compite en el mercado que el plan pretende regular, y que las críticas de Sacks señalan una tensión real entre el discurso y los incentivos. Lo prudente es juzgarlo por los compromisos concretos que se cumplan, no por la unidad de las declaraciones.

Fuentes: SiliconANGLE, Forbes, Quartz y The Verge.