Documentos del caso del NYT: Microsoft alertó internamente de un doom loop para la web

Unos documentos judiciales hechos públicos el 17 de septiembre en la demanda del New York Times contra Microsoft y OpenAI han puesto sobre la mesa lo que directivos de ambas compañías pensaban en privado sobre el entrenamiento de sus modelos con contenido de terceros. El más citado es Brent Hecht, director de ciencia aplicada de Microsoft, que en un memorando interno describió esa práctica como el mayor robo de trabajo de la historia humana. Es una frase llamativa, pero conviene leerla con contexto: son citas que el demandante extrae de documentos internos, no conclusiones de un tribunal.

Qué revelan los documentos

Según los escritos desprecintados, unas 92 páginas según The Verge, y el resumen de TechCrunch, Hecht escribió en enero de 2023 que mucha gente acabaría viendo el aspirado masivo de su trabajo por parte de los grandes modelos como un robo de proporciones sin precedentes. Más tarde, en una presentación interna de enero de 2024, describió el efecto de la estrategia de contenido de IA como un «doom loop», un círculo vicioso que perjudicaría a la vez el rendimiento de los modelos y a toda la web. En otro pasaje, el documento de Microsoft reconoce que resulta muy inusual que un producto final amenace los fundamentos económicos de sus proveedores esenciales, y que eso es lo que se había creado con el negocio de modelos de lenguaje respecto a su cadena de suministro de contenido.

La demanda añade otro elemento: según el escrito, la propia dirección de OpenAI habría dicho que sus modelos suponen una amenaza existencial para los editores y periodistas cuyo trabajo sirvió para entrenarlos. Es una afirmación de la demanda, no un hecho probado.

Qué es el doom loop y por qué preocupa

El mecanismo es sencillo. Si los chatbots responden directamente en lugar de dirigir tráfico hacia las páginas que aportaron los datos, los editores pierden visitas e ingresos; con menos ingresos producen menos contenido de calidad y, con menos contenido de calidad, los propios modelos, que dependen de él para aprender y para responder sobre la actualidad, empeoran. Se ha popularizado el término Google Zero para el escenario en que el tráfico de los buscadores hacia los medios se reduzca a casi nada. La demanda plantea precisamente que los chatbots sustituyen a los sitios de origen en lugar de derivar lectores hacia ellos.

Los números que cita el Times

Según AI Weekly, el Times aporta cifras de caídas de entre el 83% y el 93% en la tasa de clics hacia los editores cuando aparecen respuestas generadas por IA por encima de los enlaces. Además, los escritos indican que un conjunto de datos derivado de Common Crawl incluía más de dos millones de documentos solo de nytimes.com, y que OpenAI entregó a Microsoft el conjunto completo de entrenamiento de GPT-3, que Microsoft usó para evaluar cómo integrar los modelos en sus productos. Son afirmaciones recogidas en el escrito del demandante, sujetas a contraste durante el proceso.

La respuesta de Microsoft

Microsoft ha intentado distanciarse de las palabras de Hecht. Un portavoz, Alex Haurek, dijo a The Verge que esos comentarios no deben confundirse con conclusiones sobre las cuestiones de derechos de autor que el tribunal tiene ante sí, y que la compañía aborda en sus escritos. Es una distinción relevante: una opinión interna de un empleado, por directivo que sea, no equivale a la posición jurídica de la empresa ni a un hecho probado. Según AI Weekly, Hecht también escribió que apoyarse en el uso legítimo como defensa dejaría en ridículo esa doctrina; de nuevo, es una opinión y no una decisión judicial.

Qué no significa

• No hay sentencia: el caso, que el Times presentó a finales de 2023, sigue su curso, y estos documentos son pruebas citadas por una de las partes.
• El uso legítimo sigue abierto: si entrenar modelos con contenido protegido cabe dentro del fair use es una cuestión legal que decidirán los tribunales, no los titulares.
• Advertir de un riesgo no prueba mala fe: que alguien avisara internamente de un efecto negativo no demuestra por sí solo una conducta ilegal; los jueces valorarán el contexto completo, y lo que se ha publicado es una selección hecha por una de las partes.

Qué implica en la práctica

Para los editores, los documentos son munición en las negociaciones de licencias y en la discusión sobre daños, un debate que ya se ve en otras demandas, como la de periódicos contra OpenAI, y en el frente musical con la demanda de Sony y UMG contra Suno. Para las empresas de IA, muestran el riesgo de que los debates internos acaben en manos de la parte contraria y refuerzan el incentivo a cerrar acuerdos de licencia. Y para la web en su conjunto, plantean la pregunta de cómo se financia el contenido que los modelos necesitan, con propuestas técnicas como la de Cloudflare de que los agentes paguen por acceder.

Nuestra lectura

Dos cosas pueden ser ciertas a la vez. Los documentos tienen un tono dañino para las demandadas y sirven al demandante, pero no resuelven la cuestión legal, y conviene desconfiar de los titulares que presentan una selección de citas como un veredicto. Lo más duradero es la idea económica que aparece en el propio documento de Microsoft: un producto que depende de proveedores a los que puede debilitar tiene un problema estructural.

Se resuelva en los tribunales, con licencias o con protocolos técnicos, alguien tendrá que financiar el contenido del que aprenden los modelos. El debate ya no es si hay que hacerlo, sino quién paga, cuánto y con qué reglas.

Fuentes: TechCrunch, AI Weekly y The Verge.