Escanear libros de manera destructiva: el costo de entrenar a la IA

En “Una soledad demasiado ruidosa”, de Bohumil, Hanta ama los libros y, sin embargo, se dedica a triturarlos para convertirlos en reciclaje. En la Praga de los años 70, su oficio consiste en aplastarlos y compactarlos; un trabajo manual, lento, casi agónico que ejerce mientras intenta salvar en secreto algunos ejemplares raros de las políticas de censura del gobierno de turno. El protagonista, reflexiona: “los pensamientos verdaderos vienen de afuera y viajan con nosotros (…) en otras palabras, los inquisidores queman libros en vano”.

Décadas después, el Proyecto Panamá, una iniciativa de Anthropic, devuelve una inquietante actualidad a la imagen de destrucción del libro como objeto. Esta vez, de la mano de la industria tecnológica con el objetivo de extraer masivamente datos de calidad para asegurar el continuo refinamiento de su IA. La estrategia de la compañía consiste en la compra de libros físicos a distribuidoras y librerías de segunda mano que, una vez en su poder, son desmembrados con una cortadora hidráulica, escaneados en su contenido, y desechados como papel para reciclaje.

La estrategia de la destrucción

Este proyecto, que Anthropic quiso mantener en secreto, salió a la luz a comienzos de este año a raíz de un litigio iniciado en su contra por editoriales y personas escritoras por la violación del derecho de autor. El caso en cuestión puso en evidencia la descarga del contenido de librerías pirata, una práctica ilegal y por la cual la compañía compensará a quienes demandan con un acuerdo extrajudicial de 1.500 millones de dólares. Por otro lado, permitió conocer detalles del escaneo destructivo, que estaría amparado por la doctrina legal de la “primera venta”, vigente en Estados Unidos, que habilita a quien compra un libro a disponer de su copia como quiera, sin permiso del titular del derecho, incluso si eso implica destruirla.

El escaneo de libros no es una novedad, el problema actual reside en su carácter destructivo. Cuando atiende a un fin de preservación enfocado en asegurar el acceso al conocimiento, la información y la cultura para el bien público, se realiza bajo condiciones de manipulación y conservación meticulosa de la obra. La destrucción no es siempre necesaria y puede ser una medida aplicable a libros mal impresos o una forma de disposición final de catálogos sin vender cuyo coste de almacenamiento puede ser superior al de su venta, entre otros casos.

Pero Anthropic se inclinó, por una decisión de negocio, por un tipo de escaneo depredador, que implica cercenar libros para hacer más sencilla su digitalización en una industria acuciada por el acceso inmediato a nuevos datos para no detener el entrenamiento de los modelos de IA. Por ahora, los documentos del litigio no permiten precisar cuántos ejemplares han sido comprados, desmembrados y escaneados a la fecha, pero sugieren que la compañía proyectó adquirir en seis meses entre 500 mil y 2 millones de libros, incluidos los llamados raros e incunables —de la época de invención de la imprenta—.

Los libros como nueva frontera de la extracción de datos

Las inteligencias artificiales comerciales dedicadas al lenguaje, como Claude, ya digirieron la mayor parte de los contenidos generados por personas que circulan en línea, y necesitan más datos para sofisticar su funcionamiento.

A internet ya no pueden exprimirlo más. Hoy, más de un tercio de los contenidos que circulan en línea son generados por la IA, y su calidad inferior —comparada con la de los contenidos producidos por personas—, trae consigo un alto riesgo de colapso de la IA: resultados cada vez más incoherentes, homogéneos y sesgados.

La escasez de datos generados por personas es tal que otras compañías desarrolladoras de grandes modelos de lenguaje (LLM por sus siglas en inglés) han empleado salidas similares a las de Anthropic. Meta llegó a contemplar la compra de editoriales para disponer a su antojo de su catálogo. Amazon, de manera secreta, sigue la estrategia del escaneo destructivo. Open AI y Google se han inclinado, por ahora, a la digitalización de libros en el dominio público. Entre tanto, Elon Musk ha señalado que para el caso de Grok se abstendría de destruir libros raros, sin que sea del todo claro qué considera el magnate como tal.

Cuando los LLM colapsan se erosiona no solo la calidad de sus resultados, sino también el atractivo de tecnologías costosas que se disputan un mercado altamente competitivo. De ahí que los libros adquieran hoy relevancia como nueva frontera de la explotación intensiva de datos: ofrecen información comparativamente de mejor calidad frente a otros datos disponibles, como los sintéticos (creados por otras IA), pues su capacidad representativa es más fiel al mundo real y sus dinámicas.

Destruir libros puede ser legal pero ¿es ético?

Según la justicia norteamericana, el escaneo destructivo de Anthropic está conforme a la ley de ese país. Pero la destrucción masiva de libros por parte de un puñado de actores con un apetito intenso de datos, y con los recursos disponibles para satisfacerlo, supone problemas éticos, incluso de derechos humanos, que trascienden a esa consideración jurídica de interés para el derecho local.

Por un lado, la desaparición física de libros, incluidos los más raros e invaluables para la humanidad, no parece orientada precisamente a aumentar el acervo digital del conocimiento humano, facilitar su preservación, o beneficiar el interés público, que son derechos humanos. Está destinada, en cambio, a la construcción de una tecnología comercial capaz de poner en riesgo, a futuro, el trabajo creativo humano. De hecho, en el caso judicial en su contra trascendió que las valiosas versiones digitales de los libros raros e incunables escaneados por la compañía serían de uso exclusivo de esta.

Por otro lado, el rol de un actor comercialmente dominante es también el de contribuir al interés social como forma de retribución colectiva. Pero las prácticas de Anthropic parecen sacar provecho de un ecosistema del libro ya frágil y asimétrico, sin devolver nada o muy poco a cambio.

Las prácticas de la compañía, en particular su negativa a compensar debidamente a los titulares de derechos de autor —sin necesidad de recurrir a un litigio— por las obras, físicas o digitales, utilizadas sin licencia y con fines comerciales, forman parte del problema. De hecho, entre las 300.000 personas autoras que serán compensadas en virtud del acuerdo extrajudicial que la empresa deberá pagar por haber utilizado copias digitales pirateadas de sus libros, existe preocupación por la distribución de esa compensación: sostienen que las editoriales recibirán una proporción significativamente cuantiosa de los fondos, al punto de que algunas afirman que podrían terminar en una situación económica incluso peor que la que tenían al inicio del litigio.

En la estrategia de negocios tampoco parecen importar demasiado los sectores más debilitados de la cadena del libro. Según un correo que consta en el caso legal, un ejecutivo de Anthropic sugirió la necesidad de abordar a librerías de segunda mano, bibliotecas, incluyendo a librerías nuevas “crónicamente desfinanciadas”, para avanzar en la compra de sus catálogos, lo que pondría en riesgo, entre otros, a librerías pequeñas e independientes que en varios países ya se encuentran en vías de extinción.

Las preguntas pendientes

El Proyecto Panamá pone en evidencia una paradoja incómoda. Para enseñarle a escribir bien a una máquina, la industria de la IA está dispuesta a destruir un recurso incalculable para la humanidad: la creatividad humana expresada en los libros.

El problema de la destrucción de libros podrá tener el visto bueno de la justicia norteamericana según su derecho local, pero lo que está en juego trasciende cualquier lectura exclusivamente legal de una única jurisdicción, pues impacta por su escala a la humanidad y derechos que afectan el interés público. La pregunta no es solo si una compañía puede comprar un libro y destruirlo, sino qué ocurre cuando la producción cultural y el conocimiento acumulado durante siglos son tratados como una materia prima, útil en tanto que sirve para alimentar tecnologías con fines comerciales.

En “Una soledad demasiado ruidosa”, Hanta destruye libros por obligación mientras intenta rescatar de la censura aquello que considera valioso. La paradoja contemporánea es distinta y, quizá por eso, más difícil de advertir: aquí los libros no son destruidos para impedir que el conocimiento circule, sino para extraerlo, concentrarlo y convertirlo en insumo de una tecnología cuyo control está en manos de unos pocos actores. El libro sobrevive como dato para interés de actores poderosos, pero desaparece como objeto y patrimonio, como parte de una cadena cultural que incluye a quienes escriben, editan, imprimen, distribuyen, venden, conservan, coleccionan y leen.

Por eso, más que preguntarnos únicamente cuánto conocimiento puede extraerse de los libros para construir mejores modelos de IA, deberíamos preguntarnos qué formas de producción y circulación del conocimiento estamos dispuestas a sacrificar para asegurar el refinamiento de la IA.

La cultura no es una materia prima cualquiera: detrás de cada libro hay trabajo, memoria, creación, relaciones sociales e instituciones que hacen posible que el conocimiento se produzca y circule. Cuando ese ecosistema se debilita para satisfacer el apetito de datos de unos pocos actores tecnológicos, la destrucción material de los libros es apenas el síntoma visible de un problema mayor: la concentración del poder sobre el conocimiento y la cultura, y la transformación de aquello que durante siglos fue creado para ser leído, compartido y preservado en insumo digerible para la IA.