Les géants de l’IA veulent broyer « tous les livres du monde »

Cela se reproduit. Ce n’est pas une infox : les géants de l’IA achètent massivement des livres, les déchiquettent à l’aide de machines industrielles pour numériser rapidement les pages, puis détruisent les exemplaires physiques afin d’entraîner leurs modèles d’intelligence artificielle et d’empêcher que d’autres aient accès à ces données. Le déchiquetage est devenu synonyme d’incinération.

Les documents judiciaires de l’affaire Bartz contre Anthropic révèlent que cette dernière utilisait un nom de code interne pour un projet d’envergure visant à numériser des millions de livres.

Le 13 avril 2024, Tom Turvey, vice-président d’Anthropic, a divulgué l’information dans une note interne : « Le projet Panama est notre initiative pour numériser de manière destructive tous les livres du monde. » La note recommande la discrétion : « Pourquoi utiliser un nom de code ? […] Parce que nous ne voulons pas que l’on sache que nous travaillons sur ce projet. »

Amazon, révèle 404 Media, dispose également d’une unité spécialisée à Las Vegas pour la même besogne.

Pourquoi ? Pour bien écrire, les modèles d’IA ont besoin de phrases longues et d’un langage complexe, or les livres publiés antérieurement à ces dernières années offrent un texte clair, exempt d’argot et dénué de la piètre qualité d’écriture que l’on trouve aujourd’hui sur internet.

C’est ainsi que la Radio-Télévision Suisse (RTS) rapporte que « début mai, un libraire en ligne spécialisé dans les livres rares, situé dans le nord de l’Allemagne, a constaté un phénomène inhabituel. Entre 3 h et 5 h du matin, il a reçu une centaine de commandes » de la part de Zoom Books. Cette entreprise canadienne cible spécifiquement les livres peu recherchés et de faible valeur, ainsi que les invendus datant d’avant 1970.

Anthropic avait le choix : contacter les ayants droit pour obtenir l’autorisation d’utiliser des livres numériques (e-books) existants, ce qui aurait impliqué les lourdeurs juridiques et administratives liées à la gestion des droits d’auteur. Anthropic a préféré opter pour des sources piratées, mais face aux complications de cette solution, le broyage des livres imprimés est devenu la solution…

Aux États-Unis, les tribunaux ont statué que l’achat de livres physiques et leur numérisation pour l’entraînement d’une IA sont légaux et protégés par la doctrine de l’« utilisation équitable », qui autorise l’utilisation « transformative » d’œuvres protégées par les droits d’auteur sans l’autorisation du titulaire de ces droits. Anthropic a « transformé » des livres en un nouveau format électronique, puis s’est débarrassé des exemplaires imprimés originaux. Mais comme l’a souligné un juge : « Rien ne prouve que la nouvelle copie numérique ait été montrée, partagée ou vendue en dehors de l’entreprise. »

Historiens, éditeurs, lecteurs et libraires indépendants sont consternés. Ils craignent la disparition à jamais des éditions rares, des ouvrages d’histoire locale épuisés et du patrimoine matériel du livre imprimé. Aux États-Unis, des associations de défense du patrimoine ont demandé à la Commission fédérale du commerce (FTC) d’enquêter sur ces achats groupés. Elles estiment que cette pratique est anticoncurrentielle car elle empêche le public et les petites entreprises concurrentes d’accéder à ces précieuses ressources culturelles.

En Europe, une directive européenne espère protéger surtout les droits intellectuels des auteurs. Une option opt-out obligerait les géants de l’IA d’obtenir l’accord explicite des auteurs pour que leurs contributions soient pillées par l’IA.

Tout cela ne tient même pas compte de l’émergence d’une l’IA Frankenstein se retournant contre ses créateurs humains, phénomène inquiétant contre lequel de nombreux experts et même le pape Léon XIV mettent en garde.

En pratique, à l’instar des despotes, les entreprises spécialisées en IA, ou des « agents IA autonomes » hors contrôle et agissant exclusivement pour leur propre survie, pourraient altérer voire effacer les preuves, rapports et témoignages relatifs aux événements, aux idées et aux personnes qui ne partagent pas leur idéologie techno-féodale.

En l’absence de traces physiques permettant de les contester, effacer des pans entiers des grandes chroniques de l’histoire humaine leur deviendra aussi facile que gagner une élection par le vote électronique.