Contre-atlas de l’Intelligence artificielle

Une méchante illusion

L’auteure et chercheuse australienne Kate Crawford est une spécialiste des implications sociales et politiques de la sulfureuse IA. Elle a fondé à New York l’AI Wow Institute et inauguré à Paris la chaire IA et justice sociale de l’ENS (École normale supérieure). Son essai « Contre-atlas de l’intelligence artificielle » est un plaidoyer pour une surveillance de l’IA. Après avoir détricoté la réalité d’un « instrument au service des géants de la tech et des institutions qui l’adoptent », elle résume : elle est le reflet du pouvoir.

En six chapitres qui exigent une lecture soutenue, souvent complexe, Crawford analyse les mythologies qui entourent l’IA et la font passer pour « une intelligence désincarnée, détachée de toute relation avec le monde matériel », ce qui en ferait la force. Illusion. « L’IA n’est ni artificielle ni intelligente » : faite de matières premières, d’infrastructures, de main-d’œuvre, et de classification humainement définie, «  elle reproduit les relations sociales et les façons de comprendre le monde de ses concepteurs, un minuscule groupe homogène, implanté dans un petit nombre de villes et travaillant dans un secteur qui est aujourd’hui le plus riche au monde ». Dans cet atlas qui fait un large tour de la question, l’auteure explique combien cette vision est raciste, « classiste », sexiste et colonialiste. Elle démonte une machine à broyer les humains – le commun des mortels – mettant le doigt sur les innombrables contrevérités qui sont assénées au grand public. Par exemple, l’IA qui n’est pas une industrie propre, et loin, très loin d’être verte.

L’enfer de Dante

Selon Crawford, l’IA s’inscrit dans la ligne des grandes théories esclavagistes. Les travailleurs qui œuvrent dans l’ombre, tant pour la fabrication de ce monstre dévoreur d’énergies que pour le transport, sont systématiquement sous-payés. Elle relève une « culture internationale de la rapacité » dont les conséquences touchent aux droits fondamentaux, dont par exemple, celui de la vie privée. La reconnaissance faciale est l’un de ses grands maux.

L’IA permet d’identifier les affects, « qualité » servant aux armées, aux flics et aux entreprises. Ainsi, les bons, les méchants, les amis, les ennemis sont rapidement étiquetés. Il en résulte « une esquisse caricaturale qui ne reflète en aucun cas les infinies nuances du vécu émotionnel des milliards d’individus » vivant sur la planète.

La chercheuse rappelle un secteur secret, évoqué dans les archives dévoilées par Edward Snowden, « le Treasure Map, conçu pour créer une carte interactive d’Internet en temps quasi réel », qui rend possible la traque et la localisation de tout propriétaire d’un appareil connecté. Faire régner la peur est dès lors un jeu d’enfant pour mieux dominer les populations pauvres, immigrantes, sans papier et de couleur.

Elle n’est ni neutre, ni objective, ni universelle. Présentée comme un projet au service de l’humanité, elle a été privatisée pour servir le grand capital et le seul pouvoir. 

Kate Crawford en appelle  à la résistance, soulignant « l’importance de droits fondamentaux, tels la protection des données, le droit du travail, la justice climatique et l’égalité des races. »

Une lecture affolante qui projette le lecteur dans le pire scénario de dystopie.