Le coût humain de l'intelligence artificielle

Pour faire apparaître les impacts sociaux de l'intelligence artificielle ou IA, il est utile de déplacer un peu notre regard et de l'analyser comme un processus de production à la pointe d'un secteur industriel en pleine croissance. Cet exercice nous amène assez rapidement à mettre à mal l'imaginaire d'automatisation et d'immatérialité qui entoure l'IA. Sa production nécessite une infrastructure lourde qui dépend des ressources naturelles et du travail humain. Pourquoi ? Rappelons que l'IA repose aujourd'hui en grande partie sur l'apprentissage automatique. C'est une technique très puissante mais qui nécessite d'énormes quantités de données et d'une grande puissance de calcul pour les traiter. Ainsi, les ressources naturelles comme les métaux, l'énergie et l'eau sont essentielles pour fabriquer et exploiter les équipements informatiques qui font ce calcul. A son tour, le travail humain sert à créer et à gérer les données. En effet, au-delà des figures des ingénieurs et des scientifiques qui conçoivent le système d'IA, des travailleuses et travailleurs de plus bas niveau s'occupent par exemple d'étiqueter des images ou de trier des textes qui serviront pour entraîner des modèles. Leur tâche consiste aussi à vérifier les résultats finaux en s'assurant par exemple que les images ou vidéos générées par des IA répondent bien aux demandes des utilisateurs et ne présentent pas d'erreur. Parfois, ces travailleuses et travailleurs remplacent des algorithmes défaillants, par exemple lorsqu'ils traitent des cas nouveaux ou inhabituels. Ce travail est un coût de production et comme partout dans le monde des affaires, l'effort est de minimiser ce coût. C'est pour ça que la plupart des producteurs d'IA externalisent. Ce faisant, ils contournent toute responsabilité de gestion et de rémunération des travailleuses et travailleurs concernés qui deviennent des prestataires éloignés des ressources et dont dispose aujourd'hui l'IA. Et comme dans d'autres formes d'externalisation, la précarité et les faibles rémunérations sont à l'ordre du jour. De plus, ce travail est très souvent délocalisé vers des pays où les coûts de main-d'oeuvre sont moins élevés et les droits de travail moins protégés. Parfois, il s'agit de pays qu'on n'associerait pas spontanément au développement de l'IA de pointe, comme le Kenya, Madagascar ou encore les Philippines. Un cas particulièrement intéressant est celui du Venezuela qui a contribué massivement à l'annotation d'images et de vidéos pour l'entraînement des voitures autonomes aux États-Unis. Et c'est malgré les tensions entre les deux pays. En effet, la crise économique qui a frappé le Venezuela ces dernières années a entraîné une demande de devises forte et donc les personnes se sont tournées vers ces activités via des plateformes internationales qui assuraient la médiation avec des clients étrangers. Et pendant longtemps, les Vénézuéliens ont accepté les rémunérations les plus faibles du marché. Ces processus impliquent donc plusieurs organisations, le producteur d'IA, le prestataire, un ou plusieurs intermédiaires. Ils forment des chaînes de valeur mondiales qui dépassent les frontières nationales. Ils ne sont pas sans rappeler des vagues précédentes de la mondialisation dans des secteurs apparemment éloignés comme le textile ou l'électronique. La production d'IA tire parti d’inégalités mondiales héritées du passé pour accéder à une main-d'œuvre qualifiée mais peu chère. Par ailleurs, la même dynamique est à l'œuvre pour l'acheminement des ressources naturelles vers la production des équipements informatiques pour l'IA. Des métaux et minéraux comme le lithium ou les terres rares sont extraits en Amérique du Sud ou en Afrique. Ils sont transformés en des produits intermédiaires en Asie de l'Est et contribuent aux produits finis en Europe ou en Amérique du Nord. On pourrait voir positivement ces agencements qui amènent des revenus et créent des emplois dans des pays pauvres comme Madagascar ou appauvris comme le Venezuela. Mais il manque une perspective de développement durable. Dans la mesure où ces travailleuses et travailleurs sont traitées comme temporaires et remplaçables, il sera difficile pour eux de faire évoluer cette expérience vers une carrière qui leur permette de s'épanouir et de subvenir aux besoins de leur famille. Et les rémunérations sont parfois tellement faibles qu'elles génèrent des coûts qui retombent sur les communautés locales. Par exemple, si une travailleuse ou un travailleur ne peut pas se permettre un logement indépendant et reste vivre chez ses parents, ce seront ces derniers qui couvriront une partie des coûts. De même, l'extraction des métaux et minéraux génère des impacts environnementaux qui ne sont pas toujours compensés et qui pèsent plus lourdement sur les populations locales, loin du regard des décideurs politiques des pays riches. Ces effets se multiplient à chaque avancée importante des technologies de l'IA. L'essor du deep learning en 2012, de l'IA générative en 2022, correspondent à des augmentations conséquentes de la taille des modèles et des hausses significatives de la demande de travail des matières premières. Ces tendances nous interrogent aujourd'hui. Pour redonner au travail la dignité qu'il mérite partout dans le monde, il faut augmenter les rémunérations et assurer une protection sociale. Ces améliorations sont coûteuses, comme le sont d'ailleurs les mesures à mettre en place pour protéger l'environnement. Pouvons-nous maintenir la course de développement des modèles d'IA de taille toujours plus grande s'ils deviennent plus chers ? Ces considérations nous invitent à repenser cette technologie en profondeur, à abandonner l'idée que « bigger is better », plus grand c'est mieux. La grande question est comment imaginer des modèles, peut-être de moindre envergure, mais compatibles avec des processus de production plus respectueux de l'être humain et de la nature.