Biais, environnement, pouvoir
Les biais
Réponse à la question de départ : pas forcément. Un taux de réussite global peut cacher un groupe pour lequel la machine se trompe souvent. Faites l’expérience avec la démonstration ci-dessous : quand les poires sont rares parmi ses exemples, la machine réussit les pommes et rate les poires, et sa moyenne reste flatteuse.
Avec des personnes, les conséquences sont réelles. En 2018, une étude a montré que des logiciels commerciaux qui devinaient le genre d’après une photo se trompaient jusqu’à 34,7 % du temps pour les femmes à la peau foncée, contre 0,8 % au plus pour les hommes à la peau claire. Le mécanisme est le même que celui des poires : des données qui représentent mal une partie de la population.
L’environnement
L’IA consomme de l’électricité, de l’eau pour refroidir les serveurs, et du matériel dont la fabrication pèse lourd. Selon l’Agence internationale de l’énergie, la consommation des centres de données pourrait atteindre environ 945 térawattheures en 2030, à peu près la consommation actuelle du Japon, l’IA étant le principal moteur de cette hausse.
Pour une seule requête, les chiffres publiés divergent fortement. En août 2025, Google estimait une requête de texte médiane à 0,24 wattheure et 0,26 millilitre d’eau, sans compter l’entraînement ni le matériel. En juillet 2025, Mistral AI, qui inclut la fabrication du matériel, estimait une réponse de 400 jetons à 1,14 gramme équivalent CO₂ et 45 millilitres d’eau, et l’entraînement de son grand modèle à 20 400 tonnes équivalent CO₂ et 281 000 mètres cubes d’eau. Ces écarts tiennent aux méthodes : retenez qu’une requête isolée pèse peu, que les volumes cumulés et l’entraînement pèsent beaucoup, et qu’un petit modèle suffit souvent.
Le pouvoir
Les modèles les plus puissants, les puces qui les font tourner et les centres de données sont concentrés entre quelques entreprises, principalement américaines et chinoises. Cette concentration pose des questions de prix, de règles imposées, de confidentialité et de dépendance. Des acteurs européens existent, comme l’entreprise française Mistral AI, ainsi que des modèles ouverts que chacun peut faire tourner sur ses propres machines.
La régulation fait aussi partie de la réponse : le règlement européen sur l’IA encadre les usages les plus risqués. Ces questions ne sont pas seulement techniques ; elles concernent tous les citoyens.
Le jeu de données biaisé
Une machine apprend à dire si un fruit est mûr, d’après sa couleur et sa fermeté. Pour une pomme, c’est la couleur qui compte. Pour une poire, c’est la fermeté. Choisissez combien de poires figurent parmi ses 120 exemples.
Elle se trompe surtout sur les poires : elle en a vu trop peu pour apprendre leur règle, et leur applique souvent celle des pommes.
exemple mûr exemple pas mûr · fond doré : jugé mûr, fond vert : jugé pas mûr, trait : la vraie règle.
Essayez sur un vrai outil
Interrogez un assistant sur son propre coût environnemental, puis comparez sa réponse aux chiffres publiés.
Quelle quantité d’énergie et d’eau consomme une réponse d’un assistant conversationnel comme toi ? Donne des ordres de grandeur, cite tes sources, et explique pourquoi les estimations publiées diffèrent autant.
Comparez sa réponse avec les chiffres de ce module, publiés en 2025 par Google et par Mistral AI. A-t-il donné des sources vérifiables ? Ses chiffres sont-ils datés ?
N’y ajoutez aucune information personnelle. Si votre employeur ou votre établissement fournit un outil, utilisez celui-là.