L’illusion de la neutralité technologique en intelligence artificielle

Dans l’imaginaire collectif, nourri par un positivisme technique persistant, l’algorithme est souvent perçu comme un arbitre impartial. Parce qu’il repose sur des fondations mathématiques et une puissance de calcul monumentale, il serait capable de s’extraire des scories de la subjectivité humaine. Cette quête d'une « vérité » purement computationnelle est pourtant une chimère. L’intelligence artificielle n’est pas un miroir fidèle de la réalité ; elle est une construction qui cristallise, à chaque étape de sa genèse, des choix de valeurs et des orientations idéologiques.

Il est impératif de dissiper ce malentendu : la neutralité technologique n’existe pas. Elle est un mythe structurant qui, sous couvert d’objectivité, tend à invisibiliser les rapports de force et les cadres de décision.

La sédimentation des biais dans la donnée

L’illusion commence dès la collecte des données. On parle souvent de données « brutes », comme s’il s’agissait de ressources naturelles prêtes à l’extraction. En réalité, toute donnée est une trace, un résidu historique d’activités humaines déjà empreintes de préjugés.

Lorsqu’un modèle est entraîné sur des corpus textuels ou des historiques de décisions, il ne fait pas que « comprendre » le monde ; il en absorbe les structures de domination, les stéréotypes et les silences. Si l’on nourrit un système avec le passé sans exercer une critique axiologique, on condamne l’avenir à n’être qu’une répétition automatisée d'hier. La donnée n'est jamais neutre, car le regard qui a décidé de ce qui mérite d'être archivé ne l'est pas.

L’architecture des critères : une volonté de puissance

Au-delà des données, c’est dans l’architecture même des systèmes que se logent les choix politiques. Concevoir un algorithme, c’est d’abord définir une fonction de perte, un objectif d’optimisation et des critères de succès.

Qu’est-ce qu’un candidat « performant » pour un algorithme de recrutement ? Qu’est-ce qu’une information « pertinente » pour un moteur de recommandation ? Ces définitions ne tombent pas du ciel. Elles sont le produit de cultures organisationnelles et d’intérêts économiques. Privilégier la rentabilité à court terme sur la diversité, ou la rapidité sur la précision, sont des décisions humaines fondamentales. L’algorithme ne fait qu’exécuter une hiérarchie de valeurs qui lui a été dictée. En ce sens, l’IA n’est pas un agent autonome, mais un amplificateur de la volonté de ses concepteurs.

L’invisibilisation des cadres de décision

Le danger de ce mythe de la neutralité réside dans sa capacité à déresponsabiliser les décideurs. En déléguant une tâche à une IA, on tend à « naturaliser » le résultat. On ne questionne plus la pertinence d’une décision, puisqu’elle émane d’une machine supposée infaillible.

C’est ici que se loge le piège éthique : l’utilisation de l’IA peut servir de paravent à des choix organisationnels arbitraires. En affirmant que « c’est l’ordinateur qui a dit », on clôt le débat et on rend la contestation plus ardue. Reconnaître la non-neutralité de l’IA, c’est redonner de la voix à la critique et exiger une transparence qui ne soit pas seulement technique (ouvrir le code), mais politique (expliquer les intentions).

Sortir du dogme pour une IA située

Pour une organisation responsable, l'enjeu n'est plus de chercher une neutralité impossible, mais d'assumer une « subjectivité responsable ». Cela implique de reconnaître que tout système d'IA est « situé » : il porte en lui les marques de son contexte de création.

L’innovation véritable ne réside pas dans la suppression des biais (tâche herculéenne et sans doute vaine) mais dans la capacité à les identifier, à les documenter et à les compenser par un jugement humain permanent. Il s'agit de passer d'une éthique de la conformité à une éthique de la vigilance.

À retenir

• La donnée est un artefact : rien n'est brut. Les jeux de données sont les sédiments de nos préjugés historiques et sociaux.

• Coder, c’est choisir : chaque paramètre d’optimisation est une décision politique déguisée en choix technique.

• La neutralité est un risque : prétendre à l’impartialité empêche la critique et l’amélioration des systèmes.

• Vers une IA explicable : la légitimité d’un système d’IA repose sur la capacité de ses concepteurs à justifier les choix de valeurs qui ont présidé à sa création.