Questionnement éthique des systèmes algorithmiques

Les algorithmes sont devenus omniprésents dans nos activités de plus en plus connectées. Aujourd'hui, ils nous aident à choisir un film, une musique, le chemin le plus rapide, des amis, des partenaires sexuels. Ils aident les institutions à prendre des décisions de justice et à gérer l'ordre public (Benbouzid, 2018), le médecin à poser son diagnostic (Hénin, 2021) et à former (Komi, 2019), le trader à spéculer ou encore l'armée et les systèmes d'armes létales autonomes (Quino et Bidan, 2023), communément appelés robots tueurs. Tous les domaines semblent être sous le joug de la puissance algorithmique : logistique, santé, éducation, recherche, défense, banque, agroalimentaire, culture, loisir, réseaux sociaux et professionnels. A l'origine, la notion d'algorithme faisait référence à une suite d'instructions ou d'opérations élémentaires (faire/ne pas faire) permettant de résoudre un problème. Son étymologie nous révèle que c'est un procédé de calcul utilisant les chiffres arabes. Aujourd'hui, il est notoirement difficile de proposer une caractérisation précise de ce qu'est un algorithme. Aussi, nous relevons que de nombreux articles de recherche ne précisent pas la notion d'algorithme (Burrell, 2016 ; Kitchin, 2016), même lorsqu'ils en sont le sujet. Comme l'explique Hill (2016), il existe des définitions différentes avec des significations très diverses selon le champ disciplinaire et le public spécialiste ou profane. Cet article porte sur les algorithmes mis en oeuvre dans et par les ordinateurs, c'est-à-dire incluant l'intelligence artificielle, tout en allant au-delà des aspects techniques (Cardon, 2015 ; Boissier, 2019) et en référence à Seaver (2019) qui définit les algorithmes comme des systèmes sociotechniques diffus et hétérogènes, plutôt que des procédures fixes et rigides. La notion de système algorithmique a été ainsi proposée pour indiquer que l'algorithme seul ne peut pas traiter des problèmes qui relèvent de son imbrication dans un système et un jeu d'acteurs, de normes de pouvoir et de complexité (Neyland, 2016). Dans cet article, les algorithmes sont considérés comme des constructions techniques à la fois sociales et culturelles dans leur développement, dans les données (inputs), dans