Questionnement éthique des systèmes algorithmiques

Les algorithmes sont devenus omniprésents dans nos activités de plus en plus connectées. Aujourd'hui, ils nous aident à choisir un film, une musique, le chemin le plus rapide, des amis, des partenaires sexuels. Ils aident les institutions à prendre des décisions de justice et à gérer l'ordre public (Benbouzid, 2018), le médecin à poser son diagnostic (Hénin, 2021), les établissements à former (Komi, 2019 ; Quinio et Bidan, 2023), le trader à spéculer ou encore l'armée à recourir à des systèmes d'armes létales autonomes (Stahl, 2004). Tous les domaines semblent être sous le joug de la puissance algorithmique : logistique, santé, éducation, recherche, défense, banque, agroalimentaire, culture, loisir, réseaux sociaux et professionnels. A l'origine, la notion d'algorithme faisait référence à une suite d'instructions ou d'opérations élémentaires (faire/ne pas faire) permettant de résoudre un problème. Son étymologie nous révèle que c'est un procédé de calcul utilisant les chiffres arabes. Aujourd'hui, il est notoirement difficile de proposer une caractérisation précise de ce qu'est un algorithme. Aussi, nous relevons que de nombreux articles de recherche ne précisent pas la notion d'algorithme (Burrell, 2016 ; Kitchin, 2016), même lorsqu'ils en sont le sujet. Comme l'explique Hill (2016), il existe des définitions différentes avec des significations très diverses selon le champ disciplinaire et le public spécialiste ou profane. Cet article porte sur les algorithmes mis en œuvre dans et par les ordinateurs, c'est-à-dire incluant l'intelligence artificielle, tout en allant au-delà des aspects techniques (Cardon, 2015 ; Boissier, 2019) et en référence à Seaver (2019) qui définit les algorithmes comme des systèmes sociotechniques diffus et hétérogènes, plutôt que des procédures fixes et rigides…