Fairness and Explainability in Automatic Decision-Making Systems. A challenge for computer science and law
Kirat, Thierry; Tambou, Olivia; Do, Virginie; Tsoukias, Alexis (2022-05), Fairness and Explainability in Automatic Decision-Making Systems. A challenge for computer science and law. https://basepub.dauphine.psl.eu/handle/123456789/23561
View/ Open
Type
Document de travail / Working paperExternal document link
https://arxiv.org/abs/2206.03226Date
2022-05Publisher
Université Paris-Dauphine
Series title
Cahiers du LAMSADESeries number
402Published in
Paris
Metadata
Show full item recordAuthor(s)
Kirat, Thierry
Institut de Recherche Interdisciplinaire en Sciences Sociales [IRISSO]
Tambou, Olivia

Centre de recherche Droit Dauphine [Cr2D]
Do, Virginie
Laboratoire d'analyse et modélisation de systèmes pour l'aide à la décision [LAMSADE]
Tsoukias, Alexis

Laboratoire d'analyse et modélisation de systèmes pour l'aide à la décision [LAMSADE]
Abstract (FR)
L'article propose une contribution aux constructions interdisciplinaires de l'analyse des enjeux d'équité dans les décisions algorithmiques automatiques. La section 1 montre que les choix techniques en apprentissage supervisé ont des implications sociales dont il faut prendre la mesure. La section 2 propose une approche contextuelle de la question de la discrimination de groupe non intentionnelle, c'est-à-dire de règles de décision facialement neutres mais qui génèrent des impacts disproportionnés selon les groupes sociaux (selon les cas : genrés, raciaux ou ethniques). La contextualisation portera sur les systèmes juridiques des États-Unis d'un côté, de l'Europe d'un autre côté. En particulier, la législation et la jurisprudence tendent à promouvoir des critères d'équité différents de part et d'autre de l'Atlantique. La section 3 est consacrée à l'explicabilité des décisions algorithmiques ; elle confrontera et tentera de croiser les concepts juridiques (en droit européen et en droit français) avec les concepts techniques et mettra en exergue la pluralité, voire la polysémie, des textes juridiques européens et français relatifs à l'explicabilité des décisions algorithmiques. La conclusion propose des orientations pour la recherche.Abstract (EN)
The paper offers a contribution to the interdisciplinary constructs of analyzing fairness issues in automatic algorithmic decisions. Section 1 shows that technical choices in supervised learning have social implications that need to be considered. Section 2 proposes a contextual approach to the issue of unintended group discrimination, i.e. decision rules that are facially neutral but generate disproportionate impacts across social groups (e.g., gender, race or ethnicity). The contextualization will focus on the legal systems of the United States on the one hand and Europe on the other. In particular, legislation and case law tend to promote different standards of fairness on both sides of the Atlantic. Section 3 is devoted to the explainability of algorithmic decisions; it will confront and attempt to cross-reference legal concepts (in European and French law) with technical concepts and will highlight the plurality, even polysemy, of European and French legal texts relating to the explicability of algorithmic decisions. The conclusion proposes directions for further research.Subjects / Keywords
Automatic algorithmic decisions; Fairness; Décisions algorithmiques automatiques; EquitéRelated items
Showing items related by title and author.
-
Kirat, Thierry; Do, Virginie; Tambou, Olivia; Tsoukias, Alexis (2023) Article accepté pour publication ou publié
-
Atif, Jamal; Do, Virginie; Kirat, Thierry; Louvaris, Antoine; Tambou, Olivia; Tsoukias, Alexis (2021) Communication / Conférence
-
Bouyssou, Denis; Janowitz, Melvin F.; Roberts, Fred; Tsoukiàs, Alexis (2004) Ouvrage
-
Roberts, Fred; Tsoukiàs, Alexis (2008) Article accepté pour publication ou publié
-
Pluchinotta, Irene; Daniell, Katherine; Tsoukiàs, Alexis (2022) Chapitre d'ouvrage