Séance de cours

L'équité dans la prise de décision algorithmique

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Description

Cette séance de cours explore les défis et les implications de l'utilisation d'algorithmes pour les processus décisionnels, en mettant l'accent sur le concept d'équité. Il traite de la façon dont les biais et les injustices historiques peuvent être codés par inadvertance dans les données, ce qui affecte les résultats. Diverses notions et approches en matière d'équité sont présentées, comme l'équité individuelle, l'équité de groupe et l'égalité des chances. La séance de cours se penche également sur des exemples concrets où les systèmes automatisés ont fait preuve d'un comportement discriminatoire, soulignant l'importance d'aborder la question de l'équité dans la prise de décisions algorithmiques.

Source officielle

Concepts associés (32)

Biais (distorsion)

Dans diverses disciplines, un biais est une erreur systématique ou une simplification abusive. vignette|L'interprétation des formes aléatoires apparaissant à la surface de la Lune constitue un exemple courant de biais perceptuel causé par la paréidolie (processus tendant à discerner une forme familière parmi des formes aléatoires). Les biais peuvent être transmis implicitement avec le contexte culturel.

Biais algorithmique

vignette|Organigramme représentant l'algorithme derrière un moteur de recommandation. Un biais algorithmique est le fait que le résultat d'un algorithme d'apprentissage ne soit pas neutre, loyal ou équitable. Le biais algorithmique peut se produire lorsque les données utilisées pour entraîner un algorithme d'apprentissage automatique reflètent les valeurs implicites des humains impliqués dans la collecte, la sélection, ou l'utilisation de ces données.

Biais de confirmation

Le biais de confirmation, également dénommé biais de , est le biais cognitif qui consiste à privilégier les informations confirmant ses idées préconçues ou ses hypothèses, ou à accorder moins de poids aux hypothèses et informations jouant en défaveur de ses conceptions, ce qui se traduit par une réticence à changer d'avis. Ce biais se manifeste chez un individu lorsqu'il rassemble des éléments ou se rappelle des informations mémorisées, de manière sélective, les interprétant d'une manière biaisée.

Biais de sélection

Dans une étude statistique, le terme biais de sélection désigne une erreur systématique faite lors de la sélection des sujets à étudier. Ce terme regroupe tous les biais pouvant conduire à ce que les sujets effectivement observés lors d'une enquête ne constituent pas un groupe représentatif des populations censées être étudiées et ne permettent donc pas de répondre aux questions posées dans le protocole. Les biais de sélection se produisent lors de l'échantillonnage, c'est-à-dire lors de la sélection d'un échantillon représentatif de la population étudiée.

Échantillon biaisé

En statistiques, le mot biais a un sens précis qui n'est pas tout à fait le sens habituel du mot. Un échantillon biaisé est un ensemble d'individus d'une population, censé la représenter, mais dont la sélection des individus a introduit un biais qui ne permet alors plus de conclure directement pour l'ensemble de la population. Un échantillon biaisé n'est donc pas un échantillon de personnes biaisées (bien que ça puisse être le cas) mais avant tout un échantillon sélectionné de façon biaisée.

Afficher plus

Séances de cours associées (52)

Éthique et équité dans l’apprentissage automatique

Explore les implications éthiques du déploiement d'algorithmes d'apprentissage automatique et souligne l'importance de l'équité dans les processus décisionnels.

Apprentissage supervisé : arbre k-NN et arbre de décision

Introduit l'apprentissage supervisé avec k-NN et les arbres de décision, couvrant les techniques, les exemples et les méthodes d'ensemble.

L’éthique de l’IA : partialité, responsabilité et responsabilisation

Explore l'éthique de l'IA, abordant les biais, la responsabilité et la responsabilité dans la conception et les résultats des algorithmes.

Anonymité et responsabilité

Explore l'importance de l'anonymat pour éviter le jugement fondé sur les caractéristiques personnelles et la nécessité de l'équilibrer avec la responsabilité.

Questions relatives aux données dans le domaine de la recherche

Examine les défis que posent les hypothèses de données, les biais et d'autres aspects de la recherche, y compris les écritures incomplètes et les frustrations des nouveaux arrivants.

Afficher plus

Concepts associés (32)

Biais (distorsion)

Biais algorithmique

Biais de confirmation

Biais de sélection

Échantillon biaisé

Afficher plus