Séance de cours

Bias dans l'apprentissage automatique

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Dans cours

CS-433: Machine learning

Machine learning methods are becoming increasingly central in many sciences and applications. In this course, fundamental principles and methods of machine learning will be introduced, analyzed and practically implemented. ...

Description

Cette séance de cours traite de l'impact des biais dans les modèles d'apprentissage automatique, en utilisant un scénario de jeu pour illustrer les conséquences de décisions biaisées. Il souligne l'importance d'évaluer qui pourrait être affecté par le modèle et comment, en introduisant des stratégies telles que l'analyse des parties prenantes et l'analyse des risques. Des exemples concrets sont fournis pour mettre en évidence les dommages potentiels causés par des systèmes biaisés et la responsabilité des développeurs d'atténuer ces risques.

Enseignant·e·s (2)

Martin Jaggi

Martin Jaggi is a Tenure Track Assistant Professor at EPFL, heading the Machine Learning and Optimization Laboratory. Before that, he was a post-doctoral researcher at ETH Zurich, at the Simons Institute in Berkeley, and at École Polytechnique in Paris. He has earned his PhD in Machine Learning and Optimization from ETH Zurich in 2011, and a MSc in Mathematics also from ETH Zurich.

Nicolas Henri Bernard Flammarion

Nicolas Flammarion is a tenure-track assistant professor in computer science at EPFL. Prior to that, he was a postdoctoral fellow at UC Berkeley, hosted by Michael I. Jordan. He received his PhD in 2017 from Ecole Normale Superieure in Paris, where he was advised by Alexandre d’Aspremont and Francis Bach. In 2018 he received the prize of the Fondation Mathematique Jacques Hadamard for the best PhD thesis in the field of optimization. His research focuses primarily on learning problems at the interface of machine learning, statistics and optimization.

Source officielle

Concepts associés (15)

Risque

Le risque est la possibilité de survenue d'un événement indésirable, la probabilité d’occurrence d'un péril probable ou d'un aléa. Le risque est une notion complexe, de définitions multiples car d'usage multidisciplinaire. Néanmoins, il est un concept très usité depuis le , par exemple sous la forme de l'expression , notamment pour qualifier, dans le sens commun, un événement, un inconvénient qu'il est raisonnable de prévenir ou de redouter l'éventualité.

Gestion des risques

La gestion des risques, ou l'anglicisme, management du risque (de l'risk management), est la discipline visant à identifier, évaluer et hiérarchiser les risques liés aux activités d'une organisation, quelles que soient la nature ou l'origine de ces risques, puis à les traiter méthodiquement, de manière coordonnée et économique, afin de réduire et contrôler la probabilité des événements redoutés, et leur impact éventuel.

Biais (distorsion)

Dans diverses disciplines, un biais est une erreur systématique ou une simplification abusive. vignette|L'interprétation des formes aléatoires apparaissant à la surface de la Lune constitue un exemple courant de biais perceptuel causé par la paréidolie (processus tendant à discerner une forme familière parmi des formes aléatoires). Les biais peuvent être transmis implicitement avec le contexte culturel.

Apprentissage automatique

L'apprentissage automatique (en anglais : machine learning, « apprentissage machine »), apprentissage artificiel ou apprentissage statistique est un champ d'étude de l'intelligence artificielle qui se fonde sur des approches mathématiques et statistiques pour donner aux ordinateurs la capacité d'« apprendre » à partir de données, c'est-à-dire d'améliorer leurs performances à résoudre des tâches sans être explicitement programmés pour chacune. Plus largement, il concerne la conception, l'analyse, l'optimisation, le développement et l'implémentation de telles méthodes.

Évaluation des risques

Dans le domaine de la gestion des risques, l'évaluation des risques est l'ensemble des méthodes consistant à calculer la criticité (pertinence et gravité) des dangers. Elle vise outre à les quantifier, à qualifier les dangers (qui doivent donc préalablement avoir été identifiés). Elle se base sur . Dans ce domaine, on se restreint à l'étude du risque aryétique, c'est-à-dire en ne considérant que les événements à conséquences négatives.

Afficher plus

Séances de cours associées (62)

Perception du risque

S'engage dans l'évaluation scientifique des risques, des biais cognitifs et de l'impact des catastrophes passées sur la prévention future.

Analyse et gestion des risques : fréquences et conséquences

Explore l'analyse et la gestion des risques, en mettant l'accent sur la fréquence des accidents et leurs conséquences.

Principes d'analyse et de gestion des risques

Explore les principes de l'analyse des risques, de l'évaluation et de la gestion, en mettant l'accent sur l'impact sociétal et les étapes d'analyse pratiques.

Analyse des risques en gestion de projet

Explore l'analyse des risques dans la gestion de projet, en se concentrant sur la mesure, la gestion et la minimisation des risques pour atteindre le succès du projet.

Principes d'analyse et de gestion des risques

Explore l'analyse des risques et les principes de gestion en génie civil, y compris les rôles environnementaux et les méthodes d'intervention.

Afficher plus

Concepts associés (15)

Risque

Gestion des risques

Biais (distorsion)

Apprentissage automatique

Évaluation des risques

Afficher plus