Éthique de l'intelligence artificielleL'éthique de l'intelligence artificielle est le domaine de l' propre aux robots et autres entités artificiellement intelligents. Il est généralement divisé en roboéthique, qui se préoccupe de l'éthique humaine pour guider la conception, la construction et l'utilisation des êtres artificiellement intelligents, et l', préoccupée par le comportement moral des agents moraux artificiels. Pour l'aspect philosophique de l'intelligence artificielle, voir Philosophie de l'intelligence artificielle.
Machine ethicsMachine ethics (or machine morality, computational morality, or computational ethics) is a part of the ethics of artificial intelligence concerned with adding or ensuring moral behaviors of man-made machines that use artificial intelligence, otherwise known as artificial intelligent agents. Machine ethics differs from other ethical fields related to engineering and technology. Machine ethics should not be confused with computer ethics, which focuses on human use of computers.
Automated decision-makingAutomated decision-making (ADM) involves the use of data, machines and algorithms to make decisions in a range of contexts, including public administration, business, health, education, law, employment, transport, media and entertainment, with varying degrees of human oversight or intervention. ADM involves large-scale data from a range of sources, such as databases, text, social media, sensors, images or speech, that is processed using various technologies including computer software, algorithms, machine learning, natural language processing, artificial intelligence, augmented intelligence and robotics.
Biais algorithmiquevignette|Organigramme représentant l'algorithme derrière un moteur de recommandation. Un biais algorithmique est le fait que le résultat d'un algorithme d'apprentissage ne soit pas neutre, loyal ou équitable. Le biais algorithmique peut se produire lorsque les données utilisées pour entraîner un algorithme d'apprentissage automatique reflètent les valeurs implicites des humains impliqués dans la collecte, la sélection, ou l'utilisation de ces données.
Régulation des algorithmesLa régulation des algorithmes, ou régulation algorithmique, est la création de lois, de règles et de politiques du secteur public pour la promotion et la régulation des algorithmes, en particulier dans l'intelligence artificielle et l'apprentissage automatique. Pour le sous-ensemble d'algorithmes d'IA, le terme régulation de l'intelligence artificielle est utilisé. Le paysage réglementaire et politique de l'intelligence artificielle (IA) est un problème émergent dans les juridictions du monde entier, y compris dans l'Union européenne.
RoboéthiqueLa roboéthique est l'éthique appliquée à la robotique. Elle est centrée sur l'éthique humaine pour guider la conception, la construction et l'utilisation des robots. Le terme roboéthique a été inventé en 2002, par le roboticien Gian Marco Veruggio, initiateur du premier colloque international sur la rob éthique en 2004. Comme la roboéthique est une éthique avant tout centrée sur l'humain, elle doit respecter les principes les plus importants et largement acceptés de la Déclaration universelle des droits de l'homme : La dignité humaine et des droits de l'homme.
Biais (distorsion)Dans diverses disciplines, un biais est une erreur systématique ou une simplification abusive. vignette|L'interprétation des formes aléatoires apparaissant à la surface de la Lune constitue un exemple courant de biais perceptuel causé par la paréidolie (processus tendant à discerner une forme familière parmi des formes aléatoires). Les biais peuvent être transmis implicitement avec le contexte culturel.
Biais de sélectionDans une étude statistique, le terme biais de sélection désigne une erreur systématique faite lors de la sélection des sujets à étudier. Ce terme regroupe tous les biais pouvant conduire à ce que les sujets effectivement observés lors d'une enquête ne constituent pas un groupe représentatif des populations censées être étudiées et ne permettent donc pas de répondre aux questions posées dans le protocole. Les biais de sélection se produisent lors de l'échantillonnage, c'est-à-dire lors de la sélection d'un échantillon représentatif de la population étudiée.
Éthiquethumb|L'éthique s'intéresse depuis toujours aux moyens de répartition des richesses. L'éthique est une discipline philosophique portant sur les jugements moraux et dont le concept est donc très proche de celui de la morale. On parle aussi de philosophie morale pour désigner cette discipline. C'est une réflexion fondamentale de tout peuple afin d'établir ses normes, ses limites et ses devoirs.
Échantillon biaiséEn statistiques, le mot biais a un sens précis qui n'est pas tout à fait le sens habituel du mot. Un échantillon biaisé est un ensemble d'individus d'une population, censé la représenter, mais dont la sélection des individus a introduit un biais qui ne permet alors plus de conclure directement pour l'ensemble de la population. Un échantillon biaisé n'est donc pas un échantillon de personnes biaisées (bien que ça puisse être le cas) mais avant tout un échantillon sélectionné de façon biaisée.
DiscriminationLe mot discrimination vient du latin discriminis, qui signifie « séparation ». Action de distinguer, traiter, considérer, sélectionner des entités selon des critères spécifiques ou distinctifs. La discrimination sociale est un processus lié au fait d'opérer une distinction concernant une personne ou une catégorie sociale en créant des frontières dites « discriminantes », c'est-à-dire produisant un rejet visant à l'exclusion sociale sur des critères tels que l'origine sociale ou ethnique, la religion, le genre, le niveau de son intelligence, l'état de santé, etc.
Alignement des intelligences artificiellesLalignement des intelligences artificielles (ou alignement de l'IA, ou encore problème de l'alignement) est un champ de recherche visant à concevoir des intelligences artificielles (IA) dont les résultats s'orientent vers les objectifs, éthiques ou autres, de leurs concepteurs. On dit ainsi qu'une IA est alignée avec un opérateur si elle essaie de faire ce que l'opérateur veut qu'elle fasse. Les systèmes d'IA peuvent être difficiles à aligner, et être dysfonctionnels ou dangereux si mal alignés.
Discrimination à l'embauchethumb|Affiche du MRAP contre les discriminations à l'embauche, dessin de Charb, 2000. Une discrimination à l'embauche est une discrimination évoquée lorsque des chercheurs d'emploi sont traités de manière différenciée sur une base de critères sélectifs qui manquent de justification objective et raisonnable à l'égard du poste de travail à pourvoir (tels que le sexe, l'origine ethnique, l'âge, la religion...), selon le législateur.
Anti-discrimination lawAnti-discrimination law or non-discrimination law refers to legislation designed to prevent discrimination against particular groups of people; these groups are often referred to as protected groups or protected classes. Anti-discrimination laws vary by jurisdiction with regard to the types of discrimination that are prohibited, and also the groups that are protected by that legislation. Commonly, these types of legislation are designed to prevent discrimination in employment, housing, education, and other areas of social life, such as public accommodations.
Discrimination pour précarité socialeLa discrimination pour précarité sociale est une forme de discrimination motivée par la vulnérabilité socio-économique des victimes. Discrimination en droit québécois En droit québécois, la discrimination pour cause de condition sociale à l'article 10 de la Charte des droits et libertés de la personne est comprise par les tribunaux comme englobant la discrimination pour précarité sociale. Par exemple, dans l'affaire Commission des droits de la personne et des droits de la jeunesse (Tchakondo et une autre) c.
Bias (statistics)Statistical bias, in the mathematical field of statistics, is a systematic tendency in which the methods used to gather data and generate statistics present an inaccurate, skewed or biased depiction of reality. Statistical bias exists in numerous stages of the data collection and analysis process, including: the source of the data, the methods used to collect the data, the estimator chosen, and the methods used to analyze the data. Data analysts can take various measures at each stage of the process to reduce the impact of statistical bias in their work.
OpenAIOpenAI (« AI » pour artificial intelligence, ou intelligence artificielle) est une entreprise spécialisée dans le raisonnement artificiel, à « but lucratif plafonné », dont le siège social est à San Francisco. Avant , elle est reconnue association à but non lucratif. L'objectif de cette société est de promouvoir et de développer un raisonnement artificiel à visage humain qui profitera à toute l'humanité.
Intelligence artificielle amicaleUne intelligence artificielle amicale (aussi appelé IA amicale ou IAA) est une intelligence artificielle hypothétique qui aurait un effet positif plutôt que négatif sur l'humanité. Ce concept fait partie de l'éthique de l'intelligence artificielle et est étroitement lié au problème de l'alignement et à l'éthique des machines. Alors que l'éthique des machines se préoccupe de la façon dont un agent artificiellement intelligent doit se comporter, la recherche de l'intelligence artificielle amicale est axée sur la façon de provoquer ce comportement et de s'assurer qu'il est suffisamment maîtrisé.
Biais de confirmationLe biais de confirmation, également dénommé biais de , est le biais cognitif qui consiste à privilégier les informations confirmant ses idées préconçues ou ses hypothèses, ou à accorder moins de poids aux hypothèses et informations jouant en défaveur de ses conceptions, ce qui se traduit par une réticence à changer d'avis. Ce biais se manifeste chez un individu lorsqu'il rassemble des éléments ou se rappelle des informations mémorisées, de manière sélective, les interprétant d'une manière biaisée.
Biais cognitifalt=180+ cognitive biases, designed by John Manoogian III (jm3)|vignette|302x302px|Les biais cognitifs peuvent être organisés en quatre catégories : les biais qui découlent de trop d'informations, pas assez de sens, la nécessité d'agir rapidement et les limites de la mémoire. Modèle Algorithmique: John Manoogian III (jm3) Modèle Organisationnel: Buster Benson. Un biais cognitif est une déviation dans le traitement cognitif d'une information. Le terme biais fait référence à une déviation de la pensée logique et rationnelle par rapport à la réalité.
