Séance de cours

Méthodes efficaces de traitement des langues naturelles

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Description

Cette séance de cours couvre les dernières avancées dans le traitement du langage naturel, en mettant l'accent sur l'efficacité de la formation de grands modèles linguistiques. Parmi les sujets abordés, mentionnons les coûts énormes de la formation de modèles à la fine pointe de la technologie, l'impact environnemental de l'IA et les défis liés à l'échelle des modèles linguistiques. La séance de cours traite également de l'évolution des tailles des modèles au fil des ans et des compromis entre la précision et l'efficacité des modèles.

Source officielle

Concepts associés (20)

Modèle de langage

En traitement automatique des langues, un modèle de langage ou modèle linguistique est un modèle statistique de la distribution de symboles distincts (lettres, phonèmes, mots) dans une langue naturelle. Un modèle de langage peut par exemple prédire le mot suivant dans une séquence de mots. Un modèle de langage n-gramme est un modèle de langage qui modélise des séquences de mots comme un processus de Markov. Il utilise l'hypothèse simplificatrice selon laquelle la probabilité du mot suivant dans une séquence ne dépend que d'une fenêtre de taille fixe de mots précédents.

Traitement automatique du langage naturel

Le traitement automatique du langage naturel (TALN), en anglais natural language processing ou NLP, est un domaine multidisciplinaire impliquant la linguistique, l'informatique et l'intelligence artificielle, qui vise à créer des outils de traitement du langage naturel pour diverses applications. Il ne doit pas être confondu avec la linguistique informatique, qui vise à comprendre les langues au moyen d'outils informatiques.

Machine ethics

Machine ethics (or machine morality, computational morality, or computational ethics) is a part of the ethics of artificial intelligence concerned with adding or ensuring moral behaviors of man-made machines that use artificial intelligence, otherwise known as artificial intelligent agents. Machine ethics differs from other ethical fields related to engineering and technology. Machine ethics should not be confused with computer ethics, which focuses on human use of computers.

Roboéthique

La roboéthique est l'éthique appliquée à la robotique. Elle est centrée sur l'éthique humaine pour guider la conception, la construction et l'utilisation des robots. Le terme roboéthique a été inventé en 2002, par le roboticien Gian Marco Veruggio, initiateur du premier colloque international sur la rob éthique en 2004. Comme la roboéthique est une éthique avant tout centrée sur l'humain, elle doit respecter les principes les plus importants et largement acceptés de la Déclaration universelle des droits de l'homme : La dignité humaine et des droits de l'homme.

Éthique de l'intelligence artificielle

L'éthique de l'intelligence artificielle est le domaine de l' propre aux robots et autres entités artificiellement intelligents. Il est généralement divisé en roboéthique, qui se préoccupe de l'éthique humaine pour guider la conception, la construction et l'utilisation des êtres artificiellement intelligents, et l', préoccupée par le comportement moral des agents moraux artificiels. Pour l'aspect philosophique de l'intelligence artificielle, voir Philosophie de l'intelligence artificielle.

Afficher plus

Séances de cours associées (32)

Éthique dans le traitement du langage naturel: lutter contre les préjugés et la désinformation

Couvre les considérations éthiques en PNL, en se concentrant sur les biais, la toxicité et la désinformation.

Démarrage et alignement

Explore l'incitation, l'alignement et les capacités des grands modèles de langage pour les tâches de traitement du langage naturel.

Considérations éthiques dans le traitement des langues naturelles

Examine les défis éthiques dans les systèmes de PNL, y compris les biais, la toxicité, la vie privée et la désinformation.

Modèles de séquence de préformation: BART et T5

Couvre la préformation des modèles séquence à séquence, en se concentrant sur les architectures BART et T5.

Perspectives d'utilisation des données : applications NLP et AI

Explore la construction d'OS pour le matériel hétérogène, l'efficacité du mouvement des données, les progrès de l'IA, et les défis NLP.

Afficher plus

Concepts associés (20)

Modèle de langage

Traitement automatique du langage naturel

Machine ethics

Roboéthique

Éthique de l'intelligence artificielle

Afficher plus