Transformeurvignette|Schéma représentant l'architecture générale d'un transformeur. Un transformeur (ou modèle auto-attentif) est un modèle d'apprentissage profond introduit en 2017, utilisé principalement dans le domaine du traitement automatique des langues (TAL). Dès 2020, les transformeurs commencent aussi à trouver une application en matière de vision par ordinateur par la création des vision transformers (ViT).
Grand modèle de langageUn grand modèle de langage, grand modèle linguistique, grand modèle de langue, modèle massif de langage ou encore modèle de langage de grande taille (LLM, pour l'anglais large language model) est un modèle de langage possédant un grand nombre de paramètres (généralement de l'ordre du milliard de poids ou plus). Ce sont des réseaux de neurones profonds entraînés sur de grandes quantités de texte non étiqueté utilisant l'apprentissage auto-supervisé ou l'apprentissage semi-supervisé.
Modèle de langageEn traitement automatique des langues, un modèle de langage ou modèle linguistique est un modèle statistique de la distribution de symboles distincts (lettres, phonèmes, mots) dans une langue naturelle. Un modèle de langage peut par exemple prédire le mot suivant dans une séquence de mots. Un modèle de langage n-gramme est un modèle de langage qui modélise des séquences de mots comme un processus de Markov. Il utilise l'hypothèse simplificatrice selon laquelle la probabilité du mot suivant dans une séquence ne dépend que d'une fenêtre de taille fixe de mots précédents.
Falcon 9vignette|Schéma comparant les différentes versions des Falcon 9 développés par SpaceX. Le Falcon 9 est un lanceur spatial moyen/lourd partiellement réutilisable développé par la société américaine SpaceX dont la dernière version peut placer une charge utile de en orbite basse ou de en orbite de transfert géostationnaire. Le premier tir a eu lieu le . L'objectif de SpaceX est de fournir un lanceur permettant d'abaisser fortement le prix des mises en orbite grâce à des coûts de fabrication modérés, et à la récupération et la réutilisation des étages.
FauconsLes Faucons (Falco) sont un genre de rapaces diurnes, éponyme de la famille des Falconidés. On les retrouve sur pratiquement toute la planète, à l'exception des régions polaires. En France, citons parmi les espèces les plus connues le Faucon crécerelle (Falco tinnunculus) connu pour son chant chevalin, un rapace commun sur le territoire, et le Faucon pèlerin (Falco peregrinus) qui a souvent été apprivoisé dans le cadre de la fauconnerie.
Falcon Heavyvignette|upright=2.0|La famille de lanceurs Falcon : de gauche à droite ; avec capsule Dragon ; (récupérable) avec capsule Dragon et avec un satellite, ; (récupérable) avec capsule Dragon et avec un satellite, ; (récupérable) avec capsule Dragon et avec un satellite ; ; Falcon Heavy (récupérable) ; Falcon Heavy Block 5 (récupérable). Falcon Heavy est un lanceur spatial super lourd développé par la société SpaceX.
Attention (machine learning)Machine learning-based attention is a mechanism mimicking cognitive attention. It calculates "soft" weights for each word, more precisely for its embedding, in the context window. It can do it either in parallel (such as in transformers) or sequentially (such as recursive neural networks). "Soft" weights can change during each runtime, in contrast to "hard" weights, which are (pre-)trained and fine-tuned and remain frozen afterwards. Multiple attention heads are used in transformer-based large language models.
Jeux d'entrainement, de validation et de testEn apprentissage automatique, une tâche courante est l'étude et la construction d'algorithmes qui peuvent apprendre et faire des prédictions sur les données. De tels algorithmes fonctionnent en faisant des prédictions ou des décisions basées sur les données, en construisant un modèle mathématique à partir des données d'entrée. Ces données d'entrée utilisées pour construire le modèle sont généralement divisées en plusieurs jeux de données .
Transformeur génératif pré-entraînédroite|vignette| Architecture du modèle GPT Le transformeur génératif pré-entraîné (ou GPT, de l’anglais generative pre-trained transformer) est une famille de modèles de langage généralement formée sur un grand corpus de données textuelles pour générer un texte de type humain. Il est construit en utilisant plusieurs blocs de l'architecture du transformeur. Ils peuvent être affinés pour diverses tâches de traitement du langage naturel telles que la génération de texte, la traduction de langue et la classification de texte.
Apprentissage de représentationsEn apprentissage automatique, l'apprentissage des caractéristiques ou apprentissage des représentations est un ensemble de techniques qui permet à un système de découvrir automatiquement les représentations nécessaires à la détection ou à la classification des caractéristiques à partir de données brutes. Cela remplace l'ingénierie manuelle des fonctionnalités et permet à une machine d'apprendre les fonctionnalités et de les utiliser pour effectuer une tâche spécifique.
Falcon 1Le Falcon 1 (En français : Faucon 1) est un lanceur léger partiellement réutilisable développé et fabriqué par la société américaine privée SpaceX, ce qui en fait le premier lanceur produit intégralement avec des fonds privés. Entre 2006 et 2009, cinq lancements ont été effectués depuis la base de Kwajalein, mais seuls les deux derniers furent une réussite. Bien qu'initialement prévue, la récupération du premier étage réutilisable (et donc sa réutilisation) n’a jamais été tentée.
Validation croiséeLa validation croisée () est, en apprentissage automatique, une méthode d’estimation de fiabilité d’un modèle fondée sur une technique d’échantillonnage. Supposons posséder un modèle statistique avec un ou plusieurs paramètres inconnus, et un ensemble de données d'apprentissage sur lequel on peut apprendre (ou « entraîner ») le modèle. Le processus d'apprentissage optimise les paramètres du modèle afin que celui-ci corresponde le mieux possible aux données d'apprentissage.
Pair-aidanceLa pair-aidance est une trajectoire de rétablissement en santé, qui repose sur une entraide entre personnes étant ou ayant été atteintes d'une maladie somatique ou psychique. Cette pratique est de plus en plus recommandée dans le cadre de l'autonomisation des patients en santé mentale, d'une amélioration du respect des droits de l'homme en santé mentale ainsi que d'une condition pour accomplir l'idée de rétablissement en santé mentale (officiellement depuis 2005 au Québec, en lien avec plusieurs universités).
Parallel programming modelIn computing, a parallel programming model is an abstraction of parallel computer architecture, with which it is convenient to express algorithms and their composition in programs. The value of a programming model can be judged on its generality: how well a range of different problems can be expressed for a variety of different architectures, and its performance: how efficiently the compiled programs can execute. The implementation of a parallel programming model can take the form of a library invoked from a sequential language, as an extension to an existing language, or as an entirely new language.
Statistical model validationIn statistics, model validation is the task of evaluating whether a chosen statistical model is appropriate or not. Oftentimes in statistical inference, inferences from models that appear to fit their data may be flukes, resulting in a misunderstanding by researchers of the actual relevance of their model. To combat this, model validation is used to test whether a statistical model can hold up to permutations in the data.
Fonction softmaxvignette|Fonction softmax utilisée après un CNN (Réseau neuronal convolutif). Ici le vecteur (35.4, 38.1, -5.0) est transformée en (0.06, 0.94, 0.00). Dans ce contexte de classification d'images, le chien est reconnu. En mathématiques, la fonction softmax, aussi appelée fonction softargmax ou fonction exponentielle normalisée, est une généralisation de la fonction logistique. Elle convertit un vecteur de K nombres réels en une distribution de probabilités sur K choix.
Conversion religieusevignette|La Conversion de Saint Paul, par Le Caravage vers 1600. vignette|La Conversion de l'empereur Constantin, huile sur toile de Pierre Paul Rubens. La conversion religieuse est à la fois le processus, et l'aboutissement, d'un cheminement personnel où des croyances religieuses ou philosophiques, nouvelles ou anciennes, supplantent d'autres conceptions. L'individu décide alors de suivre une voie, et souvent abandonne des comportements jugés néfastes ou des idées jugées fausses ou simplement moins satisfaisantes.
Corde (outil)Dans le domaine de la corderie, une corde est un corps long, flexible, résistant, rond, composé de fils tortillés et/ou tressés ensemble appelé toron. Les termes utilisés en marine sont filin et bout. Il s'agit d'un câble lorsque la corde est tressée avec du métal ou qu'elle est constituée de plusieurs cordes, quels que soient les matériaux utilisés. Le fabricant de cordes est appelé cordier. Jusqu'au début du , la quasi-totalité des cordes faisaient appel à des fibres d'origines naturelles.
Carrier Sense Multiple Access with Collision AvoidanceDans les réseaux sans-fils, en particulier les réseaux Wi-Fi, la méthode d'accès CSMA/CA (Carrier Sense Multiple Access with Collision Avoidance) est un algorithme distribué qui permet le partage du média (le spectre) entre plusieurs stations tout en réduisant la probabilité de collisions entre trames et le risque de brouillage. Elle est notamment utilisée par Localtalk ou par la norme 802.11 dite Wi-Fi. La couche Liaison de données de la norme 802.
Stratégie d'évaluation (informatique)Un langage de programmation utilise une stratégie d'évaluation pour déterminer « quand » évaluer les arguments à l'appel d'une fonction (ou encore, opération, méthode) et « comment » passer les arguments à la fonction. Par exemple, dans l'appel par valeur, les arguments doivent être évalués avant d'être passés à la fonction. La stratégie d'évaluation d'un langage de programmation est spécifiée par la définition du langage même. En pratique, la plupart des langages de programmation (Java, C...
