Attention (machine learning)Machine learning-based attention is a mechanism mimicking cognitive attention. It calculates "soft" weights for each word, more precisely for its embedding, in the context window. It can do it either in parallel (such as in transformers) or sequentially (such as recursive neural networks). "Soft" weights can change during each runtime, in contrast to "hard" weights, which are (pre-)trained and fine-tuned and remain frozen afterwards. Multiple attention heads are used in transformer-based large language models.
Classifieur linéaireEn apprentissage automatique, les classifieurs linéaires sont une famille d'algorithmes de classement statistique. Le rôle d'un classifieur est de classer dans des groupes (des classes) les échantillons qui ont des propriétés similaires, mesurées sur des observations. Un classifieur linéaire est un type particulier de classifieur, qui calcule la décision par combinaison linéaire des échantillons. « Classifieur linéaire » est une traduction de l'anglais linear classifier.
NombreUn nombre est un concept permettant d’évaluer et de comparer des quantités ou des rapports de grandeurs, mais aussi d’ordonner des éléments en indiquant leur rang. Souvent écrits à l’aide d’un ou plusieurs chiffres, les nombres interagissent par le biais d’opérations qui sont résumées par des règles de calcul. Les propriétés de ces relations entre les nombres sont l’objet d’étude de l’arithmétique, qui se prolonge avec la théorie des nombres.
HyperparamètreDans l'apprentissage automatique, un hyperparamètre est un paramètre dont la valeur est utilisée pour contrôler le processus d'apprentissage. En revanche, les valeurs des autres paramètres (généralement la pondération de nœuds) sont obtenues par apprentissage. Les hyperparamètres peuvent être classifiés comme étant des hyperparamètres de modèle, qui ne peuvent pas être déduits en ajustant la machine à l'ensemble d'entraînement parce qu'ils s'appliquent à la tâche de la sélection du modèle, ou des hyperparamètres d'algorithmes, qui en principe n'ont aucune influence sur la performance du modèle mais affectent la rapidité et la qualité du processus d'apprentissage.
Théorie des nombresTraditionnellement, la théorie des nombres est une branche des mathématiques qui s'occupe des propriétés des nombres entiers (qu'ils soient entiers naturels ou entiers relatifs). Plus généralement, le champ d'étude de cette théorie concerne une large classe de problèmes qui proviennent naturellement de l'étude des entiers. La théorie des nombres occupe une place particulière en mathématiques, à la fois par ses connexions avec de nombreux autres domaines, et par la fascination qu'exercent ses théorèmes et ses problèmes ouverts, dont les énoncés sont souvent faciles à comprendre, même pour les non-mathématiciens.
Nombre de masse441px|droite Le nombre de masse (A) est le terme employé en chimie et en physique pour représenter le nombre de nucléons, c'est-à-dire la somme du nombre de protons (numéro atomique Z) et du nombre de neutrons (N) constituant le noyau d'un atome. Par exemple, le noyau du carbone 12 (12C) compte 6 protons et 6 neutrons, son nombre de masse est donc 12 (6 + 6). C'est ce nombre qui détermine la variété isotopique d'un élément chimique. On appelle isotopes des éléments chimiques ayant un même numéro atomique, mais un nombre de neutrons et donc un nombre de masse différents.
Nombre baryoniqueLe est, en physique des particules, un nombre quantique additif invariant. Il peut être défini comme le tiers de la différence entre le nombre de quarks et le nombre d'antiquarks dans le système : où est le nombre de quarks, et est le nombre d'antiquarks. D'un point de vue pratique, on divise par trois afin de faire correspondre le nombre baryonique au nombre de nucléons (protons et neutrons, tous deux constitués de trois quarks). Or, ces particules ont été connues bien avant, et sont plus familières que les quarks.
Nombre leptoniqueLe est, en physique des particules, un nombre quantique invariant (tout comme le nombre baryonique) attribué aux particules et faisant l'objet d'une conservation lors d'une réaction nucléaire. Le nombre leptonique d'un système est défini comme la différence entre les nombres de leptons et d'antileptons qu'il contient : Le nombre leptonique est aussi défini comme la somme de trois nombres quantiques dits nombres leptoniques partiels : Le nombre leptonique vaut +1 pour un lepton, -1 pour un antilepton et 0 pour toute autre particule.
Numéro atomique400px|droite Le numéro atomique (Z) représente, en chimie et en physique, le nombre de protons d'un atome. Ce dernier peut être schématisé, en première approche, par une agglomération compacte (noyau atomique) de protons (p+) et de neutrons (n), autour de laquelle circulent des électrons (e−). Dans un atome de charge électrique neutre, le nombre d'électrons est égal au numéro atomique. Comme les protons sont les seuls éléments du noyau avec une charge, le nombre de protons est égal au nombre d'électrons.
Environmental Protection Agencyvignette|Le siège de l'EPA à Washington. L'Agence de protection de l’environnement des États-Unis (United States Environmental Protection Agency ou EPA) est une agence indépendante du gouvernement des États-Unis, dont les activités sont cependant contrôlées par le Comité des sciences, de l'espace et des technologies de la Chambre des représentants des États-Unis. Elle a été créée sur proposition du président Nixon le 9 juillet 1970, qui signe le décret présidentiel le 2 décembre 1970, dans la foulée du jour de la Terre le pour étudier et protéger la nature et la santé des citoyens des États-Unis.
Astuce du noyauEn apprentissage automatique, l'astuce du noyau, ou kernel trick en anglais, est une méthode qui permet d'utiliser un classifieur linéaire pour résoudre un problème non linéaire. L'idée est de transformer l'espace de représentation des données d'entrées en un espace de plus grande dimension, où un classifieur linéaire peut être utilisé et obtenir de bonnes performances. La discrimination linéaire dans l'espace de grande dimension (appelé aussi espace de redescription) est équivalente à une discrimination non linéaire dans l'espace d'origine.
Réseau de neurones artificielsUn réseau de neurones artificiels, ou réseau neuronal artificiel, est un système dont la conception est à l'origine schématiquement inspirée du fonctionnement des neurones biologiques, et qui par la suite s'est rapproché des méthodes statistiques. Les réseaux de neurones sont généralement optimisés par des méthodes d'apprentissage de type probabiliste, en particulier bayésien.
