Réseau de neurones à impulsionsLes réseaux de neurones à impulsions (SNNs : Spiking Neural Networks, en anglais) sont un raffinement des réseaux de neurones artificiels (ANNs : Artificial Neural Networks, en anglais) où l’échange entre neurones repose sur l’intégration des impulsions et la redescente de l’activation, à l’instar des neurones naturels. L’encodage est donc temporel et binaire. Le caractère binaire pose une difficulté de continuité au sens mathématique (cela empêche notamment l’utilisation des techniques de rétropropagation des coefficients - telle que la descente de gradient - utilisées classiquement dans les méthodes d'apprentissage).
Meta-learning (computer science)Meta learning is a subfield of machine learning where automatic learning algorithms are applied to metadata about machine learning experiments. As of 2017, the term had not found a standard interpretation, however the main goal is to use such metadata to understand how automatic learning can become flexible in solving learning problems, hence to improve the performance of existing learning algorithms or to learn (induce) the learning algorithm itself, hence the alternative term learning to learn.
PaléocèneLe Paléocène est la première époque de l'ère Cénozoïque, dans l'échelle des temps géologiques. Elle s'étend de à d'années. Le mot est composé du grec , « vieux, d'autrefois, ancien », et , « nouveau », car c'est l'époque la plus ancienne de la nouvelle ère Cénozoïque. Il est précédé du Crétacé et suivi de l'Éocène. Il débute par un événement bien connu : la limite Crétacé-Tertiaire, il y a .
ÉocèneL’Éocène est la deuxième époque du Paléogène et aussi la deuxième de l’ère Cénozoïque. Il suit le Paléocène et précède l’Oligocène. Il s’étend d'il y a à millions d’années. Le début de l’Éocène est marqué par l’émergence des premiers mammifères modernes, sa fin par une extinction massive, dite « Grande Coupure », peut-être liée aux impacts météoritiques de Popigaï en Sibérie et de Chesapeake, en Amérique du Nord. Son nom provient du grec « ἠώς » (eos, aube) et « καινός » (kainos, nouveau) qui est une référence aux nouvelles espèces de mammifères apparaissant durant cette époque.
MiocèneLe Miocène est la première époque du Néogène et la quatrième de l'ère Cénozoïque. Il s'étend de 23,03 ± 0,05 à 5,332 ± 0,005 millions d'années. Il est précédé par l'Oligocène et suivi par le Pliocène. Le nom « Miocène » a été créé par Charles Lyell à partir du grec , « moins» et , « récent », car cette période comporte moins d'invertébrés marins modernes que le Pliocène. Les subdivisions du Miocène sont définies par les abondances relatives de foraminifères et de nanofossiles calcaires.
Regularized least squaresRegularized least squares (RLS) is a family of methods for solving the least-squares problem while using regularization to further constrain the resulting solution. RLS is used for two main reasons. The first comes up when the number of variables in the linear system exceeds the number of observations. In such settings, the ordinary least-squares problem is ill-posed and is therefore impossible to fit because the associated optimization problem has infinitely many solutions.
Stability (learning theory)Stability, also known as algorithmic stability, is a notion in computational learning theory of how a machine learning algorithm output is changed with small perturbations to its inputs. A stable learning algorithm is one for which the prediction does not change much when the training data is modified slightly. For instance, consider a machine learning algorithm that is being trained to recognize handwritten letters of the alphabet, using 1000 examples of handwritten letters and their labels ("A" to "Z") as a training set.
Grand modèle de langageUn grand modèle de langage, grand modèle linguistique, grand modèle de langue, modèle massif de langage ou encore modèle de langage de grande taille (LLM, pour l'anglais large language model) est un modèle de langage possédant un grand nombre de paramètres (généralement de l'ordre du milliard de poids ou plus). Ce sont des réseaux de neurones profonds entraînés sur de grandes quantités de texte non étiqueté utilisant l'apprentissage auto-supervisé ou l'apprentissage semi-supervisé.
Entropie croiséeEn théorie de l'information, l'entropie croisée entre deux lois de probabilité mesure le nombre de bits moyen nécessaires pour identifier un événement issu de l'« ensemble des événements » - encore appelé tribu en mathématiques - sur l'univers , si la distribution des événements est basée sur une loi de probabilité , relativement à une distribution de référence . L'entropie croisée pour deux distributions et sur le même espace probabilisé est définie de la façon suivante : où est l'entropie de , et est la divergence de Kullback-Leibler entre et .
OligocèneL’Oligocène est une époque géologique qui s’étend de 33,9 ± 0,1 à 23,03 ± 0,05 millions d'années. Elle suit l’Éocène après la Grande Coupure, et précède le Miocène. C’est la troisième époque de l’ère Cénozoïque et aussi la troisième du Paléogène. Le nom de l'Oligocène, défini par l'Allemand Heinrich Ernst Beyrich dérive du ὀλίγος (oligos, peu) et καινός (kainos, nouveau), en référence à la rareté d’apparition de nouveaux groupes de mammifères durant cette époque, en comparaison de leur rapide radiation évolutive durant l'Éocène.
Elastic net regularizationIn statistics and, in particular, in the fitting of linear or logistic regression models, the elastic net is a regularized regression method that linearly combines the L1 and L2 penalties of the lasso and ridge methods. The elastic net method overcomes the limitations of the LASSO (least absolute shrinkage and selection operator) method which uses a penalty function based on Use of this penalty function has several limitations. For example, in the "large p, small n" case (high-dimensional data with few examples), the LASSO selects at most n variables before it saturates.
Expérience d'AspectEn mécanique quantique, l'expérience d'Aspect est la première expérience montrant la violation des inégalités de Bell, établissant un résultat irréfutable en vue de la validation du phénomène d'intrication quantique et des hypothèses de non-localité. Elle apporte ainsi une réponse expérimentale au paradoxe EPR proposé une cinquantaine d'années plus tôt par Albert Einstein, Boris Podolsky et Nathan Rosen. Cette expérience a été réalisée par le physicien français Alain Aspect à l'Institut d'Optique à Orsay entre 1980 et 1982.
