Attention (machine learning)Machine learning-based attention is a mechanism mimicking cognitive attention. It calculates "soft" weights for each word, more precisely for its embedding, in the context window. It can do it either in parallel (such as in transformers) or sequentially (such as recursive neural networks). "Soft" weights can change during each runtime, in contrast to "hard" weights, which are (pre-)trained and fine-tuned and remain frozen afterwards. Multiple attention heads are used in transformer-based large language models.
Transformeurvignette|Schéma représentant l'architecture générale d'un transformeur. Un transformeur (ou modèle auto-attentif) est un modèle d'apprentissage profond introduit en 2017, utilisé principalement dans le domaine du traitement automatique des langues (TAL). Dès 2020, les transformeurs commencent aussi à trouver une application en matière de vision par ordinateur par la création des vision transformers (ViT).
Attentionthumb|250px|Jeune fille se concentrant sur une tâche manuelle ; le regard, la respiration, la position du corps et en particulier des mains et le contrôle neuro musculaire sont mobilisés de concert pour assurer la précision du mouvement L'attention est la faculté de l'esprit de se consacrer à un objet : d'utiliser ses capacités à l'observation, l'étude, le jugement d'une chose quelle qu'elle soit, ou encore à la pratique d'une action.
Trouble du déficit de l'attention avec ou sans hyperactivitéLe trouble déficit de l'attention avec ou sans hyperactivité (TDAH ; en anglais : attention deficit hyperactivity disorder, ADHD) est un trouble du neurodéveloppement caractérisé par trois types de symptômes pouvant se manifester seuls ou combinés : des difficultés d'attention et son contrôle, des symptômes d'hyperactivité et d'hyperkinésie et des problèmes de gestion de l'impulsivité. Le trouble est reconnu lorsque ces symptômes se manifestent de manière persistante, sur six mois ou plus, et de manière suffisamment importante pour poser un obstacle développemental ou perturber l'insertion sociale ou encore le travail scolaire.
Réseau de neurones récurrentsUn réseau de neurones récurrents (RNN pour recurrent neural network en anglais) est un réseau de neurones artificiels présentant des connexions récurrentes. Un réseau de neurones récurrents est constitué d'unités (neurones) interconnectées interagissant non-linéairement et pour lequel il existe au moins un cycle dans la structure. Les unités sont reliées par des arcs (synapses) qui possèdent un poids. La sortie d'un neurone est une combinaison non linéaire de ses entrées.
Traitement automatique du langage naturelLe traitement automatique du langage naturel (TALN), en anglais natural language processing ou NLP, est un domaine multidisciplinaire impliquant la linguistique, l'informatique et l'intelligence artificielle, qui vise à créer des outils de traitement du langage naturel pour diverses applications. Il ne doit pas être confondu avec la linguistique informatique, qui vise à comprendre les langues au moyen d'outils informatiques.
AutomutilationL’automutilation se caractérise par des blessures et dommages physiques directs, avec ou sans intention suicidaire. Ce terme est utilisé dans le manuel diagnostique et statistique des troubles mentaux (DSM--TR). Son usage est discutable pour ce qui concerne les lésions cutanées auto-infligées, car le mutilare renvoie à la section irréversible d'un membre ou d'un organe (exemple : se crever un œil ou se couper un doigt).
Mécanisme de défenseLes mécanismes de défense (Abwehrmechanismen) désignent en psychanalyse et chez Freud les procédés inconscients employés principalement par le Moi dans différentes organisations psychiques comme les névroses. Les travaux d'Anna Freud sont particulièrement centrés sur ce thème. Laplanche et Pontalis donnent des mécanismes de défense la définition suivante: ce sont . Ils précisent ensuite qu'. Pour Elsa Schmid-Kitsikis, . Quant à la définition de la « défense », lorsque le mot « défense » est pris absolument, le terme désigne pour le même auteur .
Neural machine translationNeural machine translation (NMT) is an approach to machine translation that uses an artificial neural network to predict the likelihood of a sequence of words, typically modeling entire sentences in a single integrated model. They require only a fraction of the memory needed by traditional statistical machine translation (SMT) models. Furthermore, unlike conventional translation systems, all parts of the neural translation model are trained jointly (end-to-end) to maximize the translation performance.
Prix NobelLe prix Nobel (Nobelpriset) est une récompense de portée internationale. Remis pour la première fois en 1901, les prix sont décernés chaque année à des personnes , par leurs inventions, découvertes et améliorations dans différents domaines de la connaissance, par l'œuvre littéraire la plus impressionnante, ou par leur travail en faveur de la paix, suivant ainsi les derniers vœux d'Alfred Nobel, inventeur de la dynamite. Au , les prix sont décernés pendant tout le mois d’octobre de chaque année.
Histoire de l'optiquevignette|upright=2|400px|La connaissance progressive des caractéristiques du spectre lumineux, avec les raies de Fraunhofer, marque la transition d'une optique géométrique, vers une optique en lien avec la matière, l'atome et l'univers|alt=Une bande de couleur allant du violet sombre à gauche au rouge sombre à droite, des traits noirs la barrent en divers endroits. L'histoire de l'optique est une partie de l'histoire des sciences. Le terme optique vient du grec ancien τα ὀπτικά.
Entrée-sortieDans un système à base de processeur, de microprocesseur, de microcontrôleur ou d'automate, on appelle entrée-sortie toute interface permettant d’échanger des données entre le processeur et les périphériques qui lui sont associés. De la sorte, le système peut réagir à des modifications de son environnement, voire le contrôler. Elles sont parfois désignées par l'acronyme I/O, issu de l'anglais Input/Output ou encore E/S pour entrée/sortie. Dans un système d'exploitation : les entrées sont les données envoyées par un périphérique (disque, réseau, clavier, capteur.
Alfred NobelAlfred Bernhard Nobel /'alfrəd 'bɛɳhɑ:ɖ noˈbɛ:l /, né le à Stockholm en Suède et mort le à Sanremo en Italie, est un chimiste, industriel et fabricant d'armes suédois. Dépositaire de plus de 350 brevets scientifiques de son vivant, dont celui de la dynamite, invention qui a fait sa renommée. Il fonde l'entreprise KemaNobel en 1871, et rachète l'entreprise d'armement Bofors en 1894. Dans son testament, il légua son immense fortune pour la création du prix Nobel. L'élément chimique nobélium a été appelé ainsi en son honneur.
Réseau neuronal résidueldroite|vignette| Forme canonique d'un réseau neuronal résiduel. Une couche l − 1 est ignoré sur l'activation de l − 2. Un réseau neuronal résiduel ( ResNet ) est un réseau neuronal artificiel (ANN). Il s'agit d'une variante du HighwayNet , le premier réseau neuronal à action directe très profond avec des centaines de couches, beaucoup plus profond que les réseaux neuronaux précédents. Les sauts de connexion ou "raccourcis" sont utilisés pour passer par-dessus certaines couches ( les HighwayNets peuvent également avoir des poids pour les saut eux-mêmes, grâce à une matrice de poids supplémentaire pour leurs portes).
Prix Nobel de physiquevignette|Le diplôme du Prix Nobel de Physique attribué pour moitié à Pierre et Marie Curie, l'autre moitié étant attribuée à Henri Becquerel, dont le nom figure sur la récompense attribuée au couple (1903). Le prix Nobel de physique est une récompense attribuée par la fondation Nobel, selon les dernières volontés du testament du chimiste Alfred Nobel. Il distingue des figures scientifiques éminentes ayant rendu de grands services à l'humanité par une œuvre et des travaux considérés comme une exceptionnelle contribution en physique.
Clé de chiffrementUne clé est un paramètre utilisé en entrée d'une opération cryptographique (chiffrement, déchiffrement, scellement, signature numérique, vérification de signature). Une clé de chiffrement peut être symétrique (cryptographie symétrique) ou asymétrique (cryptographie asymétrique). Dans le premier cas, la même clé sert à chiffrer et à déchiffrer. Dans le second cas on utilise deux clés différentes, la clé publique est utilisée au chiffrement alors que celle servant au déchiffrement est gardée secrète : la clé secrète, ou clé privée, et ne peut pas se déduire de la clé publique.
Long short-term memoryLong short-term memory (LSTM) network is a recurrent neural network (RNN), aimed to deal with the vanishing gradient problem present in traditional RNNs. Its relative insensitivity to gap length is its advantage over other RNNs, hidden Markov models and other sequence learning methods. It aims to provide a short-term memory for RNN that can last thousands of timesteps, thus "long short-term memory".
Cryptographie asymétriquevignette|320x320px|Schéma du chiffrement asymétrique: une clé sert à chiffrer et une seconde à déchiffrer La cryptographie asymétrique, ou cryptographie à clé publique est un domaine relativement récent de la cryptographie. Elle permet d'assurer la confidentialité d'une communication, ou d'authentifier les participants, sans que cela repose sur une donnée secrète partagée entre ceux-ci, contrairement à la cryptographie symétrique qui nécessite ce secret partagé préalable.
OptiqueL'optique est la branche de la physique qui traite de la lumière, de son comportement et de ses propriétés, du rayonnement électromagnétique à la vision en passant par les systèmes utilisant ou émettant de la lumière. Du fait de ses propriétés ondulatoires, le domaine de la lumière peut couvrir le lointain UV jusqu'au lointain IR en passant par les longueurs d'onde visibles. Ces propriétés recouvrent alors le domaine des ondes radio, micro-ondes, des rayons X et des radiations électromagnétiques.
Longueur de cléEn cryptologie, la longueur de clé ( ou key length) est la taille mesurée en bits de la clé de chiffrement (ou de signature) utilisée par un algorithme de chiffrement. La longueur de la clé est différente de la sécurité cryptographique, qui est la mesure de l'attaque la plus rapide contre un algorithme, aussi mesurée en bits. La sécurité évaluée d'un cryptosystème ne peut pas dépasser sa longueur de clé (étant donné que tout algorithme peut être cassé par force brute), mais elle peut être plus petite.
