Apprentissage profondL'apprentissage profond ou apprentissage en profondeur (en anglais : deep learning, deep structured learning, hierarchical learning) est un sous-domaine de l’intelligence artificielle qui utilise des réseaux neuronaux pour résoudre des tâches complexes grâce à des architectures articulées de différentes transformations non linéaires. Ces techniques ont permis des progrès importants et rapides dans les domaines de l'analyse du signal sonore ou visuel et notamment de la reconnaissance faciale, de la reconnaissance vocale, de la vision par ordinateur, du traitement automatisé du langage.
Réseau de neurones artificielsUn réseau de neurones artificiels, ou réseau neuronal artificiel, est un système dont la conception est à l'origine schématiquement inspirée du fonctionnement des neurones biologiques, et qui par la suite s'est rapproché des méthodes statistiques. Les réseaux de neurones sont généralement optimisés par des méthodes d'apprentissage de type probabiliste, en particulier bayésien.
Types of artificial neural networksThere are many types of artificial neural networks (ANN). Artificial neural networks are computational models inspired by biological neural networks, and are used to approximate functions that are generally unknown. Particularly, they are inspired by the behaviour of neurons and the electrical signals they convey between input (such as from the eyes or nerve endings in the hand), processing, and output from the brain (such as reacting to light, touch, or heat). The way neurons semantically communicate is an area of ongoing research.
Réseau de neurones récurrentsUn réseau de neurones récurrents (RNN pour recurrent neural network en anglais) est un réseau de neurones artificiels présentant des connexions récurrentes. Un réseau de neurones récurrents est constitué d'unités (neurones) interconnectées interagissant non-linéairement et pour lequel il existe au moins un cycle dans la structure. Les unités sont reliées par des arcs (synapses) qui possèdent un poids. La sortie d'un neurone est une combinaison non linéaire de ses entrées.
Réseau neuronal convolutifEn apprentissage automatique, un réseau de neurones convolutifs ou réseau de neurones à convolution (en anglais CNN ou ConvNet pour convolutional neural networks) est un type de réseau de neurones artificiels acycliques (feed-forward), dans lequel le motif de connexion entre les neurones est inspiré par le cortex visuel des animaux. Les neurones de cette région du cerveau sont arrangés de sorte qu'ils correspondent à des régions qui se chevauchent lors du pavage du champ visuel.
Apprentissage par renforcement profondL'apprentissage par renforcement profond (en anglais : deep reinforcement learning ou deep RL) est un sous-domaine de l'apprentissage automatique (en anglais : machine learning) qui combine l'apprentissage par renforcement et l'apprentissage profond (en anglais : deep learning). L'apprentissage par renforcement considère le problème d'un agent informatique (par exemple, un robot, un agent conversationnel, un personnage dans un jeu vidéo, etc.) qui apprend à prendre des décisions par essais et erreurs.
Brisure de symétrieUne symétrie est brisée quand un système ou les lois qui régissent son comportement ne cessent d'être invariants sous la transformation associée à cette symétrie. On observe des brisures de symétrie en physique (de l'échelle microscopique jusqu'à celle de l'Univers), en chimie (dont de nombreuses transitions de phase) et en biologie (par exemple l'asymétrie gauche-droite chez les Bilatériens). Une symétrie est explicitement brisée lorsque la loi qui régit son comportement est modifiée et n'est plus invariante dû à une cause externe.
ÉmergenceL’émergence est un concept philosophique formalisé au et qui peut être grossièrement résumé par l'adage : « le tout est plus que la somme des parties ». Il s'oppose au réductionnisme comme aux doctrines dualistes (dualisme ou vitalisme). Une propriété peut être qualifiée d’émergente si elle « découle » de propriétés plus fondamentales tout en demeurant « nouvelle » ou « irréductible » à celles-ci. Ainsi, John Stuart Mill constate que les propriétés de l'eau ne sont pas réductibles à celles de l'hydrogène ou de l'oxygène.
Théorie des cordesEn physique fondamentale, la théorie des cordes est un cadre théorique dans lequel les particules ponctuelles de la physique des particules sont représentées par des objets unidimensionnels appelés cordes. La théorie décrit comment ces cordes se propagent dans l'espace et interagissent les unes avec les autres. Sur des échelles de distance supérieures à l'échelle de la corde, cette dernière ressemble à une particule ordinaire, avec ses propriétés de masse, de charge et autres, déterminées par l'état vibratoire de la corde.
Réseau de neurones à propagation avantUn réseau de neurones à propagation avant, en anglais feedforward neural network, est un réseau de neurones artificiels acyclique, se distinguant ainsi des réseaux de neurones récurrents. Le plus connu est le perceptron multicouche qui est une extension du premier réseau de neurones artificiel, le perceptron inventé en 1957 par Frank Rosenblatt. vignette|Réseau de neurones à propagation avant Le réseau de neurones à propagation avant est le premier type de réseau neuronal artificiel conçu. C'est aussi le plus simple.
Neural networkA neural network can refer to a neural circuit of biological neurons (sometimes also called a biological neural network), a network of artificial neurons or nodes in the case of an artificial neural network. Artificial neural networks are used for solving artificial intelligence (AI) problems; they model connections of biological neurons as weights between nodes. A positive weight reflects an excitatory connection, while negative values mean inhibitory connections. All inputs are modified by a weight and summed.
Brisure spontanée de symétrieEn physique, le terme brisure spontanée de symétrie (BSS) renvoie au fait que, sous certaines conditions, certaines propriétés de la matière ne semblent pas respecter les équations décrivant le mouvement des particules (on dit qu'elles n'ont pas les mêmes symétries). Cette incohérence n'est qu'apparente et signifie simplement que les équations présentent une approximation à améliorer. Cette notion joue un rôle important en physique des particules et en physique de la matière condensée.
EmergentismEmergentism is the belief in emergence, particularly as it involves consciousness and the philosophy of mind. A property of a system is said to be emergent if it is a new outcome of some other properties of the system and their interaction, while it is itself different from them. Within the philosophy of science, emergentism is analyzed both as it contrasts with and parallels reductionism. Emergentism can be compatible with physicalism, the theory that the universe is composed exclusively of physical entities, and in particular with the evidence relating changes in the brain with changes in mental functioning.
Algorithme du gradient stochastiqueL'algorithme du gradient stochastique est une méthode de descente de gradient (itérative) utilisée pour la minimisation d'une fonction objectif qui est écrite comme une somme de fonctions différentiables. À la fois l'estimation statistique et l'apprentissage automatique s'intéressent au problème de la minimisation d'une fonction objectif qui a la forme d'une somme : où le paramètre qui minimise doit être estimé. Chacune des fonctions est généralement associée avec la -ème observation de l'ensemble des données (utilisées pour l'apprentissage).
Symétrie (physique)En physique la notion de symétrie, qui est intimement associée à la notion d'invariance, renvoie à la possibilité de considérer un même système physique selon plusieurs points de vue distincts en termes de description mais équivalents quant aux prédictions effectuées sur son évolution. Une théorie physique possède alors une symétrie S, si toute équation dans cette théorie décrit tout aussi correctement une particule ρ qu'une particule -ρ 'symétrique' de ρ.
ThéorieUne théorie (du grec theoria, « contempler, observer, examiner ») est un ensemble cohérent, si elle prétend à la scientificité, d'explications, de notions ou d'idées sur un sujet précis, pouvant inclure des lois et des hypothèses, induites par l'accumulation de faits provenant de l'observation, l'expérimentation ou, dans le cas des mathématiques, déduites d'une base axiomatique donnée : théorie des matrices, des torseurs, des probabilités.
Entropie (thermodynamique)L'entropie est une grandeur physique qui caractérise le degré de désorganisation d'un système. Introduite en 1865 par Rudolf Clausius, elle est nommée à partir du grec , littéralement « action de se retourner » pris au sens de « action de se transformer ». En thermodynamique, l'entropie est une fonction d'état extensive (c'est-à-dire, proportionnelle à la quantité de matière dans le système considéré). Elle est généralement notée , et dans le Système international d'unités elle s'exprime en joules par kelvin ().
Apprentissage de représentationsEn apprentissage automatique, l'apprentissage des caractéristiques ou apprentissage des représentations est un ensemble de techniques qui permet à un système de découvrir automatiquement les représentations nécessaires à la détection ou à la classification des caractéristiques à partir de données brutes. Cela remplace l'ingénierie manuelle des fonctionnalités et permet à une machine d'apprendre les fonctionnalités et de les utiliser pour effectuer une tâche spécifique.
Force entropiqueEn physique, une force entropique est une force dont la cause n'est pas une interaction fondamentale, mais un phénomène de nature thermodynamique. Un exemple simple de force entropique est la force qui résulte de l'étirement d'un élastique, comme l'explique ainsi le physicien Erik Verlinde : « Peut-être que l'exemple le plus connu est celui d'un polymère. Une seule molécule polymère peut être modélisée en joignant de nombreux monomères de longueur fixe, où chaque monomère peut librement tourner autour de points d'attache et s'orienter dans n'importe quelle direction.
Algorithme du gradientLalgorithme du gradient, aussi appelé algorithme de descente de gradient, désigne un algorithme d'optimisation différentiable. Il est par conséquent destiné à minimiser une fonction réelle différentiable définie sur un espace euclidien (par exemple, , l'espace des n-uplets de nombres réels, muni d'un produit scalaire) ou, plus généralement, sur un espace hilbertien. L'algorithme est itératif et procède donc par améliorations successives. Au point courant, un déplacement est effectué dans la direction opposée au gradient, de manière à faire décroître la fonction.
