Machine à vecteurs de supportLes machines à vecteurs de support ou séparateurs à vaste marge (en anglais support-vector machine, SVM) sont un ensemble de techniques d'apprentissage supervisé destinées à résoudre des problèmes de discrimination et de régression. Les SVM sont une généralisation des classifieurs linéaires. Les séparateurs à vaste marge ont été développés dans les années 1990 à partir des considérations théoriques de Vladimir Vapnik sur le développement d'une théorie statistique de l'apprentissage : la théorie de Vapnik-Tchervonenkis.
Optimization problemIn mathematics, computer science and economics, an optimization problem is the problem of finding the best solution from all feasible solutions. Optimization problems can be divided into two categories, depending on whether the variables are continuous or discrete: An optimization problem with discrete variables is known as a discrete optimization, in which an object such as an integer, permutation or graph must be found from a countable set.
Optimisation (mathématiques)L'optimisation est une branche des mathématiques cherchant à modéliser, à analyser et à résoudre analytiquement ou numériquement les problèmes qui consistent à minimiser ou maximiser une fonction sur un ensemble. L’optimisation joue un rôle important en recherche opérationnelle (domaine à la frontière entre l'informatique, les mathématiques et l'économie), dans les mathématiques appliquées (fondamentales pour l'industrie et l'ingénierie), en analyse et en analyse numérique, en statistique pour l’estimation du maximum de vraisemblance d’une distribution, pour la recherche de stratégies dans le cadre de la théorie des jeux, ou encore en théorie du contrôle et de la commande.
Optimisation convexevignette|320x320px|Optimisation convexe dans un espace en deux dimensions dans un espace contraint L'optimisation convexe est une sous-discipline de l'optimisation mathématique, dans laquelle le critère à minimiser est convexe et l'ensemble admissible est convexe. Ces problèmes sont plus simples à analyser et à résoudre que les problèmes d'optimisation non convexes, bien qu'ils puissent être NP-difficile (c'est le cas de l'optimisation copositive). La théorie permettant d'analyser ces problèmes ne requiert pas la différentiabilité des fonctions.
Optimisation combinatoireL’optimisation combinatoire, (sous-ensemble à nombre de solutions finies de l'optimisation discrète), est une branche de l'optimisation en mathématiques appliquées et en informatique, également liée à la recherche opérationnelle, l'algorithmique et la théorie de la complexité. Dans sa forme la plus générale, un problème d'optimisation combinatoire (sous-ensemble à nombre de solutions finies de l'optimisation discrète) consiste à trouver dans un ensemble discret un parmi les meilleurs sous-ensembles (ou solutions) réalisables, la notion de meilleure solution étant définie par une fonction objectif.
Dualité (optimisation)En théorie de l'optimisation, la dualité ou principe de dualité désigne le principe selon lequel les problèmes d'optimisation peuvent être vus de deux perspectives, le problème primal ou le problème dual, et la solution du problème dual donne une borne inférieure à la solution du problème (de minimisation) primal. Cependant, en général les valeurs optimales des problèmes primal et dual ne sont pas forcément égales : cette différence est appelée saut de dualité. Pour les problèmes en optimisation convexe, ce saut est nul sous contraintes.
Constrained optimizationIn mathematical optimization, constrained optimization (in some contexts called constraint optimization) is the process of optimizing an objective function with respect to some variables in the presence of constraints on those variables. The objective function is either a cost function or energy function, which is to be minimized, or a reward function or utility function, which is to be maximized.
Margin (machine learning)In machine learning the margin of a single data point is defined to be the distance from the data point to a decision boundary. Note that there are many distances and decision boundaries that may be appropriate for certain datasets and goals. A margin classifier is a classifier that explicitly utilizes the margin of each example while learning a classifier. There are theoretical justifications (based on the VC dimension) as to why maximizing the margin (under some suitable constraints) may be beneficial for machine learning and statistical inferences algorithms.
Binary classificationBinary classification is the task of classifying the elements of a set into two groups (each called class) on the basis of a classification rule. Typical binary classification problems include: Medical testing to determine if a patient has certain disease or not; Quality control in industry, deciding whether a specification has been met; In information retrieval, deciding whether a page should be in the result set of a search or not. Binary classification is dichotomization applied to a practical situation.
Classification en classes multiplesIn machine learning and statistical classification, multiclass classification or multinomial classification is the problem of classifying instances into one of three or more classes (classifying instances into one of two classes is called binary classification). While many classification algorithms (notably multinomial logistic regression) naturally permit the use of more than two classes, some are by nature binary algorithms; these can, however, be turned into multinomial classifiers by a variety of strategies.
Système binaire (astronomie)vignette|Pluton et son satellite Charon sont un système binaire Un système binaire est un système astronomique regroupant deux objets de l'espace (habituellement des étoiles, mais aussi des planètes, des galaxies, des astéroïdes ou des trous noirs) qui sont proches, et que leur interaction gravitationnelle fait orbiter autour d'un centre de masse commun nettement distinct de chacun d'eux. Dans le cas des étoiles binaires, cette exigence n'est pas forcément requise.
HyperplanEn mathématiques et plus particulièrement en algèbre linéaire et géométrie, les hyperplans d'un espace vectoriel E de dimension quelconque sont la généralisation des plans vectoriels d'un espace de dimension 3 : ce sont les sous-espaces vectoriels de codimension 1 dans E. Si E est de dimension finie n non nulle, ses hyperplans sont donc ses sous-espaces de dimension n – 1 : par exemple l'espace nul dans une droite vectorielle, une droite vectorielle dans un plan vectoriel Soient E un espace vectoriel et H un sous-espace.
Étoile binaireEn astronomie, une étoile binaire ou binaire, appelée aussi système (stellaire) binaire ou étoile double physique, est un type de système binaire composée de deux étoiles orbitant autour d'un centre de gravité commun. Le terme « étoile binaire » a apparemment été inventé par William Herschel en 1802 pour indiquer . Au , des étoiles binaires sont classées en différents types selon leurs propriétés observables : binaire visuelle, binaire astrométrique, binaire spectroscopique et binaire à éclipses.
Classement automatiquevignette|La fonction 1-x^2-2exp(-100x^2) (rouge) et les valeurs déplacées par un bruit de 0,1*N(0,1). Le classement automatique ou classification supervisée est la catégorisation algorithmique d'objets. Elle consiste à attribuer une classe ou catégorie à chaque objet (ou individu) à classer, en se fondant sur des données statistiques. Elle fait couramment appel à l'apprentissage automatique et est largement utilisée en reconnaissance de formes. En français, le classement fait référence à l'action de classer donc de « ranger dans une classe ».
Linear separabilityIn Euclidean geometry, linear separability is a property of two sets of points. This is most easily visualized in two dimensions (the Euclidean plane) by thinking of one set of points as being colored blue and the other set of points as being colored red. These two sets are linearly separable if there exists at least one line in the plane with all of the blue points on one side of the line and all the red points on the other side. This idea immediately generalizes to higher-dimensional Euclidean spaces if the line is replaced by a hyperplane.
Séparation des convexesÉtant donnés deux convexes d'un même plan ne se rencontrant pas, il est toujours possible de subdiviser le plan en deux demi-plans de sorte que chacun contienne entièrement l'un des convexes. Il en est de même en dimension 3, la séparation des convexes étant alors réalisée par un plan. Plus généralement, on peut en faire autant en dimension finie quelconque à l'aide d'un hyperplan.
Binaire XUne binaire X est formée d'une étoile « normale » orbitant autour d'une étoile à neutrons ou d'un trou noir avec une courte période. Le rayonnement X provient de l'énorme quantité d'énergie dégagée par l'accrétion de la matière de l'étoile autour de l'objet compact. Un scénario simplifié de la formation d'une binaire X massive est le suivant (Tauris & van den Heuvel 2003) : deux étoiles massives (> 12 masses solaires) arrivent sur la séquence principale ; une dizaine de millions d'années plus tard environ, la plus massive est passée la première au stade de supergéante rouge et son enveloppe remplit le lobe de Roche, commençant le transfert de masse vers le compagnon.
Processeur vectorielvignette|Processeur vectoriel d'un supercalculateur Cray-1. Un processeur vectoriel est un processeur possédant diverses fonctionnalités architecturales lui permettant d'améliorer l’exécution de programmes utilisant massivement des tableaux, des matrices, et qui permet de profiter du parallélisme inhérent à l'usage de ces derniers. Développé pour des applications scientifiques et exploité par les machines Cray et les supercalculateurs qui lui feront suite, ce type d'architecture a rapidement montré ses avantages pour des applications grand public (on peut citer la manipulation d'images).
Gather/scatter (vector addressing)Gather/scatter is a type of memory addressing that at once collects (gathers) from, or stores (scatters) data to, multiple, arbitrary indices. Examples of its use include sparse linear algebra operations, sorting algorithms, fast Fourier transforms, and some computational graph theory problems. It is the vector equivalent of register indirect addressing, with gather involving indexed reads, and scatter, indexed writes. Vector processors (and some SIMD units in CPUs) have hardware support for gather and scatter operations.
Demi-espacevignette|Le plan rouge détermine le demi-espace bleu. En mathématiques, la notion de demi-espace peut se définir de façon intuitive comme étant l'une des deux parties de l'espace que l'on aurait partagé avec un plan. En physique, on parle de milieu semi-infini. Soient E un espace affine réel, g une application affine non constante de E dans R et H l'hyperplan affine d'équation g(x) = 0. Les deux demi-espaces fermés délimités par H sont l'ensemble F+ des points x tels que g(x) ≥ 0 et l'ensemble F– des points x tels que g(x) ≤ 0.
