Perceptron

Le perceptron est un algorithme d'apprentissage supervisé de classifieurs binaires (c'est-à-dire séparant deux classes). Il a été inventé en 1957 par Frank Rosenblatt au laboratoire d'aéronautique de l'université Cornell. Il s'agit d'un neurone formel muni d'une règle d'apprentissage qui permet de déterminer automatiquement les poids synaptiques de manière à séparer un problème d'apprentissage supervisé. Si le problème est linéairement séparable, un théorème assure que la règle du perceptron permet de trouver une séparatrice entre les deux classes. alt=Schéma d'un perceptron à n entrées.|thumb|334x334px|Les entrées i1 à in sont multipliées avec les poids W1 à Wn, puis sommées, avant qu'une fonction d'activation soit appliquée. Le perceptron peut être vu comme le type de réseau de neurones le plus simple. C'est un classifieur linéaire. Ce type de réseau neuronal ne contient aucun cycle (il s'agit d'un réseau de neurones à propagation avant). Dans sa version simplifiée, le perceptron est mono-couche et n'a qu'une seule sortie (booléenne) à laquelle toutes les entrées (booléennes) sont connectées. Plus généralement, les entrées peuvent être des nombres réels. Un perceptron à n entrées et à une seule sortie o est défini par la donnée de n poids (aussi appelés coefficients synaptiques) et un biais (ou seuil) par: La sortie o résulte alors de l'application de la fonction de Heaviside au potentiel post-synaptique , où la fonction de Heaviside est : On a alors . La fonction est non linéaire est appelée fonction d'activation. Une alternative couramment employée est , la tangente hyperbolique. vignette|Un perceptron qui calcule le OU logique.La figure de droite montre un perceptron avec 2 entrées et . Les poids sont marquées sur les arcs : 1 et 1. Le biais est de 1. Ce perceptron calcule le OU logique de et , comme le montre la table suivante : Dans la suite de cet article, on considère un échantillon fini de données labélisées , avec pour tout , , où , et . On dit alors que les vecteurs sont les « exemples » et que les points sont leurs « classes ».