Calcul par réservoir

Le calcul par réservoir (de l'anglais reservoir computing) est un cadre de calcul dérivé de la théorie des réseaux de neurones récurrents qui mappe un ou plusieurs signaux d'entrée dans des espaces de calcul de dimension supérieure grâce à la dynamique d'un système fixe et non linéaire appelé réservoir . Une fois que le signal d'entrée est introduit dans le réservoir, qui est traité comme une « boîte noire », un simple mécanisme de lecture est entraîné pour lire l'état du réservoir et le mapper à la sortie souhaitée. Le premier avantage clé de ce cadre est que l'entraînement n'est effectué qu'à la lecture, car le réservoir reste fixe. Le second est que la puissance de calcul de systèmes naturellement disponibles (c'est-à-dire physique) peut être utilisée pour réduire le coût de calcul effectif. Le concept de calcul par réservoir découle de l'utilisation de connexions récursives au sein de réseaux de neurones pour créer un système dynamique complexe. Il s'agit d'une généralisation des architectures de réseaux de neurones antérieures telles que les réseaux de neurones récurrents, les machines à état liquide développé en 2002 et les réseaux à état d'écho en 2001. Certaines architectures décrites par plusieurs équipes en 1995 correspondent au cadre de calcul par réservoir mais n'ont pas à l'époque réussi à stimuler la communauté scientifique assez pour développer le concept. Le calcul de réservoir s'étend également à des systèmes physiques qui ne sont pas des réseaux au sens classique du terme, mais plutôt des systèmes continus dans l'espace et/ou le temps : par exemple, un simple seau d'eau peut servir de réservoir qui effectue des calculs sur des entrées données comme des perturbations surface. La complexité résultante de ces réseaux de neurones récurrents s'est avérée utile pour résoudre une variété de problèmes, notamment le traitement du langage et la modélisation de système dynamique. Cependant, la formation de réseaux de neurones récurrents est difficile et coûteuse en calcul.