Mediaspace scheduled maintenance: Aug 25, 2026 07:00 - 12:00 AM. During this time, videos will be temporarily unavailable. Check status updates.

Publication

Reservoir Optimization in Recurrent Neural Networks using Kronecker Kernels

Martin Hasler, Mahdi Jalili, Ali Ajdari Rad
2008
Conference Papers

Résumé

In this paper, using the mathematical properties of self-kronecker-production of small size random matrices, a simple but effective method is presented to optimize the reservoir of an echo state network given a certain task. The experimental results investigating the NARMA system show that few steps of the proposed optimization process can lead to a near optimum solution.

Source officielle

https://infoscience.epfl.ch/entities/publication/2fe1f2b9-23fe-4147-8aea-74e0de56dee5

À propos de ce résultat

Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.

Martin Hasler, Mahdi Jalili, Ali Ajdari Rad
2008
Conference Papers

Résumé

Source officielle

https://infoscience.epfl.ch/entities/publication/2fe1f2b9-23fe-4147-8aea-74e0de56dee5

À propos de ce résultat

Concepts associés (19)

Réseau de neurones récurrents

Un réseau de neurones récurrents (RNN pour recurrent neural network en anglais) est un réseau de neurones artificiels présentant des connexions récurrentes. Un réseau de neurones récurrents est constitué d'unités (neurones) interconnectées interagissant non-linéairement et pour lequel il existe au moins un cycle dans la structure. Les unités sont reliées par des arcs (synapses) qui possèdent un poids. La sortie d'un neurone est une combinaison non linéaire de ses entrées.

Types of artificial neural networks

There are many types of artificial neural networks (ANN). Artificial neural networks are computational models inspired by biological neural networks, and are used to approximate functions that are generally unknown. Particularly, they are inspired by the behaviour of neurons and the electrical signals they convey between input (such as from the eyes or nerve endings in the hand), processing, and output from the brain (such as reacting to light, touch, or heat). The way neurons semantically communicate is an area of ongoing research.

Réseau de neurones à propagation avant

Un réseau de neurones à propagation avant, en anglais feedforward neural network, est un réseau de neurones artificiels acyclique, se distinguant ainsi des réseaux de neurones récurrents. Le plus connu est le perceptron multicouche qui est une extension du premier réseau de neurones artificiel, le perceptron inventé en 1957 par Frank Rosenblatt. vignette|Réseau de neurones à propagation avant Le réseau de neurones à propagation avant est le premier type de réseau neuronal artificiel conçu. C'est aussi le plus simple.

Afficher plus

Publications associées (47)

Afficher plus

Reservoir Optimization in Recurrent Neural Networks using Kronecker Kernels

Graph Chatbot

Improving the accuracy and interpretability of neural networks for wind power forecasting

Eflop: a Sparsity-aware Metric for Evaluating Computational Cost in Spiking and Non-spiking Neural Networks

How Gradient Descent Balances Features: A Dynamical Analysis For Two-Layer Neural Networks