Séance de cours

Apprendre des modèles probabilistes

Graph Chat

Chattez avec Graph Search

Posez n’importe quelle question sur les cours, conférences, exercices, recherches, actualités, etc. de l’EPFL ou essayez les exemples de questions ci-dessous.

AVERTISSEMENT : Le chatbot Graph n'est pas programmé pour fournir des réponses explicites ou catégoriques à vos questions. Il transforme plutôt vos questions en demandes API qui sont distribuées aux différents services informatiques officiellement administrés par l'EPFL. Son but est uniquement de collecter et de recommander des références pertinentes à des contenus que vous pouvez explorer pour vous aider à répondre à vos questions.

Description

Cette séance de cours explore les défis de l'apprentissage des données générées par les modèles probabilistes, couvrant des sujets tels que la théorie de la complexité computationnelle, les modèles probabilistes de données et la théorie de l'information. L'instructeur discute de l'utilisation d'heuristiques de la physique statistique pour calculer des erreurs optimales dans la reconstruction des données et l'application d'algorithmes de transmission de messages approximatifs. La séance de cours se penche sur les lacunes informatiques à statistiques dans l'apprentissage, montrant les limites de divers algorithmes dans le régime dur. Le contenu comprend également des expériences avec des signaux corrélés, la détection comprimée et la récupération de phase, mettant en évidence les difficultés d'apprentissage efficace à partir de modèles génériques.

Source officielle

Concepts associés (32)

Computational complexity

In computer science, the computational complexity or simply complexity of an algorithm is the amount of resources required to run it. Particular focus is given to computation time (generally measured by the number of needed elementary operations) and memory storage requirements. The complexity of a problem is the complexity of the best algorithms that allow solving the problem. The study of the complexity of explicitly given algorithms is called analysis of algorithms, while the study of the complexity of problems is called computational complexity theory.

Théorie de la complexité (informatique théorique)

vignette|Quelques classes de complexité étudiées dans le domaine de la théorie de la complexité. Par exemple, P est la classe des problèmes décidés en temps polynomial par une machine de Turing déterministe. La théorie de la complexité est le domaine des mathématiques, et plus précisément de l'informatique théorique, qui étudie formellement le temps de calcul, l'espace mémoire (et plus marginalement la taille d'un circuit, le nombre de processeurs, l'énergie consommée ...) requis par un algorithme pour résoudre un problème algorithmique.

Classe de complexité

En informatique théorique, et plus précisément en théorie de la complexité, une classe de complexité est un ensemble de problèmes algorithmiques dont la résolution nécessite la même quantité d'une certaine ressource. Une classe est souvent définie comme l'ensemble de tous les problèmes qui peuvent être résolus sur un modèle de calcul M, utilisant une quantité de ressources du type R, où n, est la taille de l'entrée. Les classes les plus usuelles sont celles définies sur des machines de Turing, avec des contraintes de temps de calcul ou d'espace.

Théorie de l'information

La théorie de l'information, sans précision, est le nom usuel désignant la théorie de l'information de Shannon, qui est une théorie utilisant les probabilités pour quantifier le contenu moyen en information d'un ensemble de messages, dont le codage informatique satisfait une distribution statistique que l'on pense connaître. Ce domaine trouve son origine scientifique avec Claude Shannon qui en est le père fondateur avec son article A Mathematical Theory of Communication publié en 1948.

Quantum complexity theory

Quantum complexity theory is the subfield of computational complexity theory that deals with complexity classes defined using quantum computers, a computational model based on quantum mechanics. It studies the hardness of computational problems in relation to these complexity classes, as well as the relationship between quantum complexity classes and classical (i.e., non-quantum) complexity classes. Two important quantum complexity classes are BQP and QMA.

Afficher plus

Séances de cours associées (64)

Systèmes intelligents distribués: Division du travail et de la coordination multi-robots

Explore la division du travail dans les systèmes naturels, la coordination multi-robots, et les défis de l'incertitude dans les algorithmes basés sur le marché.

Modèles d'espace d'état : l'expressivité des transformateurs

Couvre les modèles d'espace d'état et l'expressivité des transformateurs dans les tâches de copie de séquence.

Calcul avec les réseaux Tensor

Explore le calcul avec des réseaux de tenseurs, couvrant les distributions de probabilités conjointes, la mécanique statistique et les applications de calcul quantique.

Physique statistique des grappes

Explore la physique statistique des clusters, en se concentrant sur la complexité et le comportement d'équilibre.

La généralisation dans l'apprentissage profond

Explore la généralisation dans l'apprentissage profond, couvrant la complexité du modèle, le biais implicite, et le phénomène de double descente.

Afficher plus

Concepts associés (32)

Computational complexity

Théorie de la complexité (informatique théorique)

Classe de complexité

Théorie de l'information

Quantum complexity theory

Afficher plus