Réseaux de neurones
Thème
Ce cours est une présentation assez détaillée des modèles de réseaux de
neurones les plus importants. Il s'organise selon le plan suivant :
- Introduction aux réseaux de neurones
- Rappels de probabilités et de statistiques
- Le modèle linéaire
- Le modèle pseudo-linéaire et les réseaux RBF
- Les perceptrons multi-couches
- La classification (approche EM et réseaux de Kohonen)
Le cours comporte une importante composante mathématique et se focalise sur
l'aspect statistique de l'apprentissage.
Public
Ce cours était destiné aux élèves des trois DESS du pôle informatique de
Paris-IX (niveau Master 2 Pro). De façon plus générale, c'est un cours de
troisième cycle. Il demande
de bonnes notions en :
- algèbre linéaire
- optimisation
- probabilités et statistiques
Supports
Dernière mise à jour des supports en avril 2003.
- Introduction :
- Rappels de probabilités et statistiques :
- Le modèle linéaire :
- Le modèle linéaire généralisé (et les réseaux RBF) :
- L'évaluation et la sélection de modèle (validation croisée,
bootstrap, etc.) :
- Les perceptrons multi-couches :
Exemples
Les simulations présentées dans les transparents du cours sont en général
réalisées avec le
logiciel R. J'ai
regroupé dans des fichiers zip les scripts utilisés, ainsi que les fichiers de
résultats (mais pas les fichiers postscript des graphiques, car il suffit de
faire tourner les scripts pour les obtenir très rapidement) :
- exemples de l'introduction :
- exemples des rappels de probabilités et statistiques
- exemples
du modèle linéaire
- exemples
du modèle linéaire généralisé
- exemples
pour l'évaluation et la sélection de modèle
- exemples
pour les perceptrons multi-couches
Exercices
Projet
- énoncé 2003
- Exemple de fichiers de données pour le projet :
Liens