Multi-level learning in self-building connectionnist networks : the semi-algebraic networks
Apprentissage multi-niveaux dans des réseaux connexionnistes auto-construits. Les réseaux semi-algébriques
Résumé
In this thesis, our purpose is the development of connectionnist networks that build themselves during learning. We mainly study the properties of these network structures necessary for : 1) adding or removing components according with statistical criteriums on these components functioning ; 2) building multi-level learning linked to increasing abstraction levels of models. We study a new theoretical learning approach based on geometry : the learning of manifolds characteristic of distributions of examples. We study an innovative models family, suited for this new framework : the semi-algebraic networks. We show how a geometric interpretation gives them great advantages on current models. We illustrate our talk by giving an example of semi-algebraic networks used to categorize distributions. These models may be understood as generalizations of Kohonen's topological maps.
Dans cette thèse, notre objectif est le développement de réseaux connexionnistes qui se construisent au cours de l'apprentissage. Nous examinons principalement les propriétés nécessaires à la structure de ces réseaux pour permettre : 1) d'ajouter ou retirer des composants en fonction de critères statistiques sur le fonctionnement de ces composants ; 2) de construire des modèles multi-niveaux correspondant à des niveaux d'abstraction croissants de modèles. Nous étudions une nouvelle approche théorique de l'apprentissage basée sur la géométrie : l'apprentissage de variétés caractéristiques d'une distribution d'exemples. Nous étudions une famille de modèles novateurs, adaptés à ce nouveau cadre : les réseaux semi-algébriques. Nous montrons comment un caractère géométrique leur confère des avantages importants sur les modèles actuels. Nous illustrons notre propos en proposant un exemple de réseaux semi-algébriques pour la catégorisation de distributions. Ces modèles peuvent être considérés comme des généralisations des cartes topologiques de Kohonen.