A gradient approximation with importance sampling for dimension reduction in natural exponential families - INRAE - Institut national de recherche pour l’agriculture, l’alimentation et l’environnement
Conference Papers Year : 2024

A gradient approximation with importance sampling for dimension reduction in natural exponential families

Abstract

Les données de comptage en grande dimension sont difficiles à analyser telles quelles, et les approches fondées sur des modèles statistiques à variable latente restent efficaces et appropriées, tout en préservant l'explicabilité. Nous considérons plus particulièrement ici le cadre de modèles où les données discrètes sont guidées par une variable gaussienne latente décrivant la structure de dépendances des comptages dans un espaces de faible dimension, puis envoyées dans un espace de grande dimension via une distribution de Poisson ou Binomiale. Comme la loi de la variable latente conditionnement aux données reste inconnue, l'inférence variationnelle s'est révélée efficace pour inférer un tel modèle. Cependant, elle ne maximise qu'une borne inférieure de la vraisemblance et les estimateurs correspondant souffrent d'un manque de garanties théoriques. De plus, un grand nombre de paramètres variationnels est nécessaires. Dans ce travail en cours, nous utilisons l'échantillonnage préférentiel pour estimer les gradients de la log-vraisemblance. Nous contrôlons le biais de l'estimateur et nous appuyons sur des théorèmes d'optimisation pour assurer la convergence d'un schéma de gradient stochastique, s'adaptant facilement à un grand nombre d'échantillons.
Fichier principal
Vignette du fichier
IMPS_JDS(1).pdf (307.04 Ko) Télécharger le fichier
Origin Files produced by the author(s)

Dates and versions

hal-04738600 , version 1 (15-10-2024)

Identifiers

  • HAL Id : hal-04738600 , version 1

Cite

Bastien Batardière, Julien Chiquet, Joon Kwon, Julien Stoehr. A gradient approximation with importance sampling for dimension reduction in natural exponential families. 55èmes journées de Statistiques de la SFdS, May 2024, Bordeaux, France. ⟨hal-04738600⟩
5 View
7 Download

Share

More