Un nouvel estimateur pour l'information de Fisher dans les modèles à variables latentes
Résumé
The Fisher information matrix (FIM) plays a key role in statistics. It is crucial in practice not only for evaluating the precision of parameter estimates, but also for statistical testing or experimental designs. In many latent variable models, the evaluation of the FIM is non-elementary due to the unobserved variables. Several methods have been proposed to estimate the observed FIM. Among the most frequently used approaches are Monte-Carlo methods or iterative algorithms derived from the missing information principle. These methods require to compute second derivatives of the complete data log-likelihood. However these derivatives do not always exist or their evaluations have some disadvantages from a computational point of view. We consider the empirical frst order moment estimate of the covariance matrix of the score. This estimator of the observed FIM only requires to compute the first derivatives of the complete data log-likelihood with respect to the parameters. When it does not admit an analytical expression, we derive a stochastic approximation algorithm for computing its value. We establish the asymptotic properties of the proposed estimator and of the corresponding stochastic approximation algorithm. Some numerical experiments are performed in linear mixed effects models and mixture models to illustrate the finite sample size properties of the estimator. We also carry out a simulation study in a nonlinear mixed effects model to highlight the convergence of the proposed estimation algorithm. Finally we evaluate the observed FIM for a real dataset of theophylline adjusted with a nonlinear mixed effects model.
La matrice d'information de Fisher (FIM) joue un rôle fondamental en statistiques. Elle est très largement
utilisée, pour évaluer la précision d'estimateurs, mettre en œuvre certains tests statistiques ou encore planifier des expériences. Dans la plupart des modèles à variables latentes, les variables non observées rendent difficile l'évaluation de la FIM. Plusieurs méthodes ont été proposées pour évaluer la FIM observée, parmi lesquelles des approches de type Monte-Carlo ou des algorithmes itératifs basés sur le "missing information principle". Celles-ci requièrent l'existence et le calcul des dérivées secondes de la log-vraisemblance complète. Cependant, ces dérivées n'existent pas toujours et les calculer peut présenter de nombreux désavantages computationnels. Nous considérons la matrice de covariance empirique du score comme estimateur de la FIM observée. Cet estimateur, très peu utilisé en pratique, a l'avantage de ne nécessiter que le calcul des dérivées premières de la log-vraisemblance complète. Lorsque celui-ci n'admet pas d'expression explicite, nous proposons un algorithme d'approximation stochastique afin de l'évaluer. Nous étudions les propriétés
asymptotiques de cet estimateur et celles de l'algorithme stochastique proposé. Nous évaluons les propriétés de convergence de l'estimateur à distance finie sur des données simulées selon un modèle linéaire à effets mixtes d'une part, et selon un modèle de mélange d'autre part. Dans ces deux modèles, l'estimateur peut être calculé explicitement, ainsi que la FIM observé. Nous illustrons les propriétés de convergence de l'algorithme d'estimation via des données simulées selon un modèle non linéaire à effets mixtes. Nous calculons également la FIM observée pour un jeu de données de théophylline ajusté avec ce modèle.
Origine | Fichiers produits par l'(les) auteur(s) |
---|
Loading...