Troncatures dans les modèles linéaires simples et à effets mixtes sous R

Size: px

Start display at page:

Download "Troncatures dans les modèles linéaires simples et à effets mixtes sous R"

James Hunter
8 years ago
Views:

1 Troncatures dans les modèles linéaires simples et à effets mixtes sous R Lyon, 27 et 28 juin 2013 D.Thiam, J.C Thalabard, G.Nuel Université Paris Descartes MAP5 UMR CNRS 8145 IRD UMR 216 2èmes Rencontres D. THIAM (Paris Descartes) Troncatures 1 / 11

2 Motivations Le modèle linéaire simple y x1 x y: outcome, x 1, x 2 covariables Le modèle: Y = Xβ + ε (1, X = X 1, X 2 ); β = (β 0, β 1, β 2 ) Θ = (β, σ); σ=sd(ε) Θ = (1, 1, 2, 0.8); n = 1000 Maximum de vraisemblance n L(Θ; y) = f(y i ) Θ = arg max L(Θ; y) Θ 1 fonction R lm lm(y x 1 + x 2 ) Θ = (0.66, 0.98, 2.08, 0.79) D. THIAM (Paris Descartes) Troncatures 2 / 11

695 y: outcome, x 1, x 2 covariables Le modèle: Y = Xβ + ε (1, X = X 1, X 2 ); β = (β 0, β 1, β 2 ) Θ = (β, σ); σ=sd(ε) Θ = (1, 1, 2, 0.

3 Motivations Le modèle linéaire simple y x1 x y: outcome, x 1, x 2 covariables Le modèle: Y = Xβ + ε (1, X = X 1, X 2 ); β = (β 0, β 1, β 2 ) Θ = (β, σ); σ=sd(ε) Θ = (1, 1, 2, 0.8); n = 1000 Maximum de vraisemblance L =sum(dnorm(y,mean=xβ,sd=σ,log=t)) Θ = arg max Θ L fonction R lm lm(y x 1 + x 2 ) Θ = (0.66, 0.98, 2.08, 0.79) D. THIAM (Paris Descartes) Troncatures 2 / 11

4 Motivations Le modèle linéaire avec troncatures y x1 x High Low Low y: outcome, x 1, x 2 covariables Y = Xβ + ε si l y i < u Low=y i 13 High=y i 15.4 Maximum de vraisemblance L(Θ; y) = f(y i ) + Φ(l) + (1 Φ(u)) Fonctions R : tobit,censreg tobit(y x 1 + x 2,left=13,right=15.4) Θ = (0.6751, , , 0.728) D. THIAM (Paris Descartes) Troncatures 3 / 11

695 y: outcome, x 1, x 2 covariables Y = Xβ + ε si l y i < u Low=y i 13 High=y i 15.

5 Motivations Le modèle linéaire avec troncatures y x1 x High Low Low y: outcome, x 1, x 2 covariables Y = Xβ + ε si l y i < u Low=y i 13 High=y i 15.4 Maximum de vraisemblance L =sum(dnorm(y,mean=xβ,sd=σ,log=t)) +sum(pnorm(t,mean=xβ,sd=σ,log=t)) +sum(pnorm(u,mean=xβ,sd=σ,log=t, lower.tail=f)) Fonctions R : tobit,censreg tobit(y x 1 + x 2,left=13,right=15.4) Θ = (0.6751, , , 0.728) D. THIAM (Paris Descartes) Troncatures 3 / 11

6 Motivations Le modèle linéaire tronqué: extension y x1 x High Low Low Low Low y: outcome, x 1, x 2 covariables Y = Xβ + ε si l y i < u Low 1 =y i 13; Low 2 =y i 13.72! aximum de vraisemblance L(Θ; y) = f(y i ) + Φ(l i ) + (1 Φ(u i )) Limites tobit,censreg Pas de seuils multiples Résidus calculés par imputation simple Alternative: Implémentation d un algorithme EM adapté D. THIAM (Paris Descartes) Troncatures 4 / 11

695 y: outcome, x 1, x 2 covariables Y = Xβ + ε si l y i < u Low 1 =y i 13; Low 2 =y i 13.72!

7 Motivations Le modèle linéaire tronqué: extension y x1 x High Low Low Low Low y: outcome, x 1, x 2 covariables Y = Xβ + ε si l y i < u Low 1 =y i 13; Low 2 =y i 13.72! aximum de vraisemblance =sum(dnorm(y,mean=xβ,sd=σ,log=t)) sum(pnorm(t i,mean=xβ,sd=σ,log=t)) sum(pnorm(u i,mean=xβ,sd=σ,log=t, ower.tail=f)) Limites tobit,censreg Pas de seuils multiples Résidus calculés par imputation simple Alternative: Implémentation d un algorithme EM adapté D. THIAM (Paris Descartes) Troncatures 4 / 11

8 Notre approche: EM flexible Algorithe EM y O données observées; y T données tronquées M(θ) = arg max P(y T y O ; θ) log P(y O, y T ; θ ) dz dy T θ y } T {{ } Q(θ θ) y T y O loi normale tronquée log P(y O, y T ; θ ) donné par lm à y T fixé. P(y T y O ; θ) joue le rôle de poids EM flexlible pour Tobit 1) Générer N quantiles de la loi y T y O 2) Maximiser la vraisemblance des données complètes avec lm+ option weights 3) Alterner les deux étapes jusqu à convergence D. THIAM (Paris Descartes) Troncatures 5 / 11

P(y T y O ; θ) joue le rôle de poids EM flexlible pour Tobit 1) Générer N quantiles de la loi y T y O 2) Maximiser la

9 Nombre optimal de quantiles Figure: Etude de la variabilité de l estimation en fonction du nombre de paramètres D. THIAM (Paris Descartes) Troncatures 6 / 11

10 Extension au modèle mixte Le modèle y ij = βx ij + z i + ε ij ; (lmer) l ij y ij < u ij z N(0, η); ε N(0, σ) Algorithme EM M(θ) = arg max θ P(z, y T y O ; θ) log P(y O, z, y T ; θ ) dz dy T z y } T {{ } Q(θ θ) Introduction de variables latentes continues y O : données observées y T variable latente continue: données tronquées z variable latente continue: effets aléatoires Approximation de la vraisemblance des données complètes Maximisation de cette vraisemblance avec les fonctions R usuelles D. THIAM (Paris Descartes) Troncatures 7 / 11

observées y T variable latente continue: données tronquées z variable latente continue: effets aléatoires Approximation de la

11 Extension au modèle mixte Remarque: y T fixé = lmer Solution Alernative: Modèle Tobit avec effets aléatoires z fixé = tobit Modèle mixte avec troncatures multiples Solution alternatives 1) EM combiné avec lmer du package lme4 M lmer (θ) = arg max P(y T y O ; θ) log P(y O, y T ; θ ) dy T θ y } T {{ } Q(θ θ) 2) EM combiné avec tobit des packages censreg ou AER M tobit (θ) = arg max P(z y O ; θ) log P(y O, z; θ ) dz θ z } {{ } Q(θ θ) D. THIAM (Paris Descartes) Troncatures 8 / 11

= arg max P(y T y O ; θ) log P(y O, y T ; θ ) dy T θ y } T {{ } Q(θ θ) 2) EM combiné avec tobit des packages censreg ou

12 Extension au modèle mixte Etapes de l algorithme version lmer 1 ) Création des données complètes en remplaçant les données tronquées par N quantiles q ijk = (q ij1,..., q ijn ) 2 ) Estimation des paramètres du modèle mixte avec lmer 3 ) Mise à jour des paramètres et répétion jusqu à convergence Lois conditionnelles Pour chaque bloc i: i, y i,o, y i,t : y i, est un vecteur Gaussien avec pour loi N (βx i, Σ) σ 2 + η 2 η 2 η 2 Σ = η η 2 σ 2 + η ( 2 y i,t y i,o N t µi, Σ i, lower = t ) N t la loi normale tronqué µ i = βx i,t + Σ i,t,o Σ 1 i,o,o (y O,i µ i,o ) Σ i = Σ i,t,t Σ i,t,o Σ 1 i,o,o Σ i,o,t D. THIAM (Paris Descartes) Troncatures 9 / 11

chaque bloc i: i, y i,o, y i,t : y i, est un vecteur Gaussien avec pour loi N (βx i, Σ) σ 2 + η 2 η 2 η 2 Σ = η 2.

13 Figure: Comparaison de la stabilité des paramètres en itérant les calculs en modifiant le taux de troncatures. 30% par FEM vs 40% par FEM D. THIAM (Paris Descartes) Troncatures 10 / 11

14 Figure: Comparaison de la stabilité des paramètres en itérant les calculs. 45% de troncatures par FEM; vs 10% de troncatures par imputation simple D. THIAM (Paris Descartes) Troncatures 10 / 11

15 Algorithme EM flexible : avantages Gestion externe des variables latentes Méthodologie flexible Utilisation des packages R familiers Seuils multiples autorisés Convergence rapide Algorithme EM flexible : extensions Modèle linéaire généralisé Introduction de classes latentes Recommendations Option weights!! Applications Application 1: mesures ELISA en immunologie (UMR 216 IRD) Application 2: Méta-analyse sur test de diagnostic à données corrélées avec statut réel du patient (Malade/non malade) latent( J.C. Thalabard). D. THIAM (Paris Descartes) Troncatures 11 / 11

Personnalisez votre intérieur avec les revêtements imprimés ALYOS design

Personnalisez votre intérieur avec les revêtements imprimés ALYOS design Plafond tendu à froid ALYOS technology ALYOS technology vous propose un ensemble de solutions techniques pour vos intérieurs. Spécialiste dans le domaine du plafond tendu, nous avons conçu et développé