Regression & Korrelation

Negative Binomialregression

Regressionsmodell für überdispergierte Zähldaten mit Log-Link und negativer Binomialverteilung.

Statusvalidated

Version1.0.0

Minitab-EntsprechungStat > Regression > Poisson Regression (with overdispersion test)

Beschreibung

Die negative Binomialregression erweitert die Poisson-Regression um einen Dispersionsparameter θ, der Überdispersion (Var(Y) > E(Y)) modelliert. Die Varianzfunktion V(Y) = μ + μ²/θ enthält einen quadratischen Term, der die zusätzliche Streuung gegenüber dem Poisson-Modell erfasst. Die Koeffizienten β werden mittels Maximum-Likelihood (IRLS) geschätzt, θ wird simultan über Profile-Likelihood optimiert. Die Exponentialwerte exp(βⱼ) sind als Rate Ratios interpretierbar: Ein RR von 1,5 bedeutet, dass eine Einheitenerhöhung im Prädiktor die erwartete Rate um 50 % steigert.

Formeln

Link

lo g (μ) = X^{'} β

Log-Link-Funktion: Der natürliche Logarithmus des Erwartungswertes ist eine Linearkombination der Prädiktoren

Varianz

V (Y) = μ + \frac{μ ^{2}}{θ}

Quadratische Varianzfunktion: Die Varianz wächst schneller als der Erwartungswert. Für θ → ∞ konvergiert sie zum Poisson-Fall V(Y) = μ

PMF

P (Y = y) = \frac{Γ ( y + θ )}{Γ ( θ ) y !} (\frac{θ}{θ + μ})^{θ} (\frac{μ}{θ + μ})^{y}

Wahrscheinlichkeitsfunktion der negativen Binomialverteilung (NB2-Parametrisierung mit Mittelwert μ und Dispersionsparameter θ)

Log-Likelihood

ℓ = i = 1 \sum n [lo g Γ (y_{i} + θ) - lo g Γ (θ) - lo g (y_{i}!) + θ lo g (\frac{θ}{θ + μ _{i}}) + y_{i} lo g (\frac{μ _{i}}{θ + μ _{i}})]

Log-Likelihood-Funktion der negativen Binomialverteilung, die gemeinsam über β und θ maximiert wird

IRLS-Gewichte

w_{i} = \frac{μ _{i}}{1 + μ _{i} / θ}

Gewichte für Iteratively Reweighted Least Squares: Kombination aus erwarteter Zählrate und Dispersionskorrektur

θ-Schätzung

S (θ) = i = 1 \sum n [ψ (y_{i} + θ) - ψ (θ) + lo g (\frac{θ}{θ + μ _{i}}) + \frac{y _{i} - μ _{i}}{θ + μ _{i}}] = 0

Score-Funktion für θ: Lösung mittels Profile-Likelihood unter Verwendung der Digamma-Funktion ψ

Rate Ratio

R R_{j} = exp (\hat{β}_{j})

Rate Ratio: Der Faktor, um den sich die erwartete Rate bei einer Einheitenerhöhung des j-ten Prädiktors ändert

Dispersion

ϕ = 1

Der Skalenparameter φ ist auf 1 fixiert — die gesamte Überdispersion wird durch θ erfasst, kein zusätzliches Scaling

Annahmen

Zielvariable ist Zähldaten (nicht-negative Ganzzahlen)
Überdispersion vorhanden: Var(Y) > E(Y)
Unabhängigkeit der Beobachtungen
Log-linearer Zusammenhang zwischen log(μ) und den Prädiktoren
Keine perfekte Multikollinearität

Einschränkungen

Die θ-Schätzung über Profile-Likelihood erhöht den Rechenaufwand (äußere Optimierungsschleife)
Bei kleinen Stichproben kann die θ-Schätzung instabil sein
Nicht geeignet für zero-inflated Daten — hier sollte ein ZINB-Modell in Betracht gezogen werden
Konvergenz kann langsamer sein als bei Poisson-Regression, da β und θ gemeinsam geschätzt werden

Referenzen

Hilbe, J.M., Negative Binomial Regression, 2nd Ed., Cambridge University Press
Cameron, A.C., Trivedi, P.K., Regression Analysis of Count Data, 2nd Ed., Cambridge University Press
Lawless, J.F., Negative Binomial and Mixed Poisson Regression, Canadian Journal of Statistics, 1987