Regression (attributiv)
Binäre logistische, Poisson- und Negativ-Binomial-Regression für attributive Daten und Zähldaten
Überblick
Die Regression für attributive Daten erweitert die klassische (OLS-)Regression um Verfahren für diskrete, kategoriale und Zähldaten. Sobald die Antwortvariable nicht stetig und normalverteilt ist — z. B. „OK/NOK", „Defektanzahl" oder „Reklamationen pro Charge" — liefern Generalized Linear Models (GLM) zuverlässigere Schätzer als OLS.
Binäre logistische Regression: Für eine binäre Antwort (0/1, OK/NOK). Modelliert die Wahrscheinlichkeit P(Y=1|X) über die Logit-Link-Funktion: logit(p) = β₀ + β₁X₁ + … Koeffizienten werden als Odds Ratios interpretiert.
Poisson-Regression: Für Zähldaten (0, 1, 2, 3, …). Modelliert den Erwartungswert E(Y|X) = exp(β₀ + β₁X₁ + …). Koeffizienten werden als Rate Ratios interpretiert. Voraussetzung: Varianz ≈ Mittelwert.
Negativ-Binomial-Regression: Wie Poisson, aber für Zähldaten mit Überdispersion (Varianz > Mittelwert). Ein zusätzlicher Dispersionsparameter θ fängt die Extra-Streuung auf.
IRLS: Iteratively Reweighted Least Squares — der universelle Algorithmus hinter allen GLM. Reduziert das Problem in jedem Schritt auf gewichtetes OLS, bis die Koeffizienten konvergieren.
Praxisbeispiel
Szenario: Ein Lötprozess produziert Leiterplatten, die als OK oder NOK klassifiziert werden (binäre Antwort). Die Einflussgrößen sind Löttemperatur (stetig, 220–255 °C) und Anpressdruck (stetig, 2,0–3,5 bar).
- Y = Defekt (0 = OK, 1 = NOK)
- X₁ = Temperatur, X₂ = Druck
- Verfahren: Binäre logistische Regression
- Modell: logit(P(Defekt)) = β₀ + β₁·Temperatur + β₂·Druck
- Ergebnis z. B.: OR(Temperatur) = 1,08 → pro °C Temperaturanstieg steigt die Defektchance um 8 %
Im Reiter „Beispieldaten" finden Sie unter „Lötstellen-Inspektion (logistische GLM)" einen ladefertigen Datensatz, um dieses Beispiel direkt auszuprobieren.
Ergebnisse interpretieren
Die wichtigsten Kenngrößen auf einen Blick:
Odds Ratio (OR): Logistische Regression: OR > 1 bedeutet, dass eine Einheitssteigerung von X die Chance für Y=1 erhöht. OR = 2,5 heißt: Die Chance steigt um den Faktor 2,5. OR < 1 = sinkende Chance. Das Konfidenzintervall darf die 1 nicht enthalten, damit der Effekt signifikant ist.
Rate Ratio (RR): Poisson/NegBin: RR > 1 bedeutet, dass eine Einheitssteigerung von X die erwartete Anzahl erhöht. RR = 1,3 heißt: 30 % mehr erwartete Ereignisse. Interpretation analog zu OR.
Pseudo-R²: GLM haben kein echtes R². Stattdessen gibt es Pseudo-R²-Maße (McFadden, Cox-Snell, Nagelkerke), die die Modellverbesserung gegenüber dem Nullmodell quantifizieren. Werte > 0,2 (McFadden) gelten bereits als gute Anpassung.
AUC / ROC: Für logistische Regression: Die Fläche unter der ROC-Kurve (AUC) misst die Trennfähigkeit des Modells. AUC = 0,5 = Zufall, AUC > 0,8 = gut, AUC > 0,9 = exzellent.
Überdispersion: Bei Poisson-Daten: Wenn Pearson-χ²/df deutlich über 1 liegt (> 1,5), liegt Überdispersion vor. Lösung: Negativ-Binomial-Regression verwenden statt Poisson.
Erweiterte Optionen
Das Modul unterstützt mehrere Spezialfälle, die über den Standard-Pfad hinausgehen.
Trials-Spalte (gruppierte Binomial-Regression): Liegen Daten als Erfolgsanteile pro Gruppe vor (z. B. 12 von 50 Lötstellen defekt = 0,24 bei 50 Trials), dann wählen Sie Y = Anteil und füllen die Spalte „Trials". Das Modul interpretiert Y als Anteil und gewichtet die Likelihood mit den Trial-Counts. Ohne Trials-Spalte ist nur binäres 0/1-Y zulässig.
Erfolgsklasse umkehren: Bei zwei beobachteten Y-Stufen (z. B. „Pass"/„Fail") modelliert das Modul standardmäßig die höhere Stufe als „Erfolg = 1". Im Ergebnis-Header steht die aktuelle Erfolgsklasse mit einem Tausch-Button — ein Klick kehrt die Codierung um und fitter neu. Hilfreich, wenn Odds Ratios in die andere Richtung gelesen werden sollen.
Kategoriale Prädiktoren: Spalten vom Typ „Text" werden automatisch als kategoriale Prädiktoren behandelt. Die alphabetisch erste Stufe wird zur Referenz; jede weitere Stufe bekommt eine Dummy-Variable mit eigenem Koeffizient. Beispiel: Schicht ∈ {A, B, C} → Terme „Intercept", „Schicht[B]", „Schicht[C]"; A ist die Referenz.
Quasi-Poisson (automatisch): Wenn das Poisson-Modell überdispergiert ist (χ²/df > 1,5), aktiviert das Modul automatisch die Quasi-Likelihood-Skalierung: Standardfehler und Konfidenzintervalle werden um √φ̂ verbreitert. Eine Warnung „Quasi-Poisson aktiv (φ = …)" erscheint im Ergebnis. Punkt-Schätzer der Koeffizienten bleiben unverändert.
θ-Konvergenz bei Negativ-Binomial: Bei nahezu Poisson-verteilten Daten wandert θ → ∞ und die θ-Schätzung ist instabil. Das Modul erkennt das per Vorzeichen-Check der Score-Gleichung und gibt die Warnung „θ-Schätzung nicht konvergiert" aus. Empfehlung: auf Poisson wechseln oder θ manuell fixieren.
Separation-Erkennung: Eine starke Separation (ein Prädiktor trennt die Klassen fast perfekt) wird über kombinierte Kriterien erkannt: |η| pegelt am Clip, IRLS-Gewichte spreizen über 8 Größenordnungen. Die Warnung „Vollständige oder fast-vollständige Separation" empfiehlt, den separierenden Prädiktor zu entfernen oder Klassen zusammenzufassen.
Häufige Fehler
- OLS auf binäre Daten anwenden: Liefert Wahrscheinlichkeiten außerhalb [0, 1] und falsche p-Werte. Immer logistische Regression verwenden.
- Separation ignorieren: Wenn ein Prädiktor Y perfekt trennt, werden die Koeffizienten unendlich groß. Warnung im Modul beachten.
- Überdispersion bei Poisson übersehen: Wenn χ²/df > 1,5, sind die Standardfehler zu klein und p-Werte zu optimistisch. Negativ-Binomial verwenden.
- Pseudo-R² wie R² interpretieren: Ein McFadden-R² von 0,3 ist bereits ein gutes Modell. Werte nahe 1 sind bei attributiven Daten selten.
- Odds Ratios als Risiko-Ratios lesen: OR ≠ RR. Bei seltenen Ereignissen (< 10 %) sind sie ähnlich, sonst nicht.
Beispieldaten
Dieses Modul wird mit den folgenden Beispieldatensätzen ausgeliefert — mit einem Klick in der App ladbar.
Verfügbar in folgenden Zyklen
- DMAIC: Improve
- DMADV: Design
- 8D: D5 — Abstellmaßnahmen