18

Computerbasierte Datenanalyse (Fach) / Regressionsanalyse (Lektion)

.

Diese Lektion wurde von makem erstellt.

Lektion lernen

Anzeige
  • Woraus besteht ein (multiples) Regressionsmodell? aus einem Kriterium und ein bzw. mehreren Prädiktoren. Das Kriterium ist die Variable, deren Wert durch die Werte der einzelnen Prädiktoren vorhergesagt (prädiziert) werden soll. Zur Vorhersage benötigen wir also solche Variablen, die mit dem Kriterium zusammenhängen (korrelieren).
  • Was sind die wichtigsten Kennwerte im Output des cor.test der Regressionanalyse? Kriterium steht in R-Formel an erster Stelle t = t-Wert df = Freiheitsgrade p-value = Signifikanzniveau (=0.000004773) e-06 bedeutet 6 Nullen (0.00000) vor der Zahl cor = Korrelation (=.47) Wenn p sign. -> Der Zusammenhang zwischen Prädiktor und dem Kriterium beträgt r = . und ist auf dem 1 oder 5 %-Niveau signifikant.
  • Vorgehen in R Multiple Regression Korrelation zwischen Prädiktor und Kriterium überprüfen (cor.test(~Kriterium+Prädiktor, data=test) Ausgabe des Modells mit Intercept, Prädiktor usw (reg1 <- lm(Kriterium~Prädiktor, data=test) summary(reg1) wenn gewünscht: Korrelogram und Scatterplo ausgeben
  • Die wichtigsten Kennwerte der Modellausgabe? summary(reg1) Kriterium steht in Formel vor Tilde tf Estimate = b-Koeffizienten (Steigungsparameter) für den Prädiktor t value = t-Wert Pr(>|t|) = Signifianzniveau (=4.77e-06) Multiple R-squared = Maß der Effektgröße (Varianzaufklärung = .22) Adjusted R-squared = Korrigiertes Maß (bei multiplen Prädiktoren verwenden) man verwendet Werte um Regressionsgleichung aufzustellen
  • Regressionsgleichung aufstellen einfache Regression: unter Coefficents: Kriterium = (Estimate)Intercept + (Estimate)Prädiktor * Bezeichnung_Prädiktor Multiple Regression: man hängt an Gleichung beliebig oft + Prädiktor an
  • Wie prüfen wir zwei Modelle gegeneinander? F-Test: anova(reg3,reg4) Ein p-Wert < .05 zeigt an, dass das letzte Modell signifikant besser ist, als das vorherige und dient als Argument, weshalb man sich für das Letztere entscheidet.
  • Homoskedastizität gleiche Varianz der y-Werte für jeden x-Wert Scale-Location: Residuen sollten möglichst unsystematisch im Diagramm verteilt sein.
  • Analyse von Aussreißern Normalverteilung der Residuen (Normal Q-Q) Heteroskedastizität (Scale-Location) Non-Linearität (Residual vs. Fitted) Multikollinearität (vif) gehört zur Modelldiagnose von Regressionsmodellen
  • Normal Q-Q: Normalverteilung der Residuen. Die Punkte sollten möglichst auf der Linie liegen. Ist dies nicht der Fall, weicht die Verteilung der Residuen von der Normalverteilung ab.
  • Residual vs. Leverage: Diese Grafik zeigt Ausreißer und einflussreiche Werte an. Leverage bedeutet "Hebelwerte". Hohe Hebelwerte sind an sich unproblematisch, ungünstig ist, wenn hohe Hebelwerte mit hohen standardisierten Residuen einhergehen.
  • Anzeige
  • Was überprüfen wir, wenn wir weitere Prädiktoren mit in die Gleichung aufnehmen? ob weitere Prädiktoren das Vorhersagemodell weiter verbessern können ob weiterer Prädiktor zusätzlichen Zusammenhang mit Kriterium aufweisen können inkrementelle Varianzaufklärung
  • Fragstellung bei Gleichung mit 2 Prädiktoren lautet? Wie bestätige ich Annahme? Weist Prädiktor 2 Zusammenhänge mit dem Kriterium auf, die nicht durch den Zusammenhang mit Prädiktor 1 erklärt werden können? Bestätigt, wenn beide Prädiktoren Signifikanz aufweisen und Adjusted R-squared sich im Vergleich zu Modell mit 1 Prädktor erhöht (also mehr Varianzaufklärung vorliegt).
  • negativer Zusammenhang zwischen Prädiktor und Kriterium negatives Vorzeichen von Prädiktor Je niedriger Prädiktor, desto höher Kriterium
  • F Test Wenn man zu einem einfachen Regressionsmodell in jedem Schritt einen weiteren Prädiktor hinzufügt und alle Prädiktoren Signifikanz aufweisen -> Ist das letzte Modell wirklich besser als das vorletzte? Wird p-Wert des zweiten Modells signifikant < .05, entscheidet man sich für das letzte Modell
  • Ausreißer-Test (outlier-test) für einzelnen Fall Nullhypothese: Ausreißer unterscheidet sich nicht vom rest der beobachteten Werte man führt Bonferonni-Korrektur aus: p-Value signifikant unter .05 - dann wird Nullhypothese verworfen
  • Cooks Distance Produkt von Hebelwirkung und Diskrepanz (γ - γ-dach) = Einfluss des Ausreißers auf die Regressionsgerade man schaut sich ergänzend Influence Plot an: je größer Kreis, desto größer Cooks D
  • Multikollinearität vif (variance inflation factor) Prädiktoren teilen einen hohen Varianzanteil miteinander -> Modellinstabilität bei Werten über 10
  • Residual vs. fitted korrekte Modellspezifikation? rote Linie sollte möglichst parallel zur X-Achse verlaufen ncv(Test) bei sign. p-Wert: keine konstante Fehlervarianz