Multivariate Statistik (Fach) / Voraussetzungen für das ALM (Lektion)

Diese Lektion wurde von Frena erstellt.

Lektion lernen

Diese Lektion ist leider nicht zum lernen freigegeben.

zurück  |  weiter 1 / 1

• Was versteht man unter "Underfitting" und was sind dessen Folgen? Werden relevante Variablen außer Acht gelassen spricht man von underfitting. Sind die relevanten UVn erhoben und korrekt ins Modell aufgenommen worden? --> Hier hilft Theorie... Wenn nicht, - wird zu wenig Varianz der AV erklärt, - d.h. Effektgrößen bleiben kleiner - und die Teststärke bleibt niedriger, - und die interessierenden Zusammenhänge werden nicht vollständig oder nur verzerrt untersucht. Sind alle relevanten Interaktionen modelliert? --> Hier helfen Theorie und Tests der zusätzlich erklärten Varianz. Wenn nicht, - wird zu wenig Varianz der AV erklärt, - d.h. Effektgrößen bleiben kleiner - und die Teststärke bleibt niedriger, - und die interessierenden Zusammenhänge werden nicht vollständig oder nur verzerrt untersucht. Sind die konfundierten Variablen aufgenommen? Im Beispiel Übertritt nach der 4. oder 6. Klasse wurde der Einfluss der Schulform ohne den Prädiktor Soziale Herkunft der Familien überschätzt. --> Hier hilft Theorie... Wenn nicht, - werden die interessierenden Zusammenhänge nicht vollständig oder nur verzerrt untersucht. Sind die Formen der Zusammenhänge (linear, kurvilinear, ...) berücksichtigt? Sind die relevanten Interaktionen modelliert?
• Wie kann die Form des Zusammenhangs zwischen AV und UV gefunden werden? durch bivariate Scatterplots (linear/nichtlinear). Die zusätzliche Varianzaufklärung R2 eines quadratischen Terms oder eines Terms höherer Ordnung kann getestet werden
• Was versteht man unter "Overfitting" und was sind dessen Folgen? Wenn ein Modell zu viele, also zusätzliche, irrelevante erklärende Variablen enthält, spricht man von overfitting. Das Modell enthält also Prädiktoren, die... - keinen signifikanten Beitrag zur Erklärung der AV leisten können, - den Einfluss anderer UVn verändern (Suppressoren) - und die Prognose verschlechtern (da auch nicht signifikante Prädiktoren in einer Stichprobe zufällige Fehler haben, vergrößert sich der Fehler der vorhergesagten Werte)
• Wie findet man Ausreißer? Deskriptive Analysen betrachten: - Mittelwerte, Minimum, Maximum - Häufigkeitstabellen Graphiken: - Boxplot - Histogramm - Scatterplot (wenn mind. 2 Variablen!)
• Wie gehe ich mit Ausreißern um? Bei fehlerhafter Dateneingabe, falsche Kodierung von fehlenden Werten: - Kontrolle & Korrektur Bei Population mit extremen Werten: - Daten beibehalten, ggf. transformieren oder kategorisieren - separate Analysen der Ausreißer - Analyse mit und ohne Ausreißer rechnen - robuste Verfahren rechnen (z.B. Verfahren für Rangdaten) Ausreißer nicht aus gewünschter Population - Löschen (Achtung: starke Limitation der Studie!) Das Vorgehen muss immer theoretisch begründet werden, die interne und externe Validität beachten/diskutieren
• Was versteht man unter Multikollinearität und was sind dessen Folgen? = die Varianz eines Prädiktors ist durch die anderen fast oder vollständig aufklärbar (extremer Fall von Redundanz) (hohe multiple Korrelation zwischen den Prädiktoren) Folgen: --> kann zu unpräzisen Schätzungen und zu Interpretationsschwierigkeiten führen
• Welche Maße für Multikollinearität gibt es? Es gibt 2 Maße für Multikollinearität, die sich beide auf das R2 der Vorhersage eines Prädiktors durch alle anderen Prädiktoren eines Modells beziehen: a) Toleranz: 1-R2 --> je größer ↑ 1-R2, desto weniger ↓ Multikollinearität liegt vor b) Varianzinflationsfaktor: (VIF)=1/(1-R2) --> je kleiner ↓ , desto weniger ↓ Multikollinearität Eine Toleranz < 0,1 oder ein VIF > 10 gilt als Zeichen hoher Multikollinarität
• Wie lässt sich Multikollinearität reduzieren? - Zentrierung von Variablen für Produktterme - Eliminierung von redundanten UVn (redundant = Prädiktor enthält Information, die schon der andere Prädiktor enthält) - Aggregation redundanter Variablen (Ersetzen mehrerer Prädiktoren durch ihren gemeinsamen Mittelwert) - Zusammenfassung hoch kollinearer Prädiktoren durch eine Faktorenanalyse
• Was versteht man unter Homoskedastizität? Auch Varianzhomogenität: Bei vorliegender Homoskedastizität sind die Residuen (also der zufällige „Fehler“ des Modells) gleich über alle Stufen der UVn verteilt. Voraussetzung vieler Modelle, damit die Fehlervarianzen (und damit auch Konfidenzintervalle) korrekt geschätzt werden können. Regressionskoeffizienten werden auch dann unverzerrt geschätzt, wenn keine Homoskedastizität vorliegt.
• Wie lässt sich Varianzhomogenität überprüfen? (= Homoskedastizität) Graphisch: --> Scatterplot Inferenzstatistisch (bei diskreten Variablen) --> a) Levene-Test: Für jede AV wird eine Varianzanalyse für die Werte der absoluten Abweichungen von den entsprechenden Gruppenmittelwerten durchgeführt. --> b) Brown & Forsythe Test Für jede AV wird eine Varianzanalyse für die Werte der absoluten Abweichungen von den entsprechenden Gruppenmedianen durchgeführt. H0: Die Verteilungen sind gleich H1: Verteilungen unterscheiden sich
• Anzeige
• Wie geht man bei Varianzheterogenität vor? (= Heteroskedastizität) a) Weighted Least Squares-Schätzung (WLS) --> Die Gewichtung "korrigiert" unterschiedliche Residualvarianzen bei sehr großen Stichproben b) Robuste Verfahren --> z.B. nicht parametrische Verfahren
• Warum sollen Residuen unabhängig voneinander sein? damit die Fehlervarianzen (und damit auch Konfidenzintervalle) korrekt geschätzt werden können. Bei abhängigen Residuen wird die Fehlervarianz häufig unterschätzt ↓ , sodass Effekte zu leicht signifikant werden. Regressionskoeffizienten werden auch dann unverzerrt geschätzt, wenn keine Unabhängigkeit der Residuen vorliegt.
• Was sind Beispiele für abhängige Residuen und wie ist hierbei vorzugehen? Klumpenstichprobe oder mehrstufig gezogene Stichprobe: --> Mehrebenenmodelle verwenden --> Bei wenig Klumpen eine Gruppenvariable in die Regression aufnehmen (als Prädiktor für Gruppenmittelwerte) Häufige Messwiederholungen (z.B. in Einzelfallstudien) --> Die Autokorrelation mit in das Modell einbeziehen (mit Zeitreihen-Modellen)
• Warum müssen Residuen normalverteilt sein? damit die Fehlervarianzen (und damit auch Konfidenzintervalle) geschätzt werden können. Bei großen Stichproben ist die Verschätzung der Fehlervarianzen gering und kann vernachlässigt werden. Regressionskoeffizienten werden auch dann unverzerrt geschätzt, wenn keine Normalverteilung der Residuen vorliegt.
• Wie kann die Normalverteilungsannahme überprüft werden? (univariat) Graphisch: - Probability-Probability-Plot (P-P-Plot) oder - Quantile-Quantile-Plot (Q-Q-Plot) oder - Histogramm, - Boxplot Inferenzstatistisch: a) Kolmogorov-Smirnov Test Der KS-Test auf Übereinstimmung zweier Wahrscheinlichkeitsverteilungen ist ein nicht-parametrischer Test und überprüft, ob - zwei Zufallsvariablen die gleiche Verteilung aufweisen - eine Zufallsvariable einer zuvor angenommenen Wahrscheinlichkeitsverteilung folgt (KS-Anpassungstest) b) Shapiro-Wilk-Test überprüft das Verhältnis zweier Varianz-Schätzer zueinander, ähnlich wie ein F-Test. Verglichen werden eine unter Normalverteilung erwartete Varianz mit der beobachteten Varianz H0: Die Verteilungen sind gleich H1: Die Verteilungen unterscheiden sich
• Wie kann bei nicht-normalverteilten Residuen und kleineren Stichproben vorgegangen werden? Datentransformation: Variablen können ggf. so transformiert werden, dass eine Normalverteilung der Werte angenähert wird. Dabei werden die Ausprägungen der zu transformierenden Variablen gestreckt oder gestaucht, deren Rangfolge aber nicht verändert. Am häufigsten sind Exponentialfunktionen --> v.a. eine Logarithmustransformation. Zur Interpretation der Ergebnisse sollte die Variable wieder zurücktransformiert werden. Sonst ist die Interpretation nicht ohne weiteres möglich.
• Was ist bei Transformationen zu berücksichtigen? Die Varianz und bivariate Zusammenhänge verändern sich. --> Annahmen zu Varianzhomogenität oder Linearität können sich verändern. Wenn keine Rücktransformation stattfindet ist das Skalenniveau uneindeutig. Durch die Transformation verändern sich die Regressionskoeffizienten und sind nicht ohne weiters interpretierbar --> es sollte nur auf den p-Wert geachtet werden.

zurück  |  weiter 1 / 1