Multivariate Verfahren I

Question 1

Multiple Regression: Fragestellungen

Accepted Answer

Welche Kombination von Prädiktorvariablen ist in der Lage, eine Kriteriumsvariable hinreichend gut vorherzusagen („klassische“ multiple Regression)?Beispiel: Welche Persönlichkeitsmerkmale sagen den Berufserfolg vorher und wie gut ist diese Vorhersage?Welche Teilkombination von Prädiktorvariablen hat welchen Einfluss auf die abhängige Variable („hierarchische multiple Regression“)?Beispiel: Wie groß ist der Einfluss objektiver (Einkommen, beruflicher Status etc.) und subjektiver Faktoren (Selbstwirksamkeit, Optimismus etc.) auf die Lebenszufriedenheit?Welchen Einfluss hat eine Prädiktorvariable X auf das Kriterium Y, wenn für die Effekte anderer Prädiktorvariablen kontrolliert wird (Kovarianzanalyse)?Beispiel: Haben gewalthaltige Computerspiele auch bei Kontrolle des Erziehungsstils einen Effekt auf Aggression? Ist der Zusammenhang zwischen X und Y durch Z vermittelt (Mediationsanalyse)?Beispiel: Kann der Einfluss gewalthaltiger Computerspiele auf aggressives Verhalten dadurch erklärt werden, dass das Spielen die Verfügbarkeit aggressiver Kognitionen erhöht?Hängt die Stärke (und evtl. die Richtung) des Zusammenhangs zwischen X und Y von der Ausprägung auf einer dritten Variablen Z ab (Moderatoranalyse)?Beispiel: Hängt die Reaktion auf einen angstauslösenden Reiz davon ab, ob man eher ein „Represser“ oder ein „Sensitizer“ ist?Ist der Zusammenhang zwischen X und Y wirklich linear?Beispiel: Steigt der Alkoholkonsum im Laufe der Pubertät linear an oder verläuft dieser Trend eher in „Sprüngen“?

Question 2

Modell der multiplen Regression ?(dach)? = ?0 + ?1 ⋅ ?1? + ⋯ + ?? ⋅ ??? + ⋯ + ?? ⋅ ??? + ?? ? ? = ?0 + ?1 ⋅ ?1? + ⋯ + ?? ⋅ ??? + ⋯ + ?? ⋅ ??m

Accepted Answer

ym= Beobachteter Messwert einer Person m = {1,…,n} auf Yŷm= Erwarteter/Vorhergesagter Messwert einer Person m auf Yxim = Beobachteter Messwert einer Person m auf Xi(i = {1,…,k})b0 = Additive Konstante, „Achsenabschnitt“ oder „Intercept“ derRegression: erwartete Ausprägung von ŷm, wenn dieAusprägung auf allen (!) Prädiktorvariablen gleich Null istbi = Regressionsgewicht, „Steigungskoeffizient“ oder „Slope“einer Prädiktorvariablen Xiem= Regressionsresiduum („error“): Differenz zwischen dembeobachteten Messwert ym einer Person m und demvorhergesagten Messwert ŷm für diese Person

Question 3

Modell der multiplen Regression Wichtige Einsichten:

Accepted Answer

• Die Regressionskoeffizienten b0 und b1,…,bksind unbekanntund müssen aus den Daten geschätzt werden.• Die Koeffizienten b0 und bisind für alle Personen identisch.• Das Regressionsresiduum em können sich zwischen den Personenunterscheiden; sie haben eine Varianz Var(e).• Die Effekte der einzelnen Prädiktorvariablen Xi auf das KriteriumY sind additiv, d.h. die Effekte der einzelnen Prädiktoren auf dasKriterium sind voneinander unabhängig.• Regressionseffekte sind nicht notwendigerweise kausal zuinterpretieren!

Question 4

Berechnung der Regressionskoeffizienten

Accepted Answer

 Auch bei der multiplen Regression werden die Regressionskoeffizientennach dem Kleinste-Quadrate-Kriterium (in der Regel: „ordinary leastsquares“; kurz: OLS; weitere Variante: „weighted least squares“, WLS)ermittelt. Die Regressionskoeffizienten werden also so bestimmt, dass dieSumme der quadrierten Abweichungen der vorhergesagten Werte vonden beobachteten Werten minimiert ist: Zur Erinnerung: bei der einfachen Regression mit einem Prädiktorwurden aus dieser Zielsetzung die folgenden Bestimmungsformelnabgeleitet:𝑏1 =𝑐𝑜𝑣𝑥𝑦𝑠𝑥2𝑏0= 𝑦 − 𝑏1 ⋅ 𝑥

Question 5

Berechnung der Regressionskoeffizienten

Accepted Answer

 Unstandardisierte Regressionsgewichte… werden auf der Grundlage der Metrik der Variablen berechnet, in der siegemessen wurden. geben an, um wie viele Einheiten sich die vorhergesagten ŷ-Werte ändern,wenn sich die unabhängige Variable um eine Einheit ändert. Standardisierte Regressionsgewichte… werden auf der Grundlage standardisierter (z-transformierter) Variablenberechnet. geben an, um wie viele Standardabweichungseinheiten sich dievorhergesagten ŷ-Werte ändern, wenn sich die unabhängige Variable umeine Standardabweichungseinheit ändert.

Question 6

Interpretation der Regressionsgewichte

Accepted Answer

Reminder: Die Regressionskoeffizienten bei der multiplenRegression sollen die eigenständigen Effekte der jeweiligenPrädiktorvariablen indizieren.  Vergleich zwischen dem Regressionsgewicht einer Variablen ineiner multiplen (bmult) und einer einfachen Regressionsanalyse(beinf): bmult = beinf: In diesem Fall sind alle Prädiktorvariablen untereinanderunkorreliert. bmult < beinf: Die Prädiktorvariablen sind untereinander korreliert, dieseKollinearität reduziert den eigenständigen Vorhersagebeitrag einer (oderbeider) Prädiktorvariablen auf das Kriterium. bmult > beinf: Die Prädiktorvariablen sind untereinander korreliert, dieseKollinearität erhöht den eigenständigen Vorhersagebeitrag einer (oderbeider) Prädiktorvariablen auf das Kriterium (Suppression). Zudem kann das Regressionsgewicht sein Vorzeichen wechseln (wie beieiner negativen Suppression)

Question 7

Varianzzerlegung und multiple Determination

Accepted Answer

Der Anteil der Varianz von Y, der durch alle Prädiktorvariablen in der Gleichunggemeinsam aufgeklärt werden kann, heißt „multiplerDeterminationskoeffizient“ R². Er entspricht dem Quotient aus der Varianz der vorhergesagten Werte (Ŷ) undder Varianz der beobachteten Werte (Y): R2 = s2Ŷ / s2y  Der multiple Determinationskoeffizient entspricht dem Quadrat der multiplenKorrelation zwischen Y und Ŷ: R2 = r2yŶ = r2 (x1, ..., xk)  Der Anteil der unerklärten Varianz in Y entspricht dann 1 – R² und wird alsmultipler Indeterminationskoeffizient bezeichnet:1 - R2 = s2e / s2y

Question 8

Inkrement in R2 und Nützlichkeit

Accepted Answer

Durch die schrittweise Hinzunahme von Prädiktoren kann inkrementell Varianzvon Y aufgeklärt werden. Die zusätzliche Varianz, die durch die Hinzunahme eines neuen Prädiktorsaufgeklärt werden kann, wird als Semipartialdetermination oder Inkrementin R² bezeichnet. Die Varianz, die ein Prädiktor zusätzlich zu allen anderen Prädiktoren in derGleichung aufklärt, wird als Nützlichkeit dieses Prädiktors bezeichnet. Für die Gesamtdetermination spielt die Reihenfolge, in der diePrädiktorvariablen aufgenommen werden, keine Rolle. Für die Semipartialdetermination eines Prädiktors hingegen spielt es sehr wohleine Rolle, wie viele Prädiktoren bereits in die Gleichung mit aufgenommenwurden: Das liegt daran, dass der Vorhersagebeitrag eines Prädiktors auch vonseinen Kollinearitäten mit anderen Prädiktoren in der Gleichung abhängt.

Question 9

Multikollinearität

Accepted Answer

 Auslöser von Multikollinearität:Hohe Interkorrelation der Prädiktoren (anders gesagt: DiePrädiktoren sind hoch untereinander konfundiert). Konsequenzen: kleine Regressionsgewichte von Xi, aber hohe (und signifikante)bivariate Korrelationen („nullter Ordnung“) mit Y. Schätzung der b-Gewichte wird ungenau (drückt sich aus ineiner Erhöhung der Standardfehler der b's) Einschränkung der aufgeklärten Varianz (R²) Lösungsvorschläge: Ausschluss einzelner Prädiktoren Zusammenfassen von Prädiktoren zu Faktoren(Hauptkomponenten)

Question 10

Suppression im Rahmen der multiplen Regression

Accepted Answer

Definition: Eine Suppressorvariable erhöht das Regressionsgewichteiner anderen Variablen, indem sie irrelevante Varianzanteile in dieserVariablen unterdrückt. Durch den Einschluss einer Suppressorvariablen in dasRegressionsmodell kann es sein, dass ein Prädiktor, der mit demKriterium nur schwach bivariat korreliert, in der multiplen Regressionein hohes b-Gewicht erhält. Der Suppressionseffekt kann sogar dazu führen, dass das b-Gewichteines Prädiktors ein anderes Vorzeichen hat als die Korrelation diesesPrädiktors mit dem Kriterium („negative Suppression“). Zwei Prädiktorvariablen können auch einen wechsel-seitigenSuppressionseffekt erzeugen („reziproke Suppression“).

Question 11

Vorsicht beim Auspartialisieren von „Störvariablen“!

Accepted Answer

Welchen Einfluss hat eine Prädiktorvariable X1 auf das Kriterium Y,wenn für die Effekte einer Störvariablen X2(„Kovariate“)kontrolliert wird?Die „Störvariable“X2ist mit derPrädiktorvariablen X1 konfundiert(häufiger Fall in der quasiexperimentellenForschung).Als Lösung wird bisweilenvorgeschlagen, die StörvariableX2 auszupartialisieren, um denEinfluss von X1 auf Y in„Reinform“ zu messen.

Question 12

Vorsicht beim Auspartialisieren von „Störvariablen“!

Accepted Answer

Welchen Einfluss hat eine Prädiktorvariable X1 auf das Kriterium Y,wenn für die Effekte einer Störvariablen X2(„Kovariate“) kontrolliertwird? Beispiel (Deldin, 1996): Haben Personen mit der Diagnose „MajorDepression“ eine geringere affektive Reagibilität (eine geringere P300-Amplitude) als nicht-depressive Personen? Aber: Es besteht eine Komorbidität zwischen Depression undAngststörung (Konfundierung). Idee: Störvariable „Pathologische Ängstlichkeit“ messen undauspartialisieren (Kovariate). Problem: Ängstlichkeit ist ein inhärenter Bestandteil von Depression (Helleret al., 1995; Watson et al., 1995) – ohne Ängstlichkeit wäre Depressionnicht mehr Depression! Würde man Ängstlichkeit hierauspartialisieren, wäre die Prädiktorvariable kein valider Indikatorfür Depression!

Question 13

Vorsicht beim Auspartialisieren von „Störvariablen“!

Accepted Answer

Welchen Einfluss hat eine Prädiktorvariable X1 auf das Kriterium Y,wenn für die Effekte einer Störvariablen X2(„Kovariate“) kontrolliertwird? Beispiel (Deldin, 1996): Haben Personen mit der Diagnose „MajorDepression“ eine geringere affektive Reagibilität (eine geringere P300-Amplitude) als nicht-depressive Personen? Aber: Es besteht eine Komorbidität zwischen Depression undAngststörung (Konfundierung). Idee: Störvariable „Pathologische Ängstlichkeit“ messen undauspartialisieren (Kovariate). Problem: Ängstlichkeit ist ein inhärenter Bestandteil von Depression (Helleret al., 1995; Watson et al., 1995) – ohne Ängstlichkeit wäre Depressionnicht mehr Depression! Würde man Ängstlichkeit hierauspartialisieren, wäre die Prädiktorvariable kein valider Indikatorfür Depression!

3443 (Subject) / Multivariate Verfahren I (Lesson)