102

Multivariate Verfahren (Fach) / Multivariate Verfahren (Lektion)

Diese Lektion wurde von SchnienT erstellt.

Lektion lernen

zurück  |  weiter 2 / 3

• Was ist das Problem bei Modellvergleichen via Differenz R² und adj. R²? Bei großen Stichproben werden die Modelle immer komplexer mit immer mehr Prädiktoren. - komplexe Modelle sind aber inhaltlich nicht relevant bzw. haben keine gute Verhersagekraft- schwierig zu interpretieren- schwierig zu replizieren, aufgrund von Zufallseffekten (Overfitting)
• Welche Ziele möchte man mit Modellen erreichen und wie geht dies? - möglicht gutes Modell -> gute Vorhersage des Kriteriums- möglichst sparsames Modell -> wenig Prädiktoren beide Ziele werden mit Informationskriterien erreicht -> AIC und BIC
• Welche Informationskriterien gibt es? AIC und BIC -> je kleiner, desto besser das Modell-> beinhalten einen Term für die Güte des Modells + einen Term für die Anzahl der Parameterln(Likelihood) + 2k
• Was gilt es bei der Reihenfolge der Modellvergleiche zu beachten? - durch Multikollinearität/Supressionen kann die Reihenfolge eine wichtige Rolle spielen- Reihenfolge sollte theoretisch bedeutsam / leicht erhebbar / nach kausaler Reihung erfolgen
• Wie kann man graphisch multiple Regressionen mit zwei Prädiktoren darstellen? Problem: Scatterplot müsste dreidimensional sein -> nicht gut interpretierbarLösung: Zweidimensionaler Scatterplot, wobei für einen Prädiktor, der nicht auf der X-Achse ist, verschiedene Werte eingesetzt werden. Für jeden Wert resultiert eine Gerade (z.B. drei Geraden) (Projektionen).
• Wie kann ich multiple Regressionen mit mehr als zwei Prädiktoren graphisch darstellen? Projektionen: Zweidimensionaler Scatterplot als Funktion, wenn alle anderen Prädiktoren - auf einen Wert festgesetzt werden (meist Mittelwert)- verschiedene Geraden für verschiedene Werte abgetragen werden
• Was ist eine Interaktion im Regressionsmodell? = Effekt eines Prädiktors variiert mit der Ausprägung eines anderen Prädiktors (z.B ein Effekt ist stärker für Männer, als für Frauen also abhängig vom Geschlecht) = dasselbe wie Moderation (oft bei Regressionen so betitelt) = kombinierter Effekt zweier Prädiktoren, welcher sich nicht durch die Summe der einzelnen Effekte darstellen lässt (= nicht additiv) = um Wechselwirkungen zu modellieren
• Wie werden Interaktionen im Regressionsmodell dargestellt? = Produkt der jeweiligen Prädiktoren Y = beta0 ü beta1 x X1 + beta2 x X2 + beta3 x X1 x X2 + e X1 = Haupteffekt 1X2 = Haupteffekt 2X1 x X2 = Interaktion(mit jeweiligen Betas dazu) bei 3 Prädiktoren gibt es dreifach und zweifach Interaktionen
• Was gilt es bei der Interpretation von Interaktionen zu beachten? Modell muss auch die jeweiligen Haupteffekte enthalten (auch nicht signifikante), da Interaktion unabhängig von Haupteffekten zu interpretieren ist
• Wie sind die jeweiligen Haupteffekte in einer Regression zu interpretieren, abhängig von der Interaktion? keine Interaktion: Veränderung im Kriterium, wenn andere Prädiktoren konstantInteraktion da: Veränderung im Kriterium, wenn der andere Prädiktor gleich Null
• Anzeige
• Was ist Zentrierung? Da Prädiktoren meist keinen Nullpunkt/nicht interpretierbaren Nullpunkt haben -> Zentrierung= Transformation, um einen Nullpunkt = Mittelwert zu erhalten (oder z-standardisierung)Notation: X mit einem nino spanischen Dings
• Was ist der Vorteil einer Zentrierung? - Haupteffekte können einfacher interpretiert werden (Effekt Prädiktor 1 beim Mittelwert von Prädiktor 2)- Irrelevante Korrelation aufgrund von Skalierung verschwindet (hängt aber auch von normalverteilung ab)
• Wann liegt eine Interaktion vor? wenn der Steigungsparameter des Produktterms ungleich Null ist
• Welche Interaktionen gibt es? Wie kann man diese sehen? 1. Synergetisches Modell:Vorzeichen der Haupteffekte und Vorzeichen der Interaktion gleiche RichtungGemeinsamer Effekt stärker als die Summe2. Antagonistisches Modell:Vorzeichen Haupteffekte gleiche Richtung, Vorzeichen Interaktion andere RichtungGemeinsamer Effekt schwächer als die Summe3. Puffermodell:Haupteffekte unterschiedliche Richtung, einer schwächt den anderen ab, als es bei der Summe zu erwarten wäre= graphische Darstellung (gekrümmte Regressionsebene weis auf Interaktion hin)
• Wie kann man die Art der Interaktion graphisch sehen? Scatterplot, der eine konstant gehaltene Variable enthält (X2) auf dem Mittelwert für X2 +/- 1 SD. Man erhält dann drei Geraden. - Sind die Geraden nicht paralel, sind die Steigungen unterschiedlich -> Interaktion vorhanden- wenn X1 bei 0 kein Schnittpunkt -> Haupteffekt 1 von X2- ist die Gerade für X1 nicht waagerecht = hat eine Steigung -> Haupteffekt 2 von X1
• Woher weiß ich, dass ich eine Interaktion beibehalten sollte? Zunächst Baselinemodell ohne Interaktion erstellen und R² berechnenDann Modell mit Interaktion erstellen R² berechnen-> Wenn mehr Varianz durch Interaktion aufgeklärt wird, Interaktion behalten
• Wie kann man Interaktionen in Pfadmodellen darstellen? Variante 1: Interaktion als eigenständiges Viereck mit einem X zwischen den beiden HaupteffektenVariante 2: Interaktion wird mithilfe von Pfeilen indirekt dargestellt: Prädiktor 1 geht mit Pfeil auf Pfeil von Prädiktor 2 zu Kriterium hin
• Welche polynomiale Effekte gibt es und was gibt es zu beachten? Immer Residuenplot anschauen: Dort sieht man welcher Trend!- Quadratischen Effekt: X1 x X1 = X1²- Kubischer Effekt: X1³ Alles kann auch mit linearen Effekten oder Interaktionen kombiniert werden! Hier auch immer: Zentrierung + stufenweises Modelltesten!
• Was ist eine Nicht-lineare Transformation und wofür wird sie gebraucht? anstatt zu zentrieren/standardisieren -> z.B. logarithmierenZweck:- Residuen normalisieren- Heteroskedastizität minimieren- Zusammenhänge vereinfachen (linear)
• Wie funktioniert eine Nicht-lineare Transformation mit Logarithmus? Bei exponentiellen Zusammenhängen muss die Gleichung umgeformt werden: lnY =lnCo +dX(d ist einfach die Steigung)Interpretation: Veränderung im Prädiktor um eine Einheit verändert Kriterium um eine Einheit auf der log-SkalaWenn Logarithmierte Variable negative Werte oder Null hat: Alle Werte um eine Konstante verschieben
• Wie geht man allgemein vor, wenn man dichotome bzw. kategoriale Prädiktoren in einer Regression hat? Man weist den Kategorien (z.B. männlich/weiblich) eine eindeutige Zahl zu -> KodierungKategorien müssen nicht natürlich sein
• Welche Kodierungsvarianten gibt es bei dichotomen Prädiktoren? 1. Dummy-Kodierung: (1,0) mit Y = beta0 + beta1 x XInterpretation: Y von 1 im Vergleich zu 0 -> 1 ist um beta1 höher/niedriger als 0 (Mittelwertsunterschied zwischen 1 und 0)2. Effekt-Kodierung: (1,-1) Y = beta0 + beta1 x XInterpretation: Y von 1 im Vergleich zu allen -> 1 ist um beta 1 über/unter dem Gesamtmittel(Abweichung vom Gesamtmittel)
• Was verändert sich bei dichotomen Prädiktoren je nach Kodierungsart? Werte (auch Achsenabschnitt) und Interpretation der SteigungNICHT: Test für beta = 0 (t-Test und Regression identische Werte)NICHT: R²
• Beweise, dass der t-test und die lineare Regression zu dem gleichen Ergebnis für dichotome Prädiktoren kommen! t = beta1 / SE beta (SE = SDy / SDx x Wurzel (1 - R² / N - k - 1)R² = erklärte Varianz / totale Varianz t = (Mittelwert X1 - Mittelwert X2) / SE(Mittelwert X1 - Mittelwert X2)
• Wie sieht die Standardisierung bei dichotomen Prädiktoren aus? Kategoriale Prädiktoren können nicht standardisiert werden, aber YInterpretation: Abweichung in Standardabweichungen (von Referenzgruppe/Gesamtmittel)
• Wie geht man mit mehrkategorialen Prädiktoren um? Jeder Kategorie eine eindeutige Zahl zuordnen -> Schlechte Idee weil:R² sowie Steigungen sind dann 0, obwohl die Mittelwerte der Kategorien sich unterscheiden Besser: j Kategorien in j-1 dichotome Prädiktoren überühren, die paarweise eine Kategorie mit der Referenz vergleichtDummy: Referenz überall 0, eine Kategorie von Interesse eine 1Effekt: Referenz überall -1, eine Kategorie eine 1
• Was ändert sich bei mehrkategorialen Prädiktoren je nach Kodierungart? - Werte und Interpretation der Regressionskoeffizienten- Test für beta = 0- NICHT: R²
• Welche Hypothesen testet man jeweils mit Dummy- und Effektkodierung? Dummy: Weicht der Mittelwert einer Kategorie signifikant von dem der Referenzkategorie ab?Effekt: Weicht der Mittelwert einer Kategorie signifikant vom Gesamtmittel ab?
• Warum unterscheidet sich der Test für beta = 0 bei mehrkategorialen Prädiktoren je nach Kodierungsart, bei dichotomen Prädiktoren jedoch nicht? Bei dichotomen Prädiktoren besteht das Gesamtmittel nur aus 2 Variablen, bei mehrkategorialen aus mind. 3, deshalb ist auch das Gesamtmittel dann anders.
• Unterscheidet sich die einfaktorielle ANOVA von der Regression mit kategorialen Prädiktoren? Nein.R² und Eta² sind äquivalentOmnibus F-Test und F-Test für das R² sind äquivalent
• Anzeige
• Wozu braucht man Kontrastkodierung? Dummy/Effektkodierung testen unspezifische Hypothesen, und immer nur eine KategorieFür spezifische Hypothesen braucht man Kontrastkodierung (A ist besser als B), es können mehrere Kategoriegruppen verglichen werden
• Wie funktioniert die Kontrastkodierung für mehrkategoriale Prädiktoren? Ein oder mehrere Kontrastgewichte (w) werden gebildet, je nach Hypothese (C1, C2)Wieviele gebildet werden, hängt von Unabhängigkeit und Hypothesen ab (möglichst wenig)C = w0 x M1 + w1 x M2 + w2 x M3 (nur 0, wenn Mittelwerte alle gleich sind)Regeln für die Bildung der Gewichte:1) Summe der Kontrastgewichte = 0 (je Kontrast)2) Summe der paarweisen Produkte = 0 (bei mehreren Kontrasten)3) Differenz aus positiven und negativen Gewichten = 1 (muss nicht unbedingt sein)- Irrelevante Kategorien = 0- Nenner = Summe der relevanten Kategorienanzahl- Referenzkategorie = negatives Vorzeichen
• Wie werden Kontraste interpretiert? Achsenabschnitt: GesamtmittelSteigung: Differenz zwischen den Mittelwerten zwischen positiven und negativ kodierten Kategorien
• Was sind Polynomialkontraste? Frage nach der Form der Veränderung im Kriterium für mehrkategoriale Prädiktoren (linear, quadratisch usw.?)- Oft verwendet bei Zeitverläufen- nur für gleichabständige Kategorien sinnvoll, sonst sind Gewichte nicht mehr korrekt
• Wie werden Polynomialkontraste gebildet? abhängig von Anzahl der Kategorien:Linear: -1 0 1 (bildet Gerade)Quadratisch: 1 -2 1 (Bildet Parabel) für weitere Trends braucht man mind. 4 KategorienY = beta + beta x C1 + beta x C2 (signifikante betas zeigen ob linear, quadratisch oder beide Trends vorhanden
• Wie geht man bei mehreren kategorialen Prädiktoren vor? - gibt auch mehrere Haupteffekte, hängen aber von Kodierungsart ab - Interaktion kann eingefügt werden als Multiplikation der Kodierungen-> besser Effektkodierung benutzen, da Variablen dann schon zentriert sind (true main effects)-> Effekt geht über alle Stufen des anderen Faktors hinaus (wie ANOVA)-> Dummy nicht zentriert -> simple main effects, Effekt innerhalb einer Stufe des anderen Faktors
• Wie geht man bei einer Mischung aus kategorialen und kontinuierlichen Prädiktoren vor? - ANCOVA (aber hier keine Interaktion zwischen kateg. und kont. Prädiktoren erlaubt im Gegensatz zur Regression)
• Was ist der Unterschied zwischen kategorialem und kontinuierlichen Kriterium? kontinuierlich: Allgemeines Lineares Modellkategorial: Verallgemeinertes Lineares Modell -> Modell muss erweitert werden
• Was ist das Problem bei dichotomem Kriterium? In der linearen Regression wird das Kriterium außerhalb des zulässigen Wertebereichs vorhergesagt, z.B. ja/nein [0,1] -> 1,5 Annahmen der normalen Regression sind verletzt (E ungleich 0, nicht-normal, heteroskedastisch
• Was ist das Linear Probability Model? Dichotomes Kriterium wird durch eine bedingte Wahrscheinlichkeit einer bestimmten Gruppe (1=Rückfall) vorhergesagtp = P(Y = 1 / X) Es wird ein linearer Zsh angenommen, ist aber schlechtes Vorgehen
• Was ist das Verallgemeinertes Lineares Modell? Modellerweiterung des ALM Weil der Wertebereich für ein dichotomes Kriterium gesprengt wird, wird eine Linkfunktion benutzt, die XB auf den korrekten Wertebereich für Y transformiert (Funktion der bedingten Wahrscheinlichkeit linear vorhersagen) g(Y) = XBY = g-1(YB)
• Welche Linkfunktionen müssen für dichotome Kriterien verwendet werden? - Probit Regression- Logistische Regression
• Was ist eine Probit Regression? Der Z-Wert einer Normalverteilung wird durch XB linear vorhergesagt und bewegt sich im zulässigen Wertebereich für ein dichotomes Kriterium [0,1] (S-förmige Kurve) Für die Linkfunktion g wird die Quantilfunktion der kummulativen Normalverteilungsfunktion gewählt, um den Wertebereich in eine bedingte Wahrscheinlichkeit zu transformieren:Q-1(p) = XB mit Wertebereich unendlich -> linearp = Q(XB) mit Wertebereich [0,1] -> nicht-linear
• Was passiert grafisch bei einer Probit Regression, wenn die Parameter variieren? - Achsenabschnittsparameter beta0 verschiebt Funktion links/rechts auf X-Achse - Steigungsparameter beta1 verändert Wölbung (je größer beta, desto perfekter Zsh), je niedriger, desto waagerechter, je höher umgekehrt
• Wie interpretiert man die Probit Regression? - Q-1 = Veränderung im Kriterium gemessen in Z-Werten der Wahrscheinlichkeit- p = Veränderung in Wahrscheinlichkeitseinheiten nicht möglich, weil nicht linear (hängt vom Startpunkt ab) Marginal Impact: Steigungskoeffizienten interpretieren, wenn X auf Median vs. eine Einheit erhöht vom Median ist und alle anderen Variablen auf dem Median sind -> willkürlich besser: Logistische Funktion
• Was sind Odds Ratios und Risk Ratios und wofür braucht man sie? Risk: Wahrscheinlichkeit -> Relevante Fälle / alle FälleRisk Ratio: p(Rückfall/geschieden) / p(Rückfall/zusammen)Interpretation: Für Geschiedene ist die Rückfallwahrscheinlichkeit vs. Zusammenlebend 1.49 mal so hoch (erhöht sich um 49 %)Odds: Quote -> Relevante Fälle / Irrelevante Fälle (alle anderen)Odds Ratio: Oddsgeschieden / Oddszusammen =1.6Interpretation: Für Geschiedene sind die Odds für einen Rückfall vs. Zusammelebend 1.6 mal so hoch (erhöhen sich um 60 %) -> In der Logistischen Regression verwendet / für Kreuztabellen 2 x 2
• Was ist eine logistische Regression? für dichtome Kriterien Inverse der Linkfunktion ist logistische Funktion (Exponentialfunktion), die gegen 1/0 strebt-> bedingte Wahrscheinlichkeit wird nicht-linear durch logistische Funktion linear durch XB vorhergesagt ln (p/1-p) = XB (ln() ist ein Logit, p/1-p sind die Odds)p = 1/1+e-XBOdds: p/1-p = eXB graphische Interpretation analog zu Probitregression
• Wie interpretiert man eine logistische Regression? - Veränderung um eine Einheit im Prädiktor verändert beta Einheiten im Logit (bei konstanten anderen  Prädiktoren)besser: Veränderung um eine Einheit im Prädiktor multipliziert die Odds mit beta-> beta dafür in Odds Ratios umwandeln -> betaOR = ehoch0.64 = 1.89-> Erhöhung um eine Einheit auf X erhöht die Odds für Y um 89 %-> Erhöhung um zwei Einheiten: 1.89 * 1.89 = 3,57 (257 %)
• Wie sehen logistische Regressionen graphisch aus? Logits: Lineare GeradenWahrscheinlichkeit: KurveOdds: Exponentiell
• Wie testet man eine logistische Regression? z = beta/SE(beta) (Normal statt t)Konfidenzintervall ist asymmetrisch (kann nicht kleiner 0 werden)oderWald-Statistik: beta²/SE(beta)² (X²-verteilt, df = 1)Likelihood Ratio Test -> am besten Power

zurück  |  weiter 2 / 3