19

Muva (Fach) / Regression (Lektion)

2. Vorlesung

Diese Lektion wurde von Amalaswinthaa erstellt.

Lektion lernen

Anzeige
  • Zentrale Begriffe Korrelation: Beschreibt die Stärke des ZusammenhangesRegression: Beschreibt die Art des Zusammenhanges zweier Variablen. Ermöglicht die Vorhersage der einen Variablen aus der anderen.Art des Zusammenhanges: positiv, negativ, kein ZusammenhangForm des Zusammenhanges: linear, quadratisch, exponentiell OStärke des Zusammenhanges.
  • Begriffe Gesucht ist: eine lineare Funktion, die eine optimale Vorhersage der Ausprägung in einer Variablen y aus der Ausprägung einer Variablen x ermöglicht (Regressionsfunktion).• Lineare Regression: grafische Darstellung alsRegressionsgerade.• Variable x, die der Vorhersage dient:Prädiktor oder Prädiktorvariable.(Beispiele: Einstellungstest, Medizinertest, Abiturnote)• Variable y, deren Ausprägung vorhergesagt wird:Kriteriumsvariable oder Kriterium.(Beispiele: Berufseignung, Studienleistung)
  • Korrelationskoeffizient Maß für die Enge des Zusammenhangs je enger der Zusammenhang von Prädiktor und Kriterium, desto genauere Vorhersagen möglich ist das am Verhältnis der Streuung beider Merkmale standardisierte Regressionsgewicht ist das Regressionsgewicht z-standardisierter Variablen rxy=b1 x sx/sy
  • Eigenschaften von Residualwerten Summe aller quadrierten Regressionsresiduen ist minimal (Methode der kleinsten Quadrate) SUmme aller Regressionsresiduen ist gleich 0  Residuen sind mit Prädiktorvariablen X unkorrliert Residuen sind mit vorhergesagten Werten unkorreliert
  • Interpretation des Regressionsgewichts Zeigt an, wie stark die Regressionsgerade ansteigt bzw. abfällt•Etwas formaler:Interpretation des RegressionsgewichtsUm wie viele Einheiten verändert sich der vorhergesagte Wert für Y wenn X um eine Einheit erhöht wird? Positiver Wert: X und Y verändern sich in dieselbe Richtung Negativer Wert: X und Y verändern sich in entgegengesetzte Richtungen
  • Interpretation des Achsenabschnittes • Y-Wert, bei dem die Regressionsgerade die Y-Achse schneidet Per Definition ist die Y-Achse bei X = 0 positioniert• Etwas formaler:Vorhergesagter Y-Wert für X = 0
  • Bestimmung des Regressionsgewichts b1= sxy/s2x = rxy · sy/sx sxy= kovarianz x&y s2x = Varianz von x sy = Standardabweichung von y  sx = Standarabweichung von x ⇒b1 = Kovarianz von x&y geteilt durch die Varianz von x
  • Bestimmung des Achsenabschnittes b0 = y−b⋅x y = Mittelwert von y (Strich) b1 = Regressionsgewicht x = Mittelwert von x (Strich) ⇒ b0 = Mittelwert von y minus das Regressionsgewicht multipliziert mit dem Mittelwert von x
  • Standardisierung in der linearen Regression -Standardisierung = z-Transformation -Allgemeine Formel: zxm =xm-x/sx -2 Möglichkeiten: •Variablen sind unstandardisiert: AChsenabschnitt und Regressionsgewicht werden in der Originalmetrik interpretiert •alle Variablen standardisiert: AChsenabschnitt und Regressionsgewicht werden in Standardabweichungseinheiten interpretiert - das standardisierte Regressionsgewicht entspricht der Korrelation! - der standardisierte Achsenabschnitt ist immer 0  - bei standardisierten Variablen ist der Mittelwert = 0 und die Standardabweichung = 1
  • Standardisieren oder nicht standardisieren? NICHT, wenn: - die Originalmetrik sinnvoll interpretiert werden kann (z.B. Anzahl Ex-Partner) - die Regression zur Vorhersage von Werten genutzt wird (z.B. Vorhersage der Dauer einer Beziehung in Monaten) - Gruppen verglichen werden sollen --> ein z-Wert von 0.5 kann einen anderen Rohwert in einer Gruppe als in einer anderen bedeuten, wenn sich diese Gruppe in ihren Mittlwerten/Varianzen unterscheiden
  • Anzeige
  • Standardisieren oder nicht standardisieren? JA, wenn: - die Originalmetrik nicht sinnvoll zu interpretieren ist  - verscheidene Prädiktoren verglichen werden sollen, die sich in Originalmetrik, Mittelwert und/oder Varianzen unterscheiden 
  • Residuen als Indikator der Schätzgenauigkeit - Residuum = Indikator für "Ähnlichkeit" der beobachteten und vorhergesagten Werte - je ähnlicher die beobachteten und vorhergesagten Werte, desto besser ist das Regressionsmodell - "Gutes" Regressionsmodell = MOdell, das der Realität so nah wie möglich kommt - je kleiner die Residuen, desto besser beschreibt das Modell die Daten
  • Wie "groß" sind die Residuen? - Ziel = Finde einen einzelnen Wert, der ausdrückt, wie "groß" die Residuen sind - Mittelwert funktioniert nist, da der Mittelwert der Residuen immer 0 ist - Lösung:  •quadriere alle Residuen •berechne den Durchschnitt der quadrierten Residuen •ziehe die Wurzel der durchschnittlichen quadrierten Residuen ⇒Standardschätzfehler
  • Güte des Regressionsmodells: Standardschätzfehler - gibt an, wie stark die beobachteten Werte um die Regressionsgerade (= vorhergesagte Werte) streuen - je größer der Standardschätzfehler, desto ungenauer die Vorhersage, desto größer der Vorhersagefehler - entspricht der Standardabweichung der Residuen →durchschnittliches Residuum in der Originalmetrik der abhängigen Variablen ⇒kann für den Vergleich verschiedener Modelle mit der selben abhängigen Variablen verwendet werden ⇒über verschiedene Variablen, Stichproben, Studien hinweg schwer zu interpretieren × wir brauchen ein standardisiertes Maß für die Modellgüte des Regressionsmodells!
  • Güte des Regressionsmodells: Determinationskoeffizient R2 = s2Ý/s2y = Anteil der Varianz,in Y, der auf systematische Varianz von X zurückgeführt werden kann = Anteil der erklärten Varianz an der Gesamtvarianz - besagt, welcher Varianzanteil des Kriteriums aus dem Prädiktor vorhergesagt werden kann - entspricht mathematisch der quadrierten Korrelation - Range: von 0-1 •standardisiertes Maß für die Modellgüte •kann als Effektgröße verwendet werden •entspricht eta2 (Effektgröße in der Varianzanalyse)
  • Regressionsrechnung 1. Wie sieht der Zusammenhang zwischen Prädiktoren und Kriterium genau aus? --> Regressionsgerade/-gleichung 2. Wie groß/stark ist der Zusammenhang? --> Korrelationskoeffizient und Determinationskoeffizient (Anteil gemeinsamer Varianz) 3. Ist der Zusammenhang der Prädiktoren signifikant?
  • Signifikanztest der linearen Regression - F-Test: beruht auf einer Zerlegung der Variabilität (SS) des Kriteriums in einen erklärten und einen nicht erklärten Teil  SStotal = SSreg + SSres        SStotal = ∑(yi - Ȳ)2 SSreg = Anteil der Kriteriumsvariabilität, der auf den Prädiktor zurückgeht SSres = Anteil der Kriteriumsvariabilität die unerklärt bleibt - Quadratsumme (SS) = unstandardisiertes Maß für die Variabilität; wird standardisiert, indem es durch die Freiheitsgrade geteilt wird - dfs bei SSreg = N - Anzahl Prädiktoren - 1 (df = N - k - 1)
  • Signifikanztest - geht auch mit t-Test - Regressionsgewicht = Steigung der Regressionsgeraden: b - Prädiktor klärt Varianz auf wenn Steigung ≠ 0 - ob sich b signifikant von 0 unterscheidet, kann mit einem t-Test geprüft werden - Die Frage, ob die Varianzaufklärung durch den Prädiktor statistisch signifikant ist, kann auch mithilfe eines t-Tests für das Regressionsgewicht geprüft werden oder mithilfe des t-Tests der Korrelation. - bei der einfachen linearen Regression ( 1 Prädiktor) ist das Ergebnis aller Verfahren identisch ⇒ ist der F-Test der Varianzaufklärung signifikant ⇒ist es auch der t-Test für das Regressionsgewicht ⇒ und der t-Test der Korrelation
  • Zusammenfassung Regression -eine lineare Regression beschreibt den (linearen) Zusammenhang zwischen zwei Variablen - ist die Regressionsfunktion bestimmt, kann die unbekannte Ausprägung einer Kriteriumsvariablen y (z.B. Schuleignung) aufgrund einer Prädiktorvariablen x (z.B. Schuleignungstest) vorhergesagt werden - Regressionsparameter werden so berechnet, dass der quadrierte Abstand zwischen den vorhergesagten und tatsächlichen Werten, also die quadrierten Vorhersagefehler, möglichst klein ist - Parameter = y - Achsenabschnitt & Steigung - Korrelationskoeffizient ist ein Maß für die Stärke des Zusammenhangs, er ist der standardisierte Steigungskoeffizient - Standardschätzfehler und Determinationskoeffizient sind Maße der Modellgüte des Regressionsmodells - Determinationskoeffizient = standardisiertes Maß der Modellgüte; besagt, welcher Varianzanteil des Kriteriums aus dem Prädiktor vorhergesagt werden kann