22

Psychologie - Forschungsmethoden (Subject) / Teil 2 Deskriptive und explorative Datenanalyse (Lesson)

6 Lage- und Streuungsmaße 7 Korrelation 8 Lineare Regression 9 Effektgrößen

This lesson was created by mosaicpilz.

Learn lesson

This lesson is not released for learning.

Advertisement
  • 6 Lage- und Streuungsmaße 6.1 Warum brauchen wir Streuungsmaße? 6.1.1 Einleitung Typische Werte (Werte der Mitte) als verständliche Zusammenfassung von Daten = Mittelwerte, Werte der zentralen Tendenz, Lagemaße. Alleine liefern sie jedoch keine sinnvolle Aussage über ein Ergebnis; man weiß nicht, wie stark sich die Einzelwerte unterscheiden -> dazu sieht man sich die Verteilung der Werte an (sehr auseinandergezogen: ungleiche, stark variierende oder streuende Werte; schmal: eher gleich und homogen). Diese Streuung einer Verteilung kann man mithilfe von Streuungsmaßen (oder Dispersionsmaßen) zusammenfassen; werden im Alltag seltener verwendet als Lagemaße. Warum brauchen wir Streuungsmaße? Durchschnitt = meint meist arithmetische Mittelwerte; Streuungsmaße fallen aber im Alltag weniger auf, da oft nicht sehr aussagekräftig (BSP Noten: identischer Mittelwert, aber unterschiedliche Streuung)
  • 6 Lage- und Streuungsmaße 6.2 Lage und Streuung auf einen Blick 6.2.1 Stamm-Blatt-Diagramme Lage und Streuung auf einen Blick Verschiedene Darstellungsformen zwecks Überblick, z.B. Häufigkeitsverteilung wie Histogramm; für mehr Informationen: Stamm-Blatt-Diagramme (stem-and-leaf plots) und Box-Plots -> entstammen dem Arsenal der Explorativen Datenanalyse (EDA)[1 explorieren = erkunden; EDA -> Daten explorieren und darin enthaltenen Strukturen und Muster aufzudecken]. Stamm-Blatt-Diagramme Ein Stamm-Blatt-Diagramm trennt jede in ihm enthaltene Zahl in einen „Stamm-Teil“ und einen „Blatt-Teil" | Stamm-Teil (links): Hundertstelsekunden | Blatt-Teil (rechts): verbleibende Millisekunden pro Person getrennt durch Kommata; z.B. 17 | 2, 5 -> 2 Personen mit den Werten 172 und 175 Millisekunden (mehr Detailinformationen zu Rohwerten [2 roh, weil noch nicht weiter verarbeitet] als Häufigkeitsverteilungen). Warum: Nachteil an Häufigkeitsverteilung: Wertebereich oft so groß, dass nicht für jeden Wert die Häufigkeit angegeben werden kann, sondern Werteintervalle gebildet werden müssen (vgl. Histogramm [3 Histogramme = Häufigkeitsverteilung zur Abbildung von Ergebnissen stetiger Variablen. Stetig bedeutet, dass die möglichen Wertausprägungen zumindest im Prinzip kontinuierlich ineinander übergehen.] in Abb.: 151 bis 189 -> wären 39 unterschiedliche Werte; hier wurden aber Zehner-Intervalle gebildet). Stamm-Blatt-Diagramm auch gut für Vergleich der Werte zweier Gruppen (Rücken-an-Rücken -> „Back-to-back-Diagramm“. Vorgehen für Anfertigung von Stamm-Blatt-Diagramm: Werte in Rangreihe bringen Einheiten für den Stamm wählen (im Prinzip beliebig wählbar) Werte für „Blätter“ eintragen Schritte 2. und 3. so lange mit unterschiedlichen „Stamm-Einheiten“ wiederholen, bis das Ergebnis zufriedenstellend ist Größtes Problem: Wahl geeigneter Einheiten für den Stamm; dafür keine allgemein verbindliche Lösung, aber Konventionen, die öfter benutzt werden. Box-Plots -> wahrscheinlich am weitesten verbreitete Methode, um Lage- und Streuungsmaße auf einmal abzubilden. Box enthält ungefähr die mittleren 50% der Werte der Verteilung; wenn man alle Werte in eine Rangreihe bringt, dann ist der Wert in der Mitte der Median (Querstrich in der Box) [4 Wert, der in der Mitte liegt; sollte kein Wert in der Mittel liegen, nimmt man als Median in der Regel das arithmetische Mittel der zwei mittleren Werte]  Werte für die ober und untere Begrenzung der Box wird anhand der Quartile bestimmt (obere Quartil = Wert über dem ein Viertel und unter dem drei Viertel der Werte der Verteilung liegen; untere Quartil = Wert über dem drei Viertel und unter dem ein Viertel der Werte der Verteilung liegen). Abstand zwischen den Quartilen = Interquartilsabstand. Kleine Querstriche = Whiskers (Schnurrbarthaare), lassen erkennen wie weit eine Verteilung auseinandergezogen ist. Ausreißer (untypische Werte): Grundlage dafür bilden (imaginäre) „Zäune“ (Fences), diese liegen je 1,5 Interquartilsabstände entfernt von den Außenseite der Box; diese Zäune sind die Grundlage für das bestimmen der kleinen Querstriche und der Ausreißer (= alle Werte jenseits der kleinen Querstriche) Median in der Mitte der Box -> symmetrische Verteilung Box-Plots gut geeignet für den Vergleich mehrerer Verteilungen Median und Quartile ändern sich nicht, wenn sich extreme Werte ändern
  • 6 Lage- und Streuungsmaße 6.3 Lagemaße im Detail (Arithmetische Mittel, Medaian und Quantile, Modalwert, weitere Lagemaße) 6.4 Streuungsmaße im Detail (Standardardabweichung und Varianz, Interquartilsabstände und andere Qaurtilsabstände, weitere Streuungsmaße) Lagemaße im Detail 2 wichtigste Lagemaße: arithmetische Mittel und Median: Arithmetisches Mittel Meist gemeint, wenn von Mittelwert gesprochen wird, häufig mit -x- bezeichnet: n = Anzahl der Werte; Summenzeichen: alle n Werte werden aufsummiert Gesamtmittelwert: Mittelwert aus mehreren Mittelwerten, wenn gleiches n jeder Gruppe (BSP MW der Noten mehrerer Noten-MW verschiedener Klassen), ansonsten starke Verfälschung möglich. Lösung: Berechnung des gewichteten Mittelwerts (gewichtetes arithmetisches Mittel): Berücksichtigung der Gruppen-n neben N. Median und Quantile Bei Rangreihe: Wert in der Mitte bzw. arithmetisches Mittel der beiden Werte in der Mitte Mittelwert wird durch jeden Wert der Verteilung beeinflusst, der Median (=robustes Maß) ändert sich meist jedoch nicht, wenn einzelnen Werte am Rand der Verteilung geändert werden. Median = 50%-Quantil, die Quartile sind das 25%-Quantil (Q25) und das 75%-Quantil (Q75), also Werte unterhalb deren 75% oder 25% aller Werte liegen (100%-Quantil = größter Wert in geordneter Datenliste). Modalwert Wert(oder Werte) (Zahl, Kategorie), der in einer Verteilung am häufigsten vorkommt (z.B. 1 3 4 5 5 6 -> 5, blau blau gelbe grün -> blau). Weitere Lagemaße Neben arithmetischem Mittel, Median und Modalwert noch Lagemaße für spezielle Fälle: geometrische (oder harmonische) Mittel; getrimmtes arithmetisches Mittel (bestimmter Anteil der Werte an beiden Enden der Verteilung, z.B. jeweils 5%, wird weggelassen; aber auch hier müssen Ausreißer bei der Datenanalyse und –interpretation miteinbezogen werden). Streuungsmaße im Detail Streuungsmaße sind häufig an bestimmte Lagemaße gekoppelt; gebräuchlichsten Streuungsmaße in der Psychologie: Standardabweichung & Varianz  (beziehen sich auf das arithmetische Mittel) und Interquartilsabstand (Referenz zum Median). Standardabweichung und Varianz Warum nicht summierte oder durchschnittliche Abweichung aller Werte vom Mittel? -> Summe oder Mittelwert der Abweichung aller Werte vom Mittelwert ist Null (bei allen Werteverteilungen) -> keinerlei Informationsgewinn. Deswegen nicht gemittelte einfache sondern gemittelte quadrierte Abweichung (weil quadrierte Werte immer positiv): Varianz s2 Problem: quadrierte Wert oft schlecht interpretierbar (z.B. quadrierte Aufgabenlösung!?); deswegen Wurzel aus der Varianz: Standardabweichung, s Werte werden dadurch wieder in die ursprüngliche Einheit gebracht. Interquartilsabstand und andere Quartilsabstände Wenn Median als Lagemaß, dann Interquartilsabstand (QA) als Streuungsmaß sinnvoll: QA = Q75 - Q25 QA -> umfasst ca. 50% der Werte in der Mitte der Verteilung und ist ein spezieller Quantilsabstand (der zwischen dem 75%-Quantil (dem oberen Quartil) und dem 25%-Quantil (dem unteren Quartil)) Weiterer Quartilsabstand -> Spannweite bzw. Range (Abstand zw. größten und kleinsten Wert): Spannweite = Q100 - Q0 Weitere Streuungsmaße Bisheriges reicht in Psychologie und Sozialwissenschaften eigentlich. Neben der Lösung der Varianz (quadrierte Abweichung) könnte aber auch die absolute Abweichung vom arithmetischen Mittel berechnet werden. Mittlere absolute Abweichung (MAD, Mean Absolute Deviation): gibt an wie weit die Werte einer Verteilung durchschnittlich (ohne Berücksichtigung der Vorzeichen) vom Mittelwert abweichen MAD für arithmetisches Mittel wird selten benutzt; MAD für Median ist gebräuchlicher MAD für Median immer höchstens so groß wie MAD für arithmetisches Mittel, meist aber kleiner. Der MADMedian wird manchmal als Ersatz oder Ergänzung des Interquartilsabstands benutzt, wenn der Median als Lagemaß verwendet wird.
  • 6 Lage- und Streuungsmaße 6.5 Wann welches Maß? (Skalenniveau, Form der Verteilung) Meist: Arithmetisches Mittel -> Varianz oder Standardabweichung Median -> Interquartilsabstand oder MAD (mittlere absolute Abweichung) Modalwert -> kein bestimmtes Streuungsmaß Überlegungen generell: Welches Skalenniveau haben die Daten? Wie sieht die Form der Verteilung aus? Skalenniveau Intervallskalenniveau (gleiche Zahlenintervalle haben inhaltlich dieselbe Bedeutung) -> Berechnung von arithmetischem Mittel, Varianz, Standardabweichung und mittlere absolute Abweichung für den Median zulässig. Ordinalskala (Rangreihe ohne genaue Information über quantitativen Unterschied zwischen Merkmalsausprägungen) -> Median (mind. Ordinalskala), Interquartilsabstand. Nominalskala (unterschiedliche Zahlen bedeuten nur, dass sich die gemessenen Werte irgendwie unterscheiden) -> Modalwert (kann immer berechnet werden). Form der Verteilung Arithmetisches Mittel: Voraussetzung ist einigermaßen symmetrische Verteilung; einige Extremwerte können durch getrimmten Mittelwert ausgeglichen werden (links und rechts am Ende der Verteilung abschneiden). Sehr schiefe Verteilung -> Mediane (BSP Anzahl gewünschter Sexualpartner im nächsten Jahr: Mittelwerte nicht sinnvoll, Median besser).
  • 6 Lage- und Streuungsmaße 6.6 Standardisierung: z-Werte 6.7 Population vs. Stichprobe Standardisierung: z-Werte Lage- und Streumaße sind stark von benutzten Maßeinheiten abhängig (z.B. Temperatur: Celsius und Fahrenheit haben unterschiedliche Werte aber inhaltlich dieselbe Bedeutung; oder IQ-Werte verschiedener Skalen; unterschiedliche Messinstrumente). Um Werte vergleichbar zu machen: z-Standardisierung -> standardisierte z-Werte geben Auskunft über die Lage von Werten relativ zu den übrigen Werten in Standardabweichungs-Einheiten (z = 1 bedeutet einen relativen Unterschied von einer Standardabweichung). Der z-Wert, zi, eines Wertes xi wird folgendermaßen berechnet: Wert minus Mittelwert dividiert durch die Standardabweichung. Verteilung von z-Werten hat zwei nützliche Eigenschaften (hilfreich bei der Durchführung verschiedener Verfahren): Es gilt -z-, d.h. der Mittelwert einer z-Verteilung ist immer Null Die Varianz sz2 und die Standardabweichung sz beträgt immer 1 Population vs. Stichprobe Häufiges Ziel: Schlüsse/Inferenzen von den Ergebnissen der Stichprobe auf die Grundgesamtheit/Population ziehen. Die beste Schätzung für den Populationsmittelwert μ ist das arithmetische Mittel -x- aus der Stichprobe, für die Populationsvarianz hingegen: geschätztes Sigma2 (Unterschied zu stichprobenvarianz: Bei der Populationsvarianz werden die summierten Abweichungsquadrate durch n-1 geteilt statt durch n) Griechische Buchstaben -> Populationswerte (Populationsparameter) Lateinische Buchstaben -> Stichproben-Kennwerte (Stichprobenstatistiken) Dach über Sigma -> Schätzung
  • 7 Korrelation 7.1 Die grafische Darstellung von Korrelationen: Streudiagramme Zusammenhang, z.B. Körpergröße und Körpergewicht -> im Einzelfall zwar nicht bestimmend, aber genereller Trend -> Korrelation. Suche und Analyse von Korrelationen als ein Hauptanliegen aller empirischen Wissenschaften; in der sozialwissenschaftlichen Forschung können fast alle Fragestellungen auch als Fragen nach dem Zusammenhang zwischen Variablen aufgefasst werden. Neben der Frage, ob ein Zusammenhang besteht, interessiert auch Richtung, Stärke und Form des Zusammenhangs. Die grafische Darstellung von Korrelationen: Streudiagramme x-Achse (Abszissenachse), y-Achse (Ordinaten-Achse): normalerweise egal, welche Variable wo eingetragen wird – bei (vermutlich) vorhersagenden oder verursachenden Variablen wird diese aber meist auf der x-Achse eingetragen (Achtung: Zusammenhang bedeutet noch keine Kausalität!). BSP Zusammenhang Aggressivität und Konsum gewaltdarstellender Fernsehprogramme Nach Auswertung der Daten -> zuerst Blick auf Streudiagramm für ersten Eindruck (BSP Zusammenhang, aber nicht perfekt) Idente Messwerte (häufiger bei großen Stichproben und Variablen, die nur wenige verschiedene Werte annehmen können) werden als übereinanderliegende Punkte eingezeichnet -> schlecht zu erkennen. Lösung: Sonnenblumendiagramm -> Punkt für Messwertpaare die nur einmal vorkommen; für jedes weitere Paar wird ein Strich („Blütenblatt“) hinzugefügt.
  • 7 Korrelation 7.2 Korrelationsmuster Korrelationsmuster: Lineare und kurvilineare Zusammenhänge Linearer Zusammenhang -> Gerade (BSP. gelesene Bücher – Allgemeinwissen) Kurvilineare Zusammenhänge, z.B. Umgekehrt u-förmige Kurve (BSP. Leistung – physiologische Aktivierung) Zunehmend abflachende Kurve (BSP. Geldvermögen – subjektiver Nutzen) Richtung und Stärke von Zusammenhängen Lineare Zusammenhänge: positiv (hohe Werte einer Variable gehen mit hohen Werten einer anderen Variable einher -> positive Steigung) oder negativ (hohe Werte gehen mit niedrigen Werten einher -> negative Steigung; BSP Arbeitszufriedenheit – Anzahl Fehltage) Stärke der Korrelation: je näher Punkte an Geraden/Kurve liegen (alle Punkte genau auf der Linie = perfekter Zusammenhang bzw. deterministische Zusammenhänge, d.h. jeder Wert einer Variable lässt sich anhand des Wertes auf der anderen Variable exakt und fehlerfrei angeben) -> in Sozialwissenschaften praktisch aber nie so; hier: stochastische (probabilistische) Zusammenhänge (einem bestimmten Wert einer Variable X ist kein eindeutiger Wert einer Variable Y zugeordnet). Kein Zusammenhänge: eher kreisförmige Punktwolke. Korrelationskoeffizient: -1 (negativer Zusammenhang) bis +1 (positiver Zusammenhang); 0 = kein Zusammenhang Die Bedeutung des Korrelationsmusters für die weitere Analyse Zuerst Streudiagramm ansehen, dann erst (wenn sinnvoll) Berechnung des Produkt-Moment-Korrelationskoeffizienten, da dieser Maß für linearen Zusammenhang ist; kurvilineare Form -> irreführendes Ergebnis (würde schwachen/keinen Zusammenhang anzeigen); bei kurvilinearen Zusammenhängen gibt es andere Möglichkeit die Stärke eines Zusammenhangs zu berechnen. Außerdem: Ausreißer können den Korrelationskoeffizienten verfälschen.
  • 7 Korrelation 7.3 Der Produkt-Moment-Korrelationskoeffizient 7.3.1 zuerst Der Produkt-Moment-Korrelationskoeffizient = Maß für Richtung und Stärke des (linearen!) Zusammenhangs zwischen zwei intervallskalierten Variablen.Hoher Messwert -> oberhalb des Mittelwerts der entsprechenden Variable (bei niedrig umgekehrt) Berechnung der Abweichungswerte: (x-Wert minus x-Mittelwert) und (y-Wert minus y-Mittelwert); hohe Werte: positives Vorzeichen, niedrige Werte: negatives Vorzeichen Für jede Person wird das Kreuzprodukt der beiden Abweichungswerte (Produkt aus x-Wert minus x-Mittelwert und y-Wert minus y-Mittelwert) berechnet; hohe oder niedrige Werte auf beiden Variablen -> positives Kreuzprodukt. Eingezeichnete Mittelwerte im Streudiagramm bilden Quadranten; bei positivem Zusammenhang liegen die meisten Punkte in den Quadranten A und C; dies sind die Quadranten in denen positive Kreuzprodukte entstehen. Summe der Kreuzprodukte = Produkt-Moment -> wesentliche Grundlage für Zusammenhangsmaß (Produkt-Moment-Korrelation bzw. Pearson-Korrelationskoeffizient), aber selber noch kein Zusammenhangsmaß, weil abhängig von Anzahl der Personen (Summe der Kreuzprodukte fällt mit zunehmendem n größer aus) Lösung: Produkt-Moment dividiert durch Anzahl der Personen (Berechnung des durchschnittlichen Kreuzprodukts = Kovarianz) Aber auch Kovarianz noch nicht sehr gut als Zusammenhangsmaß geeignet, weil abhängig von Maßeinheiten, in denen die Variablen gemessen wurden (Kovarianz ist nicht invariant gegenüber linearen Transformationen der Variablen BSP Korrelation zw. Körpergröße und –gewicht würde höher ausfallen, wenn die Größe in Metern statt in Zentimetern gemessen würde; generell gilt für Kovarianz: multiplizieren wir die X-Variable mit a und die Y-Variable mit b, so wächst die Kovarianz um den Faktor a x b) Lösung: Um zu erreichen, dass das Zusammenhangsmaß unabhängig von den Maßeinheiten ist -> Kovarianz durch das Produkt der Standardabweichungen der beiden Variablen teilen = Korrelationskoeffizient. Wenn die Kovarianz 100 Mal größer wird, wird auch die Standardabweichung um diesen Faktor größer; für den Produkt-Moment-Korrelationskoeffizienten bedeutet das, dass jede Veränderung der Maßeinheit zu proportionalen Änderungen im Zähler und Nenner führen -> der Korrelationskoeffizient hängt somit ausschließlich von der Stärke des linearen Zusammenhangs zwischen zwei Variablen ab und wird durch die Maßeinheiten der Variablen nicht beeinflusst = der Produkt-Moment-Korrelationskoeffizient ist gegenüber linearen Transformationen der Variablen invariant. Was ist eine große Korrelation? Cohen (1988): |r| ≈ 0,1 : schwacher Zusammenhang|r| ≈ 0,3 : mittlerer Zusammenhang|r| ≈ 0,5 : starker Zusammenhang Korrelation von 0,5 in Psychologie/Sozialwissenschaften selten, aber trotzdem weit von perfektem Zusammenhang entfernt -> Vielzahl an Variablen beeinflusst Zusammenhänge (Korrelation von zwei Variablen ungeeignet um dieses Beziehungsgeflecht vollständig abzubilden). Abhilfe: Konventionen v.a. bei neuen Forschungsgebieten als Maßstab; wenn bereits Vergleich mit anderen Korrelationen möglich, dieser sinnvoller (z.B. 20 theoretisch plausible Variablen zeigen korreliert keine stärker als mit r = 0,15 mit Arbeitszufriedenheit, dann Entdeckung einer Variable mit Korrelation r = 0,30 -> gilt in diesem Forschungsfeld als ungewöhnlich starker Zusammenhang).
  • 7 Korrelation 7.3 Der Produkt-Moment-Korrelationskoeffizient 7.3.2A z-Werte und der Produkt-Moment-Korrelationskoeffizient z-Werte und der Produkt-Moment-Korrelationskoeffizient z-Werte geben die Lage eines Messwerts relativ zu den übrigen Werten einer Stichprobe an. (z = 0: durchschnittlicher Werte; z = 1,5 oder -2: Messwert genau 1,5 bzw. -2 Standardabweichungen vom Mittelwert (0) entfernt). Wie lässt sich der Produkt-Moment-Korrelationskoeffizient mithilfe von z-Werten berechnen? -> Korrelationskoeffizient als durchschnittliches Kreuzprodukt (bzw. der Kovarianz) der z-Werte Korrelationskoeffizient nimmt den Wert 1 an, wenn die Summe der Kreuzprodukte der z-Werte genau so groß ist wie die Anzahl der n der Personen in der Stichprobe; dann der Fall, wenn jede Person auf der x-Achse exakt den gleichen z-Wert erhält wie auf der y-Achse -> perfekter Zusammenhang (jede Person in der Stichprobe hat auf beiden Variablen exakt die gleiche Position). D.h. je ähnlicher die Position der Variablen der einzelnen Personen (-> auch ähnliche z-Werte), desto höher der Korrelationskoeffizient. KK drückt aus, in welchem Ausmaß Personen auf zwei Variablen die gleiche relative Position einnehmen.
  • 7 Korrelation 7.4 Verzerrungen des Produkt-Moment-Korrelationskoeffizienten 7.4.1 Ausreißerwerte 7.4.2 Einschränkungen der Variabilität 7.4.3 Zusammenfassung von heterogenen Untergruppen Verzerrungen des Produkt-Moment-Korrelationskoeffizienten Ausreißerwerte Besonders bei kleiner Stichprobe problematisch; Ausreißer sollten nicht ignoriert werden: Ursache für Ausreißer eventuell aufgrund fehlerhafter Messprozedur -> Ausreißer kann ausgeschlossen werden (z.B. „verschlafenes“ Startsignal bei Reaktionsaufgabe; unmotivierte, alkoholisierte Person; missverstandene Testinstruktionen) Bei „wirklicher“ Merkmalsausprägung: Ausreißer nicht ausschließen; Zusammenhang an größerer Stichprobe erneut untersuchen Immer: Berichten, wie mit Ausreißer umgegangen wurde Einschränkungen der Variabilität Zusammenhang Alter und Mathematikkenntnisse: Ergebnisse von 6-16jährigen (= wahrscheinlich großer Zusammenhang) erlauben keine Aussage über die Stärke des Zusammenhangs bei 10-13jährigen (deutlich geringerer Zusammenhang) !! Gesamtanstieg/Trend steigt bei kleinerem Altersausschnitt geringer an: Foto s.219 Verantwortlich für die Stärke des Zusammenhangs: Verhältnis zwischen Abweichung der Datenpunkte von der Geraden (näher an Linie = stärkerer Z.) und dem gesamten Anstieg der Geraden im betrachteten Wertebereich Bedeutung der Variabilitätseinschränkungen bei Korrelationen wird oft übersehen: BSP Korrelation Testergebnis – berufliche Leistung: Berufliche Leistung lässt sich nur von tatsächlich angestellten Personen messen, nur Personen mit guten Testergebnis werden angestellt: Korrelation in der Gruppe aller Bewerber wird unterschätzt. Zusammenfassung von heterogenen Untergruppen BSP Umfang Krafttraining und aufzubringende Kraft Keine Trennung von heterogenen Untergruppen: Gesamt-Korrelationskoeffizienten kann deutlich von den Korrelationskoeffizienten der Untergruppen abweichen (in beide Richtungen möglich).
  • Advertisement
  • 7 Korrelation 7.5 Korrelation und Kausalität 7.6 Partialkorrelation Korrelation und Kausalität Korrelation zwar notwendige Voraussetzung für Kausalität (Ursache-Wirkungs-Beziehung), Korrelation allein aber erlaubt keine eindeutige Aussage über eine mögliche Kausalität zweier Variablen. Korrelation kann auf unterschiedliche Weise zustande kommen, z.B.: x -> y x <- y z -> x, y BSP. Selbstbewusstsein (x), beruflicher Erfolg (y), Leistung (z) BSP 3-13jährige Kinder: Zusammenhang zwischen Körpergröße und Mathematikkenntnisse, aber eindeutig nicht kausal. Wenn Korrelation kein Beleg für eine Kausalbeziehung ist, wie lässt sich dann überhaupt nachweisen, dass eine Variable eine andere ursächlich beeinflusst? Nachweis können Experimente bringen: durch Manipulation von X und anschließende Messung von Y ist hier nur eine Kausalrichtung möglich: experimentelle Kontrolltechniken (wie Randomisierung oder Konstanthalten) stellen sicher, dass ein Zusammenhang von X und Y nicht auf eine dritte Variable Z zurückgeht. Ergebnisse einer Studie Beleg für bestimmte Kausalbeziehung? -> hängt nicht primär von angewandten statistischen Verfahren ab, sondern von Forschungsdesign. Partialkorrelation Experimente sind die einzige Möglichkeit, Hypothesen über eine Ursache-Wirkungs-Beziehung zwischen zwei Variablen zu testen und dabei alle Alternativerklärungen für eine Korrelation zwischen den Variablen auszuschließen. Eventuelle verursachende Drittvariable kann aber auch außerhalb von experimentellen Designs mithilfe der Technik der Partialkorrelation überprüft werden. BSP Ausländerfeindlichkeit, Kirchgänge, Alter (Drittvariable) Sinkt der Zusammenhang wenn eine Drittvariable konstant gehalten wird (Einfluss von Drittvariable wird „herauspartialisiert“), so kommt diese Drittvariable als Ursache in Frage; ändert sich die Korrelation nicht, kann die Drittvariable als Ursache ausgeschlossen werden. Aber noch kein Beweis, dass Drittvariable den Zusammenhang verursacht! Vl weitere Drittvariable, die wiederum hoch mit ursprünglicher Drittvariable korrelliert.
  • 7 Korrelation 7.7 Andere Zusammenhangsmaße Andere Zusammenhangsmaße Produkt-Moment-Korrelationskoeffizient: Abweichung der Messwerte von jeweiligen Mittelwert wird berücksichtigt; nur sinnvoll wenn Abstände zwischen Messwerten auch bedeutsame Information enthalten -> mindestens Intervallskalenniveau der Variablen. Bei nominal- oder ordinalskalierten Variablen, andere Maße: 1) Korrelation zweier dichotomer Merkmale – der Phi-Koeffizient BSP: Lösung einer Aufgabe – Besuch des Methodenseminars -> PMK ließe sich zwar anwenden (0 und 1 für die jeweilige Ausprägung einer Variable), aber Berechnung einer Korrelation bei dichotomen Merkmalen weniger aufwendig möglich: Phi-Koeffizient φ Voraussetzung: Darstellung der Daten in Form einer Vierfeldertafel [1 Spezialform einer zweidimensionalen Kontingenztafel (Kreuztabelle); (zeigt Häufigkeiten der vier Merkmalskombinationen (2 Variablen mit je 2 Merkmalsausprägungen); Zeilen- und Spaltensummen zeigen an wie oft ein Merkmal insgesamt aufgetreten ist) Foto s.227 Der Phi-Koeffizient kann genauso interpretiert werden wie der Produkt-Moment-Korrelationskoeffizient, weil er zum selben Ergebnis führt. PMK = Maß für Richtung und Stärke des (linearen!) Zusammenhangs zwischen zwei Variablen (bei PMK: intervallskaliert). 2) Korrelation zweier ordinalskalierter Merkmale – Kendalls Tau BSP Lieblingsschokoriegel zweier Personen -> Lässt sich Grad der Übereinstimmung in einer Zahl ausdrücken? Voraussetzung: Ordinalskalierte Daten (gleiche Abstände zwischen verschiedenen Rangplätzen bringen nicht unbedingt gleiche Unterschiede in der Schokoriegel-Vorliebe zum Ausdruck). Häufig verwendetes Zusammenhangsmaß bei ordinalskalierten Daten: Kendels Tau τ [2 anderes häufiges Maß für zwei ordinalskalierte Variablen: Spearmans Rho ρ] Kendalls Tau kann wie der PMK Werte zwischen -1 und 1 annehmen: 1 = perfekter positiver Zusammenhang; niedriger je größer die Anzahl der Inversionen; gleich viele Proversionen und Inversionen: 0 (der Fall, wenn beide Rangreihen umgekehrt verlaufen). Auch bei Daten möglich, die ursprünglich nicht in Form von Rangreihen vorliegen: BSP Vergleich Klausurnoten über Klassen; beste und schlechteste Noten 2- und 3+ -> Rangplätze 1 und 2
  • 8 Regression 8.1 Grundbegriffe der Regressionsberechnung 8.1.1 Prädiktor und Kriterium 8.1.2 Deterministische Zusammenhänge und die Geradengleichung 8.1.3 Stochastische Zusammenhänge und die Regressionsgerade 8.1.4 Das Kriterium der kleinsten Quadrate 8.1.5 Bestimmung der Regressionsgeraden 8.1.6 Die Beziehung zwischen der Korrelation und dem Regressionsgewicht b 8.1.7 Regression mit z-standardisierten Variablen 8.1.8 Der Regressionseffekt 8.1.9 Die Vorhersage von X aus Y Eine Korrelation zwischen zwei Variablen ermöglicht uns Vorhersagen (Richtung aber nicht gewiss); das Ziel der Regressionsrechnung besteht darin, auf der Grundlage von Korrelationen die bestmögliche Vorhersage für eine Variable zu bestimmen. Gerade in Streudiagrammen um linearen Trend in Daten zu veranschaulichen -> diejenige Gerade, die den Trend in den Daten am besten beschreibt, wird auch als Regressionsgerade bezeichnet -> jedem Wert der X-Variable im Streudiagramm wird ein Wert der Y-Variablen zugeordnet = Wert entspricht der vorhergesagten Ausprägung von Y bei einer bestimmten Ausprägung von X. Alle betrachteten Variablen müssen zumindest Intervallskalenniveau aufweisen. Grundbegriffe der Regressionsberechnung: Prädiktor und Kriterium In einer Korrelationsrechnung ist es egal, welche Variable als X und welche Variable als Y bezeichnet wird.Bei der Regressionsrechung ist die vorhergesagte Variable Y (Kriterium) und die Variable zur Vorhersage X (Prädiktor). Die y-Werte der Stichprobe, anhand welcher die Variable X und Y erhoben wurden, werden bereits im Zuge der Regressionsanalyse vorhergesagt -> um optimale „Vorhersageregel“ und damit verbundene Fehler bestimmen zu können. Eigentliches Ziel der Regressionsanalyse: Übertragung der Vorhersageregel auf eine neue Stichprobe von Probanden. Deterministische Zusammenhänge und die Geradengleichung Besteht zwischen zwei Variablen ein deterministischer Zusammenhang, so beträgt der Korrelationskoeffizient r = 1; d.h. für den jeden Wert einer Variable kann fehlerfrei der Wert angegeben werden, welchen die andere Variable annehmen wird. BSP Stockwerk und Stufen: x = Stockwerk, y = Anzahl der Stufen; 18 = Anzahl der Stufen pro Stockwerk, 5 = 5 Stufen müssen bestiegen werden um in das Erdgeschoss zu kommen: y=18×x+5 Die hier verwendete Formel ist ein Spezialfall der allgemeinen Gleichung der Geraden: y=bx+ab = Steigung der Geradena = gibt an, welchen Wert die Y-Variable am Punkt x = 0 annehmen wird (zeigt auch, auf welcher Höhe die Gerade die y-Achse schneidet; deswegen auch: y-Achsenabschnitt oder Ordinatenabschnitt) Allgemein kann ein deterministischer Zusammenhang zwischen zwei Variablen also durch eine Gerade beschrieben werden; diese lässt sich stets durch eine Gleichung in Form y=bx+a beschreiben. Stochastische Zusammenhänge und die Regressionsgerade In Psychologie/Sozialwissenschaften kaum je deterministische Zusammenhänge -> hier stochastische Zusammenhänge - nicht perfekte Zusammenhänge, d.h. nicht alle Punkte werden auf der Geraden liegen, sondern eine mehr oder weniger breite Punktwolke bilden. Entsprechend können bei dem gleichen Wert auf der X-Variable unterschiedliche Werte auf der Y-Variable auftreten; also keine fehlerfreie Vorhersage. -> Es muss diejenige Gerade gefunden werden, die die Daten in der Punktewolke am besten repräsentiert -> Regressionsgerade. Vorhergesagte, nicht tatsächliche Y-Variablen werden durch ein Dach gekennzeichnet: y ̂ (in Psychologie generell: Dach = vorhergesagte oder geschätzte Daten) Allgemeine Formel der Regressionsgleichung: y ̂i=byx xi+ayx Steigung b und Achsenabschnitt a werden auch Regressionskoeffizienten genannt; für die Steigung b ist zudem die Bezeichnung Regressionsgewicht üblich. BSP Punkte Statistikklausur -> Punkte allgemeinpsychologische Klausur: y ̂i=1.15xi+1.85 b hier 1.15 -> mit jedem zusätzlichen Punkt in der Statistikklausur wir eine Erhöhung des Punktewerts in der allgemeinpsychologische Klausur um 1.15 erwartet. Der y-Achsenabschnitt a beträgt 1,84. Der Vorhersagefehler ei bei einer Person i entspricht der Differenz zwischen dem tatsächlichen y-Wert und dem vorhergesagten y-Wert dieser Person: ei = yi - y ̂i Bei Teilnehmer Nummer 6 (x = 5, y = 13) beläuft sich der Fehler auf: e6 = 13 - 7.59 = 5.41 Datenpunkte oberhalb der Regressionsgeraden mit positivem Fehler, Daten unterhalb mit negativem Fehler verbunden. Wie bestimmen wir nun, wo genau die Regressionsgerade liegt? -> Das Kriterium der kleinsten Quadrate Summe der Fehler der einzelnen Teilnehmer als Maß? -> positive und negative Fehler könnten sich ausgleichen; unter Umständen könnten auch mehrere Geraden existieren, bei denen die Summe der Fehler Null beträgt. Die Fehler die bei einzelnen Teilnehmern auftreten, können dabei bei verschiedenen Geraden deutlich unterschiedlich groß sein. Als Maß für die Gesamtheit der Fehler wird stattdessen die Summe der quadrierten Vorhersagefehler verwendet -> die Regressionsgerade ist diejenige Gerade, für die diese Summe der quadrierten Vorhersagefehler minimal wird: Kriterium zur Bestimmung der Lage der Regressionsgerade = Kriterium der kleinsten Quadrate-> hat eine Reihe statistisch wünschenswerter Eigenschaften, u.a. dass große Vorhersagefehler durch die Quadrierung stärker gewichtet werden als kleine Vorhersagefehler. Regressionsgerade lässt sich auf rechnerischem Weg bestimmen: Bestimmung der Regressionsgeraden Regressionskoeffizienten byx und ayx können mithilfe der Mittelwerte der Variablen X und Y und der Kovarianz beider Variablen bestimmt werden. Die Beziehung zwischen der Korrelation und dem Regressionsgewicht b Regressionsrechnung baut auf Zusammenhang zwischen den betrachteten Variablen auf; nun Beziehung zwischen Korrelation und Regression konkreter darstellen: Als Erinnerung, Formel für Korrelationskoeffizienten: rxy = cov(x, y) / (sx×sy) Anhand dieser Formel ist leicht zu erkennen, dass wir das Regressionsgewicht byx erhalten, wenn wir den Korrelationskoeffizienten mit der Standardabweichung der Variablen Y multiplizieren und durch die Standardabweichung der Variablen X dividieren: rxy × sy/sx  =  cov(x, y) / sx2   =  byx Das Verhältnis der Standardabweichung der Variablen X und Y gibt also an, wie deutlich sich die Steigung byx der Regressionsgeraden vom Korrelationskoeffizienten der beiden Variablen unterscheidet.Diese Beziehung zwischen Korrelationskoeffizienten und der Steigung der Regressionsgeraden lässt sich nutzen, um in Situationen in denen wir den Zusammenhang zwischen den Variablen bereits kennen, mit wenig Mühe die Regressionsgleichung zu bestimmen. BSP. Aggressivität (Y) und Fernsehkonsum (X): n = 20, r = 0.65, sx = 2.68, sy = 1.87 byx = rxy × sx / sy = 0.45 Mittelwerte: x ̅ = 4.9, y ̅ = 4 ayx = y ̅ - byx × x ̅  = 1.80 Regressionsgerade ist hier durch die Gleichung y ̂i =0.45xi +1.80 angegeben. Implikation der Beziehung zwischen dem Korrelationskoeffizienten und dem Regressionsgewicht wird anhand des Kastens „Die Regressionsgerade bei deiner Korrelation von Null“ erläutert: Die Regressionsgerade verläuft dann durch den Mittelwert y ̅, weil byx bei einer Korrelation von 0 auch 0 ist. -> keine Steigung. Regression mit z-standardisierten Variablen Vergleich der Formeln y ̂i = 1.15xi + 1.84 und y ̂i = 2.3xi + 1.83 -> Steigung in der zweiten Untersuchung deutlich größer -> Ergebnis in der Statistikklausur mit größerem Effekt verbunden? Hat die Verbesserung der Punktzahl um einen Punkt die gleiche Bedeutung? Möglicherweise nicht, wenn bspw. unterschiedlich große Punktzahl zu erreichen (max. Punktzahl in allg. Psy. ist 20 bei Stichprobe 1, bei Stichprobe 2 = 40) -> Leistung wir auf unterschiedlichen Skalen gemessen. Unterschiedliche Skalen sind in der psychologischen Forschung die Regel (z.B. keine etablierten Maßeinheiten) -> ermittelte Regressionsgleichungen können nicht direkt verglichen werden. Darum: z-Standardisierung um verschiedene Variablen vergleichbar zu machen -> als Maßeinheit wird die Standardabweichung der jeweiligen Variable verwendet -> Regressionsanalysen werden häufig mit z-standardisierten Variablen durchgeführt; man erhält auf diese Weise Regressionsgewichte, die mit Regressionsgewichten aus anderen Untersuchungen direkt verglichen werden können. In einer Analyse mit z-standardisierten Variablen wird das Regressionsgewicht b als standardisiertes Regressionsgewicht bezeichnet und meist durch den griechischen Buchstaben β (Beta) symbolisiert. Das standardisierte Regressionsgewicht βyx gibt an, um wie viele Standardabweichungen sich die Variable Y verändert, wenn die Variable X um eine Standardabweichung steigt. Standardabweichung sz einer z-standardisierten Variable beträgt immer 1, deswegen folgende Berechnung des standardisierten Regressionsgewicht: βyx  =  rxy × szy / szx  =  rxy × 1/1  =  rxy Bei z-standardisierten Variablen ist die Steigung der Regressionsgeraden identisch mit der Korrelation zwischen den beiden Variablen (aber nur bei der einfachen, nicht bei der multiplen Regression). Der y-Achsenabschnitt ayx beträgt in einer Regression mit z-standardisierten Variablen immer Null, da Mittelwert z ̅ immer Null ist; die Regressionsgerade läuft immer durch den Ursprung des Koordinatensystems: ayx = z ̅ y - byxz ̅ x = 0 Regressionsgleichung vereinfacht sich somit zu folgender Formel: z ̂ yi = βyx × zxi  bzw.  z ̂yi = ryx × zxi Der vorhergesagte z-Wert einer Person auf der Variablen Y entspricht also dem Produkt aus dem z-Wert der Person auf der Variablen X und der Korrelation der beiden Variablen. Der Regressionseffekt Begriff „Regression“ (Rückschritt) geht auf Francis Galton zurück: bei überdurchschnittlicher Körpergröße eines Vater wird auch eine überdurchschnittliche Körpergröße des Sohns erwartet, jedoch weniger überdurchschnittlich -> Regression zur Mitte. Phänomen ist bei allen Vorhersagen beobachtbar, sofern Kriteriumsvariable und Prädiktor nicht perfekt korrelieren. („Die größten Väter haben nicht die größten Söhne“) Die Zwangsläufigkeit des Regressionseffekts ist am leichtesten bei Vorhersagen mit z-standardisierten Variablen zu erkennen, da z-Werte direkt die relative Abweichung eines Messwerts vom Mittelwert ausdrücken. Bspw. entspricht z-Wert von zx = 2 auf Variable X einem weit überdurchschnittlichen Wert, der zwei Standardabweichungen über dem Mittelwert liegt, größer ist 98% der übrigen Werte. Variable Y soll vorhergesagt werden, der vorhergesagte z-Wert auf der Y-Variable hängt hierbei ausschließlich von der Korrelation ab -> Welche z-Werte werden bei verschiedenen Korrelationen vorhergesagt? z ̂yi = βyx × zxi = 1.0 * 2 = 2= 0.8 * 2 = 1.6= 0.5 * 2 = 1= 0.2 * 2 = 0.4= 0.0 * 2 = 0 Der vorhergesagte Wert z ̂y ist nur dann ebenso groß wie der Wert zx, wenn zwischen den Variablen X und Y ein perfekter Zusammenhang besteht. Ansonsten ist z ̂y immer kleiner als zx -> Es wird also stets vorhergesagt, dass die von uns betrachtete Person weniger deutlich vom Mittelwert der Variable Y abweichen wir, als vom Mittelwert der Variable X. Der Unterschied wird dabei immer größer, je schwächer die Variablen korrelieren. Bspw. bedeutet eine Korrelation von r = 0.5 nichts anderes, als dass der vorhergesagte y-Wert nur um halb so viele Standardabweichungen von seinem Mittelwert abweichen wird wie der x-Wert von seinem Mittelwert. Wenn X und Y gar nicht zusammenhängen: Person hat auf der Y-Variable eine durchschnittliche Ausprägung (also einen z-Wert von Null) hat. BSP. Mittelwerte und Standardabweichungen der Körpergrößen von Vätern und Söhnen sind ident: x- = y- = 175cm und  sx = sy = 8cm; ein Vater mit 183cm liegt also genau eine Standardabweichung über dem Mittelwert (zy = 1). Bei einer Korrelation von r = 0.6 wird vorhergesagt, dass die Körpergröße eines Sohnes dieses Vaters um 0.6 Standardabweichungen über dem Mittelwert der Söhne liegt (z ̂y = 0.6). Entspricht einer Körpergröße von 175cm + 0.6 * 8cm = 179.8cm.Dieser vorhergesagte Wert entspricht zugleich der durchschnittlichen Körpergröße von Söhnen, deren Väter 183cm groß sind – dies ergibt sich daraus, dass die Regressionsanalyse zu den „bestmöglichen“ Vorhersagen führt. Die bestmögliche Vorhersage ist der jeweilige Mittelwert der Kriteriumsvariablen bei einer bestimmten Ausprägung des Prädiktors – die größten Väter haben also nicht die größten Söhne. (ABER nicht alle großen Väter haben notwendigerweise kleinere Söhne – Regressionseffekt bezieht sich nicht auf absolute Messwerte sondern ausschließlich auf relative Abweichungen der Messwerte von ihrem Mittelwert) Der Regressionseffekt als Forschungsproblem: Z.B. Depressiven Personen, welchen es bei der ersten Messung der Befindlichkeit sehr schlecht geht, wird es bei einer späteren, zweiten Messung wahrscheinlich tendenziell besser gehen; in einer Studie wäre also auch ohne Behandlung eine Besserung zu erwarten (Kontrollgruppen!). Die Vorhersage von X aus Y Nicht nur Y aus X sondern auch X lässt sich aus Y vorhersagen; dazu werden die Regressionskoeffizienten bxy und axy benötigt: bxy = cov(x,y) / sy2 bzw. bxy = rxy sx / sy und axy = x ̅ - bxy y ̅ BSP Fernsehkonsum anhand Aggressivität vorhersagen: y ̂i = 0.45xi + 1.80 Die Gerade zur Vorhersage von X aus Y stimmt also nicht mit der Geraden zur Vorhersage von Y aus X überein (in den meisten Fällen nicht). Die Steigerung b wird nur dann identisch sein, wenn die Variablen die gleiche Standardabweichung haben (also wenn wir z. B. mit z-standardisierten Variablen arbeiten). Inhaltlich erklärt sich der Unterschied zw. den Geraden daraus, dass das Kriterium der kleinsten Quadrate in einem Fall auf die Variable X und im anderen Fall auf die Variable Y angewandt wird: Bei Vorhersage von y-Werte wird die Gerade so gelegt, dass die Summe der quadrierten Abweichungen zwischen den vorhergesagten y ̂-Werten und den tatsächlichen y-Werten minimal wird (bei x-Werten: vorhergesagte x ̂-Werte und tatsächliche x-Werte). BSP Geraden schneiden sich bei x = 4.9 und y = 4 -> Mittelwerte der beiden Variablen (Durchschnittlicher Wert auf einer Variable entspricht immer durchschnittlichen Wert auf der anderen Variable). Regressionsrechnungen sind im Prinzip symmetrisch: Wenn sich Variable Y aus X vorhersagen lässt, dann lässt sich auch Variable X aus Y vorhersagen. Die Regressionsrechnung führt dabei auch in beiden Richtungen zu gleich guten Vorhersagen (sieh 8.2.2)! Festlegung, welche Variable als Prädiktor dient, wird in vielen Fällen auch aus praktischen Erwägungen erfolgen (z.B. wenig sinnvoll, von der Studien(Studium)leistung auf die Abiturnote zu schließen) -> Ziele: Vorhersage von tatsächlich in der Zukunft liegenden Ereignissen; aufgrund inhaltlicher u. theoretischer Überlegungen. Für statistische Technik selbst ist zeitliche Abfolge der Variablen oder deren Art der Kausalbeziehung völlig unerheblich. D.h., Annahme über eine bestimmte Kausalbeziehung zwischen zwei Variablen lässt sich durch Regressionsrechnung (ebenso wie durch die Korrelationsrechnung) nicht belegen!
  • 8 Regression 8.2 Die Güte der Vorhersage 8.2.1 Varianzzerlegung 8.2.2 Der Determinationskoeffizient r&sup2; 8.2.3 Der Standardschätzfehler Die Güte der Vorhersage: Sofern die X- und die Y-Variable nicht perfekt korrelieren, ist die Vorhersage durch eine Regressionsgerade immer fehlerbehaftet. Aber wie exakt sind die Vorhersagen wirklich? Erste Möglichkeit: Grafische Übersicht über Vorhersagefehler (= Residuen) -> Residuen-Plot. (Streudiagramm) BSP. Vorhersagefehler auf der y-Achse abgetragen, auf der x-Achse befinde sich die Punktwerte von der Statistikklausur (im Allgemeinen: die Werte des Prädiktors). Generell lässt sich dem Residuen-Plot entnehmen, bei welchen Werten des Prädiktors, welche Vorhersagefehler aufgetreten sind (Vorhersagefehler bei 8 in SK bei -6 -> tatsächlicher Wert lag um 6 Punkte unter vorhergesagtem Wert). Die Vorhersagefehler (Residuen) in einem Residuen-Plot streuen stets um ihren Mittelwert von Null (der Mittelwert der Vorhersagefehler beträgt in jeder Regressionsanalyse Null, siehe 8.2.1). Grundsätzlich sollten Vorhersagefehler möglichst klein, im Idealfall keine Vorhersagefehler, d.h. alle Residuen nehmen den Wert Null an. Neben grafischer Darstellung lässt sich Güte der Vorhersage auch numerisch darstellen: Determinationskoeffizient und Standardschätzfehler -> dazu zuerst auf Konzept der Varianzzerlegung eingehen. Varianzzerlegung Unterschiede auf der Y-Variable werden vorhergesagt; bei gleichem y-Wert aller x-Werte wäre Vorhersage sinnlos. Ein Maß für die Unterschiedlichkeit der Werte ist die Varianz der Variablen Y: Varianz beruht auf der Differenz yi - y-, also der Abweichung der Messwerte der einzelnen Personen vom Mittelwert der Variablen. Differenz wird quadriert, über alle Personen aufsummiert und durch Anzahl der Personen geteilt. Bei der Regressionsrechnung kann die Abweichung des Messwerts einer Person vom Mittelwert in zwei Komponenten zerlegt werden: in die Abweichung des tatsächlichen Werts vom vorhergesagten Wert (yi - y^i) und in die Abweichung des vorhergesagten Werts vom Mittelwert (y^i - y-). Es gilt also:  yi - y- = (yi - y^i) + (y^i - y-) Im Streudiagramm wird diese Zerlegung eines Datenpunkts demonstriert. BSP durchschnittliche Punktezahl in AK: 11.5 -> Punktwert der beobachteten Person weicht 20 – 11.5 = 8.5 Punkte vom Mittelwert ab; Regressionsgerade: für diese Person ist ein Punktewert von 15.64 vorhergesagt: Abweichung des vorhergesagten Werts vom Mittelwert: 15.64 – 11.5 = 4.14; die Abweichung des tatsächlichen Werts vom vorhergesagten: 20 – 15.64 = 4.36; insgesamt also: 20 – 11.5 = (20 – 15.64) + (15.64 – 11.5) = 8.5 Relevant wird die Zerlegung dadurch, dass wir den beiden Komponenten unterschiedliche Bedeutung zuschreiben können: Differenz tatsächlicher Wert – vorhergesagter Wert (yi - y^i) entspricht dem Vorhersagefehler (ei) und kennzeichnet jene Abweichung des Messwerts von seinem Mittelwert, die durch die Regressionsanalyse nicht prognostiziert werden kann. Die Differenz vorhergesagter Wert – Mittelwert (y^i - y-) entspricht derjenigen Abweichung des Messwerts vom Mittelwert, die aufgrund der Regressionsanalyse zu erwarten ist. Die Gütemaße der Regressionsanalyse (Determinationskoeffizient und Standardschätzfehler) beruhen auf diesen vorhergesagten und nicht vorhergesagten Abweichungen der Messwerte von ihrem Mittelwert. Die beziehen sich natürlich nicht auf einzelne Messwerte sondern auf den gesamten Datensatz, der in der Regressionsanalyse untersucht wurde. Um Aussagen über die Güte der Vorhersage der gesamten Stichprobe treffen zu können, können Abweichungen der einzelnen Messwerte nicht einfach summiert werden -> in beiden Fällen, (y^i - y-) und (yi - y^i) würden sich positive und negative Abweichungen zu Null addieren = Summe der Abweichungen von Messwerten von ihrem Mittelwert betragen immer Null. Für vorhergesagten y^-Werte gilt, dass ihr Mittelwert grundsätzlich mit dem Mittelwert y- der Kriteriumsvariable übereinstimmt, folglich gilt auch stets: Summe (y^i - y-) = 0 Das auch die Summe der Abweichungen zwischen tatsächlichen und vorhergesagten Werten Null beträgt, ist eine Eigenschaft der Regressionsgerade. Bei einer Gerade, die das Kriterium der kleinsten Quadrate erfüllt, ist die Summe der Vorhersagefehler immer Null. Mittelwert der Vorhersagefehler beträgt in jeder Regressionsanalyse Null. Um Ausgleichung positiver und negativer Abweichungen zu verhindern, wird wie bei der Bestimmung der Varianz quadriert. Auf Grundlage der quadrierten Abweichungen lassen sich zwei weitere Varianzen bestimmen. Varianz der vorhergesagten Werte  und Varianz der Vorhersagefehler . Varianz der vorhergesagten Werte  = Regressionsvarianz  -> Varianz der Kriteriumsvariablen Y, die in der Regressionsrechnung vorhergesagt werden kann (durch Prädiktor X „aufgeklärte“ Varianz oder „gemeinsame“ Varianz von Prädiktor und Kriterium). Varianz der Vorhersagefehler  = Fehlervarianz  -> Varianz der tatsächlichen y-Werte um die vorhergesagten Werte, also um die Regressionsgerade. Repräsentiert die Varianz der Kriteriumsvariable Y, die in der Regressionsrechnung nicht vorhergesagt werden kann. Gesamtvarianz der y-Werte ist gleich der Summe der Regressionsvarianz und der Fehlervarianz, oder: Die Gesamtvarianz kann in der gleichen Weise in zwei Komponenten zerlegt werden wie die Abweichung eines einzelnen y-Messwerts vom Mittelwert: sy2 = sy^2 + se2 Der Determinationskoeffizient r² Ein Maß für die Unterschiede zwischen Personen auf der Y-Variable ist die Gesamtvarianz; die Regressionsvarianz gibt an, wie viel Varianz der Y-Variable durch die Regression tatsächlich vorhergesagt wird. Ein Maß für die Güte ist der Determinationskoeffizient – er entspricht dem Anteil der Regressionsvarianz an der Gesamtvarianz: Regressionsvarianz / Gesamtvarianz = sy^2 / sy2 Im BSP = 0.52, d.h. 52%  der Varianz der Punktewerte in der allgemeinpsychologischen Klausur können aus den Ergebnissen der Studierenden in der Statistikklausur vorhergesagt (oder „aufgeklärt“) werden. Bestimmung des Determinationskoeffizienten leichter, wenn auf wir auf die Korrelation zwischen Prädiktor und Kriteriumsvariable zurückgreifen. Zwischen Regressionsvarianz und Korrelation besteht folgende Beziehung: sy^2 = r² x sy² Regressionsvarianz entspricht dem Produkt das quadrierten Korrelationskoeffizienten mit der Gesamtvarianz; Formel umgestellt: r² = sy^2 / sy2 Der quadrierte Korrelationskoeffizient gibt direkt den Anteil der vorhergesagten Varianz an der Gesamtvarianz an und ist somit identisch mit dem Determinationskoeffizienten. Determinationskoeffizienten ist gleich 1, wenn ein perfekter Zusammenhang (r = 1 oder r = -1) zwischen zwei Variablen besteht. -> Fehlervarianz = 0 und vorhergesagte Varianz somit gleich der Gesamtvarianz. Determinationskoeffizienten = 0 bei gar keinem Zusammenhang (r = 0) -> unabhängig vom Wert der X-Variablen wird stets der Mittelwert  der Y-Variablen vorhergesagt, diese sind somit alle gleich und deswegen beträgt die vorhergesagte Varianz 0 und die Fehlervarianz stimmt mit der Gesamtvarianz überein. Egal  welche Variable als Prädiktor und welche als Kriterium betrachtet wird: Determinationskoeffizient ist derselbe, weil er dem quadrierten Korrelationskoeffizient zweier Variablen entspricht-> d.h. beide Regressionsgeraden liefern gleich gute Vorhersagen. Der Determinationskoeffizient als Maß der Fehlerreduktion: Determinationskoeffizient ist auch ein Maß dafür, wie stark die Vorhersagefehler durch die Regressionsanalyse verringert werden können: Bezugspunkt: Fehler, die bei einer Vorhersage ohne Berücksichtigung des Prädiktors auftreten würden. […] Der Determinationskoeffizient gibt hier an, um wie viel Prozent sich der Vorhersagefehler verringert, wenn bei der Vorhersage des Kriteriums der Prädiktor berücksichtigt wird. Der Standardschätzfehler Nachteil der Fehlervarianz se²: Im Quadrat und nicht in ursprünglichen Maßeinheiten der Kriteriumsvariable ausgedrückt > schwerer interpretierbar -> Wurzel ziehen: Standardschätzfehler se. Gibt an, wie stark die tatsächlichen Werte um die von der Regressionsgeraden vorhergesagten Werte streuen. Ist zweites gebräuchliches für die Güte der Vorhersage. Kleiner > besser, weil genauere Vorhersage. Eine schnellere Berechnungsmöglichkeit von se (statt Wurzel aus Quotient der quadrierten Vorhersagefehler und n) ist  sy * Wurzel(1 - r²) -> Macht sichtbar, dass Standardschätzfehler Null beträgt, wenn Prädiktor und Kriterium eine perfekte Korrelation (r = 1 oder r = -1) besteht -> keine abweichenden Werte, keine Streuung. Korrelieren Prädiktor und Kriterium überhaupt nicht (r = 0) -> Standardschätzfehler identisch mit Standardabweichung der Kriteriumsvariablen. BSP. Standardschätzfehler = 3.55 -> tatsächliche Punktewerte der allgemeinpsychologischen Klausur (Kriterium) weichen im Durchschnitt um etwa 3.55 Punkte von den vorhergesagten Punkten ab. Aus der Formel sy * Wurzel(1 - r²) wird sichtbar, dass der Standardschätzfehler von der Standardabweichung der Kriteriumsvariable Y und damit von der Maßeinheit abhängt, mit der diese Variable erfasst wurde. Würde sich z.B. der Punktewert bei Prüfung verdoppeln, würde sich auch die Standardabweichung der Punkte verdoppeln -> doppelter Standardschätzfehler. ACHTUNG bei Interpretation, wenn Maßeinheit willkürlich gewählt wurde! Man brauch Vorstellung dafür, ob ein Unterschied von einem Punkt einen großen oder kleinen Leistungsunterschied anzeigt, um sagen zu können, ob der Standardschätzfehler von 3.55 Punkten einen beträchtlichen oder vernachlässigbaren Vorhersagefehler kennzeichnet.
  • 8 Regression 8.3 Probleme und Verzerrungen in der Regressionsrechnung Probleme und Verzerrungen in der Regressionsrechnung Regressionskoeffizienten byx und ayx sowie Gütemaße hängen von Korrelation zw. Prädiktor und Kriterium ab -> alles, was Korrelation verfälscht, verfälscht auch Ergebnisse der Regressionsanalyse. Form: Korrelation und lineare Regression stellen nur ein adäquates Maß für einen Zusammenhang dar, wenn dieser linear ist. Regressionsgerade durch Punktewolke die Kurve beschreibt -> wenig Sinn Ähnlich bei Ausreißern, bei eingeschränkter Variabilität der untersuchten Stichprobe, bei heterogenen Untergruppen In allen diesen Fällen würden wir in der Regressionsanalyse verzerrte Regressionskoeffizienten ermitteln und die Güte der Vorhersage anhand des Determinationskoeffizienten und des Standardschätzfehlers falsch beurteilen. Diese Einschränkungen betreffen einfache und multiple Regression Immer noch gilt: kein Kausalschluss möglich!
  • 8 Regression 8.4 Ein Ausblick auf die multiple Regression 8.4.1 Multiple Regression mit z-standardisierten Variablen 8.4.2 Eine Illustration mit zwei Prädiktoren Ein Ausblick auf die multiple Regression: Ziel: eine Kriteriumsvariable Y auf der Grundlage von zwei oder mehreren Prädiktoren (X1, X2, …, Xm) bestmöglich vorhersagen -> Verbesserung der Vorhersage BSP Statistikklausur + Vorbereitungszeit, Motivation und Ergebnisse früherer allg.psy. Klausuren als Prädiktoren für Ergebnisse der allg.psy. Klausur. Gleichung der linearen multiplen Regression [1 Linear: Verfahren geht davon aus, dass die Beziehung zwischen den beteiligten Variablen linear ist. Dies betrifft sowohl den Zusammenhang der verschiedenen Prädiktoren mit dem Kriterium als auch den Zusammenhang der Prädiktoren untereinander. Bestehen auch nicht-lineare Beziehungen, führt die multiple lineare Regression zu verzerrten Ergebnissen.]: y^i = b1xi1 + b2xi2 + ... + bmxmi + a Für jeden der m Prädiktoren wird ein Regressionsgewicht bj bestimmt, zusätzlich gibt es einen Regressionskoeffizient a, der dem y-Achsenabschnitt entspricht und angibt, welcher Wert auf der Kriteriumsvariable einer Person vorhergesagt wird, die auf allen Prädiktoren eine Ausprägung von Null aufweist. Kriterium der kleinsten Quadrate zur Bestimmung der Regressionsgewichte und des Achsenabschnitts -> Regressionsgleichung wird so gewählt, dass die Summe der quadrierten Vorhersagefehler (ei) minimal wird; sie entsprechen (auch hier) der Abweichungen zwischen den tatsächlichen und den vorhergesagten Werten (yi - y^i). Multiple Regression mit z-standardisierten Variablen Unstandardisierte Regressionsgewichte aus verschiedenen Untersuchungen nicht vergleichbar -> bei multipler Regression auch verschiedene Prädiktoren nicht vergleichbar. Unstandardisierte Regressionsgewichte lassen kein keine Aussage über die relative Bedeutung der Regressionsgewichte zu. Lösung: Vor der Analyse: Kriterumsvariable und alle Prädiktoren z-standardisieren. Formel bei Analyse mit z-standardisierten Variablen: Der y-Achsenabschnitt a entfällt in einer Regression mit z-standardisierten Variablen, da bei einer Person, die auf allen Variablen durchschnittliche Merkmalsausprägungen aufweist (zx = 0), grundsätzlich auch eine durchschnittliche Ausprägung auf der Kriteriumsvariable (z^y = 0) vorhergesagt wird. Eine Illustration mit zwei Prädiktoren BSP: Hier sieht man zentralen Unterschied zur einfachen Regression: In der einfachen Regression stimmt das standardisierte Regressionsgewicht des Prädiktors mit seiner Korrelation mit dem Kriterium überein. In der multiplen Regression entsprechen die standardisierten Regressionsgewichte der Prädiktoren in aller Regel hingegen nicht ihrer Korrelation mit dem Kriterium; für gewöhnlich sind sie viel kleiner als die Korrelation zwischen Prädiktor und Kriterium (selten, aber auch das Gegenteil möglich). Blick auf Formel: Übereinstimmung zwischen standardisierten Regressionsgewicht und der Korrelation zwischen Prädiktor und Kriterium tritt nur dann auf, wenn die beiden Prädiktoren untereinander nicht korrelieren (r12 = 0), bspw. würde für das standardisierte Regressionsgewicht in diesem Fall gelten: Formel Sofern die Prädiktoren untereinander korrelieren, werden die standardisierten Regressionsgewichte hingegen von der jeweiligen Korrelation zwischen Prädiktor und Kriterium abweichen, da die Information, die in beiden Prädiktoren enthalten ist zunächst herausgerechnet bzw. „auspartialisiert“ wird. -> Dies leistet obige Formel der standardisierten Regressionsanalyse. Das standardisierte Regressionsgewicht eines Prädiktors gibt also an, wie sich der vorhergesagte z-Wert verändert, wenn der Prädiktor um eine Standardabweichung steigt und dabei die gemeinsame Varianz des Prädiktors mit dem anderen Prädiktor kontrolliert bzw. „konstant gehalten“ wird. BSP: z = 1 -> eine Standardabweichung über Mittelwert Berechnung der y-Werte aber umständlich, wenn zuerst die Rohwerte auf den Prädiktoren in z-Werte transformiert werden mpssen, auf dieser Basis der vorhergesagte z-Wert auf der Kriteriumsvariable berechnet wird, und dieser z-Wert dann wieder in den Wert der Originaleinheiten umgerechnet werden muss. Deswegen Bestimmung der unstandardisierten Regressionsgewichte: Die unstandardisierten Regressionskoeffizienten b1 und b2 können aus den entsprechenden b-Gewichten berechnet werden. Gütemaße in der multiplen Regression -> Standardschätzfehler, multipler Regressionskoeffizient, multiple Korrelation Multiple Korrelation und der multiple Determinationskoeffizient: Gibt an, wie stark die vorhergesagten y-Werte mit den tatsächlichen y-Werten korrelieren. Da sich die vorhergesagten y-Werte vollständig aus einer Kombination der Prädiktoren ergeben, können wir die multiple Korrelation auch als Maß für den Zusammenhang der tatsächlichen y-Werte mit allen Prädiktoren auffassen. Formel für den multiplen Korrelationskoeffizienten RY.12:  RY.12 = Wurzel (β1 * ry1 + β2 * ry2) Der multiple Korrelationskoeffizient RY.12 entspricht dem Quadrat der multiplen Korrelation, deswegen bei Regression:  R²Y.12 = β1 * ry1 + β2 * ry2 Genau wie der Determinationskoeffizient r² in der einfachen Regression gibt der multiple Determinationskoeffizient an, welcher Anteil der Varianz der Kriteriumsvariablen anhand der Regressionsgleichung vorhergesagt oder „aufgeklärt“ wird. BSP. 75% der Varianz der Punktwerte in der allgemeinpsychologischen Klausur können anhand der Punktewerte in der Statistikklausur und der Vorbereitungszeit vorhergesagt werden. Wenn Prädiktoren korrelieren (was Voraussetzung ist), dann weißen sie auch eine Schnittmenge auf (redundante Information) -> ein Teil der Varianz kann durch beide Prädiktoren vorhergesagt werden – dieser Varianzanteil von Y kann also sowohl durch X1 als auch durch X2 vorhergesagt werden. (Foto: Kreise mit gemeinsamer Schnittmenge, 3 und 2) Wenn die beiden Prädiktoren korrelieren, wird daher der multiple Determinationskoeffizient in der Regel kleiner ausfallen, als die Summe der beiden einzelnen Determinationskoeffizienten. Die Diskrepanz zwischen der Summe der beiden einzelnen Determinationskoeffizienten und dem multiplen Determinationskoeffizienten wird dabei umso größer ausfallen, je größer die Menge an redundanter Information ist (Extremfall: beide korrelieren perfekt, r12 = 1, Berücksichtigung eines zweiten Prädiktors würde keine zusätzliche Information über die Ausprägung des Kriteriums gewinnen; gegenteiliger Extremfall: keine Überschneidung, r12 = 0). Selten, aber möglich: Summ der einzelnen Determinationskoeffizienten ist größer als der multiple Determinationskoeffizient, weil: >> Suppressoreffekt Voraussetzung: Korrelation der Prädiktoren Typischerweise (bei keinem Suppressoreffekt) weist ein Prädiktor nur eine schwache bis keine Korrelation mit dem Kriterium auf, trotzdem führt die zusätzliche Berücksichtigung des Prädiktors zur Verbesserung der Vorhersage. Im Falle eines Suppressoreffekts unterdrückt die gemeinsame Varianz die Vorhersageleistung eines Prädiktors -> wird gemeinsame Varianz herausgerechnet, verbessert sich somit die Vorhersagekraft des Prädiktors. << Der Standardschätzfehler Wird wie in der einfachen Regression interpretiert: gibt an, wie stark die vorhergesagten y-Werte um die tatsächlichen y-Werte streuen. Je geringer der Standardschätzfehler, desto kleiner die Vorhersagefehler, desto präziser die Vorhersage.
  • 9 Effektgrößen 9.1 Was sind Effektgrößen? Effektgrößen: Unterschiede zwischen Gruppen sind fast immer vorhanden – aber Sind Unterschiede bedeutsam oder trivial? Ist der Unterschied in einer Studie größer als in einer anderen? Was sind Effektgrößen? Jacob Cohen machte Effektgrößen (und Teststärken) in den 1960er Jahren populär; er war Kritiker des NHST 2. große Errungenschaft: Einführung der multiplen Regressionsanalyse als ein generelles Datenanalysesystem Cohen benutzte das Konzept der Effektgrößen um Aussagen über die Population zu machen – meist werden Effektgrößen aber berechnet, um Aussagen über die Stichprobe zu machen -> ALLE in diesem Kapitel behandelten Effektgrößen beziehen sich auf Stichprobengrößen. Gruppenunterschiede zu quantifizieren ist zwar das Haupteinsatzgebiet von Effektgrößen, jedoch ist das Konzept viel umfassender: Effektgrößen können als Ergänzung zu vielen unterschiedlichen Verfahren berechnet werden und können auch unterschiedliche Arten von Informationen ausdrücken. Einige Effektgrößen bereits gesehen, z. B. Kapitel 7: Produkt-Moment-Korrelationskoeffizient, Phi-Koeffizient Grundsätzlich kann man Effektgrößen in zwei Arten von Maßen einteilen (drücken dieselbe Information aus): Abstandsmaße Zusammenhangsmaße
  • 9 Effektgrößen 9.2 Abstandsmaße Abstandsmaße Abstand zwischen beiden Mittelwerten; Interpretation jedoch nur sinnvoll, wenn auch Streuung berücksichtigt wird. Bei in sich homogenen Gruppen wäre ein identischer Mittelwertsunterschied sehr viel ausgeprägter als bei stark streuenden Gruppen. Deswegen Maß, welches Mittelwert und Streuung beinhaltet, nötig. Anderes Problem: oft werden unterschiedliche Skalen verwendet -> zwecks Vergleichbarkeit von Studien muss wiederum die Streuung berücksichtigt werden. Berechnung der Effektgröße Cohen’s d:  d = (μA - μB) / σAB Cohen hat diese Maß ursprünglich als Maß für Populationsunterschiede benutzt, um Aussagen über die sogenannte Teststärke zu machen oder Power machen zu können. Daher wurden griechische Buchstaben in der Formel benutzt (diese stehen meist für Populationswerte!). Bei der Berechnung von d werden die Stichprobenmittelwerte A und B so behandelt wie Populationswerte und die gemeinsame Streuung der beiden Stichproben wie die gemeinsame Populationsstreuung. Tatsächlich wird d also so berechnet:   d = (x-A - x-B) / sAB Wenn die zwei Stichprobengrößen gleich sind, wird die gemeinsame Streuung der beiden Gruppen folgendermaßen bestimmt:  sAB = (SA² + SB²) / 2 Wenn sie unterschiedlich sind (na ≠ nb), dann sollte die Varianz der größeren Stichprobe ein höheres Gewicht bekommen -> gewichtete gemeinsame Stichprobe. Wenn man die Abweichung eines Gruppenmittelwerts von einem vorgegebenen Wert bestimmen möchte, teilt man diese Abweichung durch die Streuung in dieser einen Gruppe: d = (x- - vorgebener Wert) / s Wenn der vorgegebene Wert Null beträgt, dann vereinfacht sich der Ausdruck zu: d = x- / s Dieselbe Formel kann man verwenden, wenn Mittelwertsunterschiede in einem Within-Subject-Design untersucht wurden. Hierbei sind die Ausgangswerte Differenzwerte (z. B. Messung A – Messung B), aus denen dann der Mittelwert und die Streuung berechnet werden: d = x-Differenzwerte / sDifferenzwerte Manchmal wird für den Vergleich zweier Mittelwerte σ^AB benutzt, die Schätzung für die Populationsvarianz. Wenn beide Gruppen gleich groß sind, dann gilt: Formel; ansonsten muss man die Schätzung wieder durch die Stichprobengröße gewichten. Das entsprechende Abstandsmaß wird häufig als g oder Hedges‘ g bezeichnet (Cohen bezeichnet sie manchmal als ds): g = (x-A - x-B) / σ^²AB Für den Einstichprobenfall ist die Berechnung von g analog zu der von d:  g = (x- - vorgebener Wert) / σ^ Wieder kann man die Formel auch für die Berechnung der Mittelwertdifferenzen aus Within-Subject-Designs verwenden. Da die geschätzte Populationsvarianz immer größer ist, als die berechnete Stichprobenvarianz  (weil man die Summe der Abweichungsquadrate durch n-1 teilt und nicht durch n, siehe auch S.320), ist g immer kleiner als d. BSP -> lineare Transformation (z.B. einzelnen Werte multipliziert mit 10) ändert die Effektstärke nicht! Vergleich: z-Wert-Formel sieht der Formel für Effektstärke ähnlich: zi = (xi - x-) / s z-Wert drückt den standardisierten Unterschied zwischen einem Einzel- und einem Mittelwert aus. -> Die Information bezieht sich immer auf den Einzelwert. Die Information, die man aus einem Abstandsmaß wie d oder g bekommt, bezieht sich dagegen immer auf Mittelwerte oder Mittelwertsunterschiede.
  • 9 Effektgrößen 9.3 Zusammenhangsmaße Zusammenhangsmaße Zusammenhangsmaße, korrelative Effektgrößen oder Korrelationen (hier: synonym verwendet) bereits in Kapitel 7: Korrelation = linearer Zusammenhang zw. 2 Variablen (zwischen -1 und +1). Wie kann man die Effektgröße für einen Mittelwertsunterschied als Korrelation ausdrücken? BSP: Sonnenblumendiagramm zeigt Anzahl richtiger Lösungen; welche Zahlen werden nun für die Kodierung von Mädchen und Jungen verwendet? Man kann beliebige Zahlen verwenden, solange sie unterschiedlich sind!! Man muss nur darauf achten die Richtung der Korrelation vorher zu bestimmen. Wenn man für die Werte der Abbildung die Zugehörigkeit zur Gruppe der Mädchen mit einer größeren Zahlen kodiert als die Zugehörigkeit der Gruppe der Jungen, dann wird die Korrelation positiv, andernfalls wird sie negativ. Das man beliebig unterschiedliche Zahlen verwenden kann, liegt daran, dass man bei der Korrelation mit z-transformierten Werten rechnet: BSP. Was ist z-Wert von 1, wenn jeweils gleich oft 1 und 0 als Wert vorliegt? [Nur wenn gleichviele Werte je einer Zahl (5 1er, 5 0er). Varianz leicht berechenbar, weil die beiden unterschiedlichen (und somit alle vorkommenden) Werte den gleichen Abstand vom Mittelwert haben. Es reicht also wenn man einen Wert und den Mittelwert der beiden Werte kennt; z.B. x1=1 und x=0.5, dann ist der quadrierte Abstand dieser beiden Werte die Varianz = 0.25, Wurzel darauf ist die Streuung = 0.5.] Werte 33 und -3 kommen gleich häufig vor, wieder z = 1: Bei einer Variablen mit zwei gleich häufigen Werten (z.B. zwei Werten, die zur Kodierung für zwei Gruppen benutzt werden) sind die z-Werte immer 1 (für den größeren Wert) und -1 (für den kleineren Wert), egal welche Werte man ursprünglich benutzt hat. Wenn die Werte nicht gleich häufig sind (wie im BSP), dann ändern sich natürlich auch die z-Werte entsprechend, sind aber nach wie vor unabhängig von der Größe der Zahlen, die zur Kodierung verwendet werden. Siehe BSP-Tabelle: -> Summe der z-Produkte durch Anzahl der Kinder (n=10) teilen -> r = 0.47. Zusammenhangsmaße zwar weniger intuitiv als Abstandsmaße, aber allgemeiner verwendbar: sie können „richtige“ Korrelationen und Mittelwertsunterschiede ausdrücken sie sind auch bei nominal- oder ordinalskalierten Daten gut interpretierbar; Abstandsmaße sind hingegen nur bei intervallskalierten Daten sinnvoll interpretiertbar Zusammenhangsmaße sind auch sinnvoll als Effektgrößen berechenbar, wenn diese die Unterschied zwischen mehr als zwei Gruppen wiedergeben Abstandsmaße und Zusammenhangsmaße rechnerisch ineinander überführen (bisher nur Rohwerte verwendet).
  • 9 Effektgrößen 9.4 Effektgrößen aus Effektgrößen 9.4.1 Abstandsmaße aus Abstandsmaßen 9.4.2 Korrelationen aus Abstandsmaßen 9.4.3 Abstandsmaße aus Korrelationen Effektgrößen aus Effektgrößen: Abstandsmaße aus Abstandsmaßen Wie kann aus d ein g berechnet werden und umgekehrt? d = g * Wurzel(n/df)    und   g = d * Wurzel(df/n) df = degress of freedom = Freiheitsgrade => Art Alternative zur Stichprobengröße (n). Wird oft statt n genutzt, weil df mathematisch leichter handhabbar sind, wenn man Verfahren nutzt, welche es erlauben, aufgrund der Stichprobenergebnisse Schlüsse auf die Population zu ziehen. 1924 von Ronald A. Fisher eingeführt. Freiheitsgrade = Anzahl der Werte, die in einem statistischen Ausdruck, z.B. der Stichprobenvarianz, frei variieren können: Bei der Berechnung von z.B. s² können von den n Werten nur n-1 frei variieren, da die Summe aller Abweichungen der n Einzelwerte von ihrem Mittelwert immer Null ist. Wenn also z.B. n = 4 und die ersten drei Abweichungen vom Mittelwert 6, -9 und -1 betragen, muss die vierte Abweichung 0 – 6 + 9 + 1 = 4 sein. Wenn wir zwei Mittelwerte für einen statistischen Ausdruck berechnen würden, dann wären die Freiheitsgrade n - 2. Als Faustregel gilt, dass man für jeden Mittelwert, der für die Berechnung des statistischen Ausdrucks benötigt wird, einen Freiheitsgrad abziehen muss. BSP. n = 10, 2 Mittelwerte -> n - 2 => df = 8; Ergebnisse waren d = 1.06 und g = 0.95: Korrelationen aus Abstandsmaßen Abstandsmaße in Korrelationen umrechnen; bei gleich und unterschiedlich großen Stichprobengrößen möglich. Abstandsmaße aus Korrelationen Ebenfalls berechenbar.
  • 9 Effektgrößen 9.5 Wie bedeutsam ist eine Effektgröße? Wie bedeutsam ist eine Effektgröße?  Wie kann man sie sinnvoll interpretieren? Das hängt vom Gegenstandsbereich ab! BSP Effekt von PT bei Angstzuständen d = 0.67, dann neue PT mit d = 0.3 wenig interessant, d = 0.9 aber sehr. Manchmal aber auch sehr kleine Effekte schon sehr bedeutsam – siehe: > Binominal Effect Size Display (BESD) und kleine Effekte: BESD 1979 von Rosenthal und Rubin eingeführt, zur Illustration einer bestimmten Art von Effektgröße für die Beschreibung von dichotomen oder dichotomisierten Ergebnissen wie z.B. Erfolge-Misserfolg, Verbesserung-keine Verbesserung. Man kann damit die Korrelation zwischen zwei Variablen als Veränderung in der „Erfolgsquote“ beschreiben, BSP: Großstudie: Ärzte nahmen Aspirin oder Placebo – Hilft die Einnahme kleiner Mengen Aspirin präventiv gegen Herzinfarkt? Korrelative Effektgröße, der Phi-Koeffizient wurde berechnet: Das Ergebnis, r = 0.034, ist offensichtlich ein sehr kleiner Effekt. Trotzdem wurde die Studie abgebrochen, weil man es als unethisch sah, den Placebo-Ärzten Aspirin weiterhin vorzuenthalten. Wieso? -> in Prozent: Man kann die Werte direkt aus der Korrelation berechnen. Dazu genügt es, einen der zwei unterschiedlichen Werte zu berechnen; der andere ergibt sich automatisch durch die Einschränkung, dass Zeilen- und Summenspalten jeweils 100 ergeben müssen. Die Gleichung zur Berechnung des größeren der beiden Werte ist: Im BSP 50 + (100 x 0.034)/2 = 51.7, der Wert in den Zellen a und d. Aussage? -> Durch die Gabe von Aspirin ist die Erfolgsquote (keine Herzinfarkt) um 3.4 Prozentpunkte von 48.3% auf 51.7% gestiegen. Betrachtet man den prozentualen Zuwachs in Anzahl an geretteten Leben gerechnet, ist das ein sehr bedeutsamer Effekt, auch wenn er absolut gesehen sehr klein ist. Geeignet für Personen, die mit einer Korrelation wenig anfangen können, aber denen Prozentwerte vertraut sind (z.B. Auftraggeber von Evaluationsstudien). < Wie interpretiert man Effektstärken, wenn man sie nicht mit bisherigen Ergebnissen vergleichen kann, oder nicht weiß, ab wann man ihn als bedeutsam einstufen kann? Konventionen für die Beurteilung von Korrelationen nach Jacob Cohen (zuerst hat Cohen Werte nur anhand von Beispielen beurteilt, dann Konventionen gegeben -> spätere Überblicksarbeiten von anderen zeigten, dass die von Cohen als mittelgroß eingestufte Effekte tatsächlich die sind, die in einem breiten Querschnitt der psychologischen Forschung am häufigsten vorkommen). Allerdings sind diese Konventionen nur Notfallbehelf, wenn keine anderen Informationen verfügbar sind; sind auch nicht sehr konsistent, z.B. ergibt sich bei der Umrechnung zwischen d und r keine genaue Passung: klein:      d = 0.2    und  r = 0.1 mittel:     d = 0.5    und  r = 0.3 groß:      d = 0.8    und  r = 0.5
  • 9 Effektgrößen 9.6 Weitere Effektgrößen-Maße 9.6.1 Relatives Risiko 9.6.2 Odds Ratio Weitere Effektgrößen-Maße Neben Abstands- und Zusammenhangsmaßen werden auch sogenannte Maße der erklärten Varianz verwendet, die in manchen Fällen wieder in Korrelationen umgerechnet werden können. Maße der erklärten Varianz kann man auch als quadrierte Zusammenhangsmaße im weitesten Sinne betrachten, z.B.  beim Determinationskoeffizient r², der häufig als Effektgröße bei der linearen Regression benutzt wird (die Wurzel aus r² ist natürlich eine Korrelation). Wenn die abhängig Variable in einer Studie intervallskaliert ist, wird man in den meisten Fällen eine der bisher diskutierten Effektgrößen (r, g oder d) nutzen. Manchmal aber dichotome Ergebnisse; hier gibt es mehrere Möglichkeiten, Effektgrößen für diesen Vergleich zu berechnen. In den medizinnahen Bereichen von Psychologie und Sozialwissenschaften werden vermehrt zwei solche Effektgrößen benutzt, die kurz erläutert werden sollen: Relative Risiken (RR) und Odds Ratio (OR). 1) Relatives Risiko = Verhältnis des Risikos in zwei Bedingungen. BSP. Personen die mit Therapie 1 und Personen die mit Therapie 2 behandelt wurden (zwei Bedingungen), und bei denen diesen Therapien entweder Nebenwirkungen erzeugten oder nicht (dichotomes Ergebnis): Einfaches Risiko (R) ist in diesem Fall: R = A / (A + B) zB R = 0.084 -> 8.4% Will man Risiken der beiden Therapieformen vergleichen, kann man das mithilfe des relativen Risikos (RR) tun: RR = (A / (A+B))  /  (C / (C+D)) Wenn das Risiko von Nebenwirkungen in beiden Therapien gleich wäre, dann wäre RR = 1. Ergebnis BSP: Risiko dafür, dass Therapie 1 Nebenwirkungen erzeugt ist 0.77 mal so groß (also kleiner) ist als bei Therapie 2. Therapie 1 ist also, relativ gesehen, risikoärmer als Therapie 2. 2) Odds Ratio (= seltener deutscher Name dafür: Quotenverhältnis) Odds werden auch im Alltag häufig dafür benutzt um Wahrscheinlichkeiten und insbesondere Gewinnquoten auszudrücken (Die Chance, dass es morgen regnet, steht 1:10 / dass Mannschaft X dieses Spiel gewinnt, steht 2:1). Wenn man den Quotienten aus zwei Odds (A/B und C/D) bildet erhält man die Odds Ratio (OR): OR = (A/B) / (C/D)  =  A*D / B*C Falls Wert = 1, beide Odds sind gleich. Wenn  die Wahrscheinlichkeit für das erste Ergebnis (Nebenwirkung bei Therapie 1) geringer ist als die für die zweite (Nebenwirkung bei Therapie 2), dann ist die Odds Ratio kleiner als 1, im umgekehrten Fall ist sie größer als 1. Odds Ratios und Relative Risiken können stark voneinander abweichen: BSP: Wenn die Wahrscheinlichkeit (das Risiko), ohne Behandlung innerhalb eines Jahres zu sterben 90% (z.B. 9/10) beträgt und mit Behandlung 60% (z.B. 6/10), dann ergäbe die Zunahme des Risikos (ohne vs. mit Behandlung) ein RR = 0.9/0.6 = 1.5. Die entsprechende Odds Ratio wäre aber deutlich höher (mit den entsprechenden Odds von 9/1 und 6/4): Odds  = (9x4)/(6x1) = 6. Weil die Odds insbesondere bei hohen Wahrscheinlichkeiten sehr groß werden können, wird manchmal empfohlen, im Zweifelsfall eher relative Risiken zu benutzen, die meist auch leichter interpretiert werden können.