18

Angewandte Statistik (Fach) / Lektion 06 (Einfache Regressionsmodell) (Lektion)

Diese Lektion wurde von Dennis1602 erstellt.

Lektion lernen

Diese Lektion ist leider nicht zum lernen freigegeben.

zurück  |  weiter 1 / 1

• Ziele der Regression - Fragen und daraus abgeleitet Hypothesen generieren - Hypothesen überprüfen - Kausalmodelle verfeinern - eine Variable zur Vorhersage, Prognosen verbessern - Kosten und Nutzen präzisieren - Entscheidungen erlauben oder wenigstens erleichtern
• Modellbildung (Allgemein) - Aufgabe der Forschung: Problemformulierung und empirische Lösungsansatzüberprüfung - empirische Überprüfung mittels Modellkonstruktion, die entweder als Generalisierung oder Spezifizierung einer Theorie gelten kann - erst dann ist Hypothesenbildung möglich, deren empirische Überprüfung Modifikationen von praktischen Entscheidungsregeln nahelegen kann - klare/umfassende Problemformulierung schwierig, da meist komplexe Wechselwirkungsprozesse mit Größen bestehen, die sich einer direkten Erfassung oder Kontrolle entziehen
• Modellbildung (Was ist das zu untersuchende Problem?) - Problem ist eine Frage nach Beziehung zwischen zwei Variablen - Kriterien guter Problemformulierung nach Kerlinger: -- ein Problem sollte eine Beziehung zwischen zwei oder mehr Variablen ausdrücken -- als Formulierung ist die Frageform gefordert -- das Problem sollte die Möglichkeit einer empirischen Kontrolle zulassen - Beispiele für ungeeignete Formulierungen: -- Arbeiten die Mitarbeiter durch Weiterbildung besser? -- Das Problem, das untersucht werden soll, ist die Prüfung des Nutzens von Teamarbeit. -- Ist der technische Standard der Konkurrenz hoch entwickelt? - Beispiele für geeignete Formulierungen: -- Kann durch mehr Kunden-Feedback der Customer Satisfaction Index verbessert werden? -- Ist Frankreich in seiner Zivilisationsentwicklung weiter als Deutschland, wenn wir die Merkmale BIP, Akademikerquote, Zahl der Patente je Einwohner und Quote der Internetanschlüsse als Indikatoren für die Zivilisationsentwicklung betrachten? - Probleme sollten nicht zu eng formuliert werden -> Begriffe in Beziehung setzen, die einen gewissen Allgemeinheits- und damit Abstraktionsgrad besitzen -> nicht unmittelbar empirisch überprüfbar - häufig umfassen Probleme auch Komplexe, die sich in Teilaussagen (Hypothesen) zerlegen lassen
• Modellbildung (Welche Hypothesen sollen geprüft werden?) - Hypothesen werden über die Beziehung zwischen zwei oder mehr Variablen aufgestellt -> sollten eine eindeutige empirische Überprüfung zulassen - häufig werden Aussagen als Hypothesen bezeichnet, die eine unmittelbare empirische Überprüfung nicht zulassen -> solche Hypothesen vermeiden
• Modellbildung (Welches Konzept, welche Theorie wird aufgestellt?) - aus einem Problem können zahlreiche Hypothesen formuliert werden - Gesamtheit der Fragen charakterisiert das Problem; Gesamtheit der Thesen schafft Grundlage für Konzept - Häufige Bestätigung der abgeleiteten Hypothesen -> Theorie - Definition lt. Kerlinger: „Theorie ist Menge miteinander verbundener Konzepte, Definitionen und Annahmen, die Phänomene in systematischer Sicht darstellt, indem sie die Beziehungen zwischen Variablen spezifiziert mit der Absicht, Phänomene zu erklären und vorherzusagen.“ - oft werden Konzepte oder Theorien zu umfassend und abstrakt formuliert -> Explizierung und damit Operationalisierung gelingt nicht angemessen, weil Gesamtstruktur zu umfangreich würde -> notwendig, die Problemstellung einzugrenzen
• Modellbildung (Kausalität und Modell) - Kausalität ist ein Konzept/theoretisches Konstrukt, das sich in der Analyse von Prozessen (in einer bestimmten zeitlichen/räumlichen Ordnung auftretende Ereignisse) bewährt hat
• Modellbildung (Vereinfachter Kausalitätsbegriff) - eine mögliche Kausalität besteht, wenn unter sonst variierenden Randbedingungen zwei Ereignisse X und Y in regelmäßigen räumlichen und zeitlichen Abstand zueinander auftreten -> komplexe Formen der Kausalität sind damit nicht ausgeschlossen - immer versuchen, zu analysierende Kausalbeziehungen auf die Beziehung zwischen zwei Variablen zurückzuführen -> in der Frühphase des Forschungsprozesses hilfreich und lässt genügend Erweiterungen zu
• Modellbildung (Modellbildung) - Wort „Modell“ kommt aus dem Lateinischen modellus (Modus = Art und Weise) und bedeutet Muster/Typ/Nachbildung -> mit einem Modell wird versucht, das Wesentliche eines Sachverhaltes darzustellen, was wesentlich ist, hängt vom Zweck der Modellkonstruktion ab - Modell ist die Analyse gewisser Aspekte von Phänomenen mithilfe von Symbolen, Bildern oder physischen Objekten - Hautnutzen der Modellbildung: aufgrund Übersichtlichkeit und Anschaulichkeit werden neue Implikationen ermöglicht, die wieder fruchtbare Hypothesen bedingen - Gefahr der Modellbildung: Verwechslung mit der Wirklichkeit, vor allem, wenn sich das Modell als Erklärung/Entscheidungshilfe bewährt hat - Art der Beeinflussung von Variablen muss konkretisiert werden, einige wenige haben sich bewährt -> u.a. lineare Modelle: Einfachheit, Risikominimierung -> vorziehen, bis explizite Vermutungen über bessere Alternativen da sind
• Einfaches Regressionsmodell - Einfach, da nur eine erklärende Variable betrachtet wird - Regression = zurückgehen, Tendenz zur Mitte - wichtig, Ursache-Wirkung-Zusammenhang einer Beziehung aufzuklären: wenn Zusammenhang erwartet werden kann, dass sich die Variablen X und Y gegenseitige beeinflussen, wird gefragt, welcher quantitative Zusammenhang besteht, wie Funktion f Y=f(X) aussieht - bei Kenntnis der Funktion f kann aus der Kenntnis der Realisierung von X auf die Realisierung von Y geschlossen werden -> Prognosen erstellen/Entscheidungen absichern - ausgehend von numerischen Skalen für beide Variablen -> Korreff rxy angemessenes Maß für die Schätzung des Zusammenhangs zwischen X und Y - in Ermangelung genauerer Kenntnis der Beziehung zwischen X und Y wählen wir den linearen Ansatz, d.h. wir suchen nach einer Geraden, welche die Punktwolke möglichst gut annähert - Korrelationskoeffizient: Annäherung bei gegebener Punktewolke, gibt jedoch keine Aussage über die Lage der Geraden (nur steigend oder fallend) - Gerade hat die Gleichung y = m * x + b = (m = Steigung der Geraden; b = y-Achsenabschnitt) - Aufgabe: zwischen den Variablen X und Y eine Beziehung Y=m*X+b zu finden, dass die Punktewolke bestmöglich approximiert wird -> Aufgabe der Regressionsanalyse -Schluss von einer Variablen (X) auf die andere (Y) -> Vorhersage oder Prognose - bei der Regressionsanalyse gehen wir davon aus, dass die Variable X die Variable Y ursächlich beeinflusst -> X als die unabhängige oder erklärende Variable bezeichnet, Y als die abhängige oder erklärte - wir gehen davon aus, dass eine besonders ausgeprägte Abhängigkeit besteht, während alle anderen Einflüsse (Störgrößen) nur wenig markant sind oder sich schlecht messen lassen - aufgrund theoretischer Überlegungen wird angenommen: -- der Wert einer der Variablen ist ursächlich für den Wert der anderen Variablen -- die Abhängigkeit ist linear -- die lineare Abhängigkeit wird überlagert vom Einfluss der Störgröße ɛ -- ɛ ist zufällig u. sein Einfluss hebt sich im Mittel auf -> Erwartungswert der Störgröße E(ɛ) ist gleich 0 - wird eine Stichprobe aus der Grundgesamtheit gezogen, ist das Ziel, aus den beobachteten Paaren (x und y Werte) einen Schluss auf die „wahre“ Abhängigkeit von x und y in der Grundgesamtheit zu ziehen -> Geradengleichung (yDach = b0 + b1 *x) muss bestimmt werden -> Regressionsgerade - b1 und b0 sind Schätzungen für die wahren Parameter β1 und β0 - Bezeichnung für die abhängige Variable mit einem Zirkumflex ( =Ypsilon Dach) -> weder Werte der GG noch der Stichprobe -> wenn für x real vorkommender Wert, keine Sicherheit, dass yDach überhaupt als realer Wert vorkommt -> dennoch der beste Wert, der sich einem gegebenen x-Wert zuordnen lässt
• Einfaches Regressionsmodell (Regressionsgerade mittels Methode der kleinsten Quadrate) - grafisch gesehen wird diejenige Gerade durch die Punktwolke gesucht, bei der der vertikale Abstand der tatsächlichen y-Werte und der Regressionsgeraden minimiert wird  - alle vertikalen Differenzen werden quadriert und die Summe über alle xi minimiert   yDach = b1 *X + b0 mit b1 = (rxy * sy) / sx  und b0 = yquer - b1 *xquer - b1 heißt Regressionskoeffizient (=Regressionsgewicht) von Y auf X -> gibt die Steigung der Regressionsgeraden an - b0 heißt Regressionskonstante = stellt den y-Achsenabstand der Geraden dar -> Wahl von b0 sorgt dafür, dass die Regressionsgerade durch den Schwerpunkt der Beobachtungswerte verläuft (Punkt xquer,yquer) - oder alternativ: b1 = Summe (xi - xquer) * (yi - yquer) / Summe (xi - xquer)2
• Anzeige
• Einfaches Regressionsmodell (Regressionsgerade mittels Methode der kleinsten Quadrate, Beispiel, Ablauf) - Mittelwerte ausrechnen xquer und yquer - einzelne Abweichungen zu jedem x und y berechnen (x-xquer und y-yquer)  - jeweiligen Abweichungen miteinander multiplizieren, jeweils (x-xquer) * (y-yquer) und aufsummieren -> Ergebnis Sxy - Quadratische Abweichung von x berechnen und aufsummieren (x-xquer)2 -> Ergebnis Sx2 - einzelne Geradenparameter berechnen durch einsetzten: b1 = Sxy / Sx2    und b0 = yquer - b1 * xquer - als letztes Gerade aufstellen: yDach = b1 * x + b0
• Güte der Regressionsgeraden (Allgemeines, Erklärung der Gesamtabweichung) - Regressionsgerade ist eine aus der Stichprobe gewonnene Schätzung der linearen Abhängigkeit der abhängigen Werte y von den als unabhängig angenommenen Werte x - X Wert erklärt den Wert y^ (x) - senkrechte Abweichung der Punkte auf der Regressionsgeraden vom Mittelwert von y ist durch die waagerechte Abweichung vom Mittelwert von x erklärt - Stichprobenpunkte liegen nicht auf der Regressionsgeraden - Abweichung der y-Werte von ihrem Mittelwert ist nicht ausschließlich durch x erklärt, sondern enthält noch eine zufällige, unerklärte Komponente, also gilt: Gesamtabweichung yi - yquer = erklärte Abweichung yDach(xi) - yquer + nicht erklärte Abweichung yi - yDach(xi) - bereits mehrmals haben wir nicht die Differenz von Abweichungen, sondern deren Quadrat verwendet, da es immer einen positiven Wert ergibt - besondere Eigenschaften der Regressionsgeraden führen zu dem Ergebnis, dass für die Quadratsummen ebenfalls gilt: Summe (yi - yquer)2 = Summe (yDach(xi) - yquer)2 + Summe (yi - yDach(xi))2 - Methode der kleinsten Quadrate hat zum Ziel, die Größe SQR (Quadratsumme der nicht durch x erklärten Abweichungen) zu minimieren -> je grösser Anteil von SQE an SQT, desto kleiner der Anteil der Restabweichungen SQR, desto besser ist die Punktwolke durch die Regressionsgerade angenähert und desto genauer sind die y-Werte durch x-Werte bestimmt
• Güte der Regressionsgeraden (Quadratsummen, Bestimmtheitsmaß) - Quadratsummen erhalten folgende Bezeichnungen: SQT Summe der Quadrate der totalen Abweichungen = Summe (yi - yquer)2 SQE Summe der Quadrate der durch x erklärten Abweichungen = Summe (yDach(xi) - yquer)2 SQR Summe der Quadrate der Restabweichungen/ Residuen = Summe (yi - yDach(xi))2 SQT = SQE + SQR - das Verhältnis von SQE zu SQT ist eine Zahl zwischen 0 und 1 und heißt Bestimmtheitsmaß R² = SQE/SQT alternativ auch Ermittlung von R² = 1 - (SQR/SQT) R2 = (SQE/SQT) = 1 - (SQR/SQT)  - liegt das Bestimmtheitsmaß nahe 1, so erklärt die unabhängige Variable x sehr gut die Variable y; ist es nahe 0, so erklärt die die unabhängige Variable x sehr schlecht die Variable y - Beziehung zwischen Pearsons Korrelationskoeffizient und dem Bestimmtheitsmaß: vom Korrelationskoeffizienten kommen durch quadrieren auf das Bestimmtheitsmaß, aus diesem die Wurzel und versehen wir es mit dem Vorzeichen des Regressionskoeffizienten b1, erhalten wir den Korrelationskoeffizienten: rxy2 = R2
• Güte der Regressionsgeraden (Standardschätzfehler) Standardschätzfehler Sigmaxy = Wurzel (SQR/n) - Standardabweichung der Restabweichungen der Stichprobenwerte - Maß, wie stark die geschätzten y-Werte von den tatsächlichen y-Werten abweichen - kennzeichnet Streuung der empirischen y-Werte um die Regressionsgerade - Gütemaßstab für die Genauigkeit der Regressionsvorhersage - wächst mit immer kleinerem Standardschätzfehler - lässt sich auch über folgende Beziehung bestimmen: Sigmaxy = Sigmay * Wurzel (1-R2)
• Güte der Regressionsgeraden (Homoskedastie) - besagt, dass durchschnittliche Abweichung der Punkte von der Regressionsgeraden gleich groß ist - Angemessenheit der Ermittlung der Güte der Regression über das Bestimmtheitsmaß und den Standardschätzfehler ist an die Voraussetzung der Homoskedastie/Homoskedastizität gebunden (Homogenität der Streuungsverhältnisse) - Fall, in dem das nicht erfüllt ist, Beispiel für Verletzung der Homoskedastiebedingungen: -- Streuung in der Umgebung von x1 ist deutlich größer (weiter entfernt) als die in der Nähe von x2 -- Abweichungswerte werden im ersten Fall ungleich größer sein -> Vorhersage wird wesentlich ungenauer -> Standardschätzfehler gibt nur dann adäquat die Genauigkeit einer Vorhersage an, wenn Homoskedastie vorliegt -- Gibt komplexe statistische Verfahren, um dies im Einzelfall zu entscheiden
• Güte der Regressionsgeraden (Signifikanz des Prädiktorbeitrags zur Vorhersage des Kriteriums) - zur Prüfung, ob die Beziehung zwischen x und y mehr ist als eine aus zufälligen Werte einer Stichprobe errechnete lineare Abhängigkeit ohne statistische Signifikanz, stehen zwei Testverfahren zur Verfügung - gibt es eine Abhängigkeit ziwschen x und y? - F-Test und t-Test - führen im Fall der einfachen Regression zur gleichen Aussage - wie gehabt Signifikationsschranke α
• Signifikanz des Prädiktorbeitrags zur Vorhersage des Kriteriums (F-Test) - Namen von der spezifischen Wahrscheinlichkeitsverteilung, auf der er basiert - Geht auf Statistiker Ronald Fisher zurück - Nullhypothese: „Es lässt sich keine signifikante lin. Abhängigkeit zw. den Variablen feststellen“ - die lineare Beziehung zwischen Y und X gilt als signifikant, wenn: -> F = rxy2 ((n-2)/(1-rxy2)) > Fα,1,n-2 -- kritischer Wert Fα,1,n-2 ist aus der Tafel der F-Verteilung zu entnehmen -- 1 ist der Freiheitsgrad des Zählers und n-2 der Freiheitsgrad des Nenners - F-Werte und die zur Beurteilung der statistischen Signifikanz zugehörigen P-Werte können durch alle gängigen Statistikprogramme ermittelt werden - Signifikanz lässt sich dann vom zugehörigen P-Wert ablesen: ist dieser kleiner, als das Signifikanzniveau α, kann die Nullhypothese abgelehnt werden und Y ist signifikant von X abhängig
• Signifikanz des Prädiktorbeitrags zur Vorhersage des Kriteriums (t-Test) - beruht auf Student t-Verteilung - Nullhypothese: In der Beziehung E(y) = β0 + β1 * x für die GG ist β1=0 - Y ist auf signifikante Weise von X abhängig, wenn: -> t = |rxy| Wurzel ((n-2)/(1-rxy2)) -- t-Wert ist in der t-Verteilungstafel mit n-2 Freiheitsgraden zu finden - zugehörige P-Werte werden in allen gängigen Statistikprogrammen ermittelt - ist der P-Wert kleiner, als das Signifikanzniveau α, kann die Nullhypothese abgelehnt werden und Y ist signifikant von X abhängig

zurück  |  weiter 1 / 1