15

Angewandte Statistik (Fach) / Lektion 07 (Multiple Lineare Regression) (Lektion)

Diese Lektion wurde von Dennis1602 erstellt.

Lektion lernen

Diese Lektion ist leider nicht zum lernen freigegeben.

zurück  |  weiter 1 / 1

• Allgemeines - welche Auswirkung haben veränderte Ausgaben im Bereich Fernsehwerbung, Radiowerbung, Printwerbung usw. auf den Bekanntheitsgrad des Produktes? - eine unabhängige und mehrere abhängige Variablen und vermutlich linearer Zusammenhang -> multiple lineare Regression
• Multiple Regression (Allgemeines) - geeigneter Erklärungsansatz für Phänomene, in denen beobachtbare Eigenschaften von einer Vielzahl von Einflussgrößen verursacht werden -> Zusammenhang zwischen einer abhängigen Variable Y und mehreren unabhängigen Variablen X1, X2, X3 usw. untersucht - mehr als eine unabhängige Variable, sodass das lineare Modell die folgende Form hat y = Beta1 * X1 + Beta2 * X2 +...+ Betaj * Xj + Beta0 + ɛ (ɛ=Zufallsvariable/Residuum) - die Regressionskoeffizienten haben eine wichtige Bedeutung, da sie den Effekt einer Änderung der unabhängigen auf die abhängige Variable beschreiben - Bestimmung der Koeffizienten erfolgt analog der einfachen l.R. über Methode der kleinsten Quadrate - Vorhersagewerte ergeben sich nach dem multiplen Regressionsmodell aus den unabhängigen Variablen X1 bis Xj einer Schätzung für die Regressionskoeffizienten b1 bis bj als YDach = b1*x1 + b2*x2 + ...bj*xj + b0 - um den Einfluss von Xj auf Y zu vergleichen, müssen die Dimensionen von Xj in gleichen Einheiten sein -> wenn alle Variablen standardisiert sind, geht die obige Regressionsgleichung mit den Koeffizienten bj über in eine mit den standardisierten Regressionskoeffizienten (Beta-Werte) bj*: bj* = bj * (sxj/sy) - bei der Prüfung der Güte der Regressionsfunktion (ob geeignetes Modell für die Realität) wird in zwei Schritten vorgegangen:
• Multiple Regression (Vorgehen der Prüfung der Güte der Regressionsfunktion) - Prüfung der Regressionsfunktion als Ganzes (ob und wie gut die abhängige Variable Y durch das Regressionsmodell erklärt wird) -- Bestimmheitsmaß R2, F-Test und der Standardfehler - Prüfung des Beitrags der einzelnen Variablen (ob und wie gut einzelne Variablen des Regressionsmodells zur Erklärung der abhängigen Variablen Y beitragen) -- Maß zur Prüfung der Regressionskoeffizienten T-Test und Beta-Wert
• Regressionsfunktion als Ganzes - Beurteilung der Güte der Regressionsfunktion beruht auf dem Bestimmheitsmaß, das den Anteil der durch die Regression erklärten Streuung SGE an der Gesamtstreuung SQT ausweist - wie im einfachen Fall R2 = SQE/SQT - in der Mehrfachregression modifiziertes, adjustiertes Maß: R~2 = 1 - ((n-1)/(n-J-1))* (1-R2)  n = Größe der Stichprobe, J=Anzahl der unabhängigen Variablen - Korrektur soll vermeiden, dass Bestimmtheitsmaß mit steigender Anzahl an Regressoren unangemessen stark steigt - misst die Güte der Anpassung der RF an den empirischen Daten (Goodness of Fit) - Basis dafür sind die Residuen (Abweichung Beobachtungswert/Schätzwert) - Werte liegen zwischen 0 und 1 -> je größer R², desto stärker der Zusammenhang zwischen der abhängigen und den unabhängigen Variablen; je kleiner R², desto weniger trägt die Regression zur Erklärung von Y bei - Bestimmtheitsmaß wird durch die Zahl der Regressoren beeinflusst, da mit jedem weiteren Regressor ein Anteil erklärt wird - Drückt somit aus wie gut sich die RF an die beobachteten Daten anpasst
• F-Test - stellt sich die Frage, ob die Stichprobe für die GG Gültigkeit besitzt -> hierzu F-Test - prüft, ob das Bestimmtheitsmaß mehr als zufällig ist und allgemein gültig ist - Nullhypothese: Annahme, dass in der GG kein linearer Zusammenhang X und Y besteht (die wahren Werte der Regressionskoeffizienten in der GG sind 0) - als Testgröße wird F-Wert als Funktion des Bestimmtheitsmaßes formuliert: -> F = (R2/J) / ((1-R2)/(n-J-1)) - R²=Bestimmtheitsmaß, n= Stichprobengröße, J=Anzahl unabhängige Variablen - F-Wert ist F-verteilt mit J Freiheitsgraden im Zähler und n-J-1 Freiheitsgraden im Nenner - So Bestimmung, ob berechneter Wert für gegebenes Signifikanzniveau zu groß -> Ablehnung der Nullhypothese, ansonsten nicht - P-Wert über Programm, Vergleich Signifikanzniveau - P-Wert < Signifikanzniveau -> Verwerfung der Nullhypothese - ist der p-Wert des F-Tests größer als Alpha ist das Regressionsmodell nicht signifikant
• einzelne Variablen (Regressionskoeffizienten) - ob/wie gut tragen die einzelnen Variablen zur Erklärung der Variablen Y bei - Maß zur Prüfung der Regressionskoeffizienten sind der t-Wert und der Beta-Wert - t-Tests -- Prüfung der einzelnen Koeffizienten d.h. des signifikanten Einflusses der einzelnen Variablen X auf Y - t = bi/sbi : Koeffizient von xi geteilt durch Standardabweichung des Koeffizienten (Berechnung über Statistikprogramm) - Nullhypothese: H0: βi = 0; Alternativhypothese: βi ≠ 0 - wenn der t-Test nicht signifikant ist, hat die getestete unabhängige Variable keinen gesicherten Einfluss und sollte zur Regression nicht verwendet werden - Standardfehler der Schätzung -- gibt an, welcher mittlere Fehler bei der Verwendung der Regressionsfunktion zur Schätzung der abhängigen Variablen Y gemacht wird -- errechnet sich wie folgt: -> se = sy * Wurzel (1-R2) -- sy = Standardabweichung der abhängigen Variablen; R²=Bestimmtheitsmaß
• Verfahren zur Bestimmung eines geeigneten multiplen Regressionsmodells - verschiedene statistische Verfahren, welche Variablen in das optimale multiple Regressionsmodell aufgenommen werden sollen und welche nicht -> kein Verfahren exakt und automatisch und alle erfordern ein gutes Maß an subjektiver Beurteilung - folgende Richtlinien haben sich in der Praxis bewährt: - 1. Vorauswahl der relevanten Variablen -- aufgrund praktischer Gesichtspunkte und gesundem Menschenverstand -- offensichtlich irrelevante unabhängige Variablen von vorneherein nicht in das Modell aufgenommen werden (Schuhgröße – Zeugnisnote) - 2. Regressionsgleichung sollte nur so viele Variablen, wie nötig beinhalten -- wenn zwei Variablen einen hohen linearen Korrelationskoeffizienten haben, sind sie nicht unabhängig voneinander und man sollte eine weglassen -- wenn die standardisierten Regressionskoeffizienten β niedrig sind, leisten die Variablen keinen signifikanten Beitrag zur Vorhersage der abhängigen Variablen und können ebenfalls entfallen - 3. verschiedene Zusammensetzungen von unabhängigen Variablen testen -- Regressionsgleichung, die am besten die beiden Kriterien „geringe Anzahl von Variablen“ und „hohes adjustiertes Bestimmtheitsmaß “ vereinbart, auswählen -- Regressionsgleichung muss statistisch relevant sein (der zum F-Test gehörende p-Wert muss kleiner sein als das Signifikanzniveau α
• Voraussetzungen für die Anwendbarkeit des multiplen Regressionsmodells - Reihe von Voraussetzungen für seine problemlose Anwendbarkeit - Einfachste Bestimmung mittels gängiger Statistiksoftware - Linearität, Vollständigkeit, keine/geringe Multikollinearität, keine Autokorrelation, Normalverteilung der Störgrößen, Homoskedastizität
• Übersicht über die Prüfung auf Verletzung der Prämissen - Prämisse -> Prämissenverletzung -> Konsequenz - Linearität in den Parametern ->Nichtlinearität -> Verzerrung der Schätzwerte - Vollständigkeit des Modells (Berücksichtigung aller relevanten Variablen) -> Unvollständigkeit -> Verzerrung der Schätzwerte - Homoskedastizität der Störgrößen -> Heteroskedastizität -> Ineffizienz - Unabhängigkeit der Störgrößen -> Autokorrelation -> Ineffizienz
• Linearität - Vorliegen lineare Beziehung zwischen abhängiger und unabhängiger Variable - mögliche Probleme: Zusammenhang X/Y nicht linear; Verzerrung durch Interaktion der x - wenn Problem erkannt wird, möglicherweise Behebung durch Transformation der Variablen - Bsp. nichtlineare Transformationen: Logarithmus, Quadrat-/Wurzelfunktion - Folge: Verzerrung der Schätzwerte - anhand des Punktediagramms zu erkennen
• Anzeige
• Vollständigkeit - wenn alle relevanten Variablen im Regressionsmodell (RM) enthalten sind, enthält die Störgröße nur zufällige Schwankungen (Erwartungswert der Schwankungen = 0) - falls relevante Einflussgrößen fehlen, werden die Schätzwerte verzerrt - wenn zu viele erklärende Variablen, ineffizient und größere Wahrscheinlichkeit, dass Variable signifikanten Regressionskoeffizienten aufweist, obwohl Zusammenhang zufällig - Schätzwert ist umso effizienter, je kleiner die zugehörige Varianz ist
• Keine (oder geringe) Multikollinearität - Multikollinearität: lineare Beziehungen zwischen den Regressoren - führt zu hohen Standardfehlern der Regressionkoeffizienten und unsicheren Ergebnissen - Streuungen der unabhängigen Variablen überschneiden sich -> Redundanz in den Daten und damit weniger Informationen - Folgen: -- vorhandene Abhängigkeiten der Response-Variable lassen sich nicht mehr eindeutig den Regressorvariablen zuordnen -- Bestimmtheitsmaß R² der Regressionsfunktion kann signifikant sein, obwohl keiner der Koeffizienten signifikant ist -- Regressionskoeffizienten können sich erheblich verändern, wenn eine Variable hinzugefügt/entfernt wird - kann durch die Korrelationsmatrix der unabhängigen Variablen aufgedeckt werden -> hohe Korrelationseffizienten nahe 1 zwischen den unabhängigen Variablen bedeuten Multikollinearität - zur Aufdeckung Ermittlung von Regressionen jeder unabhängigen Variablen auf die übrigen unabhängigen Variablen und Ermittlung des multiplen Korrelationseffizienten und des Bestimmtheitsmaßes R² -> wenn R²=1, ist die Variable überflüssig
• Unabhängigkeit der Störgrößen (keine Autokorrelation) - spielt nur eine Rolle, wenn es sich um Zeitdaten handelt (Tages-/Jahreswerte/…) - Autokorrelation im Falle von Korreliertheit der Residuen - Folgen: -- Verzerrungen bei der Ermittlung des Standardfehlers der Regressionskoeffizienten -- damit auch Verzerrung bei der Bestimmung der Konfindenzintervalle für die Regressionskoeffizienten - bei auftretender Autokorrelation sind Abweichungen von der Regressionsgeraden nicht mehr zufällig, sondern von der Abweichung der vorangehenden Werte abhängig
• Normalverteilung der Störgrößen - wenn die Störgrößen nicht normalverteilt sind, können die Signifikanztests nicht mehr durchgeführt werden
• Homoskedastizität - Streuung der Residuen ist nicht konstant über den Bereich der unabhängigen Variablen hinweg -> Heteroskedastizität - Störgröße darf nicht von der Reihenfolge der Beobachtungen und den Werten der unabhängigen Variablen abhängig sein - Varianz der Fehlervariablen darf sich nicht verändern, da sonst die Schätzung ineffizient wird - Folgen: -- Fehler bei der Schätzung der Konfindenzintervalle der Regressionskoeffizienten -- verfälscht den Standardfehler des Regressionskoeffizienten - ist am besten im Punktediagramm zu entdecken

zurück  |  weiter 1 / 1