{"id":1779,"date":"2023-04-12T15:02:29","date_gmt":"2023-04-12T13:02:29","guid":{"rendered":"http:\/\/statistikgrundlagen.de\/ebook\/?post_type=chapter&p=1779"},"modified":"2023-04-12T21:12:16","modified_gmt":"2023-04-12T19:12:16","slug":"logistische-regression-mit-r","status":"publish","type":"chapter","link":"https:\/\/statistikgrundlagen.de\/ebook\/chapter\/logistische-regression-mit-r\/","title":{"rendered":"Logistische Regression mit R"},"content":{"raw":"

Logistische Regression<\/h1>\r\nEine logistische Regression ist eine weitere Variante eines Regressionsmodells, bei dem die abh\u00e4ngige Variable (Kriterium) mit einer dichotomen Variable gemessen wird, also nur zwei m\u00f6gliche Ergebnisse hat. Ein logistisches Regressionsmodell kann einen oder mehrere kontinuierliche Pr\u00e4diktoren haben.\r\n\r\nIn R kann die Funktion glm()<\/em> verwendet werden, um eine logistische Regression durchzuf\u00fchren (General Linear Model - GLM). Der Funktion werden die folgenden Argumente \u00fcbergeben:\r\n\r\nDie Formel, die die Beziehung zwischen der Ergebnisvariablen und den unabh\u00e4ngigen Variablen beschreibt, entspricht den Regressionsmodellen, die wir bisher kennengelernt haben. Jedoch wird zus\u00e4tzlich family=binomial<\/em>(link = \u201clogit\u201d)* erg\u00e4nzt.\r\n
\r\n

Beispiel<\/h1>\r\nAls Beispiel k\u00f6nnten wir unseren WPStudis Datensatz nutzen und versuchen, das Geschlecht einer Person aus ihrer Schuhgroesse vorhersagen.\r\n\r\nWir nutzen hierzu wieder den WPStudis Datensatz und erstellen ein Subset ohne Missings. Ausserdem schlie\u00dfen wir die Person in Zeile 4 aus (Ausrei\u00dfer, siehe erstes Regressionsmodell).\r\n
\r\n
data_log <-<\/span> na.omit<\/span>(WPStudis[c<\/span>(\"F1_Nummer\"<\/span>, \"F4_Koerpergroesse\"<\/span>,\"F5_Schuhgroesse\"<\/span>,\"F2_Alter\"<\/span>, \"F3_Geschlecht\"<\/span>)])<\/span>\r\ndata_log <-<\/span> data_log<-<\/span>data_lm[-<\/span>4<\/span>,]<\/span><\/code><\/pre>\r\n<\/div>\r\n<\/div>\r\n
\r\n
Voraussetzungen<\/h1>\r\nDie gute Nachricht ist, dass logistische Regression weder eine Normalverteilung der Residuen, noch Varianzhomogenit\u00e4t voraussetzt. Auch ein linearer Zusammenhang zwischen AV und UV muss nicht gegeben sein. Dennoch gibt es Voraussetzungen, die erf\u00fcllt sein m\u00fcssen: Die AV muss dichotom sein. Die Beobachtungen m\u00fcssen unabh\u00e4ngig sein (also kein Messwiederholungsdesign). Drittens sollte es wenig oder keine Korrelation zwischen den UVs geben (Multikollinearit\u00e4t). Hierf\u00fcr kann man eine Streudiagramm-Matrix verwenden. Da wir in diesem ersten Beispiel nur eine UV haben, ist dies jedoch nicht n\u00f6tig.\r\n\r\n<\/div>\r\n
\r\n
Logistisches Modell erstellen<\/h1>\r\nDie Spezifikation des Modells mit der glm()<\/em> Funktion ist analog der lm()<\/em> Funktion (also AV~UV), nur dass wir\r\nzus\u00e4tzlich das Argument \u201cfamily=binomial\u201d anh\u00e4ngen.\r\n
\r\n
lm9 <-<\/span> glm<\/span>(F3_Geschlecht ~<\/span> F5_Schuhgroesse, data=<\/span>data_log,family=<\/span>binomial)<\/span>\r\nsummary<\/span>(lm9)  <\/span>\r\n## <\/span><\/span>\r\n## Call:<\/span><\/span>\r\n## glm(formula = F3_Geschlecht ~ F5_Schuhgroesse, family = binomial, <\/span><\/span>\r\n##     data = data_log)<\/span><\/span>\r\n## <\/span><\/span>\r\n## Deviance Residuals: <\/span><\/span>\r\n##      Min        1Q    Median        3Q       Max  <\/span><\/span>\r\n## -2.05356   0.00205   0.00819   0.03280   1.52821  <\/span><\/span>\r\n## <\/span><\/span>\r\n## Coefficients:<\/span><\/span>\r\n##                 Estimate Std. Error z value Pr(>|z|)  <\/span><\/span>\r\n## (Intercept)      115.722     44.996   2.572   0.0101 *<\/span><\/span>\r\n## F5_Schuhgroesse   -2.774      1.086  -2.555   0.0106 *<\/span><\/span>\r\n## ---<\/span><\/span>\r\n## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1<\/span><\/span>\r\n## <\/span><\/span>\r\n## (Dispersion parameter for binomial family taken to be 1)<\/span><\/span>\r\n## <\/span><\/span>\r\n##     Null deviance: 84.6304  on 90  degrees of freedom<\/span><\/span>\r\n## Residual deviance:  8.8285  on 89  degrees of freedom<\/span><\/span>\r\n## AIC: 12.829<\/span><\/span>\r\n## <\/span><\/span>\r\n## Number of Fisher Scoring iterations: 9<\/span><\/span><\/code><\/pre>\r\n<\/div>\r\nDie Regressions-Koeffizienten sind hier schwer zu interpretieren, da sie sich auf Logit (nat\u00fcrlicher\r\nLogarithmus des Wettquotienten) beziehen. Eine Erh\u00f6hung der Schuhgroesse um eine Einheit verringert den Logit des Geschlechts (zur Erinnerung \u201c1\u201d war weiblich) um 2,8.\r\n\r\nDie Nullabweichung (Null deviance) ist die Abweichung des Modells mit nur dem Intercept-Term. Die Restabweichung ist die Abweichung des Modells mit allen unabh\u00e4ngigen Variablen. Eine geringere Restabweichung zeigt an, dass das Modell besser zu den Daten passt.\r\n\r\nAIC (Akaike Information Criterion) ist ein Ma\u00df f\u00fcr die relative Qualit\u00e4t eines Modells, das sowohl die Anpassungsg\u00fcte als auch die Komplexit\u00e4t des Modells ber\u00fccksichtigt. Er wird wie folgt berechnet: AIC = 2k - 2ln(L), wobei k die Anzahl der Parameter im Modell und L der maximierte Wert der Likelihood-Funktion ist. Ein niedrigerer AIC-Wert weist auf ein besser passendes Modell hin.\r\n\r\nDas Fisher-Scoring, auch bekannt als Fisher-Informationskriterium, ist ein Ma\u00df f\u00fcr die relative Qualit\u00e4t eines Modells auf der Grundlage der beobachteten Fisher-Informationen. Es wird berechnet als -2ln(L), wobei L der maximierte Wert der Likelihood-Funktion ist. Niedrigeres Fisher-Scoring deutet auf ein besser passendes Modell hin. Ist ein Ma\u00df f\u00fcr die relative Qualit\u00e4t eines statistischen Modells. AIC und BIC werden verwendet, um verschiedene Modelle zu vergleichen. Die AIC- und BIC-Werte sind im Allgemeinen niedriger f\u00fcr Modelle, die besser zu den Daten passen. F\u00fcr ein einzelnes Modell sind beide jedoch nicht zu interpretieren.\r\n\r\n<\/div>\r\n
\r\n
Vorhersagen erstellen<\/h1>\r\nDa die Regressions-Koeffizienten bei einer logistischen Regression nur schwer zu interpretieren sind, ist es spannender, eine Vorhersagefunktion zu bauen. Wir nutzen wieder predict()<\/em> Funktion. Bei logistischen Regressionsmodellen m\u00fcssen wir jedoch noch das Argument \u201ctype=\u201dresponse\u201d hinzuf\u00fcgen, um eine Wahrscheinlichkeit zu erhalten (sonst erhalten wir odds ratios)\r\n
\r\n
predict<\/span>(lm9, data.frame<\/span>(F5_Schuhgroesse=<\/span>43<\/span>), type=<\/span>\"response\"<\/span>)<\/span>\r\n##          1 <\/span><\/span>\r\n## 0.02740349<\/span><\/span><\/code><\/pre>\r\n<\/div>\r\nDer Output beantwortet die Frage: Wenn eine Person Schuhgroesse 43 hat, wie hoch ist die Wahrscheinlichkeit, dass es sich um eine Frau handelt? Die Antwort darauf ist 2,7 % (basierend auf diesen Daten). Spielen Sie doch ein wenig mit den Daten, wie ist die Wahrscheinlichkeitsverteilung f\u00fcr Ihre Schuhgroesse?\r\n\r\nDer Dichteplot l\u00e4sst sich auch sehr leicht erstellen. Bei nominalen\/dichotomen Verteilungen nutzen wir hierzu die cdplot<\/em> Funktion (cd steh f\u00fcr conditional densities)\r\n
\r\n
cdplot<\/span>(F3_Geschlecht ~<\/span> F5_Schuhgroesse, data=<\/span>data_lm)<\/span><\/code><\/pre>\r\n<\/div>\r\n\r\n\r\nIn diesem Video zeige ich, wie das in R funktioniert:\r\n
\r\n