Statistik an der Universität Jena

• E(ε) = 0.
• E(ε | X) = 0.
• E(ε | f(X)) = 0.
• Cov(ε,X) = 0 , falls X numerisch ist.

Das Residuum ε bezüglich einer Regression E(Y | X) ist definiert als Abweichung der Zufallsvariablen Y von ihrer
Regression E(Y|X) auf X.
In Formeln: ε = Y − E(Y | X)
Daraus folgt auch: Y = E(Y | X) + ε

Eine Regression E(Y | X) kann auf verschiedene Arten parametrisiert, d. h. durch verschiedene Gleichungen
dargestellt werden, in denen verschiedene Parameter vorkommen.
Der entscheidende Sachverhalt ist dabei, dass sich die Regression E(Y | X) selbst nicht ändert, obwohl die
Gleichung mit den darin vorkommenden Parametern anders aussieht.
Beispiel Mathematikleistung:
Parametrisierung A:
E(Y | X) = α0 + α1 · X
E(Matheleistung | Lehrmethode) = α0 + α1 · Lehrmethode
E(Matheleistung | Lehrmethode) = 2 + 0, 7 · Lehrmethode
Parametrisierung B (Zellenmittelwertemodell):
E(Y | X) = β0 · IX=0 + β1 · IX=1
E(Matheleistung | Lehrmethode) = β0 · ILehrmethode=0 + β1 · ILehrmethode=1
E(Matheleistung | Lehrmethode) = 2 · ILehrmethode=0 + 2, 7 · ILehrmethode=1

>set.seed(34235423)
> N <- 500
> x1 <-rnorm(N,1,2)
> x2 <- x1 + rnorm(N,0,1)
> y <- 0.2 + 0.4*x1 + 0.3*x2 + rnorm(N)

Der sogenannte VIF (variance inflation factor) ist im Falle der Unabhängigkeit der Prädiktoren 1, er steigt mit
wachsender linearer Abhängigkeit.
Daumenregel: Der VIF-Wert sollte nicht über 5.0 gehen.

VIF = 1/1-R2

Der Shapiro-Wilk Test kann prüfen, ob Residuen eines Modells normalverteilt sind.
>shapiro.test(residuals(m1b))
Shapiro-Wilk normality test
data: residuals(m1b)
W = 0.99851, p-value = 0.9511

Durbin-Watson Test: Überprüft, ob die Residuen unabhängig sind (keine Autokorrelation der Residuen). Dies
kann bei hierarchischen Designs (z.B. Schule, Klasse, Schüler) oder bei Messwiederholungsdesigns wichtig sein. Mögliche Lösungen: Mulitlevel bzw. Mixed Effects Regressionen.
> library(lmtest)
> dwtest(m1b)
Durbin-Watson test
data: m1b
DW = 2.1019, p-value = 0.8734
alternative hypothesis: true autocorrelation is greater than 0

Einen statistischen Test auf Varianzgleichheit bietet der Breusch-Pagan Test.
> ncvTest(m1b)
Non-constant Variance Score Test
Variance formula: ~ fitted.values
Chisquare = 26.41563 Df = 1
p = 2.75304e-07

1. Datenbasierte Ansätze
2. Imputationsbasierte Ansätze
3. Modellbasierte Ansätze

Datenbasierte Ansätze sind sehr populäre und häufig (unreflektiert) genutzte Techniken im Umgang mit fehlenden
Werten. Sie basieren auf Veränderungen der zugrundeliegenden Datenmatrix (daher datenbasierte Ansätze).
1. Complete Case Analysis
2. Available Case Analysis

Synonyme: Listwise deletion oder casewise deletion
Vorgehen:
Nur Fälle mit Werten auf jeder Variable in Analysen einbezogen, Ausschluss von Fällen mit mind.
einem fehlenden Wert auf irgendeiner Variable
Annahme: Fehlende Werte sind missing completely at random (MCAR)
Vorteile:
Einfache Anwendung
Standardanalysen können eingesetzt werden, da dafür vollständiger Datensatz zugrunde
gelegt wird
Bei fehlenden Werten, die vollständig zufällig sind, resultieren unverfälschte Schätzungen
Nachteile:
Informationsverlust da vollständiger Ausschluss auch (teilweise) vorhandener Daten
Verlust statistischer Power aufgrund der geringeren Stichprobengröße
Verzerrte Schätzungen bei systematischen (nicht MCAR) Missings