Statistik an der Universität Jena

1. Erste Schätzung der Kommunalitäten mittels multipler Determinationskoeffizienten R2 (erklärter Varianzanteil
bei Vorhersage einer Variable durch alle anderen Variablen)
2. Einsetzen der geschätzten Kommunalitäten in Diagonale der Korrelationsmatrix
3. Faktorenextraktion/Bestimmung der Eigenvektoren (entsprechend PCA)
4. Bestimmung der Kommunalitäten der Variablen aufgrund der extrahierten Faktoren im Modell
5. Ersetzen der Diagonale der Eingangs-Korrelationsmatrix mit neuen Schätzungen für Kommunalitäten
6. Wiederholung der Schritte 3 bis 5 bis Abbruchkriterium erreicht wird
7. Iterationsprozess stoppt bei Erreichen eines Konvergenzkriteriums z.B. Unterschreiten einer festgesetzten
Schwelle für Standardschätzfehler der Kommunalitäten

Nach der Festlegung der Anzahl von relevanten Faktoren wird eine erneute Rotation der Hauptkomponenten
durchgeführt.
Ziel: Herstellen einer interpretierbaren Einfachstruktur
• „simple structure“ (Thurstone, 1947) besagt, dass die Ausgangsvariablen möglichst hoch auf einen, aber
niedrig auf den anderen Hauptkomponenten laden
• Mathematisch: die Varianz der Ladungen pro Hauptkomponente soll maximiert werden → sog. Varimax-
Rotation
• Die varimaxrotierten Hauptkomponenten sind ebenfalls orthogonal zueinander.
• Vorteil: einfache Struktur

• Der Variablen eigener, einmaliger Varianzanteil, der nicht durch Faktoren des Modells erklärt wird
• Zusammengesetzt aus spezifischen, systematischen Varianzanteil der Variablen und Messfehler der Variablen
• Bei standardisierten Variablen = 1 - Kommunalität

Hauptkomponentenanalyse:

Grundidee:

• Keine expliziten Annahmen über Datenstruktur

Ziel der Analyse:

• Datenreduktion: Zusammenfassung der Gesamt-
varianz aller Variablen
• „Umsortieren“ der Information der Variablen

Berechnung der Hauptkomponenten-/Faktorenlösung:

• Algebraisches Rechenverfahren
• Extraktion der Hauptkomponenten durch ein-
deutige Matrixoperation (ein Schritt)
• Eindeutige Lösung für Daten
• Datengrundlage: Korrelationsmatrix der Varia-
blen
• Hauptkomponenten reproduzieren Messwerte
der Personen

Varianzzerlegung:

• Extraktion/Interpretation von Hauptkomponen-
ten zur maximalen Varianzaufklärung der Ge-
samtvarianz aller Variablen
• Zerlegung der Varianz der Variablen im Modell:
• In einen durch (im Modell enthaltene) Haupt-
komponenten erklärten Varianzanteil
• In einen durch Hauptkomponenten nicht er-
klärten Anteil

Hauptachsenanalyse

Grundidee:

• Vorhandensein weniger, latenter Merkmale (Konstruk-
te), die Ausprägung der Personen auf manifesten
Items bestimmen

Ziel der Analyse:

• Finden der latenten Merkmale, die Antworten auf
Items bestimmen
• Dem Messfehler Rechnung tragen

-Berechnung der Hauptkomponenten-/Faktorenlösung:

• Iteratives Schätzverfahren
• Extraktion der Faktoren durch wiederholte Berech-
nung der Faktorlösung mit fortlaufender Korrektur
der Eingangsparameter (schrittweiser Minimierungs-
prozess)
• Eindeutige Lösung evtl. nicht vorhanden/durch Al-
gorithmus nicht findbar
• Datengrundlage: Modifizierte Korrelationsmatrix der
Variablen
• Faktoren reproduzieren beobachtete Interitemkorrela-
tionen

-Varianzzerlegung:

• Extraktion/Interpretation von Faktoren, die maximal
gemeinsame Varianz der Variablen aufklären
• Zerlegung der Varianz der Variablen im Modell (vgl.
KTT):
• In einen durch gemeinsame Faktoren erklärten Anteil
(aufzuklärende Kovarianz, Kommunalität)
• In einen variablenspezifischen Anteil
• Spezifischer, stabiler Anteil, den nur diese Variable
erfasst
• Messfehleranteil: Nicht reliabler, unsystematischer Va-
rianzanteil der Daten
• Ziel: „Erklärung“ des Varianzanteils, den mehrere Va-
riablen gemeinsam haben, d.h. der Kommunalitäten
der Variablen

• Anteil der systematischen Varianz einer Variablen
• Zusammengesetzt aus durch Faktoren erklärten Teil der Varianz und spezifischen systematischen Varianzanteil der
Variablen

Der Shapiro-Wilk Test kann prüfen, ob Residuen eines Modells normalverteilt sind.
>shapiro.test(residuals(m1b))
Shapiro-Wilk normality test
data: residuals(m1b)
W = 0.99851, p-value = 0.9511

VIF = 1/1-R2

Eine Regression E(Y | X) kann auf verschiedene Arten parametrisiert, d. h. durch verschiedene Gleichungen
dargestellt werden, in denen verschiedene Parameter vorkommen.
Der entscheidende Sachverhalt ist dabei, dass sich die Regression E(Y | X) selbst nicht ändert, obwohl die
Gleichung mit den darin vorkommenden Parametern anders aussieht.
Beispiel Mathematikleistung:
Parametrisierung A:
E(Y | X) = α0 + α1 · X
E(Matheleistung | Lehrmethode) = α0 + α1 · Lehrmethode
E(Matheleistung | Lehrmethode) = 2 + 0, 7 · Lehrmethode
Parametrisierung B (Zellenmittelwertemodell):
E(Y | X) = β0 · IX=0 + β1 · IX=1
E(Matheleistung | Lehrmethode) = β0 · ILehrmethode=0 + β1 · ILehrmethode=1
E(Matheleistung | Lehrmethode) = 2 · ILehrmethode=0 + 2, 7 · ILehrmethode=1

Datenbasierte Ansätze sind sehr populäre und häufig (unreflektiert) genutzte Techniken im Umgang mit fehlenden
Werten. Sie basieren auf Veränderungen der zugrundeliegenden Datenmatrix (daher datenbasierte Ansätze).
1. Complete Case Analysis
2. Available Case Analysis

1. Datenbasierte Ansätze
2. Imputationsbasierte Ansätze
3. Modellbasierte Ansätze

Synonyme: Listwise deletion oder casewise deletion
Vorgehen:
Nur Fälle mit Werten auf jeder Variable in Analysen einbezogen, Ausschluss von Fällen mit mind.
einem fehlenden Wert auf irgendeiner Variable
Annahme: Fehlende Werte sind missing completely at random (MCAR)
Vorteile:
Einfache Anwendung
Standardanalysen können eingesetzt werden, da dafür vollständiger Datensatz zugrunde
gelegt wird
Bei fehlenden Werten, die vollständig zufällig sind, resultieren unverfälschte Schätzungen
Nachteile:
Informationsverlust da vollständiger Ausschluss auch (teilweise) vorhandener Daten
Verlust statistischer Power aufgrund der geringeren Stichprobengröße
Verzerrte Schätzungen bei systematischen (nicht MCAR) Missings

Der sogenannte VIF (variance inflation factor) ist im Falle der Unabhängigkeit der Prädiktoren 1, er steigt mit
wachsender linearer Abhängigkeit.
Daumenregel: Der VIF-Wert sollte nicht über 5.0 gehen.