Statistik II f¨ur Betriebswirte Vorlesung 7

(1)

Statistik II f¨ ur Betriebswirte Vorlesung 7

Dr. Andreas W¨unsche

TU Bergakademie Freiberg Institut f¨ur Stochastik

25. November 2019

Dr. Andreas W¨unsche Statistik II f¨ur Betriebswirte Vorlesung 7 Version: 13. November 2019 1

(2)

6.2. Rangkorrelation

I Rangkorrelationskoeffizienten r_X,Y treffen Aussagen ¨uber den monotonen Zusammenhang zweier Merkmale X und Y, die lediglich ordinal skaliert sein m¨ussen.

I Es gilt immer −1≤r_X,Y =r_Y_,X ≤1 .

I Im Fall von r_X,Y = +1 besteht eine vollständig gleichläufige (d.h. streng monoton wachsende) Beziehung zwischen X und Y , d.h. größeren Werten von X entsprechen größere Werte von Y .

I Im Fall von r_X,Y =−1 besteht eine vollständig gegenläufige (d.h. streng monoton fallende) Beziehung zwischen X und Y , d.h. größeren Werten von X entsprechen kleinere Werte von Y.

I Im Fall von r_X,Y = 0 besteht keine monotone Beziehung zwischen X und Y .

I Wir betrachten zwei verschiedene Rangkorrelationskoeffizienten, den Rangkorrelationskoeffizienten von Spearman r_X,Y^(S) und

den von Kendall r_X^(K)_,Y =τ (

”Kendallsτ“).

(3)

Spearmanscher Rangkorrelationskoeffizient

I Zur Berechnung des Spearmanschen Rangkorrelationskoeffizienten bestimmt man einzeln für beide Merkmale die Ränge (bei beiden Datenreihen Rang 1 für den jeweils kleinsten Wert usw.).

I Treten Bindungen (also übereinstimmende Werte in jeweils einer Datenreihe) auf, wird wieder der arithmetische Mittelwert der zugehörigen Rangzahlen als Rang gewählt.

I R(x_i) bzw. R(y_i) ,i = 1, . . . ,n, seien diese R¨ange f¨ur eine konkrete Stichprobe (x₁,y₁), . . . ,(x_n,y_n) .

(4)

Spearmanscher Rangkorrelationskoeffizient

I DerSpearmansche Rangkorrelationskoeffizient wird berechnet, indem in der Formel für den gewöhnlichen Korrelationskoeffizienten die Werte der Zufallsgrößen und Mittelwerte durch die Werte der Ränge und entsprechend der Mittelwerte der Ränge ersetzt werden, also die Ränge selbst als Merkmalswerte betrachtet werden,

r_X,Y^(S) =

n

P

i=1

R(xi)−R(x) R(yi)−R(y) s n

P

i=1

R(xi)−R(x) 2s

n

P

i=1

R(yi)−R(y) 2

.

I Liegen sowohl in der Stichprobe x1, . . . ,xn als auch in der Stichprobe y₁, . . . ,y_n keine Bindungen vor, gilt auch

r^(S)

X,Y = 1− 6

n

P

i=1

(R(x_i)−R(y_i))² n(n²−1) .

(5)

Berechnung im Fall vorhandener Bindungen

r_X,Y^(S⁾=

n(n²−1)−¹₂kx −¹₂ky−6

n

P

i=1

(R(xi)−R(yi))² pn(n²−1)−kx

pn(n²−1)−ky

mit den Korrekturtermen k_x =

px

X

j=1

(t_j³−t_j), k_y =

py

X

j=1

(s_j³−s_j) und

p_x Anzahl der Bindungen in derx−Stichprobe, t_j Anzahl der ¨ubereinstimmenden Messwerte in der

j−ten Bindung derx−Stichprobe,

p_y Anzahl der Bindungen in dery−Stichprobe, s_j Anzahl der ¨ubereinstimmenden Messwerte in der

j−ten Bindung dery−Stichprobe.

(6)

Beispiel 6.2a Klausurnoten BWL und Statistik

BWL Statistik

Student Punkte Leistung Rang Punkte Leistung Rang

1 49 sehr gut 1 42 gut 2

2 41 gut 2 32 befried. 3

3 33 befried. 3 50 sehr gut 1

4 26 mangelh. 4 18 ungen¨ug. 5

5 17 ungen¨ug. 5 26 mangelh. 4

Es liegen keine Bindungen vor.

r_X,Y^(S) = 1− 6

n

P

i=1

(R(xi)−R(yi))² n(n²−1)

= 1−6 (−1)²+ (−1)²+2²+ (−1)²+1²

5·(5²−1) = 0.6.

(7)

Beispiel 6.2b Klausurnoten BWL und Statistik

Etwas andere Klausurnoten.

BWL Statistik

Student Punkte Leistung Rang Punkte Leistung Rang

1 49 sehr gut 1.5 42 gut 2

2 48 sehr gut 1.5 32 befried. 3.5

3 33 befried. 3 50 sehr gut 1

4 26 mangelh. 4 18 ungen¨ug. 5

5 17 ungen¨ug. 5 31 befried. 3.5

Jeweils eine Bindung mit zwei ¨ubereinstimmenden Werten in der x−und y−Stichprobe ⇒ kx =ky = 2³−2 = 6.

r_X,Y^(S⁾=

n(n²−1)−¹₂k_x −¹₂k_y−6

n

P

i=1

(R(x_i)−R(y_i))² pn(n²−1)−kx

pn(n²−1)−ky

= 120−3−3−6·11.5 5·(5²−1)−6 = 45

114 = 0.395.

(8)

Test auf Unkorreliertheit der R¨ ange

I Auf Basis des Spearmanschen Rangkorrelationskoeffizienten kann man eine verbundene Stichprobe auf Unkorreliertheit der Ränge testen. Dieser Test kann als Unabhängigkeitstest für (mindestens) ordinale Merkmale verwendet werden.

I Hypothesen: H₀ :%^(S)_X_,Y = 0 , H_A :%^(S)_X_,Y 6= 0 .

I Testgr¨oße: T =r_X,Y^(S)√ n−1 .

Diese Testgröße ist für große Stichprobenumfänge (Faustregel:

n≥30) unter H0 n¨aherungsweise standardnormalverteilt.

I Kritischer Bereich zum Niveau α: K ={t∈R:|t|>z_1−α/2}.

I Bemerkungen:

I Analog k¨onnen einseitige Tests durchgef¨uhrt werden.

I F¨ur kleine Stichprobenumf¨ange kann man den exakten Test unter Nutzung der

”Hotelling-Pabst-Statistik“ durchf¨uhren.

(9)

Spearmans-Rangkorrelation in Statgraphics

I Beispiel 6.2a Spearman Rank Correlations

Note BWL Note Statistik

Note BWL 0,6000

(5) 0,2301 Note Statistik 0,6000

(5) 0,2301 Correlation

(Sample Size) P-Value

Kendall Rank Correlations

Note BWL 0,4000

I Beispiel 6.2b Spearman Rank Correlations

Note BWL 0,3947

Note BWL 0,2222

(10)

Die Kendallsche Rangkorrelation (Kendalls τ )

I Die Paare von Zufallsgr¨oßen oder entsprechenden Realisierungen (X_i,Y_i) und (X_j,Y_j) mit i <j heißen konkordant, falls (Xi −Xj)(Yi −Yj)>0 (dann folgt aus Xi <Xj auch Yi <Yj

und umgekehrt und auch mit > statt <).

I Die Paare von Zufallsgr¨oßen oder entsprechenden Realisierungen (Xi,Yi) und (Xj,Yj) miti <j heißen diskordant, falls

(Xi −Xj)(Yi −Yj)<0 (dann folgt aus Xi <Xj auch Yi >Yj

und umgekehrt und auch mit Vertauschung von > und <).

I F¨ur einen Zufallsvektor (X,Y) ist die (theoretische) Kendallsche Rangkorrelationdefiniert durch

%^(K)_X,Y =P((X1−X2)(Y1−Y2)>0)−P((X1−X2)(Y1−Y2)<0), wobei (X₁,Y₁) und (X₂,Y₂) unabh¨angige Zufallsvektoren seien, die jeweils die gleiche gemeinsame Verteilung besitzen wie (X,Y) .

(11)

Sch¨ atzung der Kendallschen Rangkorrelation

Die Kendallsche Rangkorrelation %^(K)_X_,Y wird aus einer konkreten Stichprobe gesch¨atzt durch dieempirische Kendallsche Rangkorrelation

r_X^(K)_,Y =τ = nk −nd

s

n 2

−¹₂

px

P

j=1

(t_j −1)t_j s

n 2

−¹₂

py

P

j=1

(s_j −1)s_j mit folgenden Bezeichnungen:

n_k Anzahl der konkordanten Paare, nd Anzahl der diskordanten Paare,

px Anzahl der Bindungen in der x−Stichprobe, t_j Anzahl der ¨ubereinstimmenden Messwerte in der

j−ten Bindung derx−Stichprobe,

py Anzahl der Bindungen in der y−Stichprobe, s_j Anzahl der ¨ubereinstimmenden Messwerte in der

j−ten Bindung dery−Stichprobe.

(12)

Berechnung von τ wenn keine Bindungen vorliegen

I Liegen keine Bindungen vor, vereinfacht sich die Formel zur Berechnung der Kendallschen Rangkorrelation wie folgt:

r_X,Y^(K⁾=τ = n_k −n_d

n 2

= 1− 4·n_d n(n−1).

I Die Anzahl der diskordanten Paaren_d kann man auch ohne

Berechnung der R¨ange berechnen. Dazu ordne man die Wertepaare (x1,y1), . . . ,(xn,yn) so, dass x1 <x2 < . . . <xn gilt.

I Danach bestimme man f¨ur alle j = 1, . . . ,n die Anzahl q_j der auf yj folgenden Werte yi (d.h. miti >j) , die kleiner als yj sind (d.h. f¨ur die y_i <y_j gilt).

I Die Anzahl der diskordanten Paare ist dann n_d =

n

X

j=1

q_j.

(13)

Berechnung im Beispiel 6.2a

I

BWL Statistik

Student Leistung Note Leistung Note q_j

1 sehr gut 1 gut 2 1

2 gut 2 befriedigend 3 1

3 befriedigend 3 sehr gut 1 0

4 mangelhaft 4 ungen¨ugend 5 1

5 ungen¨ugend 5 mangelhaft 4 0

I n_d =

n

X

j=1

q_j = 3 .

I r_X,Y^(K⁾=τ = 1− 4·nd

n(n−1) = 1−4·3 5·4 = 2

5 = 0.4 .

(14)

Berechnung im Beispiel 6.2b (mit Bindungen)

Es gibt ⁿ₂

= ⁵₂

= 10 Paare miti <j.

(x_i,y_i) (x_j,y_j) konkordant/ diskordant (1.5, 2) (1.5, 3.5)

(1.5, 2) (3, 1) diskordant (1.5, 2) (4, 5) konkordant (1.5, 2) (5, 3.5) konkordant (1.5, 3.5) (3, 1) diskordant (1.5, 3.5) (4, 5) konkordant (1.5, 3.5) (5, 3.5)

(3, 1) (4, 5) konkordant

(3, 1) (5, 3.5) konkordant (4, 5) (5, 3.5) diskordant

Es sindn_k = 5 Paare konkordantund n_d = 3 Paare diskordant.

(15)

Fortsetzung der Berechnung im Beispiel 6.2b

I Sowohl die x- als auch die y-Stichprobe haben jeweils eine (px =py = 1) Zweierbindung (t1 =s1= 2).

I

=⇒ 1

2

px

X

j=1

(tj −1)tj = 1 2

py

X

j=1

(sj −1)sj = 1

2(2−1)2 = 1

I Damit ist

r_X^(K)_,Y =τ = nk −nd

s

n 2

−¹₂

px

P

j=1

(t_j −1)t_j s

n 2

− ¹₂

py

P

j=1

(s_j −1)s_j.

= 5−3

p(10−1)(10−1) = 2

9 ≈0.2222.

(16)

Test auf eine verschwindende Kendallsche Rangkorrelation

I Auf Basis von Kendalls τ kann man eine verbundene Stichprobe auf das Vorliegen einer monotonen Beziehung testen. Dieser Test kann als Unabh¨angigkeitstest f¨ur (mindestens) ordinale Merkmale verwendet werden.

I Hypothesen: H₀ :%^(K)

X,Y = 0 , H_A:%^(K)

X,Y 6= 0 .

I Testgr¨oße: T = s

9n(n−1) 2(2n+ 5)·τ

Diese Testgröße ist für große Stichprobenumfänge (Faustregel:

n≥8) unter H₀ n¨aherungsweise standardnormalverteilt.

I Kritischer Bereich zum Niveauα: K ={t ∈R:|t|>z_1−α/2}.

I Bemerkung: Analog k¨onnen einseitige Tests durchgef¨uhrt werden.

(17)

Kendalls τ in Statgraphics

I Beispiel 6.2a

Spearman Rank Correlations

Note BWL 0,6000

Note BWL 0,4000

(Sample Size) P-Value I Beispiel 6.2b

Spearman Rank Correlations

Note BWL 0,3947

Note BWL 0,2222

(18)

6.3. p > 2 Merkmale

I Werdenp >2 Merkmale, modelliert durch Zufallsgr¨oßen X1, . . . ,Xp

oder denp−dimensionalen Zufallsvektor (X₁, . . . ,Xp) , untersucht, k¨onnen f¨ur alle Paare X_i,X_j mit i,j = 1, . . . ,p die entsprechenden (theoretischen) Korrelationskoeffzienten %_Xi_,_Xj =:%ij (falls sie existieren) betrachtet werden. Dabei gilt %ii = 1 ,i = 1, . . . ,p.

I Diese Korrelationskoeffizienten k¨onnen zur Korrelationsmatrix (%ij)_i_,j_=1,...,p der Ordnung p×p zusammengefasst werden.

I Die empirischen gewöhnlichen Korrelationskoeffzienten r_ij :=r_Xi_,_Xj liefern Schätzwerte für %_ij.

I Auch die empirischen Korrelationskoeffizienten k¨onnen zu einer p×p−Matrix zusammengefasst werden, zur empirischen Korrelationsmatrix (rij)_i_,j_=1,...,p.

I Die Eigenschaften dieser Matrizen beeinflussen wesentlich die beiden nachfolgenden Begriffsbildungen und Methoden.

(19)

Partieller Korrelationskoeffizient

I Eine Korrelation zwischen zwei Zufallsgrößen X und Y kann möglicherweise auf einen gemeinsamen (linearen) Einfluss einer dritten Zufallsgröße U zurückgeführt werden.

I Die partielle Korrelation ist die Korrelation zwischen X und Y unter Ausschaltung des (linearen) Einflusses von U.

I Wir werden hier annehmen, dass alle Zufallsgr¨oßen X,Y,U normalverteilt sind (genauer, dass der Zufallsvektor (X,Y,U) normalverteilt ist).

I Derempirische partielle Korrelationskoeffizient ist r_X,Y_|U = r_X_,Y −r_X_,U ·r_Y_,U

q(1−r²

X,U)(1−r²

Y,U) .

(20)

Hintergrund

I Hintergrund der Definition der partiellen Korrelation ist die folgende Eigenschaft eines normalverteilten Zufallsvektors (X,U) mit Kenngr¨oßen EX =EU = 0 ,VarX =σ²

X ,VarU =σ²

U und Cov(X,U) =%_X,Uσ_Xσ_U.

I Die (im Quadratmittel) beste Sch¨atzung von X (Bez. ˆX) auf der Basis von U ist ˆX =%_X,Uσ_X

σ_UU, entsprechend erhält man für Y die beste Schätzung Yˆ =%_Y_,Uσ_Y

σ_UU.

I Der theoretische Korrelationskoeffizient der zwei Zufallsgr¨oßen X −Xˆ und Y −Yˆ ist dann genau

%_X−_ˆ

X,Y−Yˆ = %_X,Y −%_X,U ·%_Y_,U q(1−%²

X,U)(1−%²

Y,U)

=%_X_,Y_|U.

(21)

Beispiel 6.3

I In einem Beispiel (siehe z.B. Mardia et al, Multivariate Analysis) wurden die Intelligenz (X1), das Gewicht (X2) und das Alter (X3) von Schulkindern gemessen und die empirischen

Korrelationskoeffizienten bestimmt:

r_X

1,X2 = 0.6162, r_X

1,X3 = 0.8267, r_X

2,X3 = 0.7321.

I Dies deutet auf einen relativ starken (linearen) Zusammenhang zwischen Intelligenz und Gewicht hin, da r_X

1,X2 = 0.6162 gilt.

I Der partielle Korrelationskoeffizient zwischen Intelligenz und

Gewicht (sozusagen bei Konstanthaltung des Alters) betr¨agt jedoch r_X

1,X2|X3 = 0.0286 , so dass er fast Null ist.

(22)

Test auf partielle Unkorreliertheit

I Voraussetzung: (X,Y,U) ist normalverteilt.

I Hypothesen: H0 :%_X_,Y_|U = 0 , HA :%_X_,Y_|U 6= 0 .

I Testgr¨oße: T = r_X,Y_|U q1−r²

X,Y|U

·√ n−3 .

Diese Testgr¨oße ist unter H0 t−verteilt mitn−3 Freiheitsgraden.

I Kritischer Bereich zum Niveau α: K ={t ∈R:|t|>t_{n−3;1−α/2}}.

I Bemerkung: Analog k¨onnen einseitige Tests durchgef¨uhrt werden.

(23)

Multipler Korrelationskoeffizient

I Dermultiple Korrelationskoeffizientist der betragsmäßig größte Korrelationskoeffizient zwischen einer Zufallsgröße Y und einer Linearkombination weiterer Zufallsgrößen X₁, . . . ,X_p.

I Auch hier gehen wir wieder von normalverteilten Zufallsgr¨oßen (Zufallsvektoren) aus.

I Derempirische multiple Korrelationskoeffizientim Fall p = 2 kann berechnet werden durch

r_Y_|(X

1,X2) = v u u t

r_Y²_,X

1+r_Y²_,X

2 −2·r_Y,X

1 ·r_Y_,X

2 ·r_X

1,X2

1−r_X²

1,X2

.

I Die multiple Korrelation ist ein Spezialfall der kanonischen Korrelation.

(24)

Test auf

” multiple“ Unkorreliertheit

I Voraussetzung: (Y,X1, . . . ,Xp) ist normalverteilt.

I Man testet auf Unkorreliertheit (und damit auch Unabh¨angigkeit) zwischen Y und einer Linearkombination von X₁, . . . ,X_p.

I Hypothesen: H₀ :%_Y_|(X

1,...,Xp) = 0 , H_A :%_Y|(X

1,...,Xp) >0 .

I Testgr¨oße: T =

(n−1−p)·r²

Y|(X1,...,Xp)

p·(1−r²

Y|(X1,...,Xp))

Diese Testgr¨oße ist unter H0 F−verteilt mit p,n−p−1 Freiheitsgraden.

I Kritischer Bereich zum Niveau α: K ={t ∈R:t>Fp;n−p−1;1−α}

(25)

Beispiel 6.4

Ein Filialunternehmen wertet Daten eines bestimmten Jahres ¨uber die Filialen, deren Verkaufsfl¨ache (in Tsd. qm), die Passantenfrequenz (in Tsd. Passanten pro Tag) und den Jahresumsatz (in Mio. e) aus.

Quelle: Bleym¨uller et al, Statistik f¨ur Wirtschaftswissenschaftler . Statgraphics:

Correlations

Verkaufsfläche Passantenfrequenz Jahresumsatz

Verkaufsfläche 0,5424 0,9843

(12) (12)

0,0685 0,0000

Passantenfrequenz 0,5424 0,6514

(12) (12)

0,0685 0,0217

Jahresumsatz 0,9843 0,6514

(12) (12)

0,0000 0,0217

Correlation (Sample Size) P-Value

Canonical Correlations

Variables in set 1:

Verkaufsfläche (1000 qm) Passantenfrequenz (1000/Tag) Variables in set 2:

Jahresumsatz (Mio Euro) Number of complete cases: 12

Canonical Wilks

Number Eigenvalue Correlation Lambda Chi-Square D.F. P-Value 1 0,988422 0,994194 0,0115777 40,1281 2 0,0000

(26)

Kanonische Korrelation in Statgraphics im Beispiel 6.4

Correlations

Verkaufsfläche Passantenfrequenz Jahresumsatz

Verkaufsfläche 0,5424 0,9843

(12) (12)

0,0685 0,0000

Passantenfrequenz 0,5424 0,6514

(12) (12)

0,0685 0,0217

Jahresumsatz 0,9843 0,6514

(12) (12)

0,0000 0,0217

Correlation (Sample Size) P-Value

Variables in set 1:

Verkaufsfläche (1000 qm) Passantenfrequenz (1000/Tag) Variables in set 2:

Jahresumsatz (Mio Euro) Number of complete cases: 12

Canonical Wilks

Number Eigenvalue Correlation Lambda Chi-Square D.F. P-Value 1 0,988422 0,994194 0,0115777 40,1281 2 0,0000