F¨ur die Berechnung weiterer Parameter der Clusterprototypen bei an-deren Fuzzy-Clusteringverfahren, wie z.B. der Kovarianzmatrix bzw. Norm-matrix bei dem Gustafson–Kessel-Algorithmus, sind analoge ¨Uberlegungen hinsichtlich einer
”korrekten“ bzw.
”richtigen“ Berechnung der Parameter erforderlich.4 Die Kovarianzmatrix kann z.B. berechnet werden, indem sie in Richtung nah benachbarter Cluster gestaucht wird, so daß die Cluster sich weniger stark ¨uberlappen. Der Nachteil ist jedoch, daß hierdurch die Form der Cluster nicht mehr allein von den dem Cluster zugeordneten Da-ten abh¨angt. Bei dicht benachbarten Clustern hebt die Abstoßung durch die Cluster den Einfluß der Daten aus dem Gebiet dieses Clusters zumindest teilweise auf. In dem ¨uberlappenden Bereich der beiden Cluster kann dies als eine Partitionierung der Daten aufgefaßt werden.
Alternativ kann die Berechnung der Kovarianzmatrix auch ohne Ber¨ uck-sichtigung benachbarter Cluster erfolgen. Die Form der Cluster basiert nur auf den dem Cluster zugeordneten Daten. Hierdurch werden auch bei nah benachbarten Clustern die Cluster m¨oglichst pr¨azise beschrieben. Durch die Abstoßung benachbarter Clusterzentren wird dabei sichergestellt, daß die Cluster nicht identisch sind. Diese Vorgehensweise wird bei den Beispielen im folgenden Abschnitt verwendet.
keitsgrad hin. Neben den Daten werden die Clusterzentren und die kreis-f¨ormige Form der Cluster angezeigt. Die partitionierende Eigenschaft der probabilistischen Fuzzy-Clusteranalyse ist gut erkennbar. Abb. 3.17 zeigt die Zugeh¨origkeitsgrade der Daten zu den Clustern an. Daten, die der glei-chen Klasse angeh¨oren, sind benachbart. Eine scharfe Klassifikation ohne fehlklassifizierte Daten w¨urde drei Rechtecke aufweisen. Bei der Clusterana-lyse mit dem possibilistischen Fuzzy-C-Means-Algorithmus werden nur zwei verschiedene Cluster erkannt. Zwei Cluster sind identisch. Es wurden zwei Cluster gefunden, da die probabilistische Fuzzy-Clusteranalyse mit den Er-gebnissen der probabilistischen Fuzzy-Clusteranalyse initialisiert wird. (Die gefundene L¨osung ist also nur ein lokales Optimum.) Abb. 3.18 zeigt die Zugeh¨origkeitsgrade der Daten zu den Clustern und Abb. 3.16 zeigt die Projektion der Cluster auf die Attribute
”petal length“ und
”petal width“.
Der Nachteil der possibilistischen Fuzzy-Clusteranalyse, bei der Berechnung der Cluster die anderen Cluster weder direkt noch indirekt zu ber¨ ucksichti-gen, ist offensichtlich. Die Abbildungen3.19,3.20,3.23,3.24,3.21,3.22,3.25 und3.26zeigen die Ergebnisse der Clusteranalyse mit den verschiedenen in diesem Kapitel vorgestellten possibilistischen Varianten. Der Parameter ζ wurde auf 1 gesetzt. Die Anzahl der fehlklassifizierten Daten ist bei jeder Variante 11. Die Klassifikationsg¨ute hinsichtlich der Anzahl der fehlklas-sifizierten Daten ist zumindest mit der des probabilistischen Ansatzes ver-gleichbar. Die Zugeh¨origkeitsgrade der Daten zu den Clustern verdeutlichen, daß die Cluster klar erkannt werden. Im Gegensatz zu der probabilistischen Clusteranalyse geben die Zugeh¨origkeitsgrade an, wie typisch ein Datum f¨ur einen Cluster ist. Die Projektionen der Cluster auf die Attribute
”petal length“ und
”petal width“ verdeutlichen den Unterschied. W¨ahrend bei der probabilistischen Fuzzy-Clusteranalyse der gesamte Datenraum zwischen den Clustern partitioniert ist, entspricht bei der possibilistischen Fuzzy-Clusteranalyse der Zugeh¨origkeitsgrad der Form der Cluster.
Der Weindatensatz [1] besteht aus drei Klassen mit 59, 71 und 48 Daten.
Die Daten sind das Resultat einer chemischen Analyse von Weinen aus der gleichen Region. Bei der Analyse wurden 13 Bestandteile der drei verschie-denen Weintypen untersucht. F¨ur die Fuzzy-Clusteranalyse wurden von den 13 Attributen die Attribute 7, 10 und 13 verwendet. Die Abbildungen3.27, 3.28und3.29zeigen den Datensatz hinsichtlich der drei betrachteten Attri-bute. Der Datensatz wurde hinsichtlich jedes Attributs auf den Wertebereich [0,10] skaliert.
Bei der probabilistischen Fuzzy-Clusteranalyse wird der Datensatz mit 7 Fehlern klassifiziert. Abb. 3.30 zeigt die Projektion des Ergebnisses auf die Attribute 7 und 10. Bei der possibilistischen Fuzzy-Clusteranalyse des
Abbildung 3.15: Clusteranalyse des Irisdatensatzes mit dem probabilisti-schen Fuzzy-C-Means-Algorithmus.
Attribute
”petal length“ und
”petal width“.
Abbildung 3.16: Clusteranalyse des Irisdatensatzes mit dem possibilisti-schen Fuzzy-C-Means-Algorithmus.
Attribute
”petal length“ und
”petal width“.
Abbildung 3.17: Zugeh¨ origkeitsgra-de origkeitsgra-der Daten zu origkeitsgra-den Clustern bei origkeitsgra-der Clusteranalyse des Irisdatensatzes mit dem probabilistischen Fuzzy-C-Means-Algorithmus. Daten, die zu dem gleichen Cluster geh¨oren, sind benachbart.
Abbildung 3.18: Zugeh¨ origkeitsgra-de origkeitsgra-der Daten zu origkeitsgra-den Clustern bei origkeitsgra-der Clusteranalyse des Irisdatensatzes mit dem possibilistischen Fuzzy-C-Means-Algorithmus. Daten, die zu dem gleichen Cluster geh¨oren, sind benachbart.
Abbildung 3.19: Clusteranalyse des Irisdatensatzes mit dem possibilisti-schen Ansatz basierend auf der Ziel-funktion (3.4).γ= 1, Attribute
” pe-tal length“ und
”petal width“.
Abbildung 3.20: Clusteranalyse des Irisdatensatzes mit dem possibilisti-schen Ansatz basierend auf der Ziel-funktion (3.3).γ= 1, Attribute
” pe-tal length“ und
”petal width“.
Abbildung 3.21: Zugeh¨ origkeitsgra-de origkeitsgra-der Daten zu origkeitsgra-den Clustern bei der Clusteranalyse des Irisdatensat-zes mit dem possibilistischen Fuzzy-C-Means-Algorithmus basierend auf der Zielfunktion (3.4)(γ = 1). Da-ten, die zu dem gleichen Cluster geh¨oren, sind benachbart.
Abbildung 3.22: Zugeh¨ origkeitsgra-de origkeitsgra-der Daten zu origkeitsgra-den Clustern bei der Clusteranalyse des Irisdatensat-zes mit dem possibilistischen Fuzzy-C-Means-Algorithmus basierend auf der Zielfunktion (3.3)(γ = 1). Da-ten, die zu dem gleichen Cluster geh¨oren, sind benachbart.
Abbildung 3.23: Clusteranalyse des Irisdatensatzes mit dem possibilisti-schen ACE und der Modellierung der Abstoßung durch (3.18).γ= 0.3, Attribute
”petal length“ und
”petal width“.
Abbildung 3.24: Clusteranalyse des Irisdatensatzes mit dem possibilisti-schen ACE und der Modellierung der Abstoßung durch (3.19).γ= 0.5, Attribute
”petal length“ und
”petal width“.
Abbildung 3.25: Zugeh¨ origkeitsgra-de origkeitsgra-der Daten zu origkeitsgra-den Clustern bei der Clusteranalyse des Irisdatensat-zes mit dem possibilistischen ACE und derModellierung der Abstoßung durch (3.18)(γ= 0.3). Daten, die zu dem gleichen Cluster geh¨oren, sind benachbart.
Abbildung 3.26: Zugeh¨ origkeitsgra-de origkeitsgra-der Daten zu origkeitsgra-den Clustern bei der Clusteranalyse des Irisdatensat-zes mit dem possibilistischen ACE und derModellierung der Abstoßung durch (3.19)(γ= 0.5). Daten, die zu dem gleichen Cluster geh¨oren, sind benachbart.
Weindatensatzes mit dem Gustafson–Kessel-Algorithmus sind trotz der In-itialisierung mit dem probabilistischen Verfahren alle Cluster identisch, vgl.
Abb. 3.31. Das Verfahren hat das (unerw¨unschte) globale Optimum der Zielfunktion gefunden. Durch die in diesem Kapitel 3 vorgestellte Idee der Ber¨ucksichtigung einer Abstoßung zwischen benachbarten Clustern kann dieses Zusammenfallen der Cluster vermieden werden. Die Abbildungen 3.32, 3.33, 3.34, 3.35, 3.36 und 3.37zeigen die Ergebnisse der verschiede-nen possibilistischen Varianten des Gustafson–Kessel-Algorithmus. Um die Einteilung des Datenraums in Regionen besser erkennen und die Ergeb-nisse besser mit der probabilistischen Fuzzy-Clusteranalyse vergleichen zu k¨onnen, wurde der Datenraum leicht in der Farbe des Cluster, zu dem der gr¨oßte Zugeh¨origkeitsgrad vorliegt, eingef¨arbt.
Mitγ= 1 werden bei dem Ansatz, basierend auf der Zielfunktion (3.3), 28 Daten und bei dem Ansatz, basierend auf der Zielfunktion (3.4), 35 Daten fehlklassifiziert. Bei dem Ansatz, basierend auf dem ACE und der Model-lierung der Abstoßung durch (3.18), werden f¨ur γ= 1 25 Daten fehlklas-sifiziert. Bei dem possibilistischen Ansatz, basierend auf dem ACE und der Modellierung der Abstoßung durch (3.19), muß γ auf 10 erh¨oht werden, um eine vergleichbare Klassifizierung zu erhalten. Es werden dann 28 Da-ten fehlklassifiziert. Die Ursache f¨ur die im Vergleich zum probabilistischen Gustafson–Kessel-Algorithmus aufgetretenen Abweichungen ist anhand der Abbildungen 3.32, 3.33, 3.34 und 3.35erkennbar. Der blaue Cluster wird durch die Daten des roten und des gr¨unen Clusters angezogen. Im Gegensatz zu dem probabilistischen Fuzzy-Clusteringverfahren handelt es sich bei dem possibilistischen umkeinpartitionierendes Verfahren. Eine große Punktwol-ke in der Mitte ¨ubt daher auf alle Cluster eine starke Anziehungskraft aus.
Die Form des blauen Clusters ist daher ein Kompromiß zwischen den blauen Datenpunkten am Rand und den Datenpunkten in der Mitte.
Durch eine Erh¨ohung des Abstoßungsfaktorsγauf 6 kann bei dem An-satz, basierend auf der Zielfunktion (3.3), und bei dem AnAn-satz, basierend auf dem ACE und der Modellierung der Abstoßung durch (3.18), die Form des blauen Clusters besser beschrieben werden, vgl. Abb.3.36und3.37. Bei dem zielfunktionsbasierten Ansatz werden 35 Daten und bei dem
” Alter-nating Cluster Estimation“ nur 6 Daten falsch klassifiziert. Bei der Model-lierung der Abstoßung zwischen den Clustern durch die e-Funktion konnte durch eine Ver¨anderung des Parameters γ der blaue Cluster nicht besser beschrieben werden. Die Ursache hierf¨ur ist, daß bei der Normierung der Daten auf den Bereich [0,10] der Abstand des blauen Clusters zu den an-deren Clustern so groß ist, daß bei der Modellierung des Abstoßungsgrads mit der e-Funktion der Abstoßungsgrad so klein ist, daß die Multiplikation
mit dem Parameter γ nicht ausreicht. Bei der Berechnung der Abstoßung durch e−d2(β~i,~βk) ist ab einem Abstand von 2 zwischen benachbarten Clu-stern die Abstoßung gering und ab einem Abstand von 3 irrelevant, vgl.
Abb. 3.2. Demgegen¨uber ist bei der Verwendung des Ausdrucks 1
d2(β~i,~βk)
auch bei einem etwas gr¨oßeren Abstand zwischen benachbarten Clustern noch eine geringf¨ugige Abstoßung vorhanden, die durch eine Erh¨ohung von γ ausgenutzt werden kann, vgl. Abb.3.1.
Der Unterschied in der Form der berechneten Cluster zwischen den ziel-funktionsbasierten Ans¨atzen und den Ans¨atzen, basierend auf dem ACE, be-ruht auf der unterschiedlichen Berechnung der Kovarianzmatrix der Cluster.
Bei den zielfunktionsbasierten Ans¨atzen wird die Kovarianzmatrix durch be-nachbarte Cluster beeinflußt. Bei den Ans¨atzen, basierend auf dem ACE, ist man demgegen¨uber bei der Berechnungsvorschrift frei. Um die Form der Cluster m¨oglichst exakt zu beschreiben, wird daher die Kovarianzmatrix allein aus den dem Cluster zugeordneten Daten berechnet.5