Lernen Terminologischen Wissens mit hoher Konﬁdenz aus fehlerhaften Daten

(1)

Lernen Terminologischen Wissens

mit hoher Konﬁdenz aus fehlerhaften Daten

Daniel Borchmann

9. September 2014

(2)

Ziel

Wissen für maschinelle Bearbeitung aus Daten extrahieren

Beobachtung

faktisches Wissen leicht extrahierbar

terminologisches (begriﬄiches) Wissen schwer extrahierbar

Lernen Terminologischen Wissens mit hoher Konﬁdenz aus fehlerhaften Daten 9. September 2014 2 / 21

(3)

Ziel

Wissen für maschinelle Bearbeitung aus Daten extrahieren Beobachtung

(4)

Ziel

(5)

Ziel

Beispiel (RDF-Triple aus DBpedia/Wikidata)

(6)

Ziel

<http://dbpedia.org/resource/Aldous_Huxley>

<http://dbpedia.org/ontology/notableWork>

<http://dbpedia.org/resource/Brave_New_World> .

(7)

Ziel

<http://dbpedia.org/resource/Aldous_Huxley>

<http://dbpedia.org/ontology/notableWork>

<http://dbpedia.org/resource/Brave_New_World> .

(8)

Ziel

(9)

Ziel

(10)

Ziel

terminologisches (begriﬄiches) Wissen schwer extrahierbar Beispiel

Jede Katze ist ein Säugetier. Hunde sind keine Katzen.

Jeder Mensch, der ein Kind hat, ist ein Elternteil.

(11)

Ziel

Jede Katze ist ein Säugetier.

Hunde sind keine Katzen.

(12)

Ziel

(13)

Ziel

(14)

Ziel

Terminologisches Wissen für maschinelle Bearbeitung aus Daten extrahieren

Grundlegende Fragen

Form der Daten?

ñ Relationale Daten

Wie Wissen darstellen?

ñ Beschreibungslogiken

Wie Wissen extrahieren?

ñ Formale Begriﬀsanalyse

Welches Wissen extrahieren?

ñ „interessantes“

Beispiel (ℰℒ^K, General Concept Inclusions (GCIs))

KatzeĎSäugetier Hund[KatzeĎK DhatKind.JĎElternteil

(15)

Ziel

Terminologisches Wissen für maschinelle Bearbeitung aus Daten extrahieren Grundlegende Fragen

Form der Daten?

(16)

Ziel

Form der Daten?

ñ Relationale Daten Wie Wissen darstellen?

(17)

Ziel

Form der Daten?

ñ Beschreibungslogiken Wie Wissen extrahieren?

(18)

Ziel

Form der Daten?

ñ Formale Begriﬀsanalyse Welches Wissen extrahieren?

(19)

Ziel

Form der Daten?

ñ „interessantes“ Beispiel (ℰℒ^K, General Concept Inclusions (GCIs))

(20)

Ziel

Form der Daten? ñ Relationale Daten Wie Wissen darstellen?

(21)

Ziel

Form der Daten? ñ Relationale Daten

Wie Wissen darstellen? ñ Beschreibungslogiken Wie Wissen extrahieren?

(22)

Ziel

(23)

Ziel

Beispiel (ℰℒ^K, General Concept Inclusions (GCIs)) KatzeĎSäugetier

Hund[KatzeĎK DhatKind.JĎElternteil

(24)

Ziel

Hund[KatzeĎK

DhatKind.JĎElternteil

(25)

Ziel

Hund Katze

(26)

Ziel

Wie Wissen darstellen? ñ Beschreibungslogiken Wie Wissen extrahieren? ñ Formale Begriﬀsanalyse Welches Wissen extrahieren?

Hund[KatzeĎK DhatKind.JĎElternteil

(27)

Ziel

Wie Wissen darstellen? ñ Beschreibungslogiken Wie Wissen extrahieren? ñ Formale Begriﬀsanalyse Welches Wissen extrahieren? ñ „interessantes“

Hund Katze

(28)

Person Künstler

Person

Person Schriftsteller hatKind

hatKind

t DhatKind.SchriftstellerĎKünstler, ...u

Interpretation Basis von GCIs

(29)

Person Künstler

Person

hatKind

(30)

Person Künstler

Person

hatKind

Interpretation

Basis von GCIs

(31)

Person Künstler

Person

hatKind

(32)

Fixiere disjunkte MengenN_C (Konzeptnamen) und NR (Rollennamen).

Deﬁnition

ℰℒ^K-Konzeptbeschreibungen C sind von der Form C ::=A|C[C | Dr.C | K | J fürAPN_C,r PN_R.

Beispiel

Katze[Hund,DhatKind.Schriftsteller,J,K

(33)

Deﬁnition

Beispiel

(34)

Deﬁnition

Beispiel

(35)

Deﬁnition

Eine Interpretationℐ = (∆^ℐ,¨^ℐ) besteht aus

einer nicht-leeren Menge∆^ℐ von Elementen, einer Abbildung¨^ℐ mit

A^ℐ Ď∆^ℐ r^ℐ Ď∆^ℐˆ∆^ℐ fürAPNC,r PNR.

Deﬁnition

Für APNC,C,D zweiℰℒ^K-Konzeptbeschreibungen undr PNR sei K^ℐ =H,J^ℐ = ∆^ℐ,

(C [D)^ℐ :=C^ℐXD^ℐ,

(Dr.C)^ℐ :=tx P∆^ℐ | Dy P∆^ℐ: (x,y)Pr^ℐ,y PC^ℐu.

(36)

Deﬁnition

Eine Interpretationℐ = (∆^ℐ,¨^ℐ) besteht aus einer nicht-leeren Menge∆^ℐ von Elementen,

einer Abbildung¨^ℐ mit

A^ℐ Ď∆^ℐ r^ℐ Ď∆^ℐˆ∆^ℐ fürAPNC,r PNR.

Deﬁnition

(37)

Deﬁnition

Eine Interpretationℐ = (∆^ℐ,¨^ℐ) besteht aus einer nicht-leeren Menge∆^ℐ von Elementen, einer Abbildung¨^ℐ mit

A^ℐ Ď∆^ℐ r^ℐ Ď∆^ℐˆ∆^ℐ fürAPNC,rPNR.

Deﬁnition

(38)

Deﬁnition

Eine Interpretationℐ = (∆^ℐ,¨^ℐ) besteht aus einer nicht-leeren Menge∆^ℐ von Elementen, einer Abbildung¨^ℐ mit

A^ℐ Ď∆^ℐ r^ℐ Ď∆^ℐˆ∆^ℐ fürAPNC,rPNR.

Deﬁnition

Für APNC,C,D zweiℰℒ^K-Konzeptbeschreibungen und r PNR sei K^ℐ =H,J^ℐ = ∆^ℐ,

(39)

Deﬁnition

SindC,D zwei ℰℒ^K-Konzeptbeschreibungen, so heißt C ĎD

Allgemeine Konzeptinklusion (General Concept Inclusion, GCI).

C ĎD gilt in ℐ,ℐ|ù(C ĎD), falls C^ℐ ĎD^ℐ.

(40)

Deﬁnition

SindC,D zwei ℰℒ^K-Konzeptbeschreibungen, so heißt C ĎD

Allgemeine Konzeptinklusion (General Concept Inclusion, GCI).

C ĎD gilt in ℐ,ℐ|ù(C ĎD), falls C^ℐ ĎD^ℐ.

(41)

Deﬁnition

K= (G,M,I)heißt formaler Kontext, fallsG,M Mengen undIĎGˆM.

Für BĎM sei

B¹ =tg PG | @mPB: (g,m)PIu.

Deﬁnition

X ÑY heißt Implikationin K, fallsX,Y ĎM.X ÑY heißt gültig in K, falls

X¹ ĎY¹.

(42)

Deﬁnition

Für BĎM sei

B¹ =tg PG | @mPB: (g,m)PIu. Deﬁnition

X¹ ĎY¹.

(43)

Deﬁnition

Für BĎM sei

Deﬁnition

X¹ ĎY¹.

(44)

Deﬁnition

Für BĎM sei

Deﬁnition

X ÑY heißtImplikation in K, fallsX,Y ĎM.

X ÑY heißt gültig in K, falls

X¹ ĎY¹.

(45)

Deﬁnition

Für BĎM sei

Deﬁnition

X ÑY heißtImplikation in K, fallsX,Y ĎM.X ÑY heißt gültig in K, falls

X¹ ĎY¹.

(46)

Oﬀene Frage

Was ist „interessantes“ Wissen?

Erste Idee[Baader, Distel 2009]

Betrachte allegültigen GCIs ùñ berechne Basis aller gültigen GCIs. Beobachtung

GCIs sind Implikationen sehr ähnlich

FBA bietet Möglichkeiten, Implikationen aus Daten zu berechnen

ùñ FBA-Methoden verallgemeinern

(47)

Oﬀene Frage

Betrachte allegültigen GCIs ùñ berechne Basis aller gültigen GCIs. Beobachtung

(48)

Oﬀene Frage

Betrachte allegültigen GCIs

ùñ berechne Basis aller gültigen GCIs. Beobachtung

(49)

Oﬀene Frage

Betrachte allegültigen GCIs ùñ berechne Basis aller gültigen GCIs.

Beobachtung

(50)

Oﬀene Frage

Beobachtung

FBA bietet Möglichkeiten, Implikationen aus Daten zu berechnen ùñ FBA-Methoden verallgemeinern

(51)

Oﬀene Frage

Beobachtung

(52)

Oﬀene Frage

Beobachtung

(53)

Oﬀene Frage

Beobachtung

(54)

Person Künstler

Person

hatKind

t DhatKind.SchriftstellerĎKünstler, . . .u Basis gültiger GCIs

Beschreibungslogik Formale Begriﬀsanalyse

ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

tU ÑV |. . .u

Basis gültiger Implikationen

(55)

Person Künstler

Person

hatKind

ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

tU ÑV |. . .u

(56)

Person Künstler

Person

hatKind

ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

tU ÑV |. . .u

(57)

Person Künstler

Person

hatKind

Basis gültiger GCIs

ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

tU ÑV |. . .u

(58)

Person Künstler

Person

hatKind

ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

tU ÑV |. . .u

(59)

Person Künstler

Person

hatKind

ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

tU ÑV |. . .u

(60)

Person Künstler

Person

hatKind

ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

tU ÑV |. . .u

(61)

Person Künstler

Person

hatKind

ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

(62)

Experiment[Borchmann, Distel 2011]

DBpedia: aus der Wikipedia halbautomatisch gewonnenes Wissen betrachte nur child-Relation ;ℐ_DBpedia

∆^ℐ^DBpedia = 5626 Einige Ergebnisse

MemberOfParliamentĎPerson[Politician Dchild.PersonĎPerson

FictionalCharacter[ Dchild.PersonĎDchild.FictionalCharacter

Fragwürdige Ergebnisse

Person[ Dchild.BookĎFictionalCharacter Criminal[ Dchild.PoliticianĎK Person[ Dchild.CriminalĎCriminal

(63)

DBpedia: aus der Wikipedia halbautomatisch gewonnenes Wissen

betrachte nur child-Relation ;ℐ_DBpedia

(64)

(65)

∆^ℐ^DBpedia = 5626

Einige Ergebnisse

(66)

FictionalCharacter[ Dchild.PersonĎDchild.FictionalCharacter Fragwürdige Ergebnisse

(67)

MemberOfParliamentĎPerson[Politician

Dchild.PersonĎPerson

(68)

(69)

(70)

(71)

Person[ Dchild.BookĎFictionalCharacter

Criminal[ Dchild.PoliticianĎK Person[ Dchild.CriminalĎCriminal

(72)

Person[ Dchild.BookĎFictionalCharacter Criminal[ Dchild.PoliticianĎK

Person[ Dchild.CriminalĎCriminal

(73)

Person[ Dchild.BookĎFictionalCharacter

(74)

Beobachtung

Dchild.JĎPerson

gilt nicht in ℐ_DBpedia, denn es gibt 4 Gegenbeispiele, d. h.

Andererseits: 2547 Elemente in ℐ_DBpedia erfüllenDchild.JĎPerson, d. h.

|(Dchild.J [Person)^ℐ^DBpedia|=2547. Dchild.JĎPerson ist also „fast“ richtig.

(75)

Beobachtung

Dchild.JĎPerson gilt nicht in ℐ_DBpedia

, denn es gibt 4 Gegenbeispiele, d. h.

(76)

Beobachtung

Dchild.JĎPerson

(77)

Beobachtung

Dchild.JĎPerson

|(Dchild.J)^ℐ^DBpediazPerson^ℐ^DBpedia|=4.

(78)

Beobachtung

Dchild.JĎPerson

|(Dchild.J [Person)^ℐ^DBpedia|=2547.

Dchild.JĎPerson ist also „fast“ richtig.

(79)

Beobachtung

Dchild.JĎPerson

(80)

Beobachtung

Dchild.JĎPerson

gilt nicht in ℐ_DBpedia, denn es gibt 4 falsche Gegenbeispiele:

(81)

Beobachtung

Dchild.JĎPerson

gilt nicht in ℐ_DBpedia, denn es gibt 4 falsche Gegenbeispiele:

Teresa_Carpio,Charles_Heung,Adam_Cheng,Lydia_Shum.

(82)

Intuition

Betrachte auch GCIs, die „fast“ richtig sind.

Deﬁnition

DieKonﬁdenz vonC ĎD in ℐ ist gegeben durch confℐ(C ĎD) :=

#1, fallsC^ℐ =H,

|(C[D)^ℐ|

|C^ℐ| sonst. Sei c P[0,1]. Dann

Thc(ℐ) :=tC ĎD|confℐ(C ĎD)ěcu. Ansatz[Borchmann 2012]

Betrachte Thc(ℐ) als „interessantes“ Wissen inℐ.

(83)

Intuition

Deﬁnition

#1, fallsC^ℐ =H,

|(C[D)^ℐ|

|C^ℐ| sonst.

Sei c P[0,1]. Dann

Thc(ℐ) :=tC ĎD|confℐ(C ĎD)ěcu. Ansatz[Borchmann 2012]

(84)

Intuition

Deﬁnition

#1, fallsC^ℐ =H,

|(C[D)^ℐ|

|C^ℐ| sonst.

Sei c P[0,1]. Dann

Thc(ℐ) :=tC ĎD|confℐ(C ĎD)ěcu.

Ansatz[Borchmann 2012]

(85)

Intuition

Deﬁnition

#1, fallsC^ℐ =H,

|(C[D)^ℐ|

|C^ℐ| sonst.

Sei c P[0,1]. Dann

Thc(ℐ) :=tC ĎD|confℐ(C ĎD)ěcu.

(86)

ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

tU ÑV |. . .u

(87)

t DhatKind.Schriftsteller Künstler, . . . Basis von GCIs

mit hoher Konﬁdenz ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

U V . . .

(88)

t DhatKind.SchriftstellerĎKünstler, . . .u Basis von GCIs

mit hoher Konﬁdenz ℐ

Kℐ Mℐ

ˆ ˆ .

∆^ℐ ˆ . ˆ

. . ˆ

tU ÑV |. . .u Basis von

Implikationen mit hoher Konﬁdenz

(89)

Parallelen zwischen FBA und BL

Formale Begriﬀsanalyse Beschreibungslogik

GegenständeG Elemente ∆^ℐ MerkmaleM Konzeptbeschreibungen Formale Kontexte K Interpretationenℐ

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

Deﬁnition[Baader, Distel 2009]

Sei X Ď∆^ℐ. Eine Konzeptbeschreibung C heißt model-based most-speciﬁc concept description vonX inℐ falls

X ĎC^ℐ und

für jedesD mitX ĎD^ℐ istC spezieller als D.

Bezeichnung: C =X^ℐ

(90)

Formale Begriﬀsanalyse Beschreibungslogik GegenständeG Elemente ∆^ℐ

MerkmaleM Konzeptbeschreibungen Formale Kontexte K Interpretationenℐ

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

X ĎC^ℐ und

(91)

MerkmaleM Konzeptbeschreibungen

Formale Kontexte K Interpretationenℐ

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

X ĎC^ℐ und

(92)

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

X ĎC^ℐ und

(93)

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

X ĎC^ℐ und

(94)

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

X ĎC^ℐ und

(95)

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

X ĎC^ℐ und

(96)

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

Sei X Ď∆^ℐ.

Eine Konzeptbeschreibung C heißt model-based most-speciﬁc concept description vonX inℐ falls

X ĎC^ℐ und

(97)

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

Sei X Ď∆^ℐ. Eine Konzeptbeschreibung C heißt model-based most-speciﬁc concept description vonX in ℐ falls

X ĎC^ℐ und

für jedesD mitX ĎD^ℐ istC spezieller als D. Bezeichnung: C =X^ℐ

(98)

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

X ĎC^ℐ und

für jedesD mitX ĎD^ℐ istC spezieller als D. Bezeichnung: C =X^ℐ

(99)

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

X C^ℐ und

(100)

Implikationen GCIs

A¹,AĎM (dA)^ℐ

B¹,B ĎG ?

X ĎC^ℐ und

(101)

Deﬁnition

Mℐ =N_C Y t K u Y t Dr.X^ℐ |X Ď∆^ℐ,X ‰ H u.

Deﬁnition

SetzeKℐ = (∆^ℐ,Mℐ,∇) mit

(x,C)P∇ ðñ xPC^ℐ. Satz[Baader, Distel 2009]

Istℒ eine Basis von Kℐ, dann ist tl

U Ď(l

U)^ℐℐ |(U ÑV)Pℒu eine Basis von ℐ.

(102)

Deﬁnition

(x,C)P∇ ðñ x PC^ℐ.

Satz[Baader, Distel 2009] Istℒ eine Basis von Kℐ, dann ist

tl

U Ď(l

U)^ℐℐ |(U ÑV)Pℒu eine Basis von ℐ.

(103)

Deﬁnition

(x,C)P∇ ðñ x PC^ℐ. Satz[Baader, Distel 2009]

Istℒ eine Basis von Kℐ, dann ist tl

U Ď(l

U)^ℐℐ |(U ÑV)Pℒu

(104)

Problem

Wie Basen von Thc(ℐ) ﬁnden?

Ansatz[Luxenburger 1993, Borchmann 2012]

Finde Basen von Thc(ℐ)zTh(ℐ).

Betrachte nur Konzeptbeschreibungen der FormX^ℐ fürX Ď∆^ℐ.

Deﬁnition

Conf(ℐ,c) :=tX^ℐ ĎY^ℐ |Y ĎX Ď∆^ℐ,1ąconfℐ(X^ℐ ĎY^ℐ)ěcu. Satz[Borchmann 2012]

Es seiℬ eine Basis von ℐ, und c P[0,1]. Dann ist ℬYConf(ℐ,c) eine Basis Thc(ℐ).

(105)

Problem

Betrachte nur Konzeptbeschreibungen der FormX^ℐ fürX Ď∆^ℐ. Deﬁnition

(106)

Problem

(107)

Problem

Betrachte nur Konzeptbeschreibungen der FormX^ℐ fürX Ď∆^ℐ.

Deﬁnition

(108)

Problem

Conf(ℐ,c) :=tX^ℐ ĎY^ℐ |Y ĎX Ď∆^ℐ,1ąconfℐ(X^ℐ ĎY^ℐ)ěcu.

Satz[Borchmann 2012]

(109)

Problem

Conf(ℐ,c) :=tX^ℐ ĎY^ℐ |Y ĎX Ď∆^ℐ,1ąconfℐ(X^ℐ ĎY^ℐ)ěcu.

Satz[Borchmann 2012]

Es seiℬ eine Basis von ℐ, und c P[0,1]. Dann ist

(110)

Deﬁnition

conf_K(X ÑY) :=

#1 X¹ =H,

|(XYY)¹|

|X¹| sonst.

Für c P[0,1]ist

Th_c(K) :=tX ÑY |conf_K(X ÑY)ěcu. Satz[Borchmann 2012]

Istℒ eine Basis von Thc(Kℐ), so ist lℒ:=tl

U Ďl

V |(U ÑV)Pℒu eine Basis von Thc(ℐ).

IstℒĎThc(Kℐ), so ist auch dℒĎThc(ℐ).