Digitale ethik für ki
ist Das kunst oDer kann Das weg?
sebastian scheiDt
Deutsche telekom ag, group compliance management september 2021
1
Das sinD wir
Deutsche Telekom AG
226 291
Mitarbeiter weltweit*
21,7 Mio.
Breitband-Anschlüsse
27,4 Mio.
Festnetz-Anschlüsse
241,8 Mio. 5G
z.B. Connected IoT
Home
clouD &
infra- structure
konnek-
tivität magenta tv
101,0 Mrd. €
Umsatz in 2020
1. KI – ein kurzer Überblick 2. Ethik
3. Digitale Ethik
4. Wie gehen wir damit um?
3
Digitale ethik
ist Das kunst oDer kann Das weg?
herausforDerungen Durch ki…
KI birgt erhebliche Herausforderungen aufgrund von Reputationsrisiken durch unethische KI-Lösungen
Dies gilt insbesondere für die Deutsche Telekom. Wir sind auf das Vertrauen unserer Kunden angewiesen.
Jeder größere ethische Verstoß könnte das Geschäft der
Deutschen Telekom ernsthaft schädigen*
5
Digitale ethik – ein muss für nachhaltige unternehmen
ki einsatzgebiete bei Der Deutschen telekom
Lesen, klassifizieren, vergleichen, Unterschiede ermitteln,
Vollständigkeit prüfen, Dokumente automatisch generieren lassen.
Auftragsverarbeitung
Mustererkennung bei Cyberattakten oder Fraud,
Treffen von Vorhersagen aufgrund historischer Daten.
Z.B. TINKA, der Front-End Chatbot in der Kundenberatung oder Deskbot zur Sitzplatzplanung in unseren Open Spaces.
Chatbots
Erkennen von Cybercrime Optimierung und Anonymisierung
in der Netzwerkplanung sowie im Glasfaserausbau.
Netzwerkplanung
was ist ki?
7
über ki
Das trolley problem
9
Drei gesetze Der robotic
ki kann ein geschenk sein, wenn richtig eingesetzt
11
es liegt an uns wie wir ki nutzen.
Die technologie selbst ist neutral.
“It is easy to be clueless of what happens inside an autonomous
system. But clueless is not a very good excuse when sh*t has happened.”
(Kim Larsen, 2018)
Digitale ethik
leitlinien für Die nutzung von ki
13
Die Deutsche Telekom hat sich Leitlinien zum Einsatz von künstlicher Intelligenz gegeben und forciert damit eine “Digitale Ethik”.
Diese Leitlinien sind auf unsere Geschäftsmodelle ausgerichtete, selbst-bindende Richtlinien.
Sie definieren, wie wir als Deutsche Telekom mit KI umgehen wollen und wie wir unsere auf KI
basierenden Produkte und Services künftig
entwickeln.
unserer ki richtlinien – basierenD auf Dt geschäfts- moDellen unD einer breiten internen Diskussion
1. Wir übernehmen Verantwortung.
Klare Definition, wer verantwortlich für welches KI-System ist.
2. Wir gehen sorgsam mit KI um.
Unsere KI-Systeme folgen dem für die Menschen geltenden Recht und Gesetzen.
3. Wir stellen unseren Kunden in den Mittelpunkt.
KI soll das Leben unserer Kunden vereinfachen und bereichern.
4. Wir stehen für Transparenz.
Transparenz, wenn ein Kunde mit KI-System kommuniziert sowie bzgl. Datennutzung.
5. Wir bieten Sicherheit.
Unsere Kundendaten sind vor unautorisiertem, externen Zugriff geschützt.
6. Wir legen das Fundament.
Gründliche Analyse und Evaluierung als Basis für die Weiterentwicklung und stete Verbesserung unserer KI-Systeme.
7. Wir behalten den Überblick.
Ständige Bereitschaft, in unsere KI-Systeme einzugreifen, um Schäden zu vermeiden
8. Wir leben das Kooperationsmodell.
Mensch steht an erster Stelle, aber Vorteile aus Interaktion Mensch / Maschine
interne implementierung läuft…
15
INTERNE PROZESSINTEGRATION
Integration Digital Ethics Check im PSA Tool sowie im Product & Innovation Board (PIB) und Investment Committee DIGITAL ETHICS SIEGEL
Erste interne KI Projekte bzgl. Digital Ethics geprüft und mit entsprechendem Siegel ausgezeichnet
LIEFERANTEN MANAGEMENT
Ausweitung KI Leitlinien auf Lieferanten, damit auch diese die DT Digital Ethics Anforderungen erfüllen
KOMMUNIKATION & VERANSTALTUNGEN
Regelmäßige interne und externe Kommunikation und Organisation von Veranstaltungen (z.B. Digital Ethics Summit)
FORUM FÜR DIGITALE ETHIK
Showroom für Digital Ethics bei DT und Plattform für Austausch mit Partnern, Politik, Gesellschaft, Journalisten, etc.
.
KONFERENZEN & PODIUMSDISKUSSIONEN
Repräsentation DT zum Thema Digital Ethics (z.B. Digital Ethics Summit, Rise of AI, DigitalX, etc.)
PARTNER & BUSINESS DEVELOPMENT
Entwicklung von neuen Geschäftsmodellen und Aufbau einer
“Allianz für ethische KI” mit namhaften Partnern.
POLITISCHE WILLENSBILDUNG
Positionierung DT als "most trustful company" auf Bundes- und Landes- ebene sowie EU Gremienarbeit (z.B. AI High Level Expert Group) TRAININGS & SCHULUNGEN
eLearning, Roadshow, Workshops und Trainings für Führungskräfte, Mitarbeiter und Data Scientists
ROBUST AI
Co-Projektleitung bei der Entwicklung einer Software-Lösung zum automatischen Test von eingesetzten KIs
Und MEHR …
erste zertifizierung „verantwortungsvolle“ ki
Neuer Kriterienkatalog des Bundesamts für Sicherheit in der Informationstechnik (BSI) für KI-basierte Cloud- Dienste wurde im Februar veröffentlicht:
AIC4 – Artificial Intelligence Cloud Services Compliance Criteria Catalogue
DT wurde als erstes Unternehmen mit einer unserer KI- gestützten Produktsuiten, nämlich "Conversational AI“*, durch den externen Auditor PWC zertifiziert
trust in ai – klarer mehrwert fürs geschäft
robust ai
messen von robustheit
einer ki lösung
17
Risiko Klassifizierung der EU –
Identifizierung von risikoreicher AI auf Basis von EU-Vorschriften
Digital Ethics Ergebnis – Erreichte Gesamtpunktzahl zur Bewertung des Ethik-Niveaus
Risikomessungen & Empfehlungen zur Risikominderung – Maßnahmen zur Bewertung und Minimierung
spezifischer technischer Risiken Tatsächlicher & geforderter Robustheitsgrad – Erreichte
Gesamtpunktzahl, die die Robustheit im Vergleich zu ihrem Bedarf bewertet
0 0,511,522,5 33,544,55
Required Level Actu al Level
ROBUSTNESS SCORING
Process AI Model Data Required Robustness Delta
Ethik Fragebogen: Prüfung der
Einhaltung der Digitale Ethik KI-Leitlinien (durch Product Owner)
Technischer Fragebogen: Bewertung des Anwendungskontexts und -falls sowie der technischen Indikatoren
(durch Techniker)
Digital ethics assessment: prozess-implementierung
eu-weiter rechtsrahmen künDigt sich an
Twitter Nutzer hat Microsofts KI- Chatbot in weniger als einem Tag beigebracht, ein misogyner Rassist zu sein.
2018
IBMs Watson gab unsichere Empfehlungen zur Behandlung von Krebs.
Robinhood Aktienhandels-App verängstigt 20-Jährigen bis zum Suizid.
2016
Reputations- und Haftungsrisiken (Beispiele)
Amazon hat ein KI-Rekrutierungstool abgeschafft, das Männer für technische Jobs bevorzugte.
Die Deutsche Telekom definiert eine eigene Richtlinie für den Einsatz von künstlicher Intelligenz - die KI- Richtlinien.
Voreingenommenheit im
Strafjustizsystem – Historische Daten werden als Waffe gegen schwarze Gemeinschaften
eingesetzt.
Huawei arbeitete an einem Gesichtserkennungssystem zur Überwachung von Uiguren.
Europäische Kommission - ethische Richtlinien für vertrauenswürdige KI.
Die EU-Kommission schlägt den allerersten Rechtsrahmen für KI vor, der sich mit den Risiken der KI befasst und Europa in die Lage versetzt, weltweit eine führende Rolle zu spielen.
Handlungsfelder (Auszüge)
Die Deutsche Telekom gibt den Startschuss für die Digital Ethics for AI Initiative.
EU-weiter Rechtsrahmen wird verabschiedet
Jeder Betreiber von KI innerhalb der EU ist verpflichtet, diesen Rechtsrahmen zum Zeitpunkt des
Inkrafttretens der
Verordnung einzuhalten.
19
Details zur (geplanten) eu-ki-regulierung
Vorgesehene Risikostufen für KI-Systeme seitens der EU-Kommission
*1:
Unannehmbares Risiko
Verbot von KI-Systemen, die als klare Bedrohung für EU-Bürger angesehen werden (z. B. Social Scoring, Beeinflussung von Schutzbedürftigen).
Minimales Risiko
EU-Kommission sieht für diese Risikostufe keine Regulierungen vor (z.B. KI- gestützte Videospiele oder Spamfilter)
Geringes Risiko
Transparenzanforderungen bei Nutzerinteraktionen für KI-Systeme. (z.B. Chatbot zeigt dem Nutzer an, dass er kein Mensch ist, Kennzeichnungspflicht bei Deep fakes)
Hochrisiko KI
KI-Systeme, die das Leben und die Gesundheit oder die Grundrechte der Bürger gefährden könnten. Der Einsatz dieser KI-Systeme ist an strenge Anforderungen /Konformitätserklärung geknüpft.
