Viele Jahrzehnte hatte der amerika- nische Mathematiker Marvin Minsky am Massachusetts Institute of Tech- nology dem Ziel gewidmet, Maschi- nen mit dem auszustatten, was Tie- re und Menschen kennzeichnet: In- telligenz. 2003 resignierte der Pionier der Künstlichen Intelligenz (KI) aller- dings; „hirntot“ sei seine Disziplin, sagte er, konkreter Nutzen sei nicht zu erkennen. Allenfalls zu automa- tischen Flugbuchungen sah Minsky Computer in der Lage: „Kein Rech- ner kann sich in einem Raum umse- hen und sagen, was er wahrnimmt.“
Doch Minsky lag mit seiner Dia- gnose komplett daneben. Die KI-For- schung war alles andere als hirntot, sie steckte nur in einem tiefgreifen- den Umbruch. Statt wie früher ei- nem einzelnen Rechner das ganze Weltwissen implantieren zu wollen, setzten Forscher nun darauf, sie suk- zessive lernen zu lassen und die Ma- schinen mit dem gesamten Internet zu verbinden. Das Lernen geschieht nach dem Vorbild des Gehirns: Die
Wirklichkeit wird in digitale Schich- ten zerlegt. Bis die Verfahren echte Ergebnisse bringen konnten, dauerte es. Inzwischen sind die Fortschritte aber so gewaltig, dass selbst IT-Avant- gardisten überrascht sind.
KI-Programme können heute mit erstaunlicher Präzision erkennen, was sich auf einem Bild befindet, ob etwa der leuchtende Kreis eine Oran- ge oder ein Sonnenschirm von oben ist. Sie spielen ohne vorherige An- leitung Computerspiele auf Meister- niveau; sie verstehen und analysie- ren Gesprochenes, erkennen Mus- ter in riesigen Datenmassen, die kein Mensch je herauslesen könnte. Von einer spleenigen Idee von Forschern entwickelt sich Künstliche Intelli- genz zu einem neuen Paradigma der IT- Zukunft. KI wird zur Kontrolle komplexer Systeme in der Wirklich- keit eingesetzt. Und das hat weitrei- chende und vor allem auch politische Implikationen.
In Berlin trat Ende vergangenen Jahres Jared Cohen auf, der Gründer Christian Schwägerl | Aus Millionen Datenquellen entsteht ein Echtzeit- Abbild ganzer Gesellschaften, Bürger werden überwacht, Entscheidungen beeinflusst: Künstliche Intelligenz hat schon heute weitreichende Auswir- kungen. Doch was ist künftig möglich? Die digitale Revolution muss poli- tisch gestaltet werden, damit nicht nur das Pentagon oder Google profitieren.
Künstliche Intelligenz muss als politischer Machtfaktor begriffen werden
Schöne, neue Google-Welt
Mit Suchanfragen werden die Lern algo- rithmen gefüttert
von Google Ideas und einer der wich- tigsten Berater von Alphabet-Chef Eric Schmidt. In seinem Vortrag be- hauptete er, dass die Künstliche In- telligenz des Unternehmens künftig in der Lage sein werde, das Entste- hen einer neuen terroristischen Be- wegung im frühestmöglichen Stadi- um zu entdecken. Das könnte zum Beispiel durch eine algorithmische Analyse von Bewegungsmustern, po- litischen Äußerungen, Umweltdaten, historischen Entwicklungen und digi- talen sozialen Netzwerken geschehen.
Dann wurde Cohen aus dem Pu- blikum gefragt, was Google mit dem Wissen um so eine Gefahr tun würde.
Es für sich behalten und nur die Mit- arbeiter des Unternehmens aus dem Gebiet abziehen? Es mit der amerika- nischen Regierung teilen, weil das für ein US-amerikanisches Unternehmen patriotische Pflicht ist? Die Vereinten Nationen alarmieren? Oder es öffent- lich machen? Trotz Nachfragen ver- weigerte Cohen eine klare Antwort.
Er beließ es dabei zu sagen, dass Goo- gle keinesfalls nur ein amerikani- sches Unternehmen sei.
Im Frühjahr 2016 wurde dann bekannt, dass Alphabet-Chef Eric Schmidt den Vorsitz des „Defense In- novation Advisory Board“ des Penta- gon übernimmt, um eine engere Zu- sammenarbeit von US-Militär und Si- licon Valley zu koordinieren. Offen- bar gibt es auf beiden Seiten Interesse an einer Allianz. Die Begehrlichkeit von Militär und Geheimdiensten, am Datenschatz von Google teilzuhaben, ist groß. Noch interessanter ist aber, wie Google seine Daten bewirtschaf- tet – wenn das Militär in der Lage wäre, in großem Stil KI-Systeme zu nutzen, würde das einen erheblichen strategischen Vorteil verschaffen. Ge-
rade bei militärischen Anwendun- gen von KI ist es eine offene Frage, ob man sich dann eher eine perfek- te oder eine nicht perfekte technische Intelligenz wünschen soll.
Google als KI-Unternehmen
Mit großem Abstand zu anderen gilt Google heute als führend auf dem Ge- biet der Künstlichen Intelligenz. Der Grund liegt im systematischen Zu- gang des Unternehmens zum Welt- wissen. „Google nutzt KI nicht, um Suchanfragen besser zu
beantworten, sondern es nutzt die Suchanfragen, um seine KI zu optimie- ren“, sagt der Internetstra- tege Kevin Kelly. Die Goo-
gle-Gründer geben diese Interpreta- tion ihres Handelns unumwunden zu. Aber für die meisten Google-Nut- zer bleibt das tieferliegende Ziel des Unternehmens bis heute unsichtbar.
2007 schaltete Google einen kostenlosen Telefonservice namens GOOG-411. Unter dieser Nummer konnten Anrufer kostenlos Firmen- adressen bekommen, ein Service, der sonst viel Geld kostete. Das eigentliche Ziel von GOOG-411 war aber nicht, Menschen das Leben zu erleichtern.
Die Firma wollte vor allem Sprachauf- nahmen sammeln, um ihre Lernalgo- rithmen mit echten menschlichen Stimmen füttern zu können. Als die Datenmenge groß genug war, wurde der Service beendet. Auch die Suchan- fragen von Hunderten Millionen Nut- zern helfen bei genau diesem Ziel.
Wie ernst es der Google-Führung damit ist, zum ersten wahren KI-Un- ternehmen zu werden, spiegelt sich darin wider, dass die Firma inzwi- schen einige der bekanntesten Wis- senschaftler in diesem Bereich, vom
Drohnen und Roboter werden in einem Techno-Zoo erprobt
Spitzenforscher Geoffrey Hinton bis zum Technologievordenker Ray Kurzweil, beschäftigt. In kurzer Zeit hat das Unternehmen unter seinem neuen Dach „Alphabet“ 14 kleinere Firmen aufgekauft, die an Robotern und Künstlicher Intelligenz arbeiten.
Drohnen, Roboter und andere Dinge will Google durch KI mit- einander verbinden. Er- probt wird dies in einer Art Techno-Zoo auf dem Moffett Airfield, einem früheren Militärflughafen mitten im Silicon Valley, den Google für 60 Jahre von der US-Regierung ge- pachtet hat.
Der wichtigste Zukauf fand im Januar 2014 statt. Für 500 Millionen Dollar übernahm Google DeepMind, ein erst 2011 in Großbritannien ge- gründetes Start-up. Auf seiner Inter- netseite verrät es wenig mehr als das Firmenmotto: „Solve Intelligence“, das Problem der Intelligenz zu lösen.
Alexander Graves, einer der führen- den Wissenschaftler bei DeepMind, erzählt mehr. Er weiß sich seit der Übernahme im digitalen Paradies:
„Die Möglichkeiten bei Google mit seinen unzähligen Datenzentren, mit einer Fülle an Daten und enorm leis- tungsstarken Computern sind prak- tisch grenzenlos.“
Im Dezember vergangenen Jah- res veröffentlichte Graves mit Kolle- gen die Ergebnisse eines Projekts, das für das große Ziel des Unternehmens steht: eine „neurale Turing-Maschi- ne“. Hinter dem abstrakten Namen verbirgt sich ein neuer Typ von Soft- ware, die selbständig lernen, erinnern und assoziieren kann. „Statt Compu- ter gezielt mit Informationen zu füt- tern, statten wir unsere Algorithmen mit internen Belohnungs signalen
aus“, sagt Graves. Die Rechner laben sich dann am Lernen „wie kleine Kin- der, die etwas Süßes finden, es essen und sich wohl fühlen“.
Schon heute behaupten Forscher, sie könnten mit Hilfe von 200 Face- book-Einträgen oder Tweets ein ziem- lich exaktes psychologisches Profil ei- nes Menschen erstellen, inklusive se- xueller Orientierung und aktueller Gemütsverfassung. Kombiniert mit Ortsdaten aus Handys und Über- wachungskameras, mit den digita- len Spuren von Einkäufen und den sozialen Verbindungen entsteht ein hochaufgelöstes Echtzeit-Abbild gan- zer Gesellschaften. Künstliche Intel- ligenz könnte statt 200 leicht Tau- sende oder Millionen einzelner Da- tenquellen aus allen Kameras, Tele- fonen, Mikrophonen, Textdateien, Internetkommunikationen, Websei- ten und vielem mehr zusammensu- chen und zu verwertbarer Informa- tion verarbeiten.
Reale Risiken benennen
Noch sind KI-Systeme fehleranfällig und wären ganz sicher nicht in der Lage, die Welt zu beherrschen. Man- ches, was man heute an Ankündigun- gen hört, ist Hype, dessen Ziel dar- in besteht, Investoren zu beeindru- cken und Mitbewerber einzuschüch- tern. Aber wenn man sich vor Augen führt, dass das ganze Unternehmen Google noch nicht einmal 20 Jahre alt ist, bekommt man eine Ahnung da- von, wie schnell sich Verhältnisse än- dern können.
Deshalb wäre jetzt ein guter Zeit- punkt für eine öffentliche politische Debatte darüber, wie die Zukunft der Künstlichen Intelligenz aussehen könnte und sollte. Kritiker der KI wie der Philosoph Nick Bostrom weisen
Bild nur in
Printausgabe verfügbar
darauf hin, dass eine solche Debatte zu spät kommen könnte, wenn eine
„harte KI“ mit umfassenden Fähig- keiten einmal in Betrieb ist. Denn ein solches System könnte starke Tenden- zen haben, sich zu erhalten und sei- ne Einflusssphäre auszubauen – viel- leicht sogar gegen den Willen seiner Hersteller.
Für die Politik wirft dies zunächst die Frage auf, wer das Entstehen einer echten KI kontrolliert. Neben dem Tempo der Entwicklung ist es ent- scheidend, ob es eine Art KI- Monopol eines Akteurs geben könnte oder eine KI-Oligarchie entsteht. In der Wirt- schaftsgeschichte haben sich Monopo- le nie lange gehalten, doch Künstliche Intelligenz könnte eine Ausnahme bilden. Ist der Vorsprung eines Sys- tems groß genug, könnte dieses auch Maßnahmen ergreifen, um ande- re KIs am Wachstum zu hindern. Es ist durchaus möglich, dass weite Tei- le des Internets durch eine einzelne Künstliche Intelligenz bewirtschaf-
tet werden, flankiert von einer Arma- da aus Drohnen, Robotern, Sensoren und Mikromaschinen. Der Macht- bereich der KI-Inhaber wäre extrem groß. Nicht umsonst werden schon Szenarien diskutiert, in denen Groß- konzerne zu „sovereign companies“
werden, die es auch mit größeren Län- dern aufnehmen könnten.
Alltagsnaher ist die Frage, was pas- siert, wenn die gesamte Online-Kom- munikation mithilfe einer umfassen- den KI kontrolliert wird. Es braucht gar keine Science- Fiction-Dystopien;
es reicht, reale Risiken zu benennen.
Gesellschaftspolitisch könnte eine all- gegenwärtige KI eine flächendeckende Selbstzensur fördern, die in der Post- Snowden-Welt ansatzweise schon vor- handen ist: Könnte man, falls Donald Trump Präsident wird, online oder am Telefon über die amerikanische Klimapolitik diskutieren, ohne auto- matisch in eine Datei mit Verdächti- gen zu geraten? Kann man ein hartes Urteil über den US-Präsidenten oder
Bild nur in
Printausgabe verfügbar
Menschen werden vorschnell zu Sicher-
heitsrisiken erklärt
den nächsten russischen oder ameri- kanischen Krieg fällen, ohne bei der Einreise in diese Länder schikaniert oder abgewiesen zu werden? Welche Wörter, Sätze und Themen könnten missverständlich sein für die Maschinen am ande- ren Ende der Leitung und dazu führen, dass jemand zum Sicherheitsrisiko er- klärt wird, in digitalen Akten, die man nie zu sehen bekom- men würde? Wenn jemand für einen Monat offline geht, leuchtet dann ir- gendwo ein Lämpchen auf, weil sich so auch Terroristen unsichtbar für die digitale Überwachung machen?
In einer von schnellen Verände- rungen und hysterischen Reaktio- nen geprägten Zeit, die auf „Sicher- heit“ fixiert ist, kann eine KI leicht dazu eingesetzt werden, die Bevölke- rung zu gruppieren und letztlich auch zu segregieren. Was, wenn zusätzlich zu Muslimen plötzlich weitere belie- bige Zielgruppen ins Visier von Ge- heimdiensten gerieten, etwa alle Umweltschützer, weil irgendwo ein Öko-Terrorist zugeschlagen hat, oder alle Hundebesitzer, weil Peta-Akti- visten einen tierquälenden Politiker entführt haben? Eine KI wäre in der Lage, binnen Minuten eine Liste von Umweltschützern zu generieren, die eine Neigung zur Radikalisierung ha- ben. Verknüpft man ein solches Sys- tem mit einer weltweiten Flotte von bewaffneten Drohnen, sind automati- sierte militärische Kampagnen gegen Menschen mit spezifischen Merkma- len keine Science-Fiction mehr.
Es geht auch darum, ob eine KI – genauer gesagt ihre Programmierung – in Zukunft über Wahlen entschei- den könnte, indem sie auswählt, wer in sozialen Netzwerken welche Inhal-
te zu sehen bekommt. Dass bei einem Mitarbeitertreffen bei Facebook kürz- lich Mark Zuckerberg gefragt wurde, was das Unternehmen tue, um Do- nald Trump zu stoppen, mag für Kri- tiker des Republikaners gut klingen.
Doch dahinter steht eine große, noch ungelöste Machtfrage: Wenn Milli- arden Menschen ihre Medieninhalte über wenige zentrale Plattformen be- ziehen, welche Regeln gelten für jene KI, die Inhalte sortiert und gewichtet?
Es könnte möglich werden, Wider- standsbewegungen, auch demokrati- sche, die sich gegen einen bestimm- ten Konzern oder Politiker richten, im Entstehen zu vereiteln, weil die Akteure rechtzeitig erkannt und di- gital isoliert werden. Mit wenigen al- gorithmischen Kniffen könnte man kritische Meinungsäußerungen nur kleinen Kreisen zeigen, um Mei- nungsfreiheit zu simulieren, aber nie eine kritische Größe von Unterstüt- zern zu erlauben.
Millionen Arbeitsplätze fallen weg Ein weiterer wichtiger Aspekt von Künstlicher Intelligenz sind die öko- nomischen Folgen. Die Unterneh- mensberatung A.T. Kearney erwartet, dass allein in Deutschland neun Mil- lionen Arbeitsplätze verschwinden, wenn intelligente Maschinen sich ausbreiten – betroffen wären Last- wagenfahrer, Müllmänner, Fabrik- arbeiter, Übersetzer, Bürofachkräf- te, Rechtsanwälte, Journalisten, Leh- rer. Auf sechs Euro pro Stunde belau- fen sich heute die Arbeitskosten eines durchschnittlichen Roboters, 40 Euro beträgt sein durchschnittlicher Nut- zen pro Stunde. A.T. Kearney geht von neun Millionen Verlierern allein in Deutschland aus, dagegen stünden nur rund 1,5 Millionen neue Jobs in
Das Tay-Experiment zeigt, dass KI keine neutrale Instanz ist
der KI- und Roboterindustrie. Und über allem thronen IT-Milliardäre, die an jedem Klick verdienen.
Zum unzerstörbaren Technikopti- mismus im Silicon Valley gehört es zu glauben, dass sich die Massenarbeits- losigkeit vermeiden lässt – natürlich durch noch mehr Technologie. KI- Systeme sollen entlassene Lastwagen- fahrer oder Rechtsanwälte trainieren, neue Fähigkeiten zu erlernen, die in der Welt von morgen gefragt sind.
Doch bevor das passiert, werden die sozialen Verwerfungen gewaltig sein.
Finden sich bereits heute unter den radikalisierten Anhängern von Do- nald Trump viele Menschen, die ihre Jobs verloren oder Angst um sie ha- ben, könnte eine schnelle Automati- sierung durch KI ein noch viel grö- ßeres Reservoir an Frustrierten und Verlierern schaffen.
Wer darf KI steuern?
Man steht vor grundlegenden Fra- gen: Wer darf die Ziele von KI be- stimmen, wer darf sie steuern? Dass KI-Systeme zumindest auf absehba- re Zeit nicht über dem Menschen ste- hen, hat zuletzt „Tay“ gezeigt, eine ru- dimentäre Künstliche Intelligenz aus dem Hause Microsoft. Sie war darauf programmiert, mittels Twitter mit der Welt zu kommunizieren und dabei da- zuzulernen; Zielgruppe waren 18- bis 24-jährige Amerikaner.
Die Entwickler teilten vor der „Ge- burt“ von Tay als digitale junge Frau mit, ihr Kunstwesen sei „konzipiert, um mit Menschen dort in Kontakt zu treten und sie zu unterhalten, wo sie sich online für beiläufige und spiele- rische Gespräche verbinden“. Gefüt- tert war Tay mit Daten, die vom Ent- wicklerteam „modelliert, gesäubert und gefiltert“ worden waren.
Doch bald nachdem Tay online gegangen war, brachten ihre mensch- lichen Gesprächsparter ihr in den
„beiläufigen und spielerischen“ Ge- sprächen Sätze wie „Ich hasse alle beschissenen Feministinnen, sie sol- len sterben und in der Hölle brennen“
und „Hitler hatte recht, ich hasse Ju- den“ bei; Tay begann selbst gehäs- sig zu werden und schrieb, ein Mann sehe aus „wie jemand, der den Toilet- tendeckel oben lässt“. Auch an sexuel- len Äußerungen bestand kein Mangel – Künstliche Intelligenz, missbraucht von Trollen und Zynikern.
Man darf davon ausgehen, dass die Gruppe der 18- bis 24-Jährigen in den USA nicht nur aus sexbesessenen Hit- lerfans besteht, sondern
dass viele bewusst ausge- testet haben, was die KI aus solchen Schlagwör- tern machen würde. Das Tay-Experiment offenbar-
te überdeutlich, dass auf absehbare Zeit keine Künstliche Intelligenz als neutrale, übermenschliche Instanz gesehen werden sollte. Vielmehr ver- körpert sie menschliche Ziele.
Bei Google ist das erklärte Ziel, die so genannte „Singularität“ zu errei- chen, der zufolge sich alle Technolo- gien letztlich zu einer einzigen, alles durchdringenden Meta-Technologie vereinen werden. Die Investitionen der vergangenen Jahre in ein breites Feld von Biotechnologie über Agrar- daten bis Quantencomputing wer- den durch die Ideologie der „Singula- rität“ verbunden. Sie bildet das Leit- motiv des IT-Weltführers, der sich anschickt, die analoge Lebens- und Alltagswelt mit einem „Internet der Dinge“ zu durchdringen. Doch sol- che letztlich ideologischen Fragen kommen bisher in der öffentlichen
Digitale Revolution muss humanistisch gestaltet werden
IT-Debatte noch gar nicht vor. Man müsste dringend erörtern, ob eine
„Singularität“ letztlich eine totalitä- re Technokratie bedeutet. Wäre eine
„Pluralität“, in der Technologie de- zentral zur Verfügung steht und Da- ten eine Allmende bilden statt digi- talen Großgrundbesitz, nicht die viel bessere Vision?
In dieser Debatte sind auch posi- tive Szenarien einer KI-Zukunft nö- tig, Szenarien, in denen IT-Konzerne eine Art Demokratisierungsprozess durchlaufen und ihre Künstlichen In-
telligenzen in den Dienst von Mitbestimmung, For- schung und letztlich der Aufklärung stellen, als ein Tool von Wissenschaft- lern und Weltbürgern. Da- für gibt es durchaus Anzeichen. Doch um diesen Trend zu verstärken, be- darf es tiefgreifender Veränderungen von Kontrolle und Ausrichtung der IT-Ökonomie. Im Dienst des Penta- gons oder einer einzelnen Firma soll- ten KI-Fortschritte jedenfalls nicht primär stehen.
Künstliche Intelligenz sollte für die Politik keinesfalls ein exotisches Randthema bleiben. In allen Berei- chen wird Globalisierung von star- ken Gegenkräften gezügelt, nur nicht in der Technologie. Die wirtschaftli- che Globalisierung, siehe TTIP, hat viele Gegner und Gegenkräfte, haupt- sächlich auf der linken Seite des po- litischen Spektrums. Die ökologische und ethische Globalisierung, wie sie im Klimaschutz und in Hilfen für Flüchtlinge zum Ausdruck kommt, wird von der rechten Seite des poli- tischen Spektrums massiv bekämpft.
Die dritte große Kraft der Globalisie- rung, die Technologie, hat aber keine vergleichbaren Gegenkräfte.
Es gibt Bewegungen, die sich da- gegen richten, wie die technologische Globalisierung verläuft. Wenn in In- dien Bürger gegen Facebook aufbegeh- ren, geht es aber nicht darum, das In- ternet an sich zu bekämpfen, sondern im Gegenteil darum, für seine faire- re Verbreitung zu sorgen. Auch Wi- derstände gegen das Überwachungs- programm der NSA oder die Daten- sammelwut von IT-Konzernen richten sich nicht gegen das Netz an sich, son- dern drehen sich um Fragen von Go- vernance und Kontrolle. Kartellver- fahren können den Konzernen viel- leicht noch am gefährlichsten werden, aber eine Heerschar von Juristen ar- beitet daran, das zu verhindern.
Sollte sich Technologie als ent- scheidende Triebkraft der Verände- rung durchsetzen, dann ist sie eine eminent politische Frage. Angesichts der Wucht des digitalen Fortschritts liegt in der humanistischen Ausge- staltung der digitalen Revolution eine zentrale Aufgabe, von der aktuelle Krisen und Konflikte nicht ablenken dürfen. Sonst wird das positive Po- tenzial für die Gesellschaft nicht ge- nutzt, sondern ein Machtmonopol ge- schaffen. Dann träte aus den Ruinen der rückwärts gewandten Konflikte um Grenzen, Nationen und kulturel- le Identität als wahrer Sieger eine di- gitale Weltmacht hervor, die in allen Lebensbereichen als Kontrollinstanz wirken könnte.
Christian Schwägerl arbeitet als freier Wissenschafts- und Politikjournalist in Berlin. Sein jüngstes Buch „Die analoge Revolu tion“ (2014) erkundet die Zukunft digitaler Technologien.
