Digitale Mündigkeit

IP • September / Oktober 2019

134

Buchkritik

D

igitales Zeitalter“, „Vierte In- dustrielle Revolution“, „techno- logischer Transformationsprozess“ – wie immer man es nennen mag, dies ist der Beginn eines gesellschaftli- chen Umbruchs. Das verunsichert, verwirrt und verängstigt sowohl den Normalbürger als auch politische und wirtschaftliche Entscheidungsträger.

Aufklärung tut not, Handeln ist gefor- dert. Zumindest auf dem Buchmarkt geht man schon mal mit gutem Bei- spiel voran: Die Flut von Neuerschei- nungen ist jedenfalls beeindruckend.

Mensch und Maschine

Es verwundert nicht, dass mit Jörg Dräger und Ralph Müller-Eiselt zwei ausgewiesene Experten von der Ber- telsmann Stiftung sich dieser Aufga- be angenommen haben. Denn die in Gütersloh ansässige Stiftung hat sich auf die Fahnen geschrieben, den di- gitalen Wandel verständlich zu ver- mitteln und gemeinwohlfördernd zu gestalten. „Wir und die intelligenten Maschinen“ heißt das Buch, das die

Leserinnen und Leser tief in die Welt der Algorithmen eintauchen lässt.

Gleich zu Beginn legen die Auto- ren entschlossen die Marschroute des Buches fest – der hierzulande herr- schenden Unkenntnis, Unentschlos- senheit und dem Unbehagen in Be- zug auf Algorithmen ein Ende zu set- zen. Dräger und Müller-Eiselt setzen auf eine Versachlichung der Debatte:

Algorithmen seien weder ein univer- selles Heilmittel für die kognitiven menschlichen Begrenzungen noch dystopisches Hexenwerk.

Gegen Irrtümer seien weder Mensch noch Maschine gefeit; der Unterschied bestehe in den Ursachen dafür. Menschliches Versagen lasse sich etwa auf Überlastung oder in- konsistentes Denken zurückführen, das der Algorithmen auf diskriminie- rendes Denken oder falsche Schlüsse.

Anhand von Stichworten wie Perso- nalisierung, Verteilung oder Gerech- tigkeit zeigen die Autoren eindrucks- voll, wie ein sinnvolles Zusammen- spiel von Mensch und Maschine Von Kaan Sahin

Wer als Gewinner aus dem technologischen Wandel hervorgehen will, muss ihn selbst gestalten

Digitale Mündigkeit

IP • September / Oktober 2019 135 Digitale Mündigkeit

Fehldeutungen von beiden Seiten ver- meiden kann.

Die Algorithmen kontrollieren Auch wenn einige Beispiele sich wie- derholen (wie das „Predictive Poli- cing“, vorausschauende Polizeiarbeit), so zeigt doch die Fülle der skizzierten algorithmischen Spielarten, wie in- tensiv sich die Autoren mit den mög- lichen positiven und negativen Aus- wirkungen auf alle Gesellschaftsbe- reiche beschäftigt haben.

So schildern sie etwa, dass die auf einem hoch entwickelten Algorith- mus basierende Bilderkennungssoft- ware Aipoly Vision sehbehinderte Menschen darin unterstützt, mithilfe ihres Handys Gegenstände zu identi- fizieren. Doch was passiert, wenn al- gorithmische Systeme den Menschen dabei helfen, „technisch aufzurüs- ten“, ein Teil dieser Personen aber seine Seh- oder Hörbehinderung gar nicht als Manko ansieht? Führt dies dann nicht dazu, dass durch technolo- gische Innovationen die Mehrheit be- stimmt, welche vermeintlichen Män- gel beseitigt werden sollen?

Hinzu kommt, dass auch gut ge- meinte algorithmische Systeme im Justiz- oder Personalwesen Gefahr laufen, bestimmte Personengruppen zu diskriminieren. Auf der anderen Seite kann die sinnvolle Nutzung von Algorithmen Menschenleben retten, etwa bei der Vorhersage von Herzin- farkten und Sterberisiken.

Bei Betrachtungen wie diesen zeigt sich die große Stärke des Wer- kes: Anstatt sich hilflos und gleich- sam grollend den Algorithmen zu er- geben, sind es die Menschen, die die Algorithmen kontrollieren und nut- zen können. Damit die Dystopie ei- nes „Orwellschen Alptraums“ abge-

wendet und die Maschinen zu Die- nern gemacht werden können, müs- sen den Autoren zufolge in einem ständigen Kontroll- und Aushand- lungsprozess Maßnahmen wie eine

„Risiko- und Relevanzabschätzung von algorithmischen Systemen“ oder die Überprüfung von Quellcodes un- ternommen werden.

Dabei gilt es, Algorithmen nicht nur als Geschäfts-, sondern als Teil ei- nes Gesellschaftsmodells zu betrach- ten und aktiv an der Verwirklichung dieses Modells mitzuwirken. Dann lassen sich in der Gemeinschaft von Mensch und Maschine auch Algorith- men für das Wohl des Einzelnen und für die Gesellschaft zunutze machen.

Der digitale Marx

Nach seinem preisgekrönten Buch

„Zur Kritik der digitalen Ökonomie“

widmet sich Timo Daum der Künstli- chen Intelligenz und bettet sie in sei- ne bereits bekannte Kritik am (digi- talen) Kapitalismus ein. In seinem Buch „Die Künstliche Intelligenz des Kapitals“ entmystifiziert der Autor in einer stets klar und sehr gut nach- vollziehbaren Beweisführung den KI-Begriff.

Was die menschliche Intelli- genz überhaupt sei, was sie beson- ders auszeichne, sei gar nicht defi- niert und nur schwer modellierbar.

Daher sei der Begriff der Künstli- chen Intelligenz nichts weiter als ein „medienwirksamer Marketing- begriff“, der den Kern dieses Phäno- mens überhöhe: Im Grunde gehe es um das maschinelle Lernen, das in Software-Form mit programmierten Algorithmen riesige Datenmengen analysiere, Muster erstelle und dar- aus Schlussfolgerungen ziehe. Allein die Herleitung dieser Feststellung

Jörg Dräger und Ralph Müller-Eiselt:

Wir und die intelli- genten Maschinen.

Wie Algorithmen unser Leben be- stimmen und wir sie für uns nutzen können.

München: DVA 2019. 272 Seiten, 20,00 Euro

IP • September / Oktober 2019

136

Buchkritik

hilft der derzeitigen Gesellschaftsde- batte über neuartige Technologien, die allzu häufig auf falschen Annah- men beruht.

Für die immer datenhungriger werdende Wirtschaft komme die Al- gorithmen-Flut wie gerufen. Daum zufolge sind diese Algorithmen mitt- lerweile das zentrale Herrschafts- und Ausbeutungsinstrument. Dabei gehe es, wie der Autor mit Rückgriff auf die Marxsche These des sich stets wandelnden Kapitalismus feststellt, nicht mehr um Lohnarbeit, sondern um die Extraktion der Daten. Letz- tere werfe mehr Nutzen ab, sei es, weil sie mit Empfehlungs-Algorith- men arbeite, wie es die Techgiganten praktizierten, oder sei es dank der zunehmenden Automatisierung mit KI-Robotern.

Mulmiges Gefühl

Insgesamt gelingt dem Autor der nicht ganz einfache Balanceakt zwi- schen Wissensvermittlung und Plä- doyer ausgezeichnet. Wenn Daum allerdings den Wunsch nach einem

„Datenkommunismus“ äußert, so scheint das angesichts der von ihm selbst beschriebenen Marktmacht von Tech-Konzernen unrealistisch.

Und obgleich das Buch als kritischer Appell gedacht ist, so hätte man sich doch an der einen oder anderen Stel- le eine stärkere Würdigung der positi- ven Seiten von KI- und Roboter-Tech- nologien gewünscht.

Daum ist recht sparsam, wenn es darum geht, die in Deutschland herr- schende Skepsis gegenüber Technolo- gien abzubauen, sodass die Leserin- nen und Leser – im Vergleich zu an- deren Werken zu dem Thema – eher mit einem mulmigen Gefühl über die Zukunft zurückbleiben.

Zoom in, Zoom out

Die ganz großen Linien des digita- len Wandels zeichnet Klaus Schwab, Gründer und Vorsitzender des Welt- wirtschaftsforums, in seinem Werk

„Die Zukunft der Vierten Industriel- len Revolution“. Für diese Revoluti- on, die gerade beginne, seien aus den drei vorherigen Lehren zu ziehen.

Dabei gälte es vor allem, drei zent- rale Herausforderungen zu bewälti- gen: eine gerechte Verteilung des Nut- zens sicherzustellen, die Auswirkun- gen auf Sozial- und Ökosysteme zu beachten und eine menschenorien- tierte Entwicklung zu gewährleisten.

Hierbei zeigt Schwab richtigerwei- se einen Punkt auf, der in einer De- batte, die gespickt mit Buzzwords und gefährlichem Halbwissen ist, häufig zu kurz kommt: Um solchen Heraus- forderungen erfolgreich begegnen zu können, ist es zunächst einmal not- wendig, sich einen Mindesteindruck über die Potenziale der Technologien zu verschaffen („Zoom in“) und zu verstehen und einzuordnen, welche systematischen Veränderungen sie zur Folge haben („Zoom out“).

Darauf aufbauend empfiehlt der Autor einen Multi-Stakeholder-An- satz, der darauf zielt, alle relevan- ten Beteiligten aus Politik, Zivilge- sellschaft und Privatwirtschaft mit einzubeziehen. Dieser Ansatz grün- det auf Werten und orientiert sich am Menschen; er wird seit Langem vom Weltwirtschaftsforum propagiert und umgesetzt.

Dieser „Zoom in, Zoom out“-Stra- tegie folgt auch die anschließende Darstellung Schwabs. Er klopft zwölf Technologiegruppen auf ihre Anwen- dungsmöglichkeiten und ihre Effekte auf wirtschaftliche und gesellschaft- liche Prozesse ab.

Timo Daum: Die Künstliche Intelli- genz des Kapitals.

Hamburg: Nautilus Flugschrift 2019.

192 S., 16,00 Euro

IP • September / Oktober 2019 137 Digitale Mündigkeit

Ganz vollständig ist die Liste nicht; darauf weist der Autor eigens hin. Doch ist positiv anzumerken, dass auch Technologiecluster wie Neurotechnologien oder Geoenginee- ring behandelt werden, die sonst im Zuge des Hypes um KI oder Big Data eher vernachlässigt werden. Die Kehrseite der Medaille: Auch wenn am Ende jedes Kapitels die fünf zen- tralen Ideen zu diesen digitalen Tech- nologien leserfreundlich aufbereitet werden, so sind die Abschnitte am Ende doch zu kurz, um sich wirklich ein abschließendes Bild von diesen Innovationen zu machen.

Den Wandel gestalten

Die Chancen und Gefahren der tech- nologischen Umwälzungen nur zu er- kennen, reicht aus Sicht des Autors nicht aus. Schwab richtet an Regie- rungen, Unternehmen und Individu- en den Appell, sich mit diesen Verän- derungen konstruktiv auseinanderzu- setzen und gemeinsam nach Lösungen zu suchen, damit man sich in einer im- mer virtueller werdenden Welt nicht verliere. Es gelte, Verantwortung in Form einer „Systemführerschaft“ zu übernehmen. Das betreffe nicht nur neue Ansätze für Technologien, etwa mehr und strukturiertere Zusammen- arbeit in Innovationsprozessen, son- dern auch ihre politische Gestaltung und den Einsatz für Werte. Wie sich das in konkrete Strategien umsetzen lässt, das beschreibt Schwab aller- dings nur knapp.

Insgesamt ist sein Buch vor al- lem für die deutsche Diskussion ein wichtiger Beitrag, da die Digitali- sierungsdebatte hierzulande von ei- nem deutlichen Mangel an strategi-

scher Weitsicht geprägt ist. Schwab zeigt informativ und nachvollzieh- bar auf, welche Wirkungsmacht die Technologien in den kommenden De- kaden haben werden. Er mahnt alle Beteiligten eindringlich, diese digita- le Zukunft wertebasiert zu gestalten.

Die wichtigste Nachricht ist hierbei, dass es größtenteils in der Macht je- des Einzelnen liegt, die bevorstehen- den Umwälzungen für sämtliche Le- bensbereiche in die richtigen Bahnen zu lenken.

Digitales Wirrwarr

Eine werte- und gemeinwohlorien- tierte Einbettung der neuen Tech- nologien, das wird in allen hier be- sprochenen Büchern deutlich, ist un- abdingbar. Dass dies ein schwieriges Unterfangen sein wird, lässt sich al- lein daran ausmachen, dass die Auto- ren der drei Werke untereinander ver- mutlich selbst große Probleme hätten, sich in ihren Feinheiten auf gemein- same Werte und Gestaltungsformen der digitalen Zukunft zu einigen.

Doch auch wenn zu Recht vor den negativen Auswüchsen der tech- nologischen Entwicklungen gewarnt wird, so verlangen alle Autoren eines gleichermaßen: im digitalen Wirr- warr mündig zu handeln – und sich Maschinen und Algorithmen nicht einfach zu ergeben.

Klaus Schwab:

Die Zukunft der Vierten Industriel- len Revolution.

Wie wir den digita- len Wandel ge- meinsam gestalten.

München: DVA 2019. 400 Seiten, 26,00 Euro

Kaan Sahin ist Research Fellow für Technologie und Außenpolitik bei der DGAP.