Fake News im Wahlkampf

(1)

Abkürzungsverzeichnis 21

Einleitung 25

Einführung in die Problematik

I. 25

Eingrenzung des Untersuchungsgegenstandes

II. 28

Ziel und Aufbau der Darstellung

III. 28

Begriffliche, philosophische und ökonomische Grundlagen der Thematik

Kapitel 1:

31 Semantische Grundlagen

A. 31

Wahrheit

B. 32

Der philosophische Wahrheitsbegriff

I. 32

Die Korrespondenztheorie

1. 33

Die Konsenstheorie

2. 33

Philosophische Wahrheitskriterien

II. 34

Der kritische Rationalismus

1. 34

Die Diskurstheorie

2. 35

Der juristische Wahrheitsbegriff und seine -kriterien

III. 40

Soziale Netzwerke

C. 41

Historie

I. 42

Funktionen

II. 44

Der Facebook-Algorithmus

III. 45

Ökonomie sozialer Netzwerke

IV. 48

Nutzerkategorien

V. 50

Unterscheidung zwischen Profil, Seite und Gruppe

1. 51

Private Nutzer

2. 52

Influencer

3. 52

Werbetreibende

4. 53

Nachrichtenseiten

5. 53

Politiker und politische Vereinigungen

6. 55

Nutzungsverhältnis

VI. 55

Social Bots

VII. 56

(2)

Fake News als heuristischer Begriff

D. 59

Begriffsherkunft

I. 59

Beispielsfälle

II. 61

Der Fall Lisa

1. 61

Der tote Flüchtling vor dem Lageso

2. 63

Das „Merkel-Selfie“

3. 64

Ökonomie der Fake News

III. 64

Aufbau erfolgreicher Fake News

1. 65

Verbreitung von Fake News

2. 66

Kommerzialisierung

3. 67

Verhältnis zu anderen Begriffen aus dem Themenkreis

IV. 67

Desinformation

1. 67

Propaganda

2. 69

Verschwörungstheorien

3. 69

Hate Speech

4. 70

Arbeitsdefinition

V. 71

Fake News im Sinne dieser Arbeit

1. 72

Abgrenzung zwischen personenbezogenen Fake News und solchen ohne Personenbezug

2.

72 Konstellation 1: Personenbezogene Fake News

a) 73

Konstellation 2: Fake News ohne Personenbezug

b) 73

Netzpolitik von Facebook im Umgang mit Fake News

Kapitel 2: 75

Phase 1: Zurückweisung der Verantwortung

A. 76

Phase 2: Ergreifen von Maßnahmen gegen Fake News im Allgemeinen

B.

76 Trending Topics

I. 79

Verbesserte Identifizierung von Fake News

II. 79

Technische und menschliche Kontrolle von Beiträgen

III. 80

Technische Überprüfung

1. 81

Menschliche Überprüfung

2. 82

Bekämpfung sogenannter Dark Ads

IV. 88

Phase 3: Gezielte Bekämpfung von Fake News im Wahlkampf

C. 90

Kontrolle und Transparenz von Wahlwerbung

I. 91

Wahlwerbung und Werbung zu Themen von nationaler Relevanz

1.

93 Neue Funktionen

2. 95

Entwicklungsschritte der Werberichtlinien in Bezug auf Fake News

3.

97

(3)

Keine Faktenprüfung von Beiträgen und Werbeanzeigen von Politikern

II.

103 Facebook News

III. 105

Oversight Board

IV. 107

Organisation und Finanzierung

1. 108

Mitglieder

2. 108

Erstmalige Besetzung des Oversight Boards

a) 110

Spätere Besetzung des Oversight Boards

b) 111

Befugnisse

3. 113

Überprüfung von Inhalten

4. 113

Überprüfungsverfahren

5. 115

Entscheidung

6. 116

Voting Information Center (USA)

V. 117

Governance Facebooks

VI. 118

Entwicklung der Nutzungsbedingungen in Bezug auf Fake News

1.

118 Entwicklung der Gemeinschaftsstandards in Bezug auf

Fake News 2.

121 Bewertung

VII. 123

Forschungsstand

1. 124

Stellungnahme

2. 126

Grundrechtliche Dimension von Fake News

Kapitel 3: 133

Grundrechtsfunktionen

A. 134

Abwehrfunktion der Grundrechte

I. 135

Grundrechte als objektive Wertordnung

II. 135

Schutzpflichtdimension der Grundrechte

III. 137

Verhältnis zwischen nationalen und Unionsgrundrechten

B. 139

Durchführung von Unionsrecht, Art. 51 Abs. 1 S. 1 GRCh

I. 140

Nicht vollharmonisierter Bereich

II. 141

Vollharmonisierter Bereich

III. 143

Einfluss der EMRK auf die Grundrechte

C. 146

Einfluss auf die deutschen Grundrechte

I. 146

Einfluss auf die Unionsgrundrechte

II. 148

Fake News und Grundrechte: Die Verbreiterperspektive

D. 149

Ratio der Abgrenzung der Schutzbereiche

I. 150

(4)

Freiheiten des Art. 5 GG

II. 151

Ratio der Unterscheidung zwischen den Freiheiten des Art. 5 GG

1.

151 Meinungsfreiheit, Art. 5 Abs. 1 S. 1 GG

2. 152

Sachlicher Schutzbereich

a) 153

Abgrenzung von Meinungsäußerungen und Tatsachenbehauptungen

(1)

153 Schutzumfang

(2) 157

Anonyme Äußerungen

(3) 159

Persönlicher Schutzbereich

b) 161

Natürliche Personen

(1) 161

Grundrechtsmündigkeit

(a) 161

Maschinengenerierte Äußerungen

(b) 162

Hoheitsträger

(c) 162

Juristische Personen

(2) 166

Eingriff

c) 167

Mittelbare Drittwirkung der Grundrechte

(1) 169

Reichweite der Grundrechtsbindung

(2) 170

Zwischenergebnis

(3) 174

Rechtfertigung

d) 174

Gestufte Sorgfaltspflichten

(1) 178

Mittlere Sorgfaltsanforderungen

(a) 178

Hohe Sorgfaltsanforderungen

(b) 179

Sorgfaltspflichten bei Verbreitung von Presseerzeugnissen und presseähnlichen Erzeugnissen

i.

180 Das Laienprivileg

ii. 182

Erfahrungs- und Kontrollbereich

a. 182

Persönliche Anwendbarkeit

b. 183

Weiterentwicklung des Laienprivilegs

iii. 184

Systematische Einordnung

(2) 187

Schutzbereichslösung

(a) 187

Rechtfertigungslösung

(b) 190

Medienfreiheit, Art. 5 Abs. 1 S. 2 GG

3. 191

Einheitliche Medienfreiheit oder Dreiklang der Freiheiten?

a)

191 Verhältnis zu der Meinungsfreiheit aus Art. 5 Abs. 1

S. 1 GG b)

195 Schutzbereich

c) 197

Sachlicher Schutzbereich der Medienfreiheit

(1) 197

(5)

Persönlicher Schutzbereich der Medienfreiheit

(2) 200

Amateurjournalisten

(a) 201

Juristische Personen des öffentlichen Rechts

(b) 202

Eingriff

d) 203

Rechtfertigung

e) 203

Kunstfreiheit, Art. 5 Abs. 3 S. 1 1. Alt. GG

4. 204

a) 204

Kunstbegriff

(1) 205

Besondere Kunstform der Satire

(2) 206

Schutzumfang

(3) 208

Zwischenergebnis

(4) 208

b) 209

Eingriff

c) 210

Rechtfertigung

d) 210

Wissenschaftsfreiheit, Art. 5 Abs. 3 S. 1 2. Alt. GG

5. 211

a) 211

b) 212

Eingriff

c) 213

Rechtfertigung

d) 213

Berufsfreiheit, Art. 12 Abs. 1 GG

III. 213

1. 213

2. 215

Eingriff

3. 216

Rechtfertigung

4. 218

Allgemeine Handlungsfreiheit, Art. 2 Abs. 1 GG

IV. 218

1. 219

2. 220

Eingriff

3. 220

Rechtfertigung

4. 221

Unionsgrundrechte

V. 221

Freiheit der Meinungsäußerung, Art. 11 Abs. 1 GRCh

1. 221

Medienfreiheit, Art. 11 Abs. 2 GRCh

2. 226

Freiheit der Kunst und der Wissenschaft, Art. 13 GRCh

3. 227

Berufsfreiheit und Recht zu arbeiten, Art. 15 GRCh

4. 229

Unternehmerische Freiheit, Art. 16 GRCh

5. 231

Allgemeine Handlungsfreiheit

6. 233

Weitere denkbare Grundrechte

VI. 233

(6)

Fake News und Grundrechte: Die Betroffenenperspektive

E. 234

Allgemeines Persönlichkeitsrecht, Art. 2 Abs. 1 iVm Art. 1 Abs. 1 GG

I.

234 Sachlicher Schutzbereich

1. 234

Selbstdarstellung in der Öffentlichkeit, insbesondere Recht auf informationelle Selbstbestimmung a)

237 Persönliche Ehre

b) 238

Persönliche Autonomie

c) 239

Grundbedingungen der Persönlichkeitsentfaltung und -entwicklung

d)

239 Zwischenergebnis

e) 240

2. 240

Eingriff

3. 241

Rechtfertigung

4. 241

Menschenwürde, Art. 1 Abs. 1 GG

II. 243

Wahlrecht, Art. 38 Abs. 1 S. 1, Abs. 2, Art. 28 Abs. 1 S. 2 GG

III. 244

Grundsätze

1. 244

Insbesondere: Neutralitätsgebot bzw. Gebot äußerster Zurückhaltung

2.

246 Unionsgrundrechte

IV. 249

Recht auf Achtung des Privat- und Familienlebens, Art. 7 GRCh

1.

249 Schutz personenbezogener Daten, Art. 8 GRCh

2. 250

Menschenwürde, Art. 1 GRCh

3. 252

Wahlrecht, Art. 39 GRCh

4. 252

Fake News und Grundrechte: Die Perspektive des Intermediärs (Facebook)

F.

253 Grundrechtsberechtigung Facebooks

I. 253

Einschlägige Grundrechtspositionen

II. 254

Kommunikationsfreiheiten, Art. 5 Abs. 1 GG

1. 254

Eigene Beiträge Facebooks

a) 255

Algorithmische Beitragsauswahl und -sortierung

b) 256

Löschung und Reichweitenreduktion einzelner Beiträge

c)

260 Rechtswidrigkeit des Beitrags

(1) 261

Overblocking

(2) 262

Verstoß des Beitrags gegen die Allgemeinen Geschäftsbedingungen

(3)

262 Insbesondere: Löschung von Fake News

(4) 263

Zwischenergebnis

(5) 264

(7)

Kunstfreiheit, Art. 5 Abs. 3 S. 1 1. Alt. GG

2. 264

Berufsfreiheit, Art. 12 Abs. 1 GG

3. 265

Eigentumsfreiheit, Art. 14 Abs. 1 GG

4. 266

Allgemeine Handlungsfreiheit, Art. 2 Abs. 1 GG

5. 269

Europäische Grundrechte

6. 269

Fake News und Grundrechte: Die Perspektive der übrigen Nutzer

G. 270

Informationsfreiheit, Art. 5 Abs. 1 S. 1 GG

I. 270

1. 271

2. 274

Eingriff

3. 274

Rechtfertigung

4. 274

Unionsgrundrecht der Informationsfreiheit, Art. 11 Abs. 1 GRCh

II.

275 Die staatliche Verpflichtung zur Regulierung von Fake

News Kapitel 4:

277 Problemgeschichte

A. 277

Rein öffentlich-rechtlicher Rundfunk

I. 278

Duales Rundfunksystem

II. 282

Geburtsstunde des World Wide Web

III. 283

Web 2.0

IV. 287

Soziale Netzwerke als Teilmenge des Web 2.0

V. 289

Die Filterblase

1. 292

Die Echokammer

2. 294

Bewertung

3. 295

Rechtsgrundlagen für die Pflicht zur Regulierung von Fake News

B. 297

Verfassungsrechtliche Fundamente zur Regulierung personenbezogener Fake News

I.

297 Allgemeines Persönlichkeitsrecht des Betroffenen, Art. 2 Abs. 1 iVm Art. 1 Abs. 1 GG

1.

298 Menschenwürde des Betroffenen, Art. 1 Abs. 1 GG

2. 299

Zwischenergebnis

3. 299

Verfassungsrechtliche Fundamente zur Regulierung von Fake News ohne Personenbezug

II.

300 Objektiv-rechtliche Dimension des Art. 5 Abs. 1 S. 2 GG

1. 300

Tendenz zur Monopolbildung

a) 303

Intransparenz der Algorithmen

b) 309

Reichweite

c) 315

Zwischenergebnis

d) 316

(8)

Demokratieprinzip, Art. 20 Abs. 1, Abs. 2 GG

2. 317

Ergebnis

III. 318

Umgang mit Fake News de lege lata

Kapitel 5: 319

Subjektive Ansprüche gegen personenbezogene Fake News de lege lata

A.

319 Überblick über die Ansprüche des Betroffenen gegen den

Verbreiter I.

321 Anspruch auf Löschung bzw. Berichtigung

1. 321

Anspruch auf Schadensersatz

2. 323

Gegendarstellungsanspruch aus § 1004 BGB iVm Landesmedien- und Landespressegesetzen 3.

323 Bewertung

4. 325

Überblick über die Ansprüche des Betroffenen gegen Facebook

II.

326 Vorfrage: Darf Facebook Beiträge löschen bzw.

Nutzerkonten sperren?

1.

326 Rechtswidrige Inhalte

a) 327

Rechtmäßige Inhalte, die gegen Facebooks Allgemeine Geschäftsbedingungen verstoßen b)

330 Fazit

c) 332

Facebooks Allgemeine Geschäftsbedingungen

2. 333

Anspruchsgrundlage

a) 333

Facebooks Nutzungsbedingungen

(1) 333

Facebooks Gemeinschaftsstandards

(2) 334

Falschmeldungen, Abs. IV Nr. 21 Gemeinschaftsstandards

(a)

335 Falschdarstellung, Abs. IV Nr. 17

Gemeinschaftsstandards (b)

337 Spam, Abs. IV Nr. 18

Gemeinschaftsstandards (c)

338 Nicht-authentisches Verhalten, Abs. IV

Nr. 20 Gemeinschaftsstandards (d)

339 Manipulierte Medien, Abs. IV Nr. 22

Gemeinschaftsstandards (e)

340 Zwischenergebnis

(f) 341

Facebooks Werberichtlinien

(3) 342

Rechtsfolge

b) 344

(9)

Berichtigungs- bzw. Löschansprüche nach geltendem Recht

3.

346 Datenschutzrechtliche Anspruchsgrundlagen

a) 346

Verhältnis der DSGVO zur E-Commerce- Richtlinie

(1)

347 Anwendbarkeit des Medienprivilegs aus Art. 85

Abs. 2 DSGVO (2)

348 Ansprüche aus Art. 16, 17 DSGVO

(3) 350

Weitere Anspruchsgrundlagen

b) 350

Störerbegriff

(1) 351

Abgrenzung Täter – Störer

(2) 352

Verletzung einer Prüfpflicht

(3) 354

Zwischenergebnis

(4) 356

Umfang der Löschpflicht

c) 356

Räumlicher Umfang

(1) 356

Ausweitung auf sinngleiche Inhalte

(2) 357

Schadensersatzansprüche

4. 359

Auskunftsansprüche

5. 360

Gegenanspruch des Verbreiters bei fehlerhafter Löschung bzw. Sperrung

6.

362 Subjektive Ansprüche gegen Fake News ohne Personenbezug de lege lata

B.

362 Objektive Mechanismen

C. 362

Strafrecht

I. 362

Netzwerkdurchsetzungsgesetz

II. 367

Ausgangspunkt: Haftungsprivilegierung des § 10 TMG

1. 367

Wesentliche Inhalte des Netzwerkdurchsetzungsgesetzes

2. 367

Umsetzung durch Facebook

3. 369

Kritik am Netzwerkdurchsetzungsgesetz

4. 372

Vereinbarkeit mit Unionsrecht

a) 372

Gesetzgebungskompetenz des Bundes

b) 373

Vereinbarkeit mit Art. 5 Abs. 1 GG – insbesondere Overblocking

c)

373 Weitere Kritikpunkte

d) 374

Bewertung

5. 375

Wahlprüfung

III. 375

Öffentliches Medienrecht

IV. 376

Wettbewerbsrecht

V. 378

(10)

Maßnahmen der Europäischen Union

VI. 382

East StratCom Task Force

1. 382

Verhaltenskodex zur Desinformation

2. 383

In Planung: Digital Services Act

3. 386

Maßnahmen sonstiger Aktivisten

VII. 387

Zusammenfassende Bewertung

D. 387

Regulierung von Fake News de lege ferenda

Kapitel 6: 391

Vorüberlegung: Risiken staatlicher Eingriffe in den Diskurs

A. 391

Rechtsvergleichende Ansätze

B. 392

Rechtliche Rahmenbedingungen des Wahlkampfes im europäischen und außereuropäischen Ausland

I.

393 Italiens Gesetzesentwurf gegen Fake News

II. 394

Frankreichs Gesetz gegen Fake News

III. 395

Bewertung

IV. 398

Überblick und Bewertung der wichtigsten inländischen Vorschläge

C.

399 Richtigstellung oder Löschung falscher Nachrichten

I. 399

Offenlegung des Algorithmus

II. 404

Stärkung der Medienpädagogik in Lehrplänen

III. 405

Der Entwurf eines Medienstaatsvertrags der Länder

D. 406

Vorgaben zu Medienintermediären

I. 406

Begriff des Medienintermediärs

1. 407

Vorgaben der §§ 91 ff. MStV-E

2. 407

Transparenzvorgaben

a) 408

Vorgaben zur Diskriminierungsfreiheit

b) 409

Kennzeichnungspflicht von Social Bots

II. 410

Bewertung

III. 411

Bewertung der Transparenzvorgaben

1. 411

Bewertung des Diskriminierungsverbots

2. 413

Bewertung der Kennzeichnungspflicht

3. 414

Vorschlag einer weitergehenden medienrechtlichen Regelung

E. 415

Vielfaltssicherung

I. 415

Anzeige vielfältiger Beiträge zum Thema

1. 416

Regulierung politischer Werbung

2. 420

Transparenz

II. 421

Gesetzgebungsebene

III. 422

Grundrechtliche Bewertung der Regelung

IV. 423

(11)

Zusammenfassung und Ausblick 427

Epilog 437

Aktuelle Entwicklungen

A. 437

COVID-19-Pandemie

I. 437

US-Wahlen 2020

II. 440

„Nachrichtensperre“ auf Facebook in Australien

III. 444

Änderungen im Umgang mit Beiträgen von Politikern

B. 445

Bewertung der Entwicklungen

C. 448

Auswirkung der Entwicklungen auf den hiesigen Regulierungsvorschlag

D.

449

Anhang 451

Facebook, Nutzungsbedingungen, Stand: 31.07.2019, URL:

https://www.facebook.com/legal/terms (besucht am 17.06.2020) A.

451 Auszug aus Nr. 3 Deine Verpflichtungen gegenüber

Facebook und unserer Gemeinschaft I.

451 Auszug aus Nr. 4 Zusätzliche Bestimmungen

II. 452

Facebook, Gemeinschaftsstandards, Stand: 21.06.2020, URL:

https://www.facebook.com/communitystandards (besucht am 21.06.2020)

B.

453 Einleitung

I. 453

Auszug der relevanten Normen aus Abs. IV

II. 456

Abs. IV Nr. 17 Falschdarstellung

1. 456

Abs. IV Nr. 18 Spam

2. 457

Abs. IV Nr. 20 Nicht-authentisches Verhalten

3. 459

Abs. IV Nr. 21 Falschmeldungen

4. 460

Abs. IV Nr. 22 Manipulierte Medien

5. 461

Facebook, Werberichtlinien, URL: https://www.facebook.com/

policies/ads (besucht am 24.06.2020) C.

462 Nr. 1 Übersicht

I. 462

Auszug aus Nr. 4 Verbotene Inhalte

II. 463

Nr. 4.1 Gemeinschaftsstandards

1. 463

Nr. 4.10 Verletzung der Rechte Dritter

2. 463

Nr. 4.11 Reißerische Inhalte

3. 463

Nr. 4.12 Personenbezogene Merkmale

4. 463

Nr. 4.13 Fehlinformationen

5. 466

(12)

Nr. 4.14 Kontroverse Inhalte

6. 467

Nr. 4.24 Minderwertige oder störende Inhalte

7. 467

Auszug aus Nr. 5 Eingeschränkte Inhalte

III. 468

Nr. 5.10.a Wahlwerbung bzw. Werbung zu politisch oder gesellschaftlich relevanten Themen

1.

468 Nr. 5.10.b Disclaimer für Wahlwerbung bzw. Werbung zu politisch oder gesellschaftlich relevanten Themen 2.

469 Auszug aus Nr. 13 Was du wissen solltest

IV. 470

Anhang Epilog 473

Literaturverzeichnis 483