• Keine Ergebnisse gefunden

2.4 „selbst“, „selbstständig“

Klasse 1-KI-Systeme: KI-Systeme mit niedriger Anzahl von Variablen, z.B

4 Klasse Variation der Involviertheit des 5

5.7 Lösungsansätze

5.7.1 Organische Weiterentwicklung des Rechts

Organische Weiterentwicklung des Rechts meint in diesem Zusammenhang, die bestehenden rechtlichen Strukturen wo nötig und möglich anzupassen und als Ausgangspunkt für neue Ansätze zu nutzen. Das Recht, insbesondere das Technikrecht, definiert die Rahmenbedingungen für unser Zusammenleben, also hier für die Entwicklung und Verwendung von Technik. Es reagiert auf die Entwicklung neuer Technologien und vollzieht sie nach, indem es Anforderungen stellt, Verantwortlichkeiten regelt und ggf. auch Verbote ausspricht. Das bestehende Recht ist damit auch Ausdruck technologischen Fortschritts: In ihm manifestieren sich die Reaktionen unserer Gesellschaft auf die sozialen, gesundheitlichen, ökonomischen und ökologischen Auswirkungen von Technik. Es ist darüber hinaus in unserem demokratisch verfassten Gemeinwesen Ergebnis eines formalisierten gesellschaftlichen Aushandlungsprozesses und nicht bloßer Ausdruck technologischer, sozialer oder gesundheitlicher Notwendigkeiten. Indem das Recht also die Rahmenbedingungen setzt, reagiert es nicht nur auf bereits bestehende Entwicklungen. Es greift auch kommenden Entwicklungen voraus, da sich die Forschung und Entwicklung von Technologien im Rahmen des Rechts bewegen muss.

Da das (formelle) Recht sich jedoch verhältnismäßig langsam ändert, bleiben einmal getroffene Entscheidungen des Gesetzgebers für längere Zeit maßgeblich. Der Gesetzgeber muss also drei verschiedenen Ansprüchen gerecht werden: Der Wahrnehmung seiner grundrechtlichen Schutzpflichten, der Schaffung eines klaren Rahmens für rechtssicheren und technologischen Fortschritt sowie der Wahrung der grundrechtlich gewährleisteten (unternehmerischen) Freiheiten und dem daraus folgenden Anspruch größtmöglicher Technologieoffenheit.

Das Produktsicherheitsrecht nach dem ProdSG versucht diesen Spagat dadurch zu bewerkstelligen, dass es nur sehr allgemeine Sicherheitsanforderungen an das Produkt und die Pflichten für den Hersteller formuliert. Die Konkretisierung dieser allgemeinen Regelungen erfolgt dann im Einzelfall entweder durch den Hersteller selbst, der auf Grundlage eine Risikobeurteilung für das jeweilige Produkt bestimmt, wie dieses ausgestaltet sein muss, um den allgemeinen gesetzlichen Anforderungen

zu entsprechen. Oder es werden für die einzelne Produktgruppen und Sicherheitsanforderungen technische Normen durch private Normungsgremien erstellt, die den aktuellen Stand der Technik widerspiegeln und an denen sich der Hersteller orientieren kann. Der Gesetzgeber gibt also nur den groben Rahmen vor, die konkrete Ausgestaltung der Sicherheitsanforderungen liegt hingegen in privater Hand.

5.7.2 Das Verhältnis zwischen ProdSG und BetrSichV und BImSchG Während das ProdSG die an der Fertigung und dem Vertrieb des Produkts beteiligten Wirtschaftsakteure in den Blick nimmt, adressieren das ArbSchG mit der BetrSichV und das BImSchG die Verwender der Technologie. Wie bereits zur Entwicklung des Produktsicherheitsrechts dargestellt, ist das ProdSG aus dem nutzerorientierten Arbeitsschutzrecht heraus entstanden. Die öffentliche-rechtliche Verpflichtung des Herstellers zur Gewährleistung der Sicherheit und Zuverlässigkeit der von ihm in Verkehr gebrachten technischen Produkte hatte sich als erforderlich erwiesen. So wird der Arbeitgeber als Verantwortlicher für die Sicherheit im Betrieb entlastet, ohne dass er von seinen Pflichten entbunden wird: Er darf nicht blind auf die Herstellerangaben vertrauen, sondern muss die konkreten Gegebenheiten im Betrieb beachten und entsprechende Maßnahmen ergreifen.

Auch der Anlagenbetreiber kann Produkte im Sinne des ProdSG als Anlagen einsetzen. Für die Einhaltung der Pflichten des BImSchG ist er jedoch allein verantwortlich. Auch wenn immissionsschutzrechtliche Anforderungen in ähnlicher Form in den speziellen Sicherheitsanforderungen an das als Anlage eingesetzte Produkt bereits Niederschlag gefunden haben können, werden sie trotzdem erneut Gegenstand des Genehmigungsverfahrens.

Diese ordnungsrechtlichen Verantwortlichkeiten sind in der folgenden Tabelle zusammengefasst. Dabei wird nach der Zeit bis zum Inverkehrbringen des Produkts und der darauffolgenden Zeit unterschieden und ergänzend nach der Marktüberwachung sowie dem Verwender, beispielsweise Verbrauchern, denen keine ordnungsrechtlichen Pflichten obliegen.

Abb. 5.5 Pflichten zur Gewährleistung der Sicherheit eines Produkts/Arbeitsmittels/

Anlage. In der Darstellung kursiv sind die Obliegenheiten, deren Nichteinhaltung

höchstens zu einem Verlust von Vorteilen führt: So hat die nicht bestimmungs-gemäße Verwendung des Produkts durch den Verwender keine unmittelbaren rechtlichen Nachteile, kann aber z. B. zu einer Beschädigung des Produkts führten.

Diese scheinbare Doppelung der Pflichten ist auf die unterschiedlichen Regelungszwecke zurückzuführen. Während das Produktsicherheitsrecht die von Produkten ausgehenden Gefahren bereits im Herstellungsprozess vermeiden soll, zielen die anderen vorgestellten Gesetze auf deren konkrete Nutzung ab. Mit Inverkehrbringen bzw. Inbetriebnahme hat der Hersteller jedoch keinen direkten Einfluss mehr auf die Nutzung seines Produkts. Ab diesem Zeitpunkt kann er das Produkt höchstens noch beobachten, wozu er für bestimmte Produkte wie Verbraucherprodukte oder Spielzeug auch verpflichtet ist. So werden ab diesem Zeitpunkt andere Adressaten in den Blick genommen, um einen möglichst lückenlosen Schutz gefährdeter Rechtsgüter und Interessen zu gewährleisten. Es kommen auch neue Schutzziele hinzu. Das BImSchG erweitert den Kreis der geschützten Interessen um die der Umwelt der Anlage. Dementsprechend sind die von den verschiedenen Gesetzen an das Produkt (bzw. Arbeitsmittel/Datenverarbeitung/Anlage) gestellten Anforderungen nicht immer deckungsgleich.

Außerdem variieren die Rollen des Staates, die er in den jeweiligen Regelungsbereichen spielt. Am deutlichsten wird dies, wenn man die Rolle der Marktaufsichtsbehörde nach ProdSG und die der Aufsichtsbehörde nach ArbSchG betrachtet. Die Marktaufsichtsbehörde hat kein Entschließungsermessen, wenn aufgrund der ihr vorliegenden Informationen ein Verdacht der Pflichtverletzung durch die Produktverantwortlichen begründet ist.366 Die Aufsichtsbehörden dagegen haben einen weiten Spielraum bei Verdacht einer Pflichtverletzung durch den Arbeitgeber.

Ein und dasselbe KI-System kann so Gegenstand unterschiedlicher Gesetze sein bzw. im Laufe seines „Lebens“ werden. Unterschiedliche Personen können für seine Beschaffenheit und die von ihm ausgehenden Gefahren verantwortlich sein, mitunter auch nebeneinander. Auch die technischen Anforderungen können variieren, da jedes Gesetz unterschiedlichen Zwecken dient und zu deren Erreichung eigene Mittel vorhält.

Zeitlicher Dreh- und Angelpunkt der Verantwortungsallokation zwischen der Herstellerseite und den Verwendern ist dabei das Inverkehrbringen bzw. die Inbetriebnahme. Er muss die bestimmungsgemäße und vorhersehbare Verwendung im Blick haben, wenn er die Risikobeurteilung vornimmt, ist jedoch nicht verantwortlich, wenn sich die Verwendung außerhalb dessen bewegt, was er seiner Risikobeurteilung zugrunde gelegt hat bzw. zugrunde legen konnte. Die Pflichten des Arbeitgebers greifen bereits früh, da er schon bei Beschaffung des Arbeitsmittels die Sicherheit im Betrieb im Blick haben muss. Auch der Betreiber einer Anlage im Sinne des BImSchG wird bereits früher verantwortlich, nämlich mit Errichtung der Anlage. Entscheidend bleibt jedoch spätestens der Zeitpunkt der Inbetriebnahme, da der Hersteller damit aus der Pflicht entlassen ist, vorbehaltlich spezieller Produktbeobachtungspflichten wie z.

B. bei Verbraucherprodukten.

366 Siehe dazu oben 5.3.4.1.1.2 – Marktüberwachungsmaßnahmen.

Abb. 5.6 Die ordnungsrechtlichen Verantwortlichkeiten den Lebenszyklus eines Produkts im Vergleich.

Der hier vorgeschlagenen Regulierungsansätze versuchen diese Struktur weiterzuentwickeln. Sie werden in aufsteigender Reihenfolge nach dem Umfang der dort vorgeschlagenen Rechtsänderungen sortiert dargestellt.