Weiterentwicklung des Produktsicherheitsrechts

Anpassungen im Produktsicherheitsrecht können damit auch in den zeitlich nachfolgend einschlägigen Rechtsbereichen Einfluss haben, da die Verwender regelmäßig auf die Konformität des Produkts abstellen.

Die Untersuchung der Taxonomiedimensionen hat gezeigt, dass die zeitpunktbezogene Herstellerverantwortung dem Wissensvorsprung des Herstellers und seiner Fähigkeit, insbesondere bei für den Verwender intransparenten Systemen am ehesten neu auftretenden Risiken durch Änderungen an der Systemarchitektur begegnen zu können, nicht gerecht wird bzw. nicht angemessen rechtlich würdigt.

Die hier untersuchten Lösungsansätze konzentrieren sich daher auf den Hersteller.

5.7.3.1 Weiterentwicklung zur Regulierung von Veränderbarkeit und Transparenz

Die beiden Taxonomiedimensionen der Veränderbarkeit und Transparenz führen in hoher Ausprägung bei der Risikobeurteilung durch den Hersteller zu Problemen und werfen die Frage auf, ob durch eine Veränderung ein neues Produkt entsteht. Es sollen hier drei Ansätze erörtert werden, wie diese Taxonomiedimensionen im ProdSG reguliert werden könnten, um die Umsetzung möglichst hoher Ausprägungen zu ermöglichen.

5.7.3.1.1 Ansatz 1: Anpassung des Produktbegriffs

Der Produktbegriff des § 2 Nr. 22 ProdSG ist zusammen mit den tatbestandsmäßigen Handlungen des Inverkehrbringens bzw. der Bereitstellung für die Bestimmung des Pflichtenprogramms des Herstellers und der anderen Marktakteure nach ProdSG maßgeblich.

Der Produktbegriff könnte daher ergänzt werden, um klarzustellen, dass eine Veränderung des Produkts im Rahmen der bestimmungsgemäßen Veränderbarkeit nicht zur Herstellung eines neuen Produkts führt.

Eine Regelung zur Ergänzung des § 2 Nr. 22 ProdSG könnte wie folgt lauten³⁶⁷:

Zu [1]: Die Veränderung umfasst jede sicherheitsrelevante Änderung, die zu einem neuen Produkt führen würde. Es ist dabei offen, wer diese Veränderung anstößt. Wie diese Veränderung konkret aussieht, ist durch den Hersteller zu bestimmen.

Zu [2]: Dieser zweite Halbsatz konkretisiert die Begriffsdefinition in § 2 Nr. 22 ProdSG.

Die Produkteigenschaft selbst wird also nicht berührt.

Zu [3]: Die Veränderung muss im Rahmen der bestimmungsgemäßen Veränderbarkeit erfolgen. Damit wird die Veränderbarkeit durch den Hersteller definierbar. Er kann so einen klaren Rahmen setzen für alle nach Bereitstellung möglichen Veränderungen. Dadurch wird sein Pflichtenprogramm bei der Integration der Sicherheit klar, denn er hat seine Risikobeurteilung auch auf die von ihm vorausgesetzten Veränderungen auszurichten. Für die Verwender wird dadurch erkennbar, mit welchen sicherheitsrelevanten Veränderungen sie rechnen können.

Initiieren sie darüber hinausgehende Veränderungen, können wie gehabt Herstellerpflichten entstehen.

Zu [4]: Der Halbsatz grenzt den Tatbestand des § 2 Nr. 22 ProdSG ein, indem das Tatbestandsmerkmal des Fertigungsprozesses konkretisiert wird.

Bestimmungsgemäße Veränderungen sind nunmehr explizit nicht als Fertigungsprozess anzusehen. Damit soll anerkannt werden, dass es neben den herkömmlichen „unfertigen“ Produkten, wie den unvollständigen Maschinen, veränderbare Produkte gibt, für deren Veränderung sich der Hersteller durch eine entsprechende Zweckbestimmung verantwortlich erklärt. Er hat diese Veränderbarkeit bei der Integration der Sicherheit mitberücksichtigt, sodass es bei einer entsprechenden Veränderung nicht eines Auflebens der produktsicherheitsrechtlichen Pflichten bedarf, um den Gesetzeszweck zu erfüllen, also ein möglichst hohes Sicherheitsniveau zu gewährleisten.

Insgesamt hat diese verhältnismäßig kleine Anpassung vor allem klarstellende Funktion, indem sie die bereits bestehenden Herstellerpflichten unberührt lässt, sie jedoch für die bestimmungsgemäß veränderbaren Produkte klar dem Hersteller zuordnet.

Davon nicht erfasst werden jedoch solche Veränderungen, die bei Bereitstellung des Produkts noch nicht erkennbar waren, da es sich um ein hochgradig veränderbares Produkt handelt, das sich zudem durch große Intransparenz auszeichnet. Diese Kombination versucht der folgende Ansatz zu regulieren.

367 Die einzelnen Elemente bzw. Tatbestandsmerkmale der Norm sind durch die Zahlen in eckigen Klammern zur anschließenden Kommentierung markiert.

„[…]; die Veränderung [1] eines Produkts [2] im Rahmen der bestimmungsgemäßen Veränderbarkeit [3] stellt keinen Fertigungsprozess [4] dar.“

5.7.3.1.2 Ansatz 2: Zeitraumbezogene Pflicht des Herstellers zur Erhaltung der Sicherheit mit engem Begriff des „veränderlichen“ Produkts

Ein anderer Ansatz nimmt nicht allein den Produktbegriff in den Blick, sondern die Herstellerpflichten.

Der Hersteller soll nach diesem Ansatz die Möglichkeit bekommen, auch nach Bereitstellung eines hochgradig veränderbaren, wenig kontrollierbaren und intransparenten Produkts seine Risikobeurteilung zu „aktualisieren“ und auf dieser Grundlage die bereits bestehenden Maßnahmen zur Gewährleistung der Sicherheit anpassen zu können. Er kann dann z. B. Updates zur Verfügung stellen oder seine Instruktionen oder Warnhinweise zu dem Produkt aktualisieren. Er soll also sein Produkt nach Inbetriebnahme begleiten, weshalb hier von Produktbegleitung die Rede sein kann. Durch Erarbeitung eines entsprechenden Produktbegleitungskonzepts legt er für sein konkretes Produkt die jeweils geeigneten Verfahren dazu fest.

Tatsächlich besteht schon jetzt im Produktsicherheitsrecht bei bestimmten Produkten die Pflicht zur Produktbeobachtung nach Inverkehrbringen, um unerkannten Risiken begegnen zu können, so z. B. in § 6 Abs. 3 ProdSG bei Verbraucherprodukten. Bei dieser herkömmlichen Art der Produktbeobachtung geht es darum, ein zunächst konformes und damit legal auf den Markt gekommenes Produkt entgegen der abgeschlossenen und ordnungsgemäß durchgeführten Risikobeurteilung als gefährlich zu erkennen, es zurückzurufen, davor zu warnen oder ähnliche Maßnahmen zu ergreifen. Bei den hier problematisierten veränderbaren Produkten ist das unbekannte Risiko dagegen nicht die Ausnahme, sondern wird als Teil der bestimmungsgemäßen Verwendung vom Hersteller vorausgesetzt und vom Markt erwartet. Es handelt sich nicht um die tolerierbare und hinreichend geringe Wahrscheinlichkeit, dass noch unerkannte Risiken bestehen, der damit begegnet wird, dass der Hersteller eine Produktbeobachtungspflicht hat. Vielmehr ist das unbekannte Risiko aufgrund einer hohen Veränderbarkeit wesentliche Eigenschaft des Produkts.

Denn die hohe Veränderbarkeit, eventuell in Verbindung mit niedriger Transparenz und geringer Kontrollierbarkeit zeichnen das Produkt als „KI-Produkt“ aus und sind damit wertbildende Faktoren. Wenn das Produkt also im Rahmen der bestimmungsgemäßen Verwendung ein im maßgeblichen Zeitpunkt der Bereitstellung am Markt noch unbekanntes „Verhalten“ an den Tag legt, so ist das keine Folge unvorhergesehener und unerwünschter Produkteigenschaften, sondern wird vom Hersteller und dem Markt vorausgesetzt oder zumindest erwartet.

Es geht also nicht mehr um die Gewährleistung der Sicherheit in dem Sinne, dass der Hersteller alles ihm Mögliche dafür tut, damit sich nur solche Produkte in Verkehr befinden, die während ihrer bestimmungsgemäßen Lebensdauer den Zustand aufweisen, der im Zeitpunkt der Bereitstellung am Markt für diese Lebensdauer vorausgesetzt wurde. Die Gewährleistung der Sicherheit meint für die „veränderlichen“

Produkte, dass das für eine Bereitstellung am Markt vorausgesetzte Sicherheitsniveau erhalten bleibt, obwohl sicherheitsrelevante Eigenschaften erst später abschließend bestimmt werden können oder sich ändern.

Das herkömmliche Prinzip der Produktbeobachtung zur Beherrschung unerkannter und unvertretbarer Risiken sollte daher weiterentwickelt werden zu einer Produktbeobachtung zur Ermöglichung der Bereitstellung von Produkten, bei denen vorausgesetzt wird, dass sie mit den herkömmlichen Verfahren zur Risikobeurteilung oder neuen Simulationsverfahren noch nicht abschließend beurteilt werden können

und ggf. weitere Maßnahmen durch den Hersteller nötig sind, um die Sicherheit trotz Veränderbarkeit oder Komplexität zu erhalten.

Der Hersteller wird im Fertigungsprozess zunächst darüber entscheiden, ob er ein nicht abschließend beurteilbares Produkt herstellt. Dabei legt er einerseits den bestimmungsgemäßen Verwendungszeitraum fest. Anderseits bestimmt er, wie veränderbar und intransparent er sein Produkt gestaltet und inwiefern es sich damit von einem „herkömmlichen“ Produkt unterscheidet. Daraus folgt wiederum, ob und inwiefern eine abschließende Risikobeurteilung nicht mehr möglich ist, also ob und inwiefern eine neue Form der Produktbeobachtung erforderlich ist.

Im Folgenden werden die für die Einführung einer Pflicht zur Erstellung eines Produktbegleitungskonzepts denkbaren Regelungen vorgestellt, also zunächst die Definition des „veränderlichen“ Produkts und dann die entsprechende Rechtsfolge.

5.7.3.1.2.1 Definition des „wandelbaren“ Produkts

Die Definition des „wandelbaren“ Produkts bestimmt den Anwendungsbereich neu zu schaffender Herstellerpflichten. Wenn ein Produkt so beschaffen ist, dass im maßgeblichen Zeitpunkt für das Produkt oder für spezifische Risiken eine abschließende Risikobeurteilung nicht mehr möglich ist, dann handelt es sich um ein

„wandelbares“ Produkt, für das spezielle Pflichten gelten.

Unabhängig davon, wie der Begriff des wandelbaren Produkts eingeführt wird, könnte die Definition wie folgt lauten:

Zu den Elementen der Norm im Einzelnen:

Zu [1]: Das Attribut „wandelbar“ bezeichnet die Tatbestandsvoraussetzung der Pflicht zur Erstellung eines Produktbegleitungskonzepts, die in dieser Definition festgelegt wird. Aus Sicht der Taxonomie wäre der Begriff „veränderbar“ verkürzend, da nicht nur die Taxonomiedimension der Veränderbarkeit erfasst sein soll, sondern auch Ausprägungen der Transparenz und der Kontrollierbarkeit. Daher wurde hier der Begriff „wandelbar“ gewählt.

Allerdings ist die Veränderbarkeit bei diesem Ansatz prägendes Merkmal der von der vorgeschlagenen Definition erfassten Produkte. Intransparente, aber nicht veränderbare – oder nur zu einem geringen Maße veränderbare - Produkte sollen nach diesem Ansatz nicht unter den Begriff des „wandelbaren“ Produkts fallen, wenn eine abschließende Risikobeurteilung nur deshalb nicht möglich ist, weil noch keine geeigneten Verfahren zur Verfügung stehen. Für die nach diesem Ansatz erfassten

„wandelbaren“ Produkte ist die Unmöglichkeit der abschließenden Risikobeurteilung nicht Folge verfahrenstechnischer Unzulänglichkeiten, sondern Voraussetzung der Erfüllung des bestimmungsgemäßen Zwecks (dazu mehr bei der Kommentierung zu [7]).

„Wandelbare [1] Produkte [2]sind solche Produkte, für die insgesamt oder hinsichtlich spezifischer [3] Risiken [4] eine den allgemeinen Sicherheitsanforderungen entsprechende [5] abschließende Risikobeurteilung [6] aufgrund der bestimmungsgemäßen Veränderbarkeit [7] im Zeitpunkt der Bereitstellung oder dem nach der für das Produkt geltenden Verordnung nach § 8 Abs. 1 ProdSG maßgeblichen Zeitpunkt [8] nicht möglich ist.“

Zu [2]: Mit der Definition wird eine Teilmenge der bereits in § 2 Nr. 22 ProdSG definierten Produkte bestimmt. Jedes „wandelbare“ Produkt ist also auch Produkt im Sinne des § 2 Nr. 22 ProdSG.

Gleichzeitig wird damit für den hergebrachten Produktbegriff des § 2 Nr. 22 ProdSG zweierlei klargestellt:

Erstens, dass die bestimmungsgemäße Veränderbarkeit kein negatives Tatbestandsmerkmal des Produkts gemäß § 2 Nr. 22 ProdSG ist. Die Veränderbarkeit einer Ware, einer Zubereitung oder eines Stoffes schließt also nicht die Produkteigenschaft aus. Wenn an einem Produkt nach § 2 Nr. 22 ProdSG also sicherheitsrelevante Veränderungen vorgenommen werden können, die nicht Teil der bestimmungsgemäßen Verwendung sind und damit nicht Gegenstand der Risikobeurteilung waren, dann kann ein neues Produkt entstehen, womit auch entsprechenden Herstellerpflichten etc. einhergehen. Diese Möglichkeit steht aber nicht der Produkteigenschaft des veränderten Produkts entgegen. Gleichzeitig kann der Hersteller eine Veränderbarkeit seines Produkts gemäß § 2 Nr. 22 ProdSG vorsehen und sie zum Gegenstand der Risikobeurteilung machen. Dann entsteht bei Eintritt einer solchen Veränderung kein neues Produkt. Im Unterschied dazu handelt es sich um ein „wandelbares“ Produkt mit den entsprechenden Rechtsfolgen zur Beherrschung der damit einhergehenden Unwägbarkeiten wenn diese Veränderung nicht mit der Risikobeurteilung abschließend beherrschbar ist.

Zweitens wird damit für die Verwender des Produkts klar, dass bei bestimmungsgemäßer Veränderung kein neues Produkt entstehen kann, sie also auch keine Herstellerpflichten treffen können.

Die Definition des „wandelbaren“ Produkts übernimmt, sofern sie Teil des ProdSG wird, damit die Funktion der oben in Ansatz 1 diskutierten Klarstellung in § 2 Nr. 22 ProdSG.

Zu [3]: Bei der Integration der Sicherheit und der dafür erforderlichen Risikobeurteilung wird das Produkt als Ganzes betrachtet. Es kann daher für das Produkt insgesamt unmöglich sein, wegen seiner Veränderbarkeit eine abschließende Risikobeurteilung anzustellen. Die Unterscheidung nach einer „insgesamt“ nicht abschließenden Risikobeurteilung und der nur „für spezifische Risiken“ nicht abschließende Risikobeurteilung ist jedoch nötig, da sich die Rechtsfolge der Pflicht zur Erstellung eines Produktbegleitungskonzepts nur auf die Risiken bezieht, die nicht abschließend beurteilt werden können. Es kann also das Produkt „insgesamt wandelbar“ sein, oder nur im Hinblick auf „spezifische Risiken“.

Zu [4]: Mit den „Risiken“ sind alle Risiken für die geschützten Rechtsgüter gemeint, also im Anwendungsbereich des ProdSG gemäß § 3 Abs. 2 S. 1 ProdSG für die Sicherheit und Gesundheit von Personen.

Sofern gemäß § 1 Abs. 4 ProdSG spezielles Produktsicherheitsrecht mit entsprechenden oder weitergehenden Vorschriften Vorrang vor denen des ProdSG hat, werden auch die dort geschützten Rechtsgüter erfasst. Auch für sie können also nicht abschließend beurteilbare Risiken bestehen, die den Tatbestand des

„wandelbaren“ Produkts ausmachen können. Hier kommt die Auffangfunktion des ProdSG zum Tragen. Auch wenn das spezielle Produktsicherheitsrecht keine Regelungen zu „wandelbaren“ Produkten trifft, gelten die in Ansatz 2 diskutierten Neuregelungen im ProdSG trotzdem. Wenn die Regelungen zum „wandelbaren“

Produkt vertikal erfolgen, also nur für bestimmte Produktgruppen im speziellen Produktsicherheitsrecht, dann gelten sie nur für diese Produktgruppe.

Zu [5]: Die Risikobeurteilung ist Grundlage für die Integration der Sicherheit. In § 3 Abs. 2 S. 3 ProdSG finden sich Anhaltspunkte für die Durchführung einer Risikobeurteilung, soweit im nichtharmonisierten Bereich der § 3 Abs. 2 ProdSG Anwendung findet. Ansonsten finden sich die Anforderungen an die Risikobeurteilung³⁶⁸ in der für die jeweilige Produktgruppe einschlägigen Produktsicherheitsverordnung nach § 8 Abs. 1 ProdSG bzw. in der unmittelbar anwendbaren europäischen Verordnung.

Die so ermittelten Anforderungen an die Risikobeurteilung sind für den Tatbestand des

„wandelbaren“ Produkts entscheidend, da sie den Maßstab bilden dafür, wie genau und abschließend die Risikobeurteilung im konkreten Fall sein muss. Letztlich werden sich die Details hierzu in den jeweils einschlägigen technischen Normen finden, die durch die Normungsgremien erarbeitet werden.

Den technischen Normen kommt so eine Schlüsselrolle bei der Bestimmung des

„wandelbaren“ Produkts zu. Dort wird festgelegt, welche Verfahren zu Risikobeurteilung und zum Nachweis der Sicherheit dem Stand der Technik entsprechen. Trotzdem treffen sie keine bindenden oder abschließenden Regelungen.

Dem Hersteller ist es unbenommen, auch für noch nicht normierte Produkte eine eigene Risikobeurteilung anzustellen. Er kann dann ohne Rückgriff auf technische Normen die Risikobeurteilung abschließen oder feststellen, dass dies nicht möglich ist und damit ein „wandelbares“ Produkt vorliegt.

Zu [6]: Die „abschließende Risikobeurteilung“ ist Voraussetzung für die Integration der Sicherheit. Ist sie nicht möglich, liegt soweit ein „wandelbares“ Produkt vor.

Bei dem vorliegenden Produkt werden also sowohl beurteilbare Risiken ermittelt als auch solche, die mit den hergebrachten Methoden entsprechend den jeweils einschlägigen Sicherheitsanforderungen nicht beurteilt werden können. Es kann aber auch ein Rest an Zuständen bleiben, die als möglich erkannt werden können, jedoch weder hinreichend bestimmt und ermittelt noch beurteilt werden können. Dabei handelt es sich nicht um (tolerierbare) Restrisiken. Denn Restrisiken sind bekannt, können also ermittelt und beurteilt werden. Hingegen gehen die hier erfassten Risiken von Zuständen aus, die schon nicht ermittelt werden können oder für die jedenfalls keine Aussage über ihre Eintrittswahrscheinlichkeit möglich ist.

Der verbleibende unbestimmbare Rest der dem Produkt innewohnenden Risiken markiert zudem den Bezugspunkt für die aus der „Wandelbarkeit“ des Produkts folgenden Pflichten des Herstellers.

Durch diese Definition wird das wesentliche Erschwernis im Produktsicherheitsrecht für die Umsetzung der hier untersuchten Systeme benannt und zum Tatbestandsmerkmal erhoben: die unvollständige Risikobeurteilung. Damit soll ein gewisses Maß an Technologieneutralität gewahrt bleiben. „KI-Produkte“ oder

„weiterlernende“ Produkte werden nicht definiert.

Zu [7]: Die „bestimmungsgemäße Veränderbarkeit“ des Produkts muss der Grund dafür sein, dass die Risikobeurteilung nicht abgeschlossen werden kann.

Damit soll der Begriff des „wandelbaren“ Produkts auf die Taxonomiedimension der Veränderbarkeit hin verengt werden. Zwar können auch ausgeprägt schwierig zu kontrollierende oder intransparente Produkte eine abschließende Risikobeurteilung unmöglich machen, weil z. B. noch keine geeigneten Test- oder Simulationsverfahren existieren. In diesem Fall soll jedoch kein „wandelbares“ Produkt vorliegen. Der

368 Die Bezeichnung variiert in den unterschiedlichen harmonisierten Bereichen.

Hersteller soll nicht die legalisierte Möglichkeit bekommen, nur eine „unfertige“

Risikobeurteilung über die hier vorgeschlagenen neuen Sonderregeln zum Produktbegleitungskonzept zu erstellen. Durch diesen engen Begriff des

„wandelbaren“ Produkts soll verhindert werden, dass unter Berufung auf die Unmöglichkeit der abschließenden Risikobeurteilung „unreife“ Produkte auf den Markt kommen und der Hersteller dann im Betrieb weiter Informationen sammelt, um sein Produkt anzupassen. Mithin soll diese Möglichkeit nur für solche Produkte bestehen, bei denen die hohe Veränderbarkeit wesentliche Eigenschaft ist.

Der Tatbestand des „wandelbaren“ Produkts wird damit stark verengt und es stellt sich die Frage, für welche Produkte dieser Begriff überhaupt anwendbar ist. Wann ist eine Risikobeurteilung „nur“ praktisch unmöglich, weil sie entweder derart aufwendig ist, dass sie wirtschaftlich nicht abschließbar ist oder weil nach dem aktuellen oder sogar neuesten Stand der Technik noch keine belastbaren Verfahren zur Risikobeurteilung zur Verfügung stehen? Und wann ist die Unmöglichkeit der abschließenden Risikobeurteilung der Veränderbarkeit des Produkts immanent und kann auch mit künftigen Verfahren nicht überwunden werden?

Hier liegt nach der Konzeption des Produktsicherheitsrechts die Entscheidung zunächst beim Hersteller. Durch die Wahl der eingesetzten Technik gibt er vor, wie die Risikobeurteilung gestaltet wird. Im Regelfall kommt es anschließend auf die technischen Normen an. Wenn sie ein hinreichendes Verfahren für die konkret eingesetzte Technik zur Verfügung stellen, so ist dieses anzuwenden. Gibt es kein Verfahren für die konkret eingesetzte Technik, ist es wieder am Hersteller, ein eigenes Verfahren zur Risikobeurteilung zu entwickeln. Kommt er dabei zu dem Ergebnis, dass aufgrund der Veränderbarkeit keine abschließende Risikobeurteilung möglich ist, kann er auf das Produktbegleitungskonzept zurückgreifen. Durch die Marktüberwachungsbehörde ist ex post zu überprüfen, ob er dies zu Recht getan hat oder ob die Risikobeurteilung „nur“ wegen hoher Intransparenz nicht abgeschlossen werden konnte. Sofern eine notifizierte Stelle in der Fertigungskontrolle mitwirkt, kann sie auch schon ex ante eingreifen, wenn die Risikobeurteilung nicht abgeschlossen ist.

Trotzdem bleibt die Frage, wie die wesentliche Veränderbarkeit zu bestimmen ist.

Diese wird durch den Hersteller im Einzelfall zu klären sein. Damit bleibt dieser Ansatz insofern mit Rechtsunsicherheiten für den Hersteller verbunden.

Die gesetzliche Vorgabe, dass nur bestimmte Veränderbarkeiten den Tatbestand des

„wandelbaren“ Produkts eröffnen, kann jedoch auch für die Normungsgremien Anlass sein, für eben diese Veränderbarkeiten Standards aufzusetzen, um sie zu definieren und den Herstellern damit einen Maßstab zu bieten. Es könnte auf die Erfahrungen mit der Unterscheidung zwischen unwesentlichen und wesentlichen Änderungen von Anlagen gemäß §§ 15, 16 BImSchG zurückgegriffen werden.

Zu [8]: Die Definition des maßgeblichen Zeitpunkts hängt ebenfalls von der jeweiligen Produktgruppe ab. So findet sich z. B. in der Maschinen-RL neben dem Inverkehrbringen die Inbetriebnahme als maßgeblicher Zeitpunkt, während das ProdSG auf das Inverkehrbringen und die Bereitstellung abstellt.

5.7.3.1.2.2 Die Rechtsfolge: Produktbegleitungskonzept

Sofern der Tatbestand des „wandelbaren“ Produkts erfüllt ist, sollen den Hersteller nach diesem Ansatz Pflichten zur Gewährleistung der Sicherheit treffen, die über den maßgeblichen Zeitpunkt hinaus gehen und den gesamten bestimmungsgemäßen Produktlebenszyklus umfassen.

Soweit er die Risikobeurteilung nicht abschließen kann, soll er ein Produktbegleitungskonzept erstellen und umsetzen. Er soll auch nach Bereitstellung des Produkts am Markt diejenigen Informationen aus dem Betrieb des Produkts sammeln, die zur Ergänzung oder Aktualisierung seiner Risikobeurteilung erforderlich sind. Wird durch eine wiederholte Neubeurteilung deutlich, dass Maßnahmen zur Gewährleistung des jeweils gebotenen Sicherheitsniveaus erforderlich werden, so hat er diese zu ergreifen.

Es folgt formuliert werden:

Zu den Elementen der Regelung im Einzelnen:

Zu [1]: Das Produktbegleitungskonzept umfasst sowohl das Sammeln von Informationen im Betrieb des Produkts und deren Auswertung als auch das Ergreifen von Maßnahmen. Es geht also um Beobachtung und Reaktion. In Abgrenzung zur herkömmlichen Produktbeobachtung wurde jedoch der Begriff der „Produktbegleitung“

gewählt.

Diese positive Produktbeobachtungs- und Reaktionspflicht kann ganz unterschiedlich ausgestaltet sein. Es hängt vom konkreten Produkt und seinen Eigenschaften ab, wie engmaschig der Hersteller Informationen sammeln muss und welche Maßnahmen er ergreifen muss. Damit soll eine hohe Technologieoffenheit gewahrt bleiben. Der

Diese positive Produktbeobachtungs- und Reaktionspflicht kann ganz unterschiedlich ausgestaltet sein. Es hängt vom konkreten Produkt und seinen Eigenschaften ab, wie engmaschig der Hersteller Informationen sammeln muss und welche Maßnahmen er ergreifen muss. Damit soll eine hohe Technologieoffenheit gewahrt bleiben. Der

Im Dokument Rechtliche Rahmenbedingungen für die Bereitstellung autonomer und KI-Systeme (Seite 182-196)