Blog

Mensch vs. Maschine – wer haftet für künstliche Intelligenz?

Mensch-vs-Maschine_Solmecke

Lernfähige Kühlschränke, die eigenständig Milch nachbestellen, schon bevor der letzte Schluck getrunken ist, Autos, die eigenständig fahren, während Fahrer Emails schreiben – derart intelligente Systeme sind längst keine Zukunftsmusik mehr. Schon jetzt gibt es im modernen „Smart-Home“ vernetzte Haushaltsgeräte, die fast eigenständig handeln und über das Internet nicht nur miteinander, sondern auch mit Unternehmen kommunizieren.

Das wirft datenschutzrechtliche Bedenken auf und kann bereits jetzt das geltende Vertrags- und Haftungsrecht an seine Grenzen bringen. Maschinen können zwar für ihre Besitzer Verträge schließen, doch sind sie fehleranfällig. Nur, wer haftet denn eigentlich?
Zwei reale Fälle zeigen, welche neuen Probleme die neue Technik mit sich bringen kann.

Beispiel: Papagei bestellt bei Amazon

Mit der Stimme seines Frauchens hat ein englischer Papagei bei Amazon über die sprachgesteuerte Assistentin “Alexa” eine Bestellung aufgegeben. Geliefert wurde ein Paket mit Geschenkkartons – sehr zur Überraschung der Besitzerin. Glücklicherweise gab es ein Video, das die Fähigkeit des sprachbegabten Vogels bewies. Hier konnte sie sich gegenüber Amazon wohl (neben dem Widerrufsrecht) darauf berufen, dass Tiere ja keine Verträge schließen können und ihr das Verhalten des Vogels auch nicht zuzurechnen ist. Was aber, wenn es kein Beweisvideo gegeben hätte? Und wenn nicht ein Papagei, sondern eine wild gewordene “Alexa” selbst für den Fehler verantwortlich war?

Beispiel: Sprachassistentin dreht Musik auf

So drehte die digitale Assistentin in einer Hamburger Wohnung die Musik mitten in der Nacht auf volle Lautstärke. Nachbarn alarmierten die Polizei, die wiederum einen teuren Schlüsseldienst beauftragte, um in die Wohnung zu kommen. Und Amazons Besitzer? Der war zu dem Zeitpunkt überhaupt nicht im Haus und konnte Alexa nicht gesteuert haben. Trotzdem muss er jetzt für die Kosten aufkommen. Doch kann ein Verbraucher sein Geld im Nachhinein vom Verkäufer oder dem Hersteller ersetzt verlangen?

Herstellerhaftung

Möchte der Verbraucher eventuelle Schäden vom Verkäufer erstattet bekommen, muss er ab einem Zeitraum von sechs Monaten nach dem Kauf selbst beweisen, dass das Gerät beim Kauf bereits mangelhaft war. Angesichts der technischen Komplexität solcher SmartHome Geräte, ihrer Fehleranfälligkeit und möglicher Sicherheitslücken, wird er dazu meist kaum in der Lage sein. Und selbst, wenn ihm der Beweis gelänge – Ansprüche gegen den Verkäufer wegen Mängeln der Kaufsache sind nach Ablauf der Verjährungsfrist von zwei Jahren ausgeschlossen. Fehler, etwa durch spätere SoftwareUpdates, können dann nicht mehr geltend gemacht werden.
Zwar würde es sich anbieten gegen den Hersteller vorzugehen, aber nach der geltenden Produkt- bzw. Produzentenhaftung ist dies für Verbraucher fast unmöglich. Zunächst bestehen hier dieselben Beweisschwierigkeiten wie gegenüber Verkäufern, sogar bereits von Anfang an. Produzenten haften nur für Hardware-, nicht aber für Software-Fehler. Außerdem müssen sie keine Vermögensschäden ersetzen, was bedeutet: Für falsch bestellte Ware haftet der Hersteller genauso wenig wie für die Kosten des Schlüsseldienstes. Wohl aber, wenn wegen eines defekten Kühlschranks die Wohnung abbrennt. Und selbst dann bekommt man vom Hersteller zwar eine neue Wohnungseinrichtung, aber keinen neuen Kühlschrank, weil von der Haftung nur andere Gegenstände als das Produkt selbst erfasst sind.

Haftungslücken

Was, wenn nun der selbstlernende Kühlschrank zu viele Milchtüten bestellt hat? Hier schließt eine Maschine Verträge, die sich der Verbraucher blind zurechnen lassen muss – inklusive aller Fehler. Denn im Gegensatz zum wilden Papagei hat der Verbraucher den Kühlschrank ja autorisiert, für ihn selbstständig Milch zu bestellen. Daneben bekommen die eben genannten Haftungslücken bei autonomen Abläufen selbst lernender Systeme in besonderem Maße Bedeutung. Schließlich verlässt sich der Verbraucher auf ihre Entscheidungen, ohne Einsicht in die technischen Risiken zu haben. Das zeigt: Wenn es um intelligente Geräte geht, muss der Gesetzgeber noch einige ungelöste Probleme klären.

Gesetz zum autonomen Fahren

Ein Blick auf das neue Gesetz zum autonomen Fahren zeigt, welche Lösungen hier im Hinblick auf Haftungs- und Beweisfragen in Betracht kommen. Hier wurde eine Ausweitung der Herstellerhaftung bereits für die Zukunft geregelt. Wenn dann hoch- bzw. vollautonome Autos – voraussichtlich in 3 Jahren – auf deutschen Straßen fahren, herrscht für alle Beteiligten Rechtssicherheit.
Sie sitzen zwar am Steuer Ihres Wagens, doch lesen nebenbei bequem Ihre Emails. Das Auto übernimmt den Rest. Es ist schönes Wetter, alles ist gut. Plötzlich hat das Auto einen Unfall. Wer haftet? Zunächst bleibt es bei der generellen Haftung des Fahrzeughalters – wer das Auto auf eigene Rechnung hält, muss zahlen, unabhängig davon, wer schuld war. Hier springt aber immer die Verkehrshaftpflichtversicherung ein. Und die kann sich zukünftig leichter das Geld vom Hersteller zurückholen.
In diesem Fall zeigt sich die wichtigste Neuerung des Gesetzes: Weil das Auto allein gefahren ist und der Fahrer keine Fehler gemacht hat, haftet zukünftig nur noch der Hersteller. Bislang galten für die Herstellerhaftung die gleichen, oben beschriebenen Grundsätze wie für alle anderen Produkte.

Ein weiteres Beispiel aus der Zukunft

Sie sitzen am Steuer und telefonieren. Plötzlich blinkt ein grelles Licht, ein Signal ertönt. Sie nehmen das wahr, aber wollen gerade nicht auflegen. Sie hoffen, das Auto schafft es auch trotz gestörter Sensoren durch den Starkregen. Falsch gehofft, es kommt zu einem Unfall. Wer haftet? In diesem Fall hat der Fahrer etwas falsch gemacht und eine Aufforderung des Systems ignoriert. Daher wird die Versicherung an ihn herantreten. Bei Unfällen kommt es also zukünftig darauf an, wer in dem Moment des Unfalls gefahren ist – der Computer oder der Mensch? Um beweisen zu können, ob zu dem Zeitpunkt der Fahrer oder der Computer das Auto gelenkt hat und ob der Fahrer zuvor zum Eingreifen aufgefordert wurde, müssen alle Wagen der Zukunft eine Art Black Box mit an Bord haben, die alles aufzeichnet. Das Ganze bedeutet natürlich auch: Der Fahrer wird damit permanent überwacht. Daher wird hier der Datenschutz besonders wichtig werden, insbesondere die technische Schließung von Sicherheitslücken. Letzteres ist natürlich auch aus einem anderen Grund sehr relevant: Denn mit der technischen Autonomie steigt auch die Gefahr, dass Hacker die Kontrolle über ein Fahrzeug übernehmen.
Die Vorteile sollen gegenüber Risiken überwiegen – die Hoffnung ist, dass sichere Maschinen weniger Fehler machen als Menschen. Und die ausgeweitete Herstellerhaftung ist ein Anreiz, für größtmögliche Sicherheit zu sorgen. Damit wird versucht der tatsächlichen Verantwortung, die intelligente Systeme in Zukunft tragen werden, gerecht zu werden.

(Artikel im Original im “Real Time Marketing Kompass 2018” von: Medienrechtsanwalt Christian Solmecke / Solmecke&Partner, 2018).
Dieser und weitere Artikel rund um künstliche Intelligenz, Smart Homes und Smart Retail finden sich im aktuellen Real Time Marketing Kompass. Jetzt kostenfrei die digitale Ausgabe bestellen.