KI-Produkthaftung: Wer haftet bei einem Schaden?

Das Problem

Ein Betrieb baut KI in sein Produkt ein: eine Heizungssteuerung, die selbst lernt, eine Küchenmaschine mit Bilderkennung, eine Software, die Maschinen überwacht. Oder er verkauft Geräte anderer Hersteller, in denen KI steckt. Eines Tages entsteht ein Schaden: Ein Gerät überhitzt, eine Steuerung trifft eine falsche Entscheidung, ein Sicherheitssystem schaltet nicht ab.

Wer haftet? Der Hersteller des Geräts, der Anbieter der KI-Software, der Händler, die Betreiberin? Und wie sieht es aus, wenn die KI sich im Betrieb verändert, also nicht mehr genau dem entspricht, was ausgeliefert wurde?

Hinzu kommt, dass das Haftungsrecht für klassische Produkte geschrieben wurde. Für Software und lernende Systeme wird es angepasst. Die Antworten sind daher nicht überall eindeutig. Diese Seite erklärt die Grundsätze in einfacher Sprache und zeigt, wie sich Betriebe vorbereiten. Sie ist keine Rechtsberatung. Bei konkreten Fällen oder Produkten ziehen Sie eine Fachperson bei.

So lösen Sie es mit KI – Schritt für Schritt

1. Rolle bestimmen: Sind Sie Hersteller (Sie entwickeln das Produkt oder verkaufen es unter eigenem Namen), Importeur, Händler, Betreiber oder nur Nutzer? Die Rolle bestimmt, welche Regeln für Sie wichtig sind.
2. Produkt beschreiben: Was tut die KI im Produkt, welche Entscheidungen trifft sie, was passiert bei Fehlfunktion? Je grösser das Schadenspotenzial, desto sorgfältiger die Prüfung.
3. Sicherheit prüfen: Testen Sie das Produkt, einschliesslich der KI-Funktionen, unter realistischen Bedingungen und dokumentieren Sie Ergebnisse und bekannte Grenzen.
4. Hinweise und Anleitungen erstellen: Beschreiben Sie bestimmungsgemässe Verwendung, Grenzen und Warnungen verständlich. Fehlende oder irreführende Hinweise können als Mangel gelten.
5. Zulieferer und Verträge prüfen: Wer liefert die KI-Komponente, und was sagt der Vertrag zu Haftung, Freistellung und Wartung? Siehe Freistellungsklausel und Haftungsausschluss.
6. Updates und Veränderungen regeln: Klären Sie, wie das System nach Auslieferung aktualisiert oder überwacht wird, und wer dafür verantwortlich ist.
7. Versicherung prüfen: Fragen Sie Ihre Versicherung, ob Schäden durch KI-Funktionen gedeckt sind, siehe Haftpflichtversicherung und KI.
8. Vorfälle dokumentieren: Legen Sie fest, wie Fehler gemeldet, analysiert und behoben werden, und wie Beweise gesichert werden, siehe KI-Fehler mit Schaden: Beweise sichern.
9. Fachrat einholen: Lassen Sie Produkte mit erheblichem Schadenspotenzial rechtlich und technisch beurteilen, auch im Hinblick auf EU-Regeln.

Vorlage zum Kopieren

Wir prüfen die Haftungsrisiken eines Produkts mit KI-Funktion. Rolle: [Hersteller / Importeur / Händler / Betreiber].
Produkt: [Beschreibung]. KI-Funktion: [was sie tut]. Mögliche Schäden bei Fehlfunktion: [Personen / Sachen / Vermögen].
Märkte: [Schweiz / EU].
Erstelle mir:
1. eine Checkliste mit 15 Fragen zu Sicherheit, Tests, Dokumentation, Warnhinweisen, Zulieferern, Updates und Versicherung,
2. eine Tabelle «Risiko | mögliche Ursache | Vorbeugung | Verantwortliche Person»,
3. 8 Fragen, die wir mit einer Fachperson für Haftungs- und Produktrecht klären sollten.
Gib keine Rechtsberatung, erfinde keine Gesetzesstellen oder Fristen und markiere Unsicheres als «zu prüfen».
Sprache: Deutsch (Schweiz).

Ersetzen Sie die Platzhalter. Lassen Sie die Checkliste von einer technisch und rechtlich kundigen Person ergänzen.

Worauf Sie achten müssen

• Verschuldensunabhängige Haftung: Das Produktehaftpflichtrecht sieht unter seinen gesetzlichen Voraussetzungen eine Haftung für fehlerhafte Produkte vor, die kein Verschulden des Herstellers voraussetzt. Es müssen insbesondere ein erfasster Produktfehler, ein gesetzlich erfasster Schaden und der erforderliche Zusammenhang vorliegen. Welche Schäden und Produkte erfasst sind, regelt das Gesetz, siehe Quelle. Ob und wie reine Software dazugehört, war und ist Gegenstand von Diskussionen.
• EU-Entwicklung: Die EU hat ihre Produkthaftungsregeln erneuert und dabei Software und KI ausdrücklich einbezogen. Zeitpunkt und Einzelheiten prüfen Sie in der Quelle. Für Betriebe mit EU-Geschäft ist das relevant.
• Weitere Haftungsgrundlagen: Neben der Produktehaftpflicht kommen je nach Sachverhalt vertragliche Haftung, Haftung aus unerlaubter Handlung und Regeln über Hilfspersonen in Betracht. Die Voraussetzungen unterscheiden sich und sind im Einzelfall zu prüfen.
• Lernende Systeme: Wenn sich ein System nach Auslieferung verändert, ist die Zuordnung der Verantwortung anspruchsvoll. Regeln Sie Updates und Überwachung vertraglich.
• Haftungsausschlüsse: Anbieter schliessen die Haftung oft weitgehend aus. Gegenüber Geschädigten wirken solche Klauseln nicht immer.
• Beweislage: Wer Schaden und Fehler beweisen muss, ist im Einzelfall wichtig. Dokumentation hilft allen Beteiligten.

Ein Beispiel aus der Praxis

Ein Beispiel: Ein Schweizer Hersteller von Gartengeräten baut in einen Mähroboter eine KI-Bilderkennung ein, die Hindernisse erkennt.

Vorher: Die Firma übernimmt die Komponente eines Zulieferers, testet nur im Labor und beschreibt die Grenzen in der Anleitung kaum. Als ein Roboter bei Dämmerung ein Hindernis übersieht und einen Schaden verursacht, ist unklar, wer was geprüft hat.

Nachher: Die Firma testet unter realistischen Bedingungen, dokumentiert Ergebnisse und Grenzen, ergänzt die Anleitung um klare Hinweise, vereinbart mit dem Zulieferer Meldewege und Wartung und klärt die Deckung mit der Versicherung. Fachpersonen prüfen das Vorgehen auch im Hinblick auf EU-Märkte.

So hilft Ihnen Alpasana

Die KI-Weiterbildung für Unternehmen von absofort behandelt laut Angebotsbeschreibung Schweizer Praxisbezug und Datenschutz als Lerninhalte, bei EU-Bezug auch den EU AI Act, sowie den verantwortungsbewussten Umgang mit Unternehmensdaten. Es gibt eine Kontaktmöglichkeit für Firmenlösungen und Teambuchungen. Haftungs- und Produktrechtsberatung ist nicht Teil davon.

Häufige Fragen

Haftet die KI-Firma oder mein Betrieb?

Das hängt davon ab, wer das Produkt in Verkehr bringt, wie der Vertrag aussieht und was schiefgelaufen ist. Oft sind mehrere Beteiligte betroffen. Der Einzelfall entscheidet.

Gilt Produkthaftung auch für reine Software?

Das ist je nach Rechtsordnung unterschiedlich und im Wandel. In der EU sind Software und KI in die erneuerten Regeln einbezogen. Prüfen Sie Ihren Fall mit einer Fachperson.

Reicht ein Haftungsausschluss in meinen AGB?

Nicht in jedem Fall. Gegenüber Geschädigten wirken Haftungsausschlüsse nur begrenzt. Lassen Sie Ihre Bedingungen prüfen.

Was kann ich als Betrieb sofort tun?

Dokumentieren Sie Tests, Grenzen und Entscheidungen, regeln Sie Zuständigkeiten und prüfen Sie Ihre Versicherung. Siehe auch Verantwortung der Geschäftsführung.