Haftung für KI-bedingte Fehler im Unternehmen
Mittlerweile nutzen sehr viele Unternehmen die Künstliche Intelligenz (KI) für Angebote, Verträge, Beratungen und interne Entscheidungen. Liefert ein KI-System falsche Angaben oder ungeeignete Empfehlungen, bleibt gegenüber Kunden grundsätzlich das Unternehmen verantwortlich. Entscheidend ist, welche Erklärung oder Leistung es abgegeben und ob es seine Prüfungs- und Sorgfaltspflichten erfüllt hat.
Verantwortung für KI-Ergebnisse
KI ist rechtlich gesehen ein Hilfsmittel. Übernimmt ein Unternehmen ihre Ergebnisse, werden diese regelmäßig wie eigene Aussagen behandelt. Fehlerhafte Angaben können daher Nachbesserungs-, Minderungs- oder Schadensersatzansprüche auslösen. Eine Freigabe durch Beschäftigte genügt nicht, wenn diese das Ergebnis fachlich nicht beurteilen konnten. Das gilt auch für Angebote und Verträge.
Beispiel: Enthält ein KI-erstelltes Angebot einen falschen Preis und nimmt der Kunde es an, kann das Unternehmen daran gebunden sein. Eine Anfechtung ist nur unter bestimmten Voraussetzungen möglich und kann Ersatzansprüche des Vertragspartners auslösen.
Preise, Leistungen, Fristen und Haftungsklauseln sollten deshalb vor dem Versand geprüft werden. Auch bei Beratungen, Berechnungen, Prognosen und Produktempfehlungen bleibt das Unternehmen verantwortlich. KI kann Fachwissen unterstützen, ersetzt aber nicht die Kontrolle durch eine qualifizierte Person.
Ansprüche gegen den KI-Anbieter
Hat ein Unternehmen wegen eines KI-Fehlers einen Schaden ersetzt, kann es mögliche Ansprüche gegen den Anbieter prüfen. Ein Rückgriff ist bei allgemeinen KI-Diensten jedoch häufig schwierig, weil diese meist keine Garantie für richtige oder zweckgeeignete Ergebnisse übernehmen. Zudem muss der konkrete Systemfehler nachgewiesen werden.
Vorgaben der EU-KI-Verordnung
Die EU-KI-Verordnung unterscheidet nach dem Risiko der Anwendung. Schon seit dem 2.2.2025 müssen Unternehmen sicherstellen, dass Beschäftigte über ausreichende KI-Kenntnisse verfügen. Seit dem 2.8.2026 greifen weitere Transparenzpflichten. Nutzer müssen dann unter bestimmten Voraussetzungen erkennen können, dass sie mit einem KI-System interagieren oder Inhalte künstlich erzeugt wurden.
Für Hochrisiko-KI – etwa bei der Bewerberauswahl, Personalbewertung oder sonstigen wesentlichen Entscheidungen über Beschäftigte – gelten strengere Anforderungen. Dazu können menschliche Aufsicht, Dokumentation, Überwachung und Risikomanagement gehören. Datenschutz, Arbeitsrecht, Geschäftsgeheimnisschutz und vertragliche Pflichten gelten daneben weiterhin.
Klare Regeln senken das Risiko
Unternehmen sollten konkret festlegen, für welche Aufgaben KI eingesetzt werden darf, wer Ergebnisse prüft und wann eine zusätzliche Freigabe nötig ist. Besonders Verträge, finanzielle oder rechtliche Auskünfte, Personalentscheidungen und sicherheitsrelevante Planungen sollten stets von fachkundigen Personen kontrolliert werden. Wichtige Prozesse sollten dokumentiert und vertrauliche Daten nicht unkontrolliert in öffentliche KI-Dienste eingegeben werden. Auch der Versicherungsschutz sollte geprüft werden, da KI-bedingte Schäden nicht automatisch abgedeckt sind.
