Klare Regelungen Haftungsfragen gibt es in der KI-VO nicht. Die Vielfalt, die KI bietet wird aber vielfältige neue Sachverhalte aufwerfen. Und neue Haftungsfragen. Es gibt im AI Act zwar ein paar Sorgfaltspflichten, wer dagegen verstößt haftet nach nationalem Recht. Eine neue direkte zivilrechtliche Haftung gibt es im AI Act nicht, aber es gibt:

• Verantwortlichkeiten
• einige detaillierte Sorgfaltspflichten, z.B. zur Transparenz
• Dokumentationsanforderungen
• detaillierte Regelungen für Hochrisiko-KI, z.B. menschliche Aufsicht

…all das wird künftig in Haftungsfragen relevant.

2 Fälle aus der deutschen Rechtswirklichkeit sind bereits bekannt:

LG Kiel: KI-Nutzer haftet

Das LG Kiel hat mit seinem Urteil vom 29.02.2024 (Az. 6 O 151/23) erstmals in Deutschland die Haftung für KI-generierte Inhalte konkretisiert. In dem Fall hatte eine Wirtschaftsauskunftei KI-Systeme zur Aufbereitung von Unternehmensdaten eingesetzt, wodurch fehlerhafte Informationen über ein mittelständisches Unternehmen verbreitet wurden. Das Gericht stellte klar: Die Wirtschaftsauskunftei haftet als unmittelbarer Störer für die durch KI erzeugten Falschinformationen. Es lag eine Verletzung des Unternehmenspersönlichkeitsrechts vor. Die Folge: Unterlassung sowie Schadensersatz. KI-Betreiber können sich nicht auf die Automatisierung der Prozesse berufen können, um sich von der Haftung zu befreien.

Eine Familienrichter beim AG Köln hat einen Beschluss erlassen, mit dem

er einen Anwalt auffordert, künftig keine KI seinen Schriftsätzen zu verwenden (Beschl. v. 02.07.2025, Az. 312 F 130/25). In dem Beschluss heißt es u.a.: „Die weiteren von dem Antragsgegnervertreter […] genannten Voraussetzungen stammen nicht aus der zitieren Entscheidung und sind offenbar mittels künstlicher Intelligenz generiert und frei erfunden. Auch die genannten Fundstellen sind frei erfunden“. Ob solch ein Beschluss in einem familiengerichtliche Verfahren der richtige Ort ist, solch ein fragwürdiges Verhalten zu adressieren, darüber kann man sehr gut diskutieren. Darin dürfte aber ein Verstoß gegen die Berufspflichten des Anwalts liegen. Einen Gefallen hat er seinen Mandanten damit sicherlich auch nicht getan.

KI-Produkfthaftung und Vertragsrecht

Diese Fälle sind einfach und wenig überraschend. Interessant wird es aber z.B. bei KI-Anwendungen, wo es ein vertraglichen Regelungen fehlt. Gerichte werden hier die Pflichten im Hinblick auf die KI-Systeme neu definieren müssen. Vorsorge bieten nur klare vertragliche Regelungen.

Klar geregelt ist inzwischen auch die Produkthaftung. Derzeit läuft eine Übergangsfrist. Bis zum 9. Dezember 2026 muss die EU-Produkthaftungsrichtlinie in Nationales Recht umgesetzt sein. Sie sieht vor, dass Software künftig als Produkt iSd Produkthaftungsrechts zu verstehen sein soll, nennt KI bzw. KI-System in den Erwägungsgründen insgesamt 8 mal, teils sehr detailliert. Sogar zur Darlegungslast in einem Gerichtsprozess, vgl. Erwägungsgrund 48: „… Beispielsweise sollte der Kläger bei einer Klage in Bezug auf ein KI-System weder verpflichtet werden, die spezifischen Merkmale des KI-Systems zu erläutern, noch inwiefern diese Merkmale die Feststellung des ursächlichen Zusammenhangs erschweren, damit das Gericht entscheiden kann, dass übermäßige Schwierigkeiten bestehen. …“ Damit können künftig auch Hersteller, Importeure und Lieferanten für KI-System zur Verantwortung gezogen werden. Auch für Modellierungen gilt dann das strenge Produkthaftungsrecht.

Artikel 11 der Produkhaftungsrichtlinie, der in manchen Fällen sogar einen Haftungsausschluss vorsieht ist mit Software besonders streng: Wirtschaftsakteure werden ausdrücklich nicht von der Haftung befreit, „ … wenn die Fehlerhaftigkeit eines Produkts auf eine der folgenden Ursachen zurückzuführen ist, sofern sie der Kontrolle des Herstellers unterliegt:

…

b) Software, einschließlich Software-Updates oder -Upgrades,

c) ein Fehlen von Software-Updates oder -Upgrades, die zur Aufrechterhaltung der Sicherheit erforderlich sind,

d) eine wesentliche Änderung des Produkts.“

Achtung: KI-Modellierungen können leicht auch wesentliche Änderungen darstellen.

Sorgfaltspflichten auch in Praxisleitfäden, Verhaltenskodizes und Leitlinien

Die Praxisleitfäden (Art. 56 KI-VO), Verhaltenskodizes (Art. 95 KI-VO) und Leitlinien (Art. 96 KI-VO) dürften weitere Sorgfaltspflichten statuieren. Ebenso wie freiwillige Regelungen und Ethikrichtlinien, von denen einige bereist bekannt sind. Die Schwierigkeit: Hier gibt es eine dynamische Entwicklung. Künftig wird es eine wahrscheinlich unüberschaubare Vielzahl solcher Regelungen geben. Der Markt sollte also beobachtet und ausgewertet werden.

Zwischenfazit: Das LG Kiel hat klargestellt, dass KI-Betreiber sich nicht auf die Automatisierung der Prozesse berufen können, um sich von einer Haftung zu befreien. Wer KI nutzt oder anbietet, muss sich jetzt Klarheit verschaffen, welche Sorgfaltspflichten bestehen. Disclaimer werden wohl nicht helfen. Klare vertragliche Regelungen aber schon.