Künstliche Intelligenz gehört inzwischen zum betrieblichen Alltag. Unternehmen lassen Projektpläne erstellen, Risiken bewerten, Protokolle zusammenfassen, Angebote formulieren oder Marketinginhalte generieren. Damit entstehen neue Effizienzpotenziale. Zugleich wirft der Einsatz von KI Haftungsfragen auf. Fehlerhafte Prognosen können zu Termin- und Budgetüberschreitungen führen. Unzulässige Dateneingaben können Datenschutzverletzungen auslösen. Bei KI-generierten Werbeaussagen, Logos, Bildern und Texten kommen Wettbewerbs-, Marken- und Urheberrechtsverletzungen in Betracht.

Bereits diese Beispiele zeigen, dass KI-Haftung kein einheitliches Rechtsgebiet bildet. Maßgeblich sind der konkrete Vorgang, der betroffene Rechtskreis und die Rolle des Unternehmens. Für Unternehmen und Projektverantwortliche ist deshalb entscheidend, die rechtliche Prüfung entlang der tatsächlichen Nutzung vorzunehmen. Der EU AI Act bildet einen wichtigen Teil dieses Rahmens. Die zivilrechtlichen Folgen ergeben sich daneben vor allem aus dem Bürgerlichen Gesetzbuch, der Datenschutz-Grundverordnung, dem Wettbewerbsrecht, dem Marken- und Urheberrecht sowie dem Schutz von Geschäftsgeheimnissen. Hinzu kommen gesellschaftsrechtliche Organisationspflichten und die Regeln über die persönliche Haftung von Beschäftigten sowie externen Projektverantwortlichen.

Warum KI im Projektmanagement besondere Risiken birgt

Im Projektmanagement verdichtet KI Informationen aus vielen Quellen. Daraus entsteht eine besondere Abhängigkeit von Datenqualität und Aktualität. Ein Statusbericht kann sprachlich überzeugend sein und zugleich eine Warnung aus einem nicht angebundenen System übersehen. Eine Prognose kann rechnerisch plausibel erscheinen und auf Daten von historischen Projekten beruhen, die mit der aktuellen Situation oftmals nur eingeschränkt vergleichbar sind. Projektverantwortliche müssen daher erkennen können, welche Daten eingeflossen sind, welche fehlen und für welchen Zweck das System freigegeben wurde.

Hinzu kommt die Nähe zur unternehmerischen Entscheidung: Termin-, Budget- und Ressourcenprognosen werden häufig unmittelbar in Lenkungskreisen verwendet. Eine KI-Ausgabe kann dadurch wirtschaftliche Wirkung entfalten, obwohl sie formal lediglich als Empfehlung bezeichnet wird. Entscheidend ist der tatsächliche Prozess: Wird ein Vorschlag regelmäßig ohne eigenständige Prüfung übernommen, fehlt faktisch die menschliche Kontrolle.

Auch Änderungen am KI-System sind für Projekte relevant. Modelle, Datenquellen, Schnittstellen und Prompts werden angepasst. Dadurch können frühere Prüfungen ihre Aussagekraft verlieren. Wesentliche Änderungen sollten daher in den Change- und Release-Prozess einbezogen werden. Zu dokumentieren sind der geprüfte Anwendungsfall, die verwendeten Datenquellen, bekannte Grenzen, Freigaben und erforderliche Kontrollschritte.

Für die Haftungsanalyse ist schließlich die Nachvollziehbarkeit der Entscheidung zentral. Im Streitfall muss das Unternehmen darlegen können, welche Information vorlag, wer das Ergebnis geprüft hat und aus welchen Gründen eine Entscheidung getroffen wurde. Eine vollständige Speicherung sämtlicher Ein- und Ausgaben ist aus Datenschutz- und Geheimnisschutzgründen nicht ohne Weiteres zulässig. Das Dokumentationskonzept muss deshalb so gestaltet sein, dass Entscheidungen später nachvollziehbar bleiben, ohne unnötig Daten zu speichern oder vertrauliche Informationen offenzulegen.

Wer für Fehler von KI-Systemen verantwortlich ist