Rechtliche Fragen zur Nutzung von KI-Systemen

3.2.2025 | Nachrichten - Experteninterviews Mehr zum Thema: Experteninterviews, KI, Urheberrecht, Haftung, Datenschutz, Nutzer, Prompt

Kennzeichnungspflicht, Urheberrecht, Haftung - Was müssen Anwälte, Unternehmen und Nutzer bei der Nutzung von KI beachten?

Spätestens seit Chat GPT und andere KI-Systeme für jedermann zugänglich sind und auch Firmen immer mehr auf den Einsatz von KI-Systemen setzen, herrscht ein regelrechter Boom. Die Vorteile liegen durchaus nahe, Prozesse lassen sich wie nie zuvor optimieren und Bearbeitungszeiten können massiv verkürzt werden. Wie bei jeder neuen Technologie gibt es aber auch hier einiges zu beachten. Wie sieht es mit dem Datenschutz aus, was sagt das Urheberrecht? Rechtsanwalt und Fachanwalt für IT-Recht, Urheberrecht und Gewerblichen Rechtsschutz, Dr. Danjel-Philippe Newerla, im Interview mit 123recht.de.

123recht.de: Herr Dr. Newerla, ist Rechtsberatung durch Anwälte mit Unterstützung durch KI erlaubt?

Rechtsanwalt Dr. Newerla: Ja, grundsätzlich dürfen Anwälte KI bei der Rechtsberatung unterstützend einsetzen, solange die Nutzung der KI den gesetzlichen Vorgaben entspricht und die anwaltliche Sorgfaltspflicht gewahrt bleibt. Die KI kann zum Beispiel bei der Analyse von Dokumenten oder bei der Recherche von Urteilen helfen. Allerdings muss der Rechtsanwalt sicherstellen, dass er die KI-gestützten Ergebnisse überprüft und diese als Teil der anwaltlichen Beratung verantwortungsvoll einsetzt.

Nutzer sind bisher nicht zur Kennzeichnung verpflichtet!

123recht.de: Besteht eine Kennzeichnungspflicht, dass gewisse Leistungen wie z.B. Rechtsberatungen, aber auch Texte, Ratgeber und Bilder mit KI erstellt wurden?

Rechtsanwalt Dr. Newerla: Die KI-Verordnung der EU, die am 1. August 2024 in Kraft trat, ist das erste KI-Gesetz weltweit und fokussiert sich genau auf dieses Thema. Laut Artikel 50 dieser Verordnung müssen Anbieter von KI-Systemen KI-generierte Audio-, Bild-, Video- oder Textinhalte im maschinenlesbaren Format eindeutig als künstlich erzeugt kennzeichnen.

Nutzer von KI-Systemen sind hingegen bislang nicht verpflichtet, diese Inhalte selbst zu kennzeichnen. Aus Gründen der Transparenz kann aber durchaus darüber nachgedacht werden, ob im Einzelfall eine Kennzeichnung angebracht wird.

Haftung durch Fehler der KI trifft zunächst den Nutzer der KI

123recht.de: Wer haftet für Fehler durch Nutzung von KI? An welche Haftungsmöglichkeiten ist da generell zu denken, z.B. Wettbewerbsrecht?

Rechtsanwalt Dr. Newerla: Die Haftung für Fehler durch KI ist komplex. Grundsätzlich trägt der Anwalt die Verantwortung für die Korrektheit der Beratung, auch wenn KI eingesetzt wird. Im Klartext: Wenn ein Anwalt KI-Inhalte ungeprüft übernimmt und durch Fehlerhaftigkeit der Inhalte eine Falschberatung durchführt, dann haftet der Anwalt auch grundsätzlich hierfür.

Wenn KI-Tools fehlerhaft sind, könnte auch der Anbieter der KI haftbar gemacht werden, etwa im Rahmen von Produkthaftung oder vertraglicher Haftung. Auch im Wettbewerbsrecht können Probleme auftreten, z. B. wenn KI-generierter Inhalt unreflektiert und ungeprüft vom Anwalt übernommen werden und hierdurch z.B. eine Irreführung im wettbewerbsrechtlichen Sinne begründet wird.

123recht.de: Besteht die Haftung des KI-Anbieters bei Überlassung von KI-Diensten an Dritte?

Rechtsanwalt Dr. Newerla: Ja, der KI-Anbieter könnte haftbar gemacht werden, wenn die KI-Dienste fehlerhaft sind und dadurch Schäden entstehen, etwa aufgrund eines Produktfehlers oder einer falschen Anwendung. Es hängt jedoch von den vertraglichen Vereinbarungen und den Nutzungsbedingungen des Anbieters ab, so dass eine pauschale und allgemeingültige Antwort leider ohne Betrachtung des Einzelfalles nicht möglich ist.

123recht.de: Unterliegt die Nutzung der KI dem Produkthaftungsgesetz?

Rechtsanwalt Dr. Newerla: Das Produkthaftungsgesetz kennt den Begriff der KI noch nicht. Die neue Produkthaftungsrichtlinie der EU hingegen legt fest, dass Hersteller oder Betreiber von KI-Systemen nicht von der Haftung befreit werden können, wenn sie wesentliche Änderungen an einem Produkt vornehmen. Dazu zählen auch Anpassungen durch Software-Updates oder das fortlaufende Lernen eines KI-Systems.

"KI kann datenschutzrechtlich erhebliche Herausforderungen mit sich bringen"

123recht.de: Wie beurteilen Sie KI in Bezug auf den Datenschutz?

Rechtsanwalt Dr. Newerla: KI kann datenschutzrechtlich erhebliche Herausforderungen mit sich bringen, insbesondere wenn personenbezogene Daten verarbeitet werden. Es muss sichergestellt werden, dass KI-Systeme die Vorgaben der DSGVO (Datenschutz-Grundverordnung) einhalten, insbesondere in Bezug auf die Datensicherheit, Transparenz und die Rechte der betroffenen Personen. Aber auch der Nutzer (hier z. B. der Anwalt) muss bei der Nutzung von KI sämtliche datenschutzrechtlichen Vorgaben sowie das berufsrechtliche Mandatsgeheimnis wahren. So sollten insbesondere keine Mandantendaten oder sonstige konkreten „Zahlen, Daten, Fakten“ als Prompt in eine KI-Anwendung eingegeben werden. Es spricht ja nichts dagegen, z. B. einzelne Vertragsklauseln von der KI überprüfen zu lassen, dann sollten aber sämtliche personenbezogene Daten sowie sensible Daten vorher anonymisiert bzw. entfernt werden.

Urheber bleiben geschützt

123recht.de: Werden Urheberrechte von z.B. Künstlern im Hinblick auf KI geschützt?

Rechtsanwalt Dr. Newerla: Ja, Urheberrechte von Künstlern bleiben geschützt, auch wenn KI-Werkzeuge zur Erstellung von Inhalten genutzt werden. Mit anderen Worten kann auch ein zufällig generierter KI-Inhalt Urheberrechte Dritter verletzen, sofern das KI-generierte Ergebnis exakt oder fast exakt mit dem urheberrechtlich geschützten Werk (z. B. Bild) übereinstimmt.

123recht.de: Wer ist eigentlich als Urheber von KI-Werken zu betrachten?

Rechtsanwalt Dr. Newerla: Die KI selbst kann nicht als Urheber betrachtet werden, da sie keine rechtliche Person ist und keine schöpferische Leistung im rechtlichen Sinne erbringt. Auch das Ergebnis der KI (das, was also nach Eingabe des Prompts „hinten“ rauskommt) ist urheberrechtlich nicht geschützt (kann aber unter Umständen fremde Urheberrechte verletzen, siehe oben). Unter Umständen kann aber ein Prompt tatsächlich urheberrechtlich geschützt sein. Aber auch wenn ein (an sich nicht urheberrechtsfähiges) Ergebnis einer KI derart von einem Menschen umgestaltet wird, dass durch die Umgestaltung eine Schöpfungshöhe erreicht wird, kann ein urheberrechtlich geschütztes Werk entstehen.

123recht.de: Nochmal zur Klarstellung: KI-generierte Werke unterliegen nicht dem urheberrechtlichen Schutz, da es keine Schöpfung im Sinne des Gesetzes ist?

Rechtsanwalt Dr. Newerla: Genau. In der Regel wird ein KI-generiertes Werk wie bereits oben dargestellt nicht als urheberrechtlich schutzfähig angesehen, da eine KI keine „Schöpfung“ im urheberrechtlichen Sinne vollziehen kann, sondern lediglich ein Mensch.

123recht.de: Für das Training eigener Algorithmen sind ja Unmengen an Daten notwendig, warum kann das problematisch sein?

Rechtsanwalt Dr. Newerla: Das Sammeln und Verwenden großer Datenmengen für das Training von KI kann problematisch sein, wenn dabei personenbezogene Daten ohne Zustimmung der Betroffenen verwendet oder die Datenschutzrechte verletzt werden. Auch das Urheberrecht könnte betroffen sein, wenn urheberrechtlich geschützte Daten ohne Lizenz genutzt werden.

Prompts können in bestimmten Fällen urheberrechtlich geschützt sein

123recht.de: Können Prompts dem Urheberrecht unterliegen?

Rechtsanwalt Dr. Newerla: Prompts, also die Eingaben, die an eine KI gegeben werden, können in bestimmten Fällen urheberrechtlich geschützt sein, wenn sie eine kreative Schöpfung darstellen. Dies ist jedoch eine Grauzone, die noch nicht abschließend geklärt ist. Hier wird die Rechtsprechung in den nächsten Jahren weiter für Klarheit sorgen müssen.

123recht.de: Wie beurteilen Sie Mischwerke? Welche Probleme können bei Mischwerken auftreten, z.B. in Bezug auf Verwertungsgesellschaften?

Rechtsanwalt Dr. Newerla: Mischwerke, die aus menschlichen und KI-generierten Elementen bestehen, werfen urheberrechtliche Fragen auf. Es könnte unklar sein, wie die Rechte an den jeweiligen Teilen des Werkes zugeordnet werden. Verwertungsgesellschaften könnten Schwierigkeiten haben, diese Rechte richtig zu verwalten, insbesondere wenn der Beitrag der KI schwer nachweisbar ist.

123recht.de: Was sind Deep Fakes und schützt das Urheberrecht davor?

Rechtsanwalt Dr. Newerla: Deep Fakes sind künstlich erzeugte Medien (meist Videos oder Audios), die realistische, aber falsche Darstellungen von Personen oder Ereignissen zeigen. Das Urheberrecht schützt nicht direkt vor der Schaffung von Deep Fakes, aber es schützt die Rechte der abgebildeten Personen, insbesondere gegen Persönlichkeitsrechtsverletzungen und Verleumdungen.

Adressat bei einer Urheberrechtsverletzung wäre der Anwender

123recht.de: Eine KI selbst kann ja nicht Urheber sein, was also tun bei Urheberrechtsverletzungen durch eine KI? Wer unterliegt der Verantwortlichkeit?

Rechtsanwalt Dr. Newerla: Wenn eine KI Urheberrechtsverletzungen begeht, könnte der Verwender des KI-generierten Ergebnisses unter Umständen zur Verantwortung gezogen werden, da die KI keine eigene Haftungsfähigkeit hat.

123recht.de: Wie sieht es mit der Übertragung von Rechten an KI-Inhalten aus, genügen klassische Lizenzverträge den Anforderungen?

Rechtsanwalt Dr. Newerla: Die Übertragung von Rechten an KI-generierten Inhalten kann grundsätzlich durch Lizenzverträge geregelt werden, jedoch müssen diese speziell auf die Besonderheiten von KI-Werken zugeschnitten sein. Es muss klar festgelegt werden, wie die Rechte an den KI-generierten Inhalten verwaltet und genutzt werden dürfen.

Unternehmen sollten durch Richtlinien den Umgang mit KI regeln

123recht.de: Sollten Unternehmen klare Richtlinien für die interne Nutzung von KI erarbeiten? Was sollten diese Richtlinien regeln?

Rechtsanwalt Dr. Newerla: Ja, Unternehmen sollten klare Richtlinien für die Nutzung von KI erarbeiten. Diese sollten insbesondere den verantwortungsvollen Umgang mit Daten, den Schutz der Privatsphäre, die Transparenz von KI-Modellen und die rechtlichen Pflichten im Hinblick auf Haftung und Urheberrecht regeln.

123recht.de: Sind für die Zukunft Anpassungen an das Urheberrecht im Bezug auf KI geplant bzw. notwendig?

Rechtsanwalt Dr. Newerla: Ja, Anpassungen des Urheberrechts an die Nutzung von KI sind notwendig, um eine klare Rechtslage zu schaffen. Insbesondere in Bezug auf die Frage der Urheberschaft und die Handhabung von KI-generierten Inhalten müssen die bestehenden Regelungen angepasst werden, um den technischen Entwicklungen gerecht zu werden. Die bereits in Kraft getretene neue KI-Verordnung (die meisten Vorschriften werden erst ab dem 02.08.2026 gelten) beinhaltet diverse Regelungen in Bezug auf das Urheberrecht, wie z. B. die Pflicht für Anbieter von bestimmten KI-Modellen technische Dokumentationen zu erstellen, transparent zu sein und auch Strategien zu entwickeln, um die Einhaltung des Urheberrechts zu gewährleisten.

123recht.de: Vielen Dank für das informative Gespräch