Muss man fortan alle mit KI erzeugten Inhalte kennzeichnen?

Diese Frage treibt viele unserer Kunden um, und wie gerade schon bei der Betrachtung von Artikel 50 beschrieben, ist die Antwort nicht eindeutig. Zunächst: Die Kennzeichnungspflicht für Unternehmen soll voraussichtlich ab August 2026 gelten, eventuell sogar erst ein Jahr später. Die EU-Kommission hat im November 2025 im Rahmen eines Überarbeitungsvorschlags zum AI Act („Digital Omnibus on AI“) eine Verlängerung angeregt. Die Entscheidung steht aber noch aus.

Wie auch immer es kommt, die Grundregel für die Kennzeichnung ist einfach: Content, der aus der KI stammt, muss als solcher erkennbar sein. Allerdings schränkt der AI Act explizit ein, dass dies in zwei Fällen nicht gilt,

1. „soweit die KI-Systeme eine Hilfsfunktion für die Standardredaktion erfüllen“ oder
2. „die vom Anwender bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern“.

„Der Begriff ,Hilfsfunktion‘ ist hier ganz relevant – darauf verweisen zumindest Juristen, mit denen wir sprechen“, sagt disruptive-Geschäftsführer Timm Rotter. „Will heißen: Wenn Ihre menschliche Leistung in der Content-Erstellung maßgeblich ist und Sie das jeweiligen KI-Tool nur nutzen, um das Ergebnis in Teilen oder in einer bestimmten Dimension zu verbessern, besteht keine Transparenzpflicht.“ Vier Beispiele:

1. Sie schreiben eine Redeskript für Ihre CEO. Den Text lassen Sie am Ende von Perplexity nochmals faktenchecken.
2. Sie bedienen sich der Photoshop-KI, um per „Generative Filling“ das hässliche Auto aus dem Sommerfest-Gruppenfoto rauszuretuschieren, das gerade im falschen Moment hinten durchs Bild fahren musste.
3. Sie verwenden Microsoft Copilot, um eine Tabelle mit Verkaufszahlen als Grafik darzustellen und zudem Muster in den Daten zu erkennen.
4. Sie nutzen ChatGPT, um für das Vorstellungsgespräche mit dem Kandidaten für die IT-Leitung noch ein paar besondere Fragen zur Hand zu haben.

In allen vier Fällen ist die KI-Leistung der menschlichen Intelligenz untergeordnet. Daher: Ausweisen müssen Sie die Rolle der KI hier nicht.

Wir empfehlen unseren Kunden:innen dennoch, bei GenAI-Produkten sehr transparent zu sein – und das aus zwei Gründen:

• zum einen, weil viele Nutzer:innen dies erwarten
• zum anderen, weil es auch ein Statement für die eigene Modernität und damit ein Beitrag zum Markenimage sein kann, wenn man KI einsetzt.

Wichtig zu wissen: Neben dem KI-Gesetz gibt es noch andere Rechtsvorschriften, die GenAI beeinflussen. Dazu zählen Persönlichkeitsrechte oder Urheberrechte – diese gelten natürlich weiterhin. Vor allem bei GenAI und Urheberrecht tritt man schnell in rechtliche Fettnäpfchen.

Was gilt laut AI Act für Unternehmen hinsichtlich ihrer KonzernGPTs?

Viele Unternehmen haben 2023/24 eigene Chatbots, sogenannte KonzernGPTs, entwickelt. In den meisten Fällen basieren sie auf ChatGPT – sind allerdings so gebaut, dass eingegebene Daten nicht zum Training des LLMs genutzt werden und teilweise sogar noch nicht einmal über US-Server laufen. Das ermöglicht eine DSGVO-konforme Nutzung.

Der AI Act thematisiert KonzernGPTs nicht ausdrücklich. Es gibt jedoch bereits Diskussionen unter Expert:innen, dass es sich bei den Weiterentwicklungen des GPTs ja nicht um eigene KI-Anwendungen handelt, sondern dass nur die eingegebenen Daten anders (nämlich datenschutzkonform) verarbeitet werden. Demnach würden daraus keine besonderen Verpflichtungen laut AI Act erwachsen.

Wenn Unternehmen jedoch eigene KI-Anwendungen wie Chatbots im Kundenservice oder Bilddatenbanken entwickeln, dann fallen diese definitiv auch unter den AI Act.

Vielversprechend aus Unternehmenssicht ist eine weitere Vorgabe der EU unter der Überschrift „Innovation“: dass das Gesetz nämlich KMU und Start-ups ermöglichen soll, eigene KI-Modelle zu entwickeln und zu trainieren, bevor sie für die allgemeine Öffentlichkeit freigegeben werden. Dazu müssen die nationalen Behörden Unternehmen eine realitätsnahe Testumgebung zur Verfügung stellen. Wie diese aussehen, ist allerdings noch völlig offen.

Gibt es Sonderregeln für besonders leistungsstarke KI-Chatbots?

Die gibt es tatsächlich, allerdings nur für Hersteller und Betreiber, und nicht – das ist für Unternehmen wichtig – für reine Nutzer. Im Laufe der Entwicklung des AI Acts hat die Politik, getrieben durch den Erfolg von KI-Chatbots in 2023, nochmals separate Anforderungen für die Anbieter von General Purpose AI (GPAI) angestoßen – damit wird die reine Risikoklassifizierung aufgeweicht.

Unter GPAI versteht man KI-Systeme, die verschiedene Aufgaben bewältigen können. Während manche GenAI-Tools spezielle Zwecke erfüllen, bspw. die Übersetzung von Text, sind GPAI-Modelle breiter angelegt. Das bekannteste General Purpose AI Model ist ChatGPT, das diverse Importe verarbeiten kann – von Text über Bilder und Code bis zu Sprache – und auch unterschiedliche Medien ausgibt.

Anbieter dieser besonders leistungsfähigen, multimodalen KI-Modelle müssen diverse Vorgaben erfüllen. Urspünglich sollten die Regeln für alle GPAI-Modelle im Juli 2025 in Kraft treten und – nach Auslaufen von Übergangsregeln – 2026 final gelten. allerdings haben es die US Big Techs, die hinter fast allen den großen KI-Modellen stehen, geschafft, die EU zu einer Verlängerung der Übergangsfrist bis August 2027 zu drängen. Die Vorgaben umfassen:

• detaillierte Dokumentationen, angefangen von Trainingsmethoden bis hin zum Energieverbrauch
• belastbare technische Informationen über Fähigkeiten, Grenzen und potenzielle Risiken des KI-Modells
• die Pflicht zur Veröffentlichung einer detaillierten Trainingsdaten-Übersicht. So soll nachvollziehbar sein, welche Datenquellen die Systeme nutzen und ob sie die Urheberrechte einhalten. Bisher, so zumindest die Sicht vieler Verlage, Autoren und Content-Datenbanken, haben Anbieter wie OpenAI diese regelmäßig ignoriert.

Die genauen Regelungen für GPAI sind in einem separaten „Code of Practice“ formuliert. 

Wichtig dabei ist: Diese Verschärfung betrifft nicht die Nutzer (im Sprech des AI Acts „Betreiber“), sondern nur die Anbieter von GPAI.

Was regelt der AI Act zum Umgang mit Urheber- und Nutzungsrechten?

Wenig, und das bewusst: Ein derart umfassendes Gesetzeswerk hat nicht die Aufgabe, die konkreten juristischen Auslegungen im Detail zu definieren, aber es soll einen Rahmen setzen, in dem sich künftig Rechtsprechung bewegt. Und das tut der AI Act, gerade mit Blick auf GPAI, also leistungsfähige Sprachmodelle.

Der Entwurf sieht vor, dass Betreiber nicht nur den Trainings- und Testprozess des Modells offenlegen, sondern auch „die Art und Herkunft der Daten“ sowie, „wie die Daten erhalten und ausgewählt wurden“. Zudem müssen KI-Firmen laut den Transparenzpflichten für GPAI im AI Act  sicherstellen, dass sie die Urheberrechte in der EU einhalten und Daten, welche die Eigentümer nicht freigeben wollen, auch garantiert nicht in ihre Modelle einfließen lassen.

„Urheberrechte in der EU einhalten“ klingt sehr absolut. Allerdings krankt die Forderung daran, dass schlichtweg noch nicht geklärt ist, ob GenAI-Tools überhaupt einen Urheberrechtsverstoß begehen, da sie (in der Tat) urheberrechtlich geschützte Inhalte ja nicht 1:1 wiedergeben, sondern die Informationen neu zusammenwürfeln

Auf dieser Basis werden Richter:innen in den nächsten Jahren entscheiden müssen, wie konkrete Fälle von Urheber- oder Nutzungsrechts-Streitigkeiten zu bewerten sind. Heißt: Die Rechtsprechung muss sich noch entwickeln. 

Und auch wenn sie zugunsten der Rechteinhaber ausfallen dürfe, heißt das noch lange nicht, dass die KI-Konzerne klein beigeben: Der seit Jahren schwele Rechtsstreit zwischen Google und Verlagen darüber, wie viel Tantieme der Suchmaschinenbetreiber für die Nutzung der Inhalte zu zahlen habe („Leistungsschutzrecht“), taugt hier als Präzendenzfall.

Für Unternehmen dürfte in diesem Zusammenhang eine Frage interessant werden: Ob sie einen generellen Anspruch haben, von Mitarbeitenden erstellte Daten in eigene KonzernGPTs einzuspeisen. Setzt man sie mit den Anbietern von Sprachmodellen gleich, müssten sie sicherstellen, dass Inhalte einzelner Nutzern auf deren Wunsch entfernt bzw. nicht integriert werden. Auch hier gibt es aber noch keine belastbare Rechtsauslegung.

Müssen Unternehmen ihre Mitarbeiter:innen in puncto KI schulen?

Das war bisher ziemlich eindeutig zu bejahen: Der AI Act legt in Art. 4b fest, dass Anbieter KI-Kompetenz beim eigenen Personal und bei Dienstleistern sicherstellen müssen, wenn diese mit KI arbeiten. Diese „AI Literacy“ ist seit Februar 2025 für Unternehmen verpflichtend, die KI oder GenAI einsetzen. Ausnahmen gibt es laut EU nicht, weder was Firmengröße noch was Tool-Set angeht.

Alle Firmen müssen zudem „so weit wie möglich sicherstellen, dass ihr Personal (…) über ausreichende KI-Kenntnisse verfügen“, so das EU-Gesetz. Dabei seien „technische Kenntnisse, Erfahrung, Aus- und Weiterbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden sollen“, zu beachten. Mehr dzua in diesem eigenen Beitrag zur Schulungsverpflichtung.

Seit November 2025 ist die Kompetenzpflicht wieder in Frage gestellt. Im „Digital Omnibus on AI“, einem Novellen-Vorschlag, den die EU-Kommission nach langem Druck aus der Wirtschaft vorgestellt hat, um das digitale Regelwerk zu vereinfachen, wird die Aufweichung des Passus‘ vorgeschlagen. Entschieden ist darüber bisher noch nicht.

Drohen Strafen, wenn Unternehmen die Regeln im KI-Gesetz nicht einhalten?

Ja, die EU hat sogar hohe Bußgelder angekündigt. Als Höchststrafe sind 7 Prozent des gesamten weltweiten Vorjahresumsatzes oder 35 Millionen Euro vorgesehen. Zum Vergleich: DSGVO-Verstöße kosten „nur“ maximal 4 Prozent des Umsatzes oder 20 Millionen Euro. Aktuell (Q4/2025) sind allerdings noch keine Strafverfahren bekannt.  

Zudem dürftenn die Höchststrafen auch nur für massive Vergehen gelten, etwa Verstöße, die mit verbotener KI zu tun haben oder Hochrisiko-KI betreffen. 

Braucht jedes Unternehmen einen „KI-Beauftragten“?

Juristisch ist das leicht zu verneinen. Der AI Act verlangt, anders als wie ehedem die DSGVO, keinen Aufseher, also kein Äquivalent zum Datenschutzbeauftragten. Wir raten Unternehmen sogar ab, die Zuständigkeit für KI bei nur einem/einer Beauftragten zu bündeln, denn jede:r Mitarbeitende sollte über ausreichend KI-Wissen und ein entsprechendes Mindset verfügen, um die neue Technologie produktiv und zugleich reflektiert einzusetzen. 

Lesenswert in dem Kontext ist ein Bericht der FAZ: Sie warnt vor den Nachteilen eines KI-Beauftragten. Denn laut FAZ zeigen Forschungsergebnisse, dass andere Mitarbeiter:innen das Thema KI sogar eher von sich wegschieben, wenn ein Verantwortlicher benannt wird.

Was der AI Act allerdings verlangt, das ist KI-Kompetenz: Anbieter und Betreiber von KI-Systemen müssen ihr Personal schulen – hier haben Unternehmen „nach bestem Wissen und Gewissen“ eine Pflicht zur KI-Ausbildung (siehe 9.)

Reguliert der AI Act auch die private Nutzung?

Der AI Act gilt nur für professionelle Anwender – wer KI-Systemen zu privaten Zwecken einsetzt oder entwickelt, muss sich um diese EU-Gesetzgebung nicht kümmern. Dies gilt auch für die Nutzung von Generativer KI in Schule oder Universität. Je nach Bildungsinstanz gelten hier jedoch individuelle Regeln, was Transparenz oder den generellen Einsatz von KI-Tools angeht. Der AI-Act allerdings verbietet diesbezüglich nichts.