Ist dieses Bild echt oder KI generiert? Eine Frage, die wir mittlerweile oft gar nicht mehr so leicht beantworten können.
Das Tempo der KI-Entwicklung ist aktuell extrem hoch. Mit jedem neuen Modell lassen sich im Handumdrehen immer noch bessere Texte, realistischere Bilder, Videos, Stimmen und Avatare generieren. Wir Menschen können den Unterschied zu „echt“ häufig kaum noch erkennen. Oder hättest du mit großer Sicherheit sagen können, dass das obere Bild KI-generiert ist?
Um unter anderem genau dieser Täuschungsgefahr entgegenzuwirken, tritt am 02. August 2026 ein weiterer Melenstein in der KI-Regulatorik in Kraft. Während der EU AI Act schon seit dem 1. August 2024 wirkt, gelten ab August nun auch die Transparenzpflichten nach Artikel 50.
Was du unbedingt zum EU AI Act und Art. 50 wissen solltest und was das für dich als Unternehmer, Mitarbeitender und Privatperson bedeutet, klären wir in diesem Blogartikel. Denn bei allen Möglichkeiten, die uns KI bietet, sollte unser Ziel immer ein vertrauenswürdiger, verantwortungsvoller Umgang mit KI-Tools sein.
EU AI Act als rechtlicher Rahmen für KI-Nutzung
Mit dem EU AI Act möchte die EU einen rechtlichen Rahmen für die Entwicklung und Nutzung von KI-Systemen schaffen. Denn obwohl in wichtigen Bereichen weiterhin der Mensch die Oberhand haben muss, sollen sich alle Bürger im Umgang mit KI sicher fühlen und selbstbewusst mit der Technologie umgehen können.
Der AI Act wurde nicht „über Nacht“ eingeführt, sondern in mehreren Stufen verabschiedet:
- August 2024: Der EU AI Act ist offiziell beschlossen und gültig, gilt aber noch nicht vollständig.
- Februar 2025: KI-Systeme mit unannehmbarem Risiko (z. B. zur Manipulation, zum Social Scoring, zur Ausnutzung von Schwächen bestimmter Personen) sind verboten. Außerdem gilt die Pflicht zur KI-Kompetenz für Mitarbeitende (Art. 4).
- August 2025: Es gelten erste Vorgaben für General-Purpose AI bzw. Basismodelle wie große Sprachmodelle sowie erste Governance- und Durchsetzungsregeln.
- August 2026: Die meisten Vorschriften des EU AI Act werden anwendbar. Hierzu gehören insbesondere die Transparenzpflichten nach Artikel 50.
Weitere Regelungen folgen:
- Dezember 2027: Pflichten für viele eigenständige Hochrisiko-KI-Systeme
- August 2028: Pflichten für Hochrisiko-KI in regulierten Produkten
Was der EU AI Act für jeden einzelnen bedeutet, hängt von der eigenen Rolle ab.
Während die Geschäftsleitung bspw. dafür Sorge tragen muss, den KI-Kompetenzaufbau zu steuern und eine KI-Strategie zu verankern (z. B. Art. 4 EU AI Act),
ist die IT-Abteilung dazu verpflichtet, die eingesetzten KI-Systeme zu überwachen, auf Risiken zu prüfen und technisch zu dokumentieren (z. B. Art. 9, 17 EU AI Act).
Wichtig für Freelancer und KI-Beratende ist, Kennzeichnungspflichten zu kennen, selbst umzusetzen und Kunden beim KI-Kompetenzaufbau zu begleiten (z. B. Art. 5, 40 EU AI Act.)
Artikel 50: Transparenzverpflichtungen für Anbieter und Betreiber von bestimmten KI-Systemen
Um Transparenz und Vertrauen zu schaffen, soll für Menschen künftig klar erkennbar sein, ob Inhalte von Menschen oder Maschinen erstellt wurden. Artikel 50 verpflichtet dazu, bestimmte KI-generierte oder manipulierte Inhalte transparent zu kennzeichnen.
Wo liegt der Unterschied zwischen Anbieter und Betreiber?
Anbieter: Mensch, Unternehmen, Verein, Behörde oder sonstige Stelle, die ein KI-System/ -Modell für allgemeine Zwecke entwickelt oder entwickeln lässt und es unter eigenem Namen / Marke in Verkehr bringt oder in Betrieb nimmt. Unabhängig davon, ob dies entgeltlich oder unentgeltlich geschieht.
Betreiber: Mensch, Unternehmen, Verein, Behörde oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet. Es sei denn, das KI-System wird im Rahmen einer persönlichen, nicht beruflichen Tätigkeit verwendet.
Konkret sagt das Gesetz:
„Wer ein KI-System einsetzt, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deep Fake darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Verpflichtung gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. (…)
Wer ein KI-System einsetzt, das Text generiert oder manipuliert, der zu dem Zweck veröffentlicht wird, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss offenlegen, dass der Text künstlich generiert oder manipuliert wurde.“ (Artikel 50 Absatz 4)
Deepfakes sind kennzeichnungspflichtig
Als Deepfakes gelten KI-generierte oder manipulierte Bild-, Ton- oder Videoinhalte, die real existierende Personen, Orte, Gegenstände, Einrichtungen oder Ereignisse darstellen. Deshalb können sie von Dritten für echt oder wahrheitsgemäß gehalten werden. Nach dem EU AI Act müssen sie deshalb gekennzeichnet werden.
Ein von uns mit KI generiertes Beispiel:
Für Betrachter wirkt es real. Somit ist es ein Deepfake und muss mit „KI-generiert“ gekennzeichnet werden.
Gut zu wissen: Normale Bildbearbeitungen (z. B. mit Photoshop), ohne dass substanzielle Veränderungen vorgenommen wurden, fallen nicht unter die Kategorie „Deepfake“ und sind somit auch nicht von der Kennzeichnungspflicht betroffen.
Kennzeichnungspflicht bei Texten
Eine berechtigte Frage in diesem Zuge: Müssen wir jetzt jeden Social-Media-Post kennzeichnen, den KI getextet hat?
Die Antwort lautet wie so oft: Es kommt ganz darauf an. Eine Kennzeichnung ist erforderlich, wenn folgende drei Voraussetzungen zusammentreffen:
Aber: Übernimmt eine natürliche oder juristische Person die Verantwortung für die Veröffentlichung, wird der Inhalt tatsächlich gelesen und verstanden und ggf. inhaltlich überarbeitet, ist eine Kennzeichnung nicht verpflichtend.
Werbe- und Marketingtexte sind nicht kennzeichnungspflichtig
Da die Transparenzpflicht für KI-generierte Texte grundsätzlich Inhalte betrifft, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen, sind folgende Texte in der Regel nicht kennzeichnungspflichtig:
- Marketing- und Werbetexte
- Produktbeschreibungen
- interne Unternehmenskommunikation
- rein werbliche Social-Media-Beiträge
- unterhaltende Inhalte ohne Informationszweck
Beispiele: KI-generierte Eventankündigung, KI-generierte Websitetexte zu Beratungsleistungen, Kampagnenclaims auf Plakaten oder auf großen Bauzaunbannern
KI-Chatbots müssen als solche erkannt werden
Immer häufiger setzen Unternehmen für Produktberatung, Terminbuchung oder Kundenanfragen auf KI-Chatbots. Nach Artikel 50 müssen Nutzende zukünftig direkt erkennen können, dass sie mit einer KI interagieren. Wenn dies also nicht offensichtlich ist, sollte zu Beginn der Interaktion ein Hinweis erfolgen. Das könnte beispielsweise wie folgt aussehen:
Wichtig: Sobald ein Chatbot personenbezogene Daten verarbeitet, greift zudem die DSGVO. Der EU AI Act und die DSGVO gelten gleichzeitig und unabhängig voneinander.
Möglichkeiten zur Kennzeichnung
Merksatz: Die Kennzeichnung muss dort erfolgen, wo Nutzende den Inhalt wahrnehmen.
Nicht ausreichend sind dementsprechend ein Hinweis im Footer, Impressum oder in der Datenschutzbestimmung, dass auf der Website teilweise KI-Inhalte verwendet werden.
Kennzeichnung von Bildern
Der Hinweis, dass das gezeigte Bild KI-generiert ist, sollte gut sichtbar am Bild platziert sein. Ein Beispiel:
Kennzeichnung von Videos
Die Kennzeichnung erfolgt entweder am Anfang oder im Abspann des Videos. Bei Live-Videos sollte eine dauerhafte Einblendung klar erkennbar platziert sein.
Kennzeichnung von Audio
Eine Möglichkeit zur Kennzeichnung könnte wie folgt klingen: „Diese Aufnahme wurde mit Hilfe Künstlicher Intelligenz erstellt.“
Kennzeichnung von Text
Sind die drei im Abschnitt „Kennzeichnungspflichten im Text“ genannten Voraussetzungen erfüllt, ist eine Kennzeichnung des Textes erforderlich. Mit dem Hinweis „Dieser Inhalt wurde durch Künstliche Intelligenz erstellt.“ wird bspw. dieser Pflicht nachgegangen.
Iconset der EU: Die Europäische Kommision schlägt zur Kennzeichnung ein entwickeltes Iconset vor. Dieses dient allerdings nur der Orientierung. Es gibt also keine verpflichtende Nutzung der Designs. Eigene Kreationen von KI-Labels sind weiterhin rechtlich zulässig.
KI-Kennzeichnung ist nicht mehr optional!
Ab dem 2. August 2026 müssen Deepfakes und KI-generierte Texte mit öffentlichem Interesse gemäß Art. 50 Abs. 4 des EU AI Acts klar als solche gekennzeichnet werden.
Werbe- und Marketingtexte, Inhalte für die rein private Nutzung sowie künstlerische Werke, Satire und fiktionale Formate sind hingegen in der Regel (Stand heute) nicht kennzeichnungspflichtig.
Um keine rechtlichen Folgen befürchten zu müssen, sollte jedem bekant sein, welche Inhalte mit „KI-generiert“ gekennzeichnet werden müssen. Bestehen Zweifel, mögliche Deepfakes besser großzügig und transparent gekennzeichnen!
Da sich die Gesetzeslage durch die rasante KI-Entwicklung stetig weiterentwickelt, sollten aktuelle Regelungen und neue Auslegungshinweise regelmäßig im Blick behalten werden.
Unsere EU AI Act-Videoreihe:
Quellen und Linksammlung: Das Gesetz und zugehörige Veröffentlichungen
- Das Gesetz – Englisch (original): https://ai-act-service-desk.ec.europa.eu/en/ai-act-explorer
- Das Gesetz – Deutsch: https://ai-act-service-desk.ec.europa.eu/de/ai-act/article-1
- Weiterführend: https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=OJ:L_202401689
- Die Leitlinien zur Transparenzverpflichtung: https://digital-strategy.ec.europa.eu/en/policies/guidelines-transparency-ai-generated-content
- FAQs: https://digital-strategy.ec.europa.eu/de/faqs/transparency-obligations-under-article-50-ai-act
- EU Icons zur Kennzeichnung: https://digital-strategy.ec.europa.eu/de/policies/eu-icons-labelling-ai-generated-content
- Verhaltenskodex: https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
- Auf einen Blick – kurze Fakten: https://digital-strategy.ec.europa.eu/de/factpages/quick-facts-transparency-rules-ai-systems
Hinweis: Dieser Artikel dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar.
