EU AI Act: Neue Regeln für Transparenz und Durchsetzung im DACH-Raum

Die Landschaft der Künstlichen Intelligenz (KI) im DACH-Raum unterliegt seit dem 2. August 2026 signifikanten Veränderungen. Mit diesem Datum sind die ersten, aber entscheidenden Teile der EU-Verordnung über Künstliche Intelligenz, kurz EU AI Act (Verordnung (EU) 2024/1689), anwendbar geworden. Spezifisch geht es um die Transparenzpflichten nach Artikel 50 und die umfassenden Durchsetzungsbefugnisse für KI-Modelle mit allgemeinem Verwendungszweck, sogenannte General Purpose AI (GPAI), sowie den gesamten Sanktionsrahmen. Für Unternehmen in Deutschland, Österreich und der Schweiz, die KI-Systeme entwickeln oder nutzen, ist dies keine marginale Anpassung, sondern eine unmittelbare operative und strategische Herausforderung. Die Nichtbeachtung dieser Vorgaben kann mit erheblichen finanziellen Konsequenzen verbunden sein. Es ist eine Entwicklung, die von der reinen Diskussion in die verbindliche Anwendung übergeht und ein aktives Handeln von den Unternehmen fordert.

Transparenzpflichten nach Artikel 50: Was Sie wissen müssen

Artikel 50 des EU AI Acts etabliert klare Anforderungen an die Transparenz im Umgang mit KI-Systemen. Diese Pflichten sind breit gefächert und betreffen verschiedene Anwendungsbereiche, die im Unternehmensalltag häufig vorkommen:

1. Interaktion mit KI-Systemen: Unternehmen, die KI-Systeme einsetzen, welche direkt mit Menschen interagieren, beispielsweise in Form von Chatbots im Kundenservice oder virtuellen Assistenten auf Websites, sind verpflichtet, Nutzer aktiv und verständlich darüber zu informieren, dass sie mit einer KI kommunizieren. Ziel ist es, jederzeit Klarheit darüber zu schaffen, ob eine Interaktion mit einem menschlichen Gegenüber oder einer Maschine stattfindet. Die Expertenmeinung ist hier eindeutig: Viele Unternehmen, die fremdentwickelte KI-Tools oder Funktionen nutzen, gelten als Betreiber und sind somit von dieser Pflicht direkt betroffen.

2. Generierung oder Manipulation von synthetischen Inhalten (Deepfakes): KI-Systeme, die synthetische Inhalte wie Audio, Bilder, Videos oder Texte erzeugen oder manipulieren, unterliegen einer Kennzeichnungspflicht. Anbieter dieser Systeme müssen maschinenlesbare Kennzeichnungen in die erzeugten Outputs einbetten und einen Mechanismus zur Erkennung solcher Inhalte bereitstellen. Dies gilt insbesondere, wenn die Inhalte so realistisch erscheinen, dass sie täuschend echt wirken oder irreführend sein könnten, etwa bei KI-generierten Reden von öffentlichen Personen oder manipulierten Unternehmensvideos. Ausgenommen sind lediglich Standardbearbeitungen oder nicht-substanzielle Veränderungen. Für bereits vor dem 2. August 2026 erstellte und veröffentlichte Deepfakes gilt keine rückwirkende Kennzeichnungspflicht, aber neue Inhalte müssen den Anforderungen entsprechen.

3. Emotionale Erkennung und biometrische Kategorisierung: Wenn KI-Systeme zur Emotionserkennung oder biometrischen Kategorisierung von Personen eingesetzt werden, müssen die betroffenen Personen darüber informiert werden. Dies betrifft beispielsweise Systeme, die versuchen, Gemütszustände zu interpretieren oder Personen aufgrund ihrer biometrischen Merkmale in Gruppen einzuteilen.

4. KI-generierte Texte von öffentlichem Interesse: Texte, die von KI generiert oder wesentlich bearbeitet wurden und der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen, wie etwa Nachrichtenartikel oder politische Informationen, müssen ebenfalls gekennzeichnet werden. Reine Produktbeschreibungen, die keine öffentliche Bedeutung haben, oder einfache Rechtschreibkorrekturen sind von dieser Regelung ausgenommen.

Diese Pflichten gelten ab dem 2. August 2026 für alle betroffenen Systeme, ungeachtet ihres Markteinführungsdatums. Eine minimale Übergangsfrist bis zum 2. Dezember 2026 existiert lediglich für Kennzeichnungs- und Erkennungspflichten generativer KI-Systeme, die bereits vor dem Stichtag auf dem Markt waren. Diese präzisen Vorgaben verlangen eine sorgfältige Analyse und Anpassung der bestehenden KI-Anwendungen und -Prozesse in den Unternehmen.

Verschobene Fristen für Hochrisiko-KI: Keine Entwarnung für Ihre Vorbereitung

Obwohl die Transparenzpflichten unmittelbar greifen, gab es eine Anpassung der Fristen für die umfangreicheren Compliance-Anforderungen an Hochrisiko-KI-Systeme. Diese Änderungen wurden durch die sogenannte