4.3 | KI-Nutzung und der EU AI Act – Vertiefung für die Praxis

Was du bereits weißt

  • Der EU AI Act betrifft nicht nur Entwickler, sondern auch Anwender von KI
  • Transparenz, Qualitätskontrolle und Datenschutz sind wichtige Grundprinzipien
  • Bestimmte KI-generierte Inhalte müssen als solche gekennzeichnet werden
  • Im Umgang mit KI trägst du Verantwortung für die Ergebnisse

Was du in diesem Modul lernst

  • Die fünf Hauptpflichten für KI-Anwender im Detail verstehen
  • Praktische Formulierungshilfen für die Kennzeichnung von KI-Inhalten
  • Wie du den verantwortungsvollen KI-Einsatz in deinem Team etablieren kannst
  • Konkrete Lösungen für typische Anwendungsfälle im Arbeitsalltag

1. Deine erweiterte Verantwortung mit KI

Als Navigator hast du Zugriff auf mehr KI-Funktionen und damit einhergehend mehr Verantwortung. Du nutzt nicht nur die vordefinierten Assistenten auf der xpand-Plattform, sondern möglicherweise auch externe Tools wie ChatGPT oder spezialisierte KI-Systeme.

Mit dem seit dem 1. August 2024 geltenden EU AI Act erhält die verantwortungsvolle KI-Nutzung eine rechtliche Dimension, die dich direkt betrifft – die Vorgaben werden bis 2027 schrittweise wirksam. Im Folgenden erfährst du, was das konkret für deinen Arbeitsalltag bedeutet.

Wichtig für dich als Nutzer: Einige Transparenz- und Schulungspflichten betreffen auch dich direkt.

„Mit größerer KI-Kompetenz wächst auch deine Verantwortung – nicht nur für die Qualität, sondern auch für die rechtskonforme Nutzung.“
Rechtlicher Zusatz: Der AI Act stärkt und konkretisiert auch das Verbot vollautomatisierter Entscheidungen nach Artikel 22 DSGVO – eine Entscheidung mit rechtlicher Wirkung darf nie allein von der KI getroffen werden, sondern muss immer menschlich überprüft werden.

2. Die 6 Pflichten im Detail

1
Menschen müssen KI erkennen können

Wenn KI-Systeme mit Menschen interagieren, muss dies transparent sein. Nutzer müssen wissen, dass sie mit einer KI kommunizieren – nicht mit einem Menschen.

  • Betrifft: Chatbots, automatisierte Kundenservice-Systeme, KI-Telefonie
  • Umsetzung: Klare Kennzeichnung, z.B. „Ich bin ein KI-Assistent“ zu Beginn der Interaktion
2
KI-generierte Inhalte kennzeichnen

Inhalte, die von KI erzeugt wurden und nicht ohne weiteres als solche erkennbar sind, müssen gekennzeichnet werden.

  • Betrifft: Bilder, Videos, Audio, teilweise auch Texte – insbesondere wenn sie täuschend echt wirken
  • Umsetzung: Deutliche Kennzeichnung wie „Dieses Bild wurde mit KI erstellt“ oder Wasserzeichen
3
Mensch behält die Kontrolle

Bei wichtigen Entscheidungen darf KI unterstützen, aber nicht allein bestimmen. Der menschliche Faktor bleibt wichtig.

  • Betrifft: Beurteilungen, Einstellungsentscheidungen, Ressourcenzuweisungen
  • Umsetzung: „Human in the loop“ – KI liefert Vorschläge, Mensch trifft die finale Entscheidung
4
Schulung und Kompetenzaufbau

Mitarbeiter:innen müssen angemessen geschult sein, bevor sie KI-Systeme nutzen, die Auswirkungen auf andere haben können.

  • Betrifft: Alle, die regelmäßig mit KI-Tools arbeiten, insbesondere bei Entscheidungsfindung
  • Umsetzung: Schulungen, Leitlinien, kontinuierliches Lernen
5
Verantwortung übernehmen

Du bleibst für die Ergebnisse verantwortlich, die durch KI-Unterstützung entstehen – auch rechtlich.

  • Betrifft: Jede Form von KI-generiertem Inhalt, den du verwendest oder weitergibst
  • Umsetzung: Qualitätskontrolle, Faktencheck und ggf. Dokumentation deiner Prüfungsschritte
6
KI-Kompetenz aufbauen (AI Literacy, Art. 4)

Seit dem 2. Februar 2025 verpflichtet der EU AI Act Unternehmen, ein ausreichendes Maß an KI-Kompetenz bei allen Personen sicherzustellen, die mit KI-Systemen arbeiten – das betrifft auch dich als Anwender:in.

  • Betrifft: Alle Mitarbeitenden, die KI-Systeme einsetzen oder deren Ergebnisse verwenden
  • Umsetzung: Regelmäßige Schulungen, dokumentierte Lernpfade (z. B. die xpandAI Academy), bewusste Auseinandersetzung mit Chancen und Grenzen von KI

3. Was gilt konkret im Arbeitsalltag?

Beispiel 1: Du nutzt ChatGPT oder andere externe KI-Tools, um eine Kundenmail zu formulieren.

  • Grundsätzlich möglich.
  • Aber: Text muss selbst geprüft werden, DSGVO-konform sein, und bei sensiblem Inhalt ist Vorsicht geboten.
  • Bei externen Tools immer darauf achten, dass keine vertraulichen Informationen eingegeben werden.

Beispiel 2: Du übernimmst einen ganzen KI-generierten Bericht unverändert für eine Kundenpräsentation.

  • Transparenz notwendig: Kennzeichnung der KI-Unterstützung.
  • Überprüfung aller Fakten und Aussagen ist deine Verantwortung.
  • Anpassungen an die spezifischen Kundenbedürfnisse sollten immer durch dich erfolgen.

Beispiel 3: Du erstellst mit KI täuschend echte Bilder oder Videos für Marketingzwecke.

  • Pflicht zur Kennzeichnung als KI-generierter Inhalt.
  • Rechtliche Verantwortung für mögliche Täuschung liegt bei dir.
  • Prüfe, ob die Darstellung mit den Unternehmensrichtlinien vereinbar ist.

4. Formulierungshilfen für Kennzeichnung

Für interne Dokus oder E-Mails:

„Dieser Text wurde mit Unterstützung von ChatGPT erstellt und final durch [Name] geprüft.“

Für externe Kommunikation (z. B. Kundeninfo):

„Dieser Text wurde mit Hilfe eines KI-basierten Assistenten erstellt. Inhaltlich geprüft durch unser Fachteam.“

Für Medien (z. B. Intranet, Flyer):

„Bild erstellt mit Hilfe generativer KI.“

5. Was noch wichtig ist

  • Sensible Daten niemals in öffentliche KI-Tools eingeben, auch nicht in leicht abgewandelter Form
  • Unterschied zwischen internen KI-Tools (xpand Plattform) und öffentlichen Diensten (ChatGPT etc.) stets beachten
  • Regelmäßige Updates zu den sich entwickelnden Regularien verfolgen
  • Für kritische Anwendungen interne Richtlinien erarbeiten, bevor weitere Stufen des EU AI Acts (insbesondere ab August 2026) greifen

EU AI Act – Wichtige Termine im Überblick

  • 1. August 2024: EU AI Act in Kraft getreten.
  • 2. Februar 2025: Verbot von KI-Systemen mit unannehmbarem Risiko sowie Pflicht zur KI-Kompetenz (Art. 4) gelten.
  • 2. August 2025: Regeln für General-Purpose-AI-Modelle (GPAI) gelten; Governance- und Sanktionsregeln greifen.
  • 2. August 2026: Hauptanwendung der Regeln für Hochrisiko-KI (Anhang III) und Transparenzpflichten.
  • 2. August 2027: Volle Anwendung auch für Hochrisiko-KI nach Anhang I (eingebettete Produkte).

Quelle: Offizielle Implementation Timeline, artificialintelligenceact.eu

6. xpand Tipp

Unser Tipp für die Praxis:

Etabliere einen KI-Workflow in deinem Team. Definiere klare Prozesse: Wann ist KI-Einsatz sinnvoll? Wer prüft die Ergebnisse? Wie erfolgt die Dokumentation? Ein strukturierter Ansatz schafft Sicherheit und spart langfristig Zeit.

7. Zum Abschluss

Mit dem EU AI Act beginnt eine neue Ära der KI-Regulierung. Als Navigator bist du jetzt in der Position, diesen Wandel aktiv mitzugestalten und ein Vorbild für verantwortungsvollen KI-Einsatz zu sein.

Als Navigator kannst du mit deinem erweiterten Wissen ein Vorbild sein und anderen helfen, KI rechtlich sicher einzusetzen.

Du bist nicht allein. Auf der xpandAI Plattform findest du Vorlagen, Regeln und Sparringspartner für deinen souveränen KI-Alltag.

Infoblatt: „Der EU AI Act in 3 Minuten erklärt“
Download (PDF, 1.2 MB)
Interview: „10 Fragen zum EU-AI-Act“
Jetzt lesen

Dein Take-away

  • Der EU AI Act betrifft nicht nur KI-Entwickler, sondern auch dich als fortgeschrittenen KI-Anwender
  • Die 5 Hauptpflichten – Transparenz, Kennzeichnung, Menschliche Kontrolle, Kompetenzaufbau und Verantwortungsübernahme – solltest du bei deiner täglichen Arbeit beachten
  • Klare Kennzeichnung von KI-Inhalten ist ein Kernprinzip des verantwortungsvollen KI-Einsatzes
  • Etabliere in deinem Team einen strukturierten KI-Workflow, der rechtliche Anforderungen bereits jetzt berücksichtigt
Inhaltsstand: Mai 2026