KI im Redaktionsprozess:
Workflow, Qualitätssicherung & Verantwortung.

KI-Textwerkzeuge erzeugen Erstentwürfe in Sekunden. Das ist der Vorteil. Der Preis: dieselbe Technologie erfindet Studien, falsche Zitatquellen und Zahlen, die klingen als wären sie geprüft. Eine Analyse von 10 führenden KI-Systemen aus August 2025 zeigte, dass bei Anfragen zu aktuellen Nachrichtenthemen rund 35 % der Antworten fehlerhafte Informationen enthielten. Das ist kein Randproblem — das ist die Grundrate.

Für Content-Teams und Marketingabteilungen bedeutet das: KI kann Tempo erzeugen, aber sie kann Qualitätssicherung nicht ersetzen. Wer das verwechselt, baut Reichweite auf Sand.

Warum ein strukturierter Workflow kein Luxus ist

Kleine Teams ohne klare Prozesse tendieren dazu, KI-Entwürfe direkt zu veröffentlichen — mit einem kurzen Gegenlesen, das eher ein Drüberfliegen ist. Das funktioniert bei risikoarmen Formaten (Social-Post, interner Newsletter) manchmal. Bei allem, was nach außen sichtbar ist und Faktenbehauptungen enthält, ist es ein Risiko.

Drei Szenarien, die ohne Workflow regelmäßig schiefgehen:

• Falsche Studien-Zitate. KI erfindet realistisch klingende Autorennamen, Zeitschriftentitel und Jahreszahlen. Ohne Quellenprüfung landet das im Whitepaper.
• Veraltete Rechtslage. KI kennt den Wissensstand bis zu einem bestimmten Datum. DSGVO-Änderungen, neue EU AI Act-Fristen, aktuelle BGH-Urteile — die KI hat sie nicht, sofern nicht explizit nachgefüttert.
• Tonalität und Markenstimme. Ein KI-Entwurf schreibt generisch. Wer nicht gegenliest, merkt oft erst nach Veröffentlichung, dass der Artikel klingt wie hundert andere.

Der 5-Stufen-Workflow für KI-gestützten Content

Dieser Ablauf orientiert sich am Prinzip Human-in-the-Loop: KI beschleunigt die Produktion, ein Mensch trägt die redaktionelle Verantwortung an jedem kritischen Checkpoint. Das ist auch das Modell, auf das sich die redaktionelle Ausnahme in EU AI Act Art. 50 Abs. 4 bezieht (dazu weiter unten mehr).

Stufe 1 — Briefing

Bevor du die KI ansetzt, entscheidest du: Was soll dieser Text bewirken? Zielgruppe, Tonalität, Kernaussage, verbotene Themen, erforderliche Quellen — all das gehört ins Briefing. Ein präzises Briefing reduziert den Überarbeitungsaufwand um den Faktor 3 bis 5. Vage Prompts erzeugen allgemeine Texte, die du komplett umschreiben wirst.

Stufe 2 — KI-gestützte Recherche

KI eignet sich gut dafür, Themenfelder zu strukturieren, Gegenargumente zu sammeln und erste Quellen-Hinweise zu liefern. Was sie nicht kann: unabhängig verifizieren, ob eine Quelle existiert und aktuell ist. Nutze KI-Recherche deshalb als Startpunkt, nicht als Endpunkt. Jeder Fact-Claim, der in den Artikel soll, wird mit einer verifizierbaren Primärquelle abgeglichen.

Stufe 3 — Erstentwurf durch KI

Hier übernimmt die KI das Tempo. Mit dem Briefing aus Stufe 1 und den verifizierten Fakten aus Stufe 2 gibst du den Schreibauftrag. Das Ergebnis ist ein Rohtext — kein Endprodukt. Behandle ihn wie das Manuskript eines Praktikanten mit breitem Allgemeinwissen: gut als Rohmasse, braucht Bearbeitung.

Stufe 4 — Menschlicher Faktencheck & Redaktion

Das ist der kritische Checkpoint, den kein Prozess überspringen sollte. Eine Person mit namentlicher redaktioneller Verantwortung prüft:

• Alle Zahlen und Faktenbehauptungen gegen Primärquellen
• Aktualität — hat sich die Rechtslage, Produktlage oder Datenlage verändert?
• Tonalität und Markenstimme — klingt das nach uns?
• Logik und Argumentationsstruktur — stimmt die Abfolge?
• Rechtliche Risiken — Wettbewerbsrecht, Urheberrecht, Persönlichkeitsrechte

Diese Person trägt die redaktionelle Verantwortung. Das ist keine formale Pflicht, das ist inhaltliche Qualität: nur wer wirklich verantwortlich ist, liest auch wirklich.

Stufe 5 — Freigabe und Kennzeichnung

Nach dem Faktencheck folgt die Freigabe durch den zuständigen Redakteur oder die Teamleitung. Und: die Entscheidung, ob und wie der Artikel als KI-gestützt gekennzeichnet wird. Mehr dazu im nächsten Abschnitt.

Halluzinationen erkennen — 4 konkrete Signale

KI-Halluzinationen sind nicht immer offensichtlich. Die überzeugendsten Fehler klingen am plausibelsten. Diese vier Muster treten am häufigsten auf:

• Zitierte Studien mit Unbekannten Autoren. Namen wie „Müller et al. (2022)" klingen echt. Suche die DOI oder den Zeitschriftentitel. Wenn du den Artikel nicht findest, existiert er womöglich nicht.
• Präzise Prozentzahlen ohne Quelle. „73 % der Unternehmen..." — woher stammt diese Zahl? KI erfindet oft exakt wirkende Zahlen, weil sie im Trainingstext häufig vorkommen.
• Zu aktuelle Informationen. Wenn der Text über ein Ereignis berichtet, das nach dem Wissensstand der KI liegt, ist die Wahrscheinlichkeit von Fehlern hoch. Immer mit Primärquelle gegenlesen.
• Widersprüche innerhalb des Textes. KI verliert bei langen Texten manchmal den Faden. Wenn Aussage A in Abschnitt 2 Aussage B in Abschnitt 5 widerspricht, hat die KI nicht kohärent gearbeitet.

Rollen und Verantwortung im Team klären

Ohne klare Rollenzuordnung passiert Folgendes: Alle glauben, jemand anders habe geprüft. Keiner hat geprüft. Der Fehler landet online.

Ein schlankes Modell für kleinere Content-Teams funktioniert mit drei Rollen:

• Content-Ersteller: Erstellt Briefing, steuert die KI, übergibt den Erstentwurf. Kein Freigaberecht.
• Fachredakteur: Prüft Fakten, Quellen und Tonalität. Gibt die inhaltliche Freigabe. Trägt namentlich die Verantwortung für den Inhalt.
• Freigabe-Instanz: Bei rechtlich heiklen Themen, Wettbewerbsaussagen oder regulierten Bereichen: eine zweite Freigabe durch Teamleitung oder Rechtsabteilung.

Wichtig: Der Fachredakteur ist eine konkrete Person mit Namen — kein abstraktes Team. Nur wer namentlich verantwortlich ist, prüft ernsthaft.

EU AI Act Art. 50: Was gilt ab August 2026?

Art. 50 der EU-Verordnung 2024/1689 (EU AI Act) enthält Transparenzpflichten für bestimmte KI-Systeme. Die zentralen Pflichten werden am 2. August 2026 anwendbar.

Für Redaktionen und Content-Marketing-Teams sind zwei Absätze relevant:

Art. 50 Abs. 2 verpflichtet Anbieter von KI-Systemen, die synthetische Bild-, Audio-, Video- oder Textinhalte generieren, sicherzustellen, dass die Ausgaben maschinenlesbar als KI-generiert markiert sind. Diese Pflicht trifft primär die Anbieter der KI-Werkzeuge, nicht den Endnutzer.

Art. 50 Abs. 4 betrifft Betreiber, die KI-generierte Inhalte zu Themen von öffentlichem Interesse veröffentlichen: Sie müssen die künstliche Herkunft offenlegen — es sei denn, die Inhalte wurden einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung für die Veröffentlichung.

Für Chatbots (Art. 50 Abs. 1) gilt zudem: Nutzer müssen erkennen können, dass sie mit einer KI interagieren — es sei denn, das ist für einen informierten Menschen offensichtlich.

Mögliche Bußgelder bei Verstößen gegen Transparenzpflichten nach Art. 50: bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes (Art. 99 EU AI Act), je nachdem, was höher ist.

Kennzeichnung in der Praxis — wie sieht das aus?

Die Verordnung schreibt keine konkrete Formulierung vor. Üblich und akzeptiert sind Varianten wie:

• „Dieser Text wurde mit Unterstützung eines KI-Werkzeugs erstellt und redaktionell geprüft."
• „KI-gestützt erstellt von [Name Redakteur]."
• Ein standardisiertes Label im Footer des Artikels oder der Content-Seite

Was nicht ausreicht: ein generischer Hinweis irgendwo in den AGB oder eine einmalige Erklärung auf der Impressumsseite. Die Offenlegung muss für den jeweiligen Inhalt erkennbar sein.

Was du diese Woche ändern solltest

Wenn du KI bereits für Content nutzt und noch keinen formalen Prozess hast, hier der pragmatische Einstieg:

1. Schreib euren aktuellen Ablauf auf. Auch wenn er lückenhaft ist. Was passiert von Idee bis Veröffentlichung? Wo sind die Lücken?
2. Bestimme einen namentlichen Faktenprüfer pro Themenfeld. Nicht „das Team", eine Person.
3. Erstelle eine kurze Quellen-Checkliste. Drei bis fünf Fragen, die jeder KI-Entwurf beantworten muss, bevor er freikommt.
4. Entscheide euren Kennzeichnungsstandard jetzt — nicht im August 2026. So habt ihr Zeit, es sauber zu implementieren statt im letzten Moment zu flicken.

Quellen

• EUR-Lex: Verordnung (EU) 2024/1689 (EU AI Act), insbesondere Art. 50 und Art. 99 — Volltext
• artificialintelligenceact.eu: Article 50 — Transparency Obligations (strukturierte Aufbereitung)
• Härting Rechtsanwälte: Transparenzpflichten in der KI-Verordnung (Art. 50)
• Retresco: KI-Kennzeichnungspflicht 2026 — Code of Practice für Medien und Publisher
• EU-Kommission: Code of Practice on marking and labelling of AI-generated content