Kontakt aufnehmen
Themen-Hub · DSGVO & KI im Rhein-Main

DSGVO-konforme KI im Rhein-Main-Mittelstand — was wirklich rechtssicher ist.

Schrems II, AI Act, BaFin DORA — die Compliance-Lage hat sich 2026 komplett gedreht. Hier liest du, was DSGVO-konforme KI im Rhein-Main konkret heißt: drei Architektur-Modelle, Branchen-Realität, die Pflichten ab dem 02.08.2026 und ein Schnell-Check zum Selbstprüfen.

DSGVO Art. 5/30/35 · EU AI Act · Schrems II · BaFin DORA
Warum gerade jetzt?

2026 ist das Jahr, in dem du nicht mehr wegschauen kannst.

Bis vor Kurzem konnte ein Mittelständler im Rhein-Main beim Thema KI zwei Sätze sagen — „Wir prüfen das" und „Erstmal schauen, was die Großen tun" — und damit durchkommen. Diese Zeit ist vorbei. Drei Entwicklungen treffen jetzt gleichzeitig auf dich ein.

Schrems II hat den Boden unter US-Cloud-KI weggezogen. Der EuGH hat 2020 das Privacy-Shield gekippt; das EU-US Data Privacy Framework von 2023 wackelt politisch und juristisch. Wer Mandanten-, Patienten- oder Kundendaten in US-Cloud-KI lädt, muss ein Transfer-Impact-Assessment fahren — und kommt bei strenger Auslegung selten zu einem grünen Haken. Aufsichtsbehörden in Hessen, Baden-Württemberg und Bayern haben das in 2025 mehrfach klargestellt.

Der EU AI Act ist scharf gestellt. Seit dem 02.02.2025 gilt Art. 4 — KI-Kompetenz-Pflicht für alle Unternehmen, die KI einsetzen. Ab dem 02.08.2026 kommen die Pflichten für General-Purpose AI Models dazu. Wer das ignoriert, riskiert nicht nur Bußgelder bis 35 Millionen Euro oder 7 Prozent des Jahresumsatzes, sondern auch peinliche Audits — und im B2B-Vertrieb verlierst du Ausschreibungen, weil deine Kunden ihre eigene Compliance-Pflicht weitergeben.

BaFin DORA und VAIT zwingen Finanz- und Versicherungs-Häuser zum Handeln. Seit Januar 2025 ist DORA in Geltung. Frankfurter Banken, Wiesbadener Versicherer und ihre IT-Dienstleister müssen Drittparteirisiken aktiv steuern — und ein US-Cloud-KI-Anbieter ist erstmal ein Drittparteirisiko, das in der Risikomatrix landet. Wer schon mal eine Lieferantenliste an die BaFin geschickt hat, weiß: Je weniger riskante Drittländer drin sind, desto entspannter wird das Gespräch.

Übersetzt: Du musst dich nicht entscheiden, ob du KI nutzt. Du musst entscheiden, in welcher Architektur. Und genau diese Entscheidung ist im Rhein-Main wegen der Branchen-Dichte besonders heikel — und besonders lohnend, wenn du sie richtig triffst.

Drei Architektur-Modelle

Es gibt nicht „KI" und „Nicht-KI" — es gibt drei Architekturen mit drei Risiko-Profilen.

Wenn du im Mittelstand KI-Entscheidungen triffst, redest du eigentlich über eine Architektur-Frage. Hier sind die drei Modelle, ehrlich gegenübergestellt — keine Werbung, sondern das, was du in einem Audit erklären musst.

Modell 1 — Cloud-only (US-Anbieter)

Hohes Risiko

Du tippst in einen Browser, deine Eingaben gehen über den Atlantik zu einem US-Hyperscaler, das Modell antwortet, deine Daten sitzen je nach AGB beim Anbieter — manchmal zum Training, manchmal nur zur Speicherung. Für unkritische Inhalte (Marketing-Texte aus öffentlichen Infos) ok, für alles Personenbezogene riskant.

DatenortUSA bzw. globaler Anbieter-Cluster
Schrems IITIA Pflicht, oft schwer haltbar
AI Act Art. 4Schulungspflicht trotzdem bei dir
Praxis-BeispielMarketing-Texte auf Basis öffentlicher Quellen
Audit-LastHoch — du musst alles erklären

Modell 2 — Hybrid (deutsche/EU-Cloud)

Mittleres Risiko

Die KI läuft bei einem deutschen oder europäischen Cloud-Anbieter, dein Auftragsverarbeitungsvertrag ist sauber, die Server stehen in Frankfurt oder anderswo in der EU. Personenbezogene Daten dürfen rein, wenn AVV und technisch-organisatorische Maßnahmen passen. Drittland-Frage entschärft, aber nicht weg — manche Anbieter haben US-Mutterkonzerne.

DatenortEU — meist Frankfurt oder Paris
Schrems IIEntschärft — aber Konzernstruktur prüfen
AI Act Art. 4Schulungspflicht bei dir
Praxis-BeispielVertriebs-Mails, interne Recherche, ChatBot mit gepflegtem AVV
Audit-LastMittel — AVV und TOM dokumentieren

Modell 3 — On-Prem (in deinem Netz)

Niedrigstes Risiko

Die KI läuft auf einer Maschine in deinem Büro oder Serverraum. Mandantenakte, Patientenakte, Vertragsentwurf werden lokal verarbeitet, nichts geht raus. Kein Drittland-Transfer, kein TIA, keine Annahme über US-Behörden-Zugriffe. Die strukturell sauberste Lösung — und nicht so teuer wie viele denken, weil die laufenden Cloud-Kosten wegfallen.

DatenortDein Rüsselsheimer / Frankfurter Büro
Schrems IINicht-Thema — kein Drittland
AI Act Art. 4Schulungspflicht bei dir, leichter erfüllbar
Praxis-BeispielMandantenakte, Patientenakte, BWA, Vertragsanalyse
Audit-LastNiedrig — Architektur ist die Antwort
Aufklärung · Was on-prem wirklich heißt

Was on-prem wirklich heißt — und was es nicht heißt.

Wenn wir bei Mittelständlern im Rhein-Main über on-prem-KI reden, hören wir immer dieselben drei Annahmen. Drei davon stimmen so nicht. Räumen wir auf, bevor du falsche Entscheidungen triffst.

Mythos

„On-prem ist langsam und schwach — die guten Modelle laufen nur in der Cloud."

Vor zwei Jahren war das ein berechtigter Einwand. Heute laufen Open-Weight-Modelle aus Europa und Asien auf einer ordentlichen Workstation und liefern für Mittelstands-Use-Cases mehr als genug Qualität — Korrespondenz, Belege, Recherche, Code-Reviews.

Realität 2026

Ein moderner Snow-Server mit GPU-Beschleunigung beantwortet eine BWA-Mail in unter 5 Sekunden. Für komplexere Workflows lassen sich Spezial-Modelle für Recht, Buchhaltung oder Medizin lokal nachladen.

Mythos

„On-prem brauche ich eine eigene IT-Abteilung und einen Serverraum."

Klassisch ja — bei klassischem on-prem-Computing. Bei modernen KI-Boxen nein. Eine Snow-Maschine kommt vorkonfiguriert, wird in deinem Büro oder Serverraum aufgestellt und ist nach 4 Stunden produktiv. Updates laufen automatisch oder kontrolliert über Rollback-Snapshots.

Realität 2026

Eine 20-Personen-Kanzlei in Frankfurt-Westend braucht keine eigene IT-Abteilung. Sie braucht eine Steckdose, einen LAN-Port und unseren Vor-Ort-Termin. Das ist's.

Mythos

„On-prem heißt keine Updates — meine KI veraltet schnell."

Falsch verstanden. On-prem heißt: Die Verarbeitung läuft lokal, deine Daten verlassen das Haus nicht. Modell-Updates und Software-Patches kommen trotzdem regelmäßig — du steuerst nur, wann sie eingespielt werden. Mit Rollback-Snapshots fährst du in 30 Sekunden zurück, falls etwas nicht passt.

Realität 2026

Updates kommen monatlich, neue Modelle quartalsweise. Du entscheidest pro Maschine, wann und ob. Damit bleibst du auf dem aktuellen Stand, ohne den Cloud-Kontrollverlust.

Mythos

„On-prem heißt, ich darf KI nur lokal nutzen — keine Web-Recherche, kein gar nichts."

Auch das ist eine Verkürzung. On-prem ist die Default-Verarbeitung. Für unkritische Aufgaben — Wetter, öffentliche News, Marktdaten — kannst du anonymisierte oder bewusst zugelassene Web-Zugriffe einrichten. Du bestimmst die Regeln, nicht ein US-Anbieter.

Realität 2026

Hybrid-Modi sind möglich, aber bewusst gesetzt. Standardmäßig laufen Mandanten-, Patienten- und Kundendaten lokal. Web-Recherche nur, wenn du sie explizit freischaltest — und nie mit personenbezogenen Daten im Prompt.

Branchen-Spezifika im Rhein-Main

Im Rhein-Main treffen fünf hochregulierte Branchen aufeinander — jede hat ihre eigene KI-Realität.

Frankfurt ist Banken. Wiesbaden ist Versicherung. Mainz ist Pharma. Offenbach ist Mittelstands-Industrie. Rüsselsheim ist Mobility. Und über allem liegt das Geflecht aus Kanzleien, Steuerberatern und Beratern, die diese Branchen bedienen. Jede Branche hat ihre eigene Aufsicht, ihren eigenen Compliance-Stack — und damit eine eigene Sicht auf KI. Hier die Übersicht mit Vertiefung pro Branche.

AI Act Art. 4 — KI-Kompetenz-Pflicht

Ab dem 02.08.2026 musst du nachweisen können, dass deine Leute KI verstehen.

Art. 4 des EU AI Act gilt schon seit dem 02.02.2025 — aber die meisten Mittelständler haben das noch nicht im Compliance-Ordner. Spätestens mit dem nächsten großen Stichtag wird es ernst. Hier die wichtigsten Punkte, kompakt und ehrlich.

Seit 02.02.2025

Art. 4 — KI-Kompetenz

Jedes Unternehmen, das KI einsetzt oder bereitstellt, muss sicherstellen, dass die Mitarbeiter, die mit KI arbeiten, ausreichend kompetent sind. Praktisch: dokumentierte Schulung für alle, die KI nutzen — und zwar nicht nur das IT-Team, sondern Sachbearbeitung, Vertrieb, Geschäftsführung.

AI-Act-Schulung Frankfurt
Ab 02.08.2026

General-Purpose AI Models

Anbieter von Allzweck-KI-Modellen müssen Transparenz-Pflichten erfüllen, technische Dokumentation bereitstellen, Urheberrechts-Compliance nachweisen. Für dich als Nutzer heißt das: Dein Anbieter muss diese Dokumente liefern können — frag aktiv danach.

Ab 02.08.2027

Hochrisiko-Systeme

Wer KI in Hochrisiko-Bereichen einsetzt — Personalauswahl, Bonitätsprüfung, kritische Infrastruktur — muss Risikomanagement, technische Doku, menschliche Aufsicht und Konformitätsbewertung nachweisen. Klingt nach Großkonzern, trifft aber auch Mittelständler in HR-Tech und Finance.

Konkrete Tipps für die nächsten 12 Monate: Lass ein KI-Inventar machen — welche KI-Tools nutzen welche Mitarbeiter? Schreib eine kurze, lesbare KI-Richtlinie für dein Haus (zwei Seiten reichen). Plan eine dokumentierte Schulung in den ersten 100 Tagen 2026, nicht erst kurz vor dem Stichtag. Und ganz wichtig: Heb die Schulungs-Belege auf — Anwesenheitsliste, Inhalt, Datum, Trainer. Genau das fragt im Zweifel das Audit ab.

Schnell-Check für dein Haus

6 Fragen, die du selbst beantworten kannst.

Das ist der schnellste Weg, deinen aktuellen Stand einzuschätzen. Geh die sechs Fragen ehrlich durch — kein Beraterprodukt, keine Anmeldung, keine Mail-Adresse. Am Ende weißt du, wo du stehst.

Dein 2-Minuten-Check

Beantworte jede Frage mit Ja oder Nein. Sei ehrlich — nur dann hilft's.

  1. Weißt du genau, welche KI-Tools deine Mitarbeiter aktuell nutzen — auch die, die sie sich „mal kurz selbst" eingerichtet haben?
  2. Hast du dokumentiert, welche Datenkategorien (personenbezogen, vertraulich, geschäftskritisch) in welche KI-Tools fließen?
  3. Existiert ein Verarbeitungsverzeichnis-Eintrag nach Art. 30 DSGVO für jeden produktiv genutzten KI-Workflow?
  4. Hast du eine kurze, lesbare KI-Richtlinie im Haus, die deine Leute auch wirklich gelesen haben?
  5. Kannst du nachweisen, dass jeder KI-Nutzer eine Basis-Schulung zur KI-Kompetenz nach AI Act Art. 4 erhalten hat?
  6. Hast du eine technisch belastbare Antwort auf die Frage, wo deine Mandanten-, Patienten- oder Kundendaten beim KI-Einsatz konkret verarbeitet werden?
Sechsmal Ja? Dann bist du sehr weit vorn — Glückwunsch. Fünfmal oder weniger? Genau das sind die Themen, die wir in 30 Minuten gemeinsam einordnen. Kein Sales-Pitch, sondern eine ehrliche Bestandsaufnahme.
Weiterlesen

Branchen-Pages & Standort.

Dieser Hub gibt dir den Überblick. In den verlinkten Spezial-Pages findest du die Detail-Argumente für deine Branche — mit konkreten Use-Cases, Compliance-Mappings und Pricing-Logik.

Häufige Fragen aus dem Rhein-Main

Was Geschäftsführer und Datenschutzbeauftragte uns wirklich fragen.

Was unterscheidet DSGVO-konforme KI von normaler KI?
Normale KI heißt meist Cloud-KI: Du tippst eine Frage, deine Daten landen auf einem Server in den USA, das Modell antwortet, deine Eingabe wird (je nach AGB) zum Training mitverwendet. DSGVO-konforme KI dreht das um. Erstens: Eine Rechtsgrundlage muss sauber dokumentiert sein — meist Art. 6 Abs. 1 lit. f DSGVO mit nachgelagerter Interessenabwägung. Zweitens: Der Verarbeitungsort ist klar. Bei on-prem-KI bleibt das in deinem Netz, bei deutscher Cloud zumindest in der EU. Drittens: Du brauchst ein Verarbeitungsverzeichnis (Art. 30) und bei riskanten Use-Cases eine DSFA (Art. 35). Viertens: Auskunfts- und Löschpflichten (Art. 15, 17) müssen technisch erfüllbar sein — das geht bei lokalen Modellen leicht, bei manchen Cloud-Anbietern schwer. Und fünftens: AI Act ab 02.08.2026 verlangt zusätzlich nachweisbare KI-Kompetenz. DSGVO-konforme KI ist also kein Stempel, sondern eine Architektur-Entscheidung mit Papier dahinter.
Wie hilft on-prem KI gegen Schrems II?
Schrems II hat 2020 das EU-US-Privacy-Shield gekippt und die Standardvertragsklauseln um ein Transfer-Impact-Assessment (TIA) ergänzt. Übersetzt: Wer personenbezogene Daten an US-Anbieter überträgt, muss aktiv begründen, warum der Schutz dort EU-Niveau hat — bei US-Cloud-KI ist das angesichts FISA 702 und CLOUD Act schwer durchzuhalten. Das EU-US Data Privacy Framework von 2023 hat zwar einen neuen Angemessenheitsbeschluss gebracht, viele Aufsichtsbehörden raten trotzdem zu zusätzlichen Maßnahmen, weil Klagen anhängig sind. On-prem-KI umgeht das Thema strukturell: Wenn die Mandanten-Mail, der Vertrag, die Patientenakte das deutsche Kanzleinetz nie verlässt, gibt es keinen Drittlandtransfer und kein TIA-Risiko. Du brauchst keine SCC, keine Annahme über US-Behörden-Zugriffe, keine politische Wette. Schrems II wird für dich zum Nicht-Thema — was vor allem im stark regulierten Rhein-Main-Mittelstand (Finanzen, Versicherung, Pharma) Gold wert ist.
Brauche ich als Mittelständler im Rhein-Main wirklich on-prem-KI, oder reicht eine deutsche Cloud?
Kommt drauf an, mit was du arbeitest. Wenn deine KI nur öffentlich verfügbare Texte zusammenfasst — etwa Marktforschung auf Basis veröffentlichter Studien — reicht oft eine deutsche oder europäische Cloud-KI mit sauberem AVV. Sobald aber personenbezogene Daten, Geschäftsgeheimnisse, Mandanten- oder Patientendaten ins Spiel kommen, ändert sich die Lage. Beispiel: Eine Wiesbadener Versicherung lässt KI Schadenakten analysieren — das sind sensible Daten nach Art. 9 DSGVO plus BaFin-VAIT-Anforderungen. Beispiel: Eine Frankfurter Kanzlei zieht Vertragsklauseln durch eine KI — das fällt unter Berufsgeheimnis nach § 203 StGB. Beispiel: Pharma in Mainz analysiert Studienauswertungen — GxP-Daten, FDA-relevant. In allen drei Fällen ist on-prem strukturell sauberer als jede Cloud, weil du gar nicht erst argumentieren musst, was wohin geht. Faustregel: Wenn ein Audit oder eine Kammerprüfung den KI-Einsatz in Frage stellen könnte, willst du on-prem.
Welche Pflichten ergeben sich aus dem AI Act ab 02.08.2026 konkret für mich?
Der EU AI Act ist seit August 2024 in Kraft und wird stufenweise wirksam. Für Mittelständler ist der wichtigste Stichtag der 02.08.2026: Ab dann gelten die Pflichten für General-Purpose AI Models und — bereits seit 02.02.2025 wirksam — Art. 4 zur KI-Kompetenz. Art. 4 sagt schlicht: Jedes Unternehmen, das KI einsetzt oder bereitstellt, muss sicherstellen, dass die Mitarbeiter, die mit der KI arbeiten, ausreichend kompetent sind. Das ist keine optionale Empfehlung, sondern eine harte Pflicht. Praktisch heißt das: Dokumentierte Schulung für alle, die KI nutzen — vom Sachbearbeiter bis zum Geschäftsführer. Geschulte Inhalte: Was kann die KI, was nicht, wo sind Risiken, wie erkennst du Halluzinationen, was sind die internen Spielregeln. Bei Hochrisiko-Systemen (z.B. KI für Personalauswahl, Kreditentscheidungen) kommen ab 02.08.2027 weitere Pflichten dazu — Risikomanagement, technische Dokumentation, menschliche Aufsicht. Wir betreiben dafür einen eigenen AI-Act-Schulungskurs in Frankfurt.
Wie lange dauert eine on-prem-KI-Implementierung im Mittelstand?
Schneller, als die meisten denken. Bei einem typischen Rhein-Main-Mittelständler mit 20 bis 80 Mitarbeitern planen wir mit zwei bis vier Wochen vom Auftrag bis zum produktiven Einsatz. Woche 1: Hardware-Lieferung, Aufbau im Serverraum oder Büro, Netz-Anbindung, Basis-Konfiguration — meist ein bis zwei Tage Vor-Ort-Arbeit. Woche 2: Onboarding der ersten Workflows, Anbindung an deine Datenquellen (Mailserver, Dateifreigabe, ggf. ERP- oder CRM-Schnittstelle), erste Schulungssessions. Woche 3: Pilot mit einer Abteilung — meist Buchhaltung, Vertrieb oder Geschäftsführung, je nach Use Case. Woche 4: Roll-out auf weitere Teams, Feinschliff, Dokumentation für den Datenschutzbeauftragten. Wer schon ein Verarbeitungsverzeichnis hat, kann das parallel ergänzen. Größere Häuser mit 200+ Köpfen brauchen länger, weil Change-Management der Engpass wird, nicht die Technik. Wir sitzen in Rüsselsheim, alle Rhein-Main-Orte sind in 30 bis 60 Minuten erreichbar — Vor-Ort-Termine sind kein Problem.
Was kostet das im Vergleich zu Cloud-Lösungen?
Die ehrliche Antwort: Anfangs sieht Cloud-KI günstiger aus, auf zwei bis drei Jahre dreht sich das Bild. Cloud-KI rechnest du pro Nutzer pro Monat plus oft Token-basierte Verbrauchspreise — bei 30 aktiven Nutzern und mittlerer Auslastung bist du schnell im vierstelligen Bereich pro Monat. Dazu kommen versteckte Kosten: Datenschutz-Audits, AVV-Pflege, Transfer-Impact-Assessment, ggf. Anwaltsmeinungen bei Cloud-Wechsel. On-prem-KI hat eine größere Anfangsinvestition für die Hardware, dann aber stabile, planbare Kosten ohne Pro-User-Skalierung. Die Snowbyte-Lizenz richtet sich nach Plan und Mitarbeiterzahl — Snow Einsteiger, Snow Teams oder Snow Business je nach Ausbau. Aktuelle Plan-Stufen findest du auf der Pricing-Seite. Für mittelständische Häuser im Rhein-Main rechnet sich on-prem in der Regel nach 18 bis 24 Monaten, danach sparst du jedes Jahr — plus du hast die Compliance-Last vom Tisch. Für individuelle Pakete inklusive Schulung, Vor-Ort-Einführung und Wartungsvertrag machen wir dir ein passgenaues Angebot.

Lass uns 30 Min reden — kostenlos, ohne Slides.

Wir sortieren mit dir, wo du beim Thema DSGVO-konforme KI stehst, welche Architektur zu deinem Haus passt und was der nächste sinnvolle Schritt ist. Telefon, Video oder bei einem Espresso in Rüsselsheim — du wählst.