DSGVO-konforme KI für den Mittelstand — self-hosted, on-premise

Q: Ist self-hosted KI DSGVO-konform?

Ja, wenn sauber aufgesetzt: Daten verlassen das Netz nicht, Inferenz und Speicherung in DE/EU, AVV nach Art. 28, Zero Data Retention, Audit-Trail.

Q: Greift der US CLOUD Act bei EU-Hosting?

Der CLOUD Act erreicht Daten, die ein US-Anbieter besitzt oder kontrolliert. Bei einer echten self-hosted Lösung liegen Ihre Daten in Ihrer eigenen Infrastruktur und Kontrolle, der Dienstleister besitzt sie nicht — so bleibt Ihre Datenhoheit gewahrt.

Q: Welche LLMs laufen on-premise?

Offene Modelle wie Qwen, Llama, Mistral, Gemma, DeepSeek — von 7B auf CPU/RAM bis 70B+ auf GPU, passend zum Use-Case.

Q: Brauche ich eigene Hardware oder geht EU-Cloud?

Beides: eigener On-Prem-Server oder eine DSGVO-konforme EU-GPU-Cloud-Region.

Das Risiko

Warum US-Cloud-KI für Ihre Daten zum Risiko wird

Geschäftsführung

Kontrolle & Klumpenrisiko

Ein Dienst, den Sie nicht abschalten oder ersetzen können, ist ein Risiko.

IT-Leitung

Integration & Betrieb

Externe API-Calls, intransparente Datenflüsse, kein Audit-Trail.

Datenschutz

Rechtssicherheit & Nachweis

Keine AVV, keine belastbare Datenresidenz, keine DSFA-Grundlage.

Die Lösung

Wie bleibt jeder Datenfluss in Ihrem Netz?

IHR NETZWERK

Ihre DatenDokumente · Mails · ERP

→

LLMQwen · Llama · Mistral

→

KI-AgentenAnalyse · Recherche

→

Ergebnis+ Audit-Trail

✕ US-Cloud / externe API— wird nie erreicht

Richtig dimensioniert

Das passende Modell auf der passenden Hardware — für Ihren Fall

Entry

CPU/RAM oder kleine GPU

Qwen · Gemma · Phi (7–14B)

Dokumente-Q&A, Entwürfe, einfaches RAG

Mid

Single-GPU

Llama · Mistral · Qwen (30–70B)

anspruchsvolle Auswertung, Wissens-Assistenten

High

Multi-GPU / A100-Klasse

70B+ · Spezialmodelle

kritische/komplexe Use-Cases, hohes Volumen

Spezial

je nach Bedarf

DeepSeek/Qwen-Coder · Vision · Embeddings

Code, Bild, mehrsprachig, Suche

Nachweis, nicht Versprechen

Ist self-hosted KI DSGVO-konform — und wie weisen Sie das nach?

Anforderung	So weisen wir es nach
AVV nach Art. 28 DSGVO	Vertragsmuster, vor Projektstart
EU/DE-Datenresidenz (Inferenz + Speicherung)	Hosting-Standort dokumentiert
Zero Data Retention	vertraglich + technisch
Kein Training mit Ihren Daten	vertraglich garantiert
Audit-Trail / Protokollierung	live im Check zeigbar
DSFA-Unterstützung (Art. 35)	Vorlage + Begleitung
§87 BetrVG	Muster verfügbar
Datenhoheit bleibt bei Ihnen	Architektur + AVV: Ihre Daten liegen in Ihrer Infrastruktur

Transparente Kosten

Was kostet on-premise KI für den Mittelstand wirklich?

Block	Spanne	Hinweis
Setup & Architektur	nach Vereinbarung	Festpreis · förderfähig (bis 50 %)
Betrieb / Managed	nach Vereinbarung	Updates, Monitoring, Skalierung
Hardware (durchgereicht)	zum Einkaufspreis durchgereicht	oder EU-GPU-Cloud statt Kauf

FAQ

Was Entscheider uns am häufigsten fragen

Ist self-hosted KI wirklich DSGVO-konform?

Ja, wenn sauber aufgesetzt.

Greift der US CLOUD Act bei EU-Hosting?

Der CLOUD Act erreicht nur Daten, die der Anbieter kontrolliert — bei self-hosted liegen sie in Ihrer Kontrolle.

Welche LLMs laufen on-premise?

Offene Modelle (Qwen, Llama, Mistral, Gemma) — passend gewählt.

Ist die eigene KI schlechter als ChatGPT?

Für die meisten Mittelstands-Use-Cases: ausreichend, bei voller Datensicherheit.

Brauche ich eigene Hardware oder geht EU-Cloud?

Beides: On-Prem oder DSGVO-konforme EU-Cloud-Region.

Was passiert, wenn der Betreiber ausfällt?

Es läuft weiter — Code & Doku bei Ihnen, kein Lock-in.

Brauchen wir eine Betriebsvereinbarung (§87 BetrVG)?

Ggf. ja — ich stelle ein Muster bereit und setze es entsprechend auf.

Wie fange ich an?

Mit dem kostenlosen 20-Min Architektur-Check.

Ihr erster Schritt

Kostenloser 20-Min Architektur-/Datenschutz-Check

Ihre Anfrage-Daten verarbeiten wir DSGVO-konform · keine Weitergabe an Dritte.