Whitepaper · Stand Mai 2026

On-Premise-KI vs EU-Cloud: DSGVO-Realität 2026

Wann lohnt sich ein eigener KI-Server im Haus, wann reicht eine euro­päi­sche Cloud? Eine ehrliche TCO-Rechnung über 36 Monate für KMU-Setups zwischen 5 und 250 Mit­arbei­tern, ohne Marketing-Bias und mit den drei Kon­stel­lati­onen, in denen On-Premise die einzig richtige Antwort ist.

Einordnung

Die Diskussion „Cloud versus On-Premise" wird in 2026 durch zwei Entwicklungen neu geöffnet: erstens haben sich die Kosten für KI-fähige Hardware halbiert (RTX 5080 mit 16 GB VRAM um 1.299 € verfügbar), zweitens hat das BfDI nach dem Schrems-III-Urteil die Anforderungen an Cloud-Verträge mit US-Anbietern verschärft. Dieses Whitepaper rechnet beide Optionen über 36 Monate gegen, mit Stromkosten, Hardware-Abschreibung und realer Auslastung.

Abschnitt 01

Was On-Premise heute kostet

Eine produktiv einsetzbare KI-Workstation für 30–60 Mitarbeiter sieht 2026 so aus:

→ Tabelle seitlich scrollbar

KomponenteModellPreis netto
CPUAMD Ryzen 9 7900X520 €
RAM64 GB DDR5 ECC340 €
GPU1× RTX 5080 16 GB1.299 €
Speicher2 TB NVMe + 8 TB HDD290 €
Netzteil, Gehäuse, LüfterBe Quiet 850W + Fractal340 €
Setup, OS, StackUbuntu + Ollama + Open-WebUI950 €
Gesamt einmal3.739 €

Bei einer Auslastung von 18 Stunden pro Tag und einem Stromverbrauch von 240 W im Mittel ergeben sich monatliche Stromkosten von etwa 34 € bei 0,26 €/kWh. Über 36 Monate abgeschrieben kommt eine On-Premise-Workstation auf rund 138 € monatlich Vollkosten.

Abschnitt 02

Was eine EU-Cloud kostet

Eine vergleichbare Cloud-GPU bei Hetzner (GPU-Server mit RTX 4000 SFF Ada 20GB) kostet aktuell 189 € netto monatlich, exklusiv des KI-Software-Stacks und ohne Setup-Kosten. Multi-Tenant-Cloud-KI-Dienste sind nutzungsabhängig: für die typische KMU-Last (1500 LLM-Calls pro Tag, durchschnittlich 600 Token) ergeben sich 40–110 € monatlich je nach Modell-Wahl.

Eine Mischrechnung mit einem 7B-Modell auf Hetzner für die Mehrheit der Anfragen plus ein Cloud-Kleinmodell für komplexe Triage ergibt bei einer mittleren KMU-Last:

→ Tabelle seitlich scrollbar

SetupMonatlich36 Monate gesamt
On-Premise-Workstation138 €4.968 €
Hetzner GPU + Bandbreite219 €7.884 €
Multi-Cloud-Mix (eigenes Routing)178 €6.408 €
nur Cloud-API240 €8.640 €

Abschnitt 03

Drei Konstellationen, in denen On-Premise zwingend ist

Die Hardware-Investition rechnet sich nicht für jeden. Aber in drei Konstellationen führt kein Weg daran vorbei:

1. Patientendaten in der Arztpraxis. Die Anforderungen aus §203 StGB und der Berufsordnung der Ärztekammern lassen sich mit US-Cloud-Anbietern nicht sauber abbilden, selbst mit AVV. Ein lokaler Server mit Open-WebUI ist hier nicht Komfort, sondern Pflicht.

2. Anwaltskanzleien mit Mandantengeheimnis. §43a BRAO und die berufsrechtlichen Verschwiegenheitspflichten verlangen, dass selbst Verschlüsselung im Transit nicht ausreicht — die Daten müssen die Kanzlei nicht verlassen. Diktat-Transkription mit Whisper-large auf einer eigenen GPU ist die einzig saubere Lösung.

3. Konstruktions- und Pharma-Bereich mit IP. CAD-STEP-Dateien oder Stoff-CAS-Daten dürfen aus Compliance- und Wettbewerbsgründen nicht in fremden Trainingsdaten landen. Ein großer US-Anbieter hat 2024 eingeräumt, dass „commercial use" und „opt-out" nicht identisch sind.

Abschnitt 04

Wann EU-Cloud ausreicht

Für die meisten KMU-Workloads ist eine europäisch gehostete Cloud die wirtschaftlichere Wahl:

  • Marketing-Texte, Website-Drafting, SEO-Content
  • Generelle Buchhaltungs-Triage ohne Mandanten-Klartext
  • HR-Stellenausschreibungen, Bewerber-Erstkontakt
  • Customer-Service-Chatbots auf produktbezogenen FAQs

Der entscheidende Faktor ist nicht die Datenmenge, sondern die Schutzbedürftigkeit der Inhalte. Eine 250-Mann-Marketing-Agentur fährt mit Hetzner und einem Cloud-Modell über die EU-Region erheblich entspannter als mit einer eigenen Server-Insel.

Abschnitt 05

Hybrid: das DripBack-Modell

In der Praxis dominiert ein hybrider Aufbau. Bei DripBack läuft jede KI-Anfrage durch einen llm-router.py, der drei Routing-Regeln durchsetzt:

  • Patient-, Mandanten- oder IP-Daten: zwingend lokales Open-Source-LLM
  • Generische Triage und Erstklassifikation: Cloud-Kleinmodell oder lokales LLM je nach Latenz-Anforderung
  • Komplexe Mehrschritt-Refactorings: Frontier-Cloud-Modelle in der EU-Region des Anbieters
Praxis-Tipp: der Router sollte ein circuit-breaker auf Cloud-Fehler haben. Wenn drei aufeinanderfolgende Cloud-Calls timeouten, fällt das gesamte System auf lokales Open-Source-Modell zurück. Verfügbarkeit über Eleganz.

Abschnitt 06

Förderfähigkeit beider Modelle

Die Förderlage hat sich 2026 geändert: go-digital ist ausgelaufen, und MID der NRW.BANK fördert seit dem 01.01.2026 keine unternehmensinterne Digitalisierung mehr. Den belegten Stand mit Zahlen führt unser Förder-Toolkit 2026.

Abschnitt 07

Konkrete Empfehlung nach Unternehmensgröße

→ Tabelle seitlich scrollbar

GrößeEmpfehlungInvestitionsfenster
5–15 MAEU-Cloud (Hetzner)0 € einmal, 180–250 € monatlich
16–60 MAHybrid On-Prem + Cloud4.500 € einmal, 220 € monatlich
61–250 MAEigenes Datacenter-Rack18.000–40.000 € einmal, 380 € monatlich

Die Empfehlung verschiebt sich Richtung On-Premise, sobald regulatorische Pflichten (§203 StGB, §43a BRAO) im Spiel sind, unabhängig von der Unternehmensgröße.

Nächster Schritt

30 Minuten Discovery reichen.

Konkrete Lösung für Ihren Anwendungsfall, Festpreis statt Stundensatz, Förder-Beratung inklusive.