RTX 5080 für KMU-KI: Performance-Profile + Wirtschaft­lichkeit

Einordnung

Abschnitt 01

Hardware-Eckdaten RTX 5080

NVIDIA RTX 5080 (verfügbar seit Januar 2025): 10.752 CUDA-Kerne, 84 RT-Cores, 336 Tensor-Cores, 16 GB GDDR7 mit 1 TB/s Bandbreite. TDP 360 Watt. Marktpreis Q1 2026: 1.249-1.349 € (im Vergleich RTX 5090 mit 32 GB für 2.299 €). Für KI-Inferenz wichtig: 16 GB VRAM, 1 TB/s Speicher-Bandbreite. Im FP16-Modus etwa 60 TFLOPS, im INT8 etwa 120 TOPS. Für Tensor-Operationen mit Open-Source-Modellen ist die Performance vergleichbar mit RTX 4090 (24 GB) bei deutlich niedrigerem Preis.

Abschnitt 02

VRAM-Anforderungen pro Modell

Praktische VRAM-Anforderungen für Inferenz (Q4-Quantisierung): 7B-Modell: 5 GB. 14B-Modell: 9 GB. 32B-Modell: 19 GB (braucht 2× 5080 SLI oder 1× RTX 5090). Whisper-large-v3 (Spracherkennung): 3 GB. VoxCPM2 (TTS): 2 GB. nomic-embed-text: 0.9 GB. 70B-Modell Q4: 42 GB (braucht 2× RTX 5090 oder 4× 5080). Für eine standard-KMU-Anwendung mit einem 14B-Modell + Whisper + VoxCPM + Embeddings ist 1× 5080 ausreichend (Summe: rund 15 GB), aber die Headroom ist eng — bei parallelen Requests kann es zu OOM kommen.

Abschnitt 03

Latenz-Profile produktiv getestet

Richtwerte für die Latenzen (Median, ohne Warm-up): 7B-Modell First-Token-Latency: 240 ms, Throughput 78 Tokens/s. 14B-Modell First-Token-Latency: 380 ms, Throughput 42 Tokens/s. 32B-Modell (auf 2× 5080 SLI): 700 ms, 18 Tokens/s. Whisper-large-v3 Audio-Transkription: 0.18× Real-Time-Faktor (1 Sekunde Audio → 0.18 Sekunden Transkriptions-Zeit). VoxCPM2 TTS: 0.45× Real-Time-Faktor. Für End-to-End Voice-Agent (Audio in → Klassifikation → Antwort → Audio out): 900-1.400 ms Gesamt-Latenz.

Abschnitt 04

Concurrent Users: Batching-Effekt

Bei Single-User-Inferenz wird die GPU oft nicht voll ausgenutzt. Mit Batching (mehrere Requests parallel verarbeiten) skaliert die Performance fast linear bis zur GPU-Auslastung. Praktisch: 7B-Modell auf 1× RTX 5080 kann 20 parallele User halten mit akzeptabler Latenz (p50 unter 400 ms). 14B-Modell: 10 parallele User. 32B-Modell (2× SLI): 5 parallele User. Bei Voice-Workloads (Reha-Klinik-Receptionist) ist Batching schwieriger wegen Real-Time-Anforderungen — hier ist die User-Anzahl pro GPU niedriger (7B-Modell Voice: 6-8 parallele Voice-Sessions).

Abschnitt 05

Wirtschaftliche Grenze pro Setup-Größe

Empfehlung je KMU-Größe: 5-30 MA: 1× RTX 5080 ausreichend, Setup-Kosten rund 3.800-4.800 €. 31-80 MA: 1× RTX 5080 für KI-Workloads + GPU-Server für Voice-Last, oder 2× RTX 5080 SLI. Setup 7.500-9.500 €. 81-200 MA: 2× RTX 5080 SLI für KI-Workloads, separater GPU-Server für Voice. Setup 14.000-18.000 €. 200+ MA: dediziertes 4× GPU-Rack mit verteiltem Load-Balancer. Setup 35.000-55.000 €. Diese Grenzen sind grobe Richtwerte — abhängig von Anwendungsfall-Intensität.

Abschnitt 06

Strom-Kosten realistisch

RTX 5080 TDP 360 Watt, in der Praxis bei KI-Inferenz typisch 240-280 Watt mittlere Last. Bei 18 Stunden täglich aktiv (8 Stunden idle pro Tag): rund 5 kWh/Tag = 150 kWh/Monat. Bei 0.32 €/kWh (Stand 2026 deutsche Strompreise): rund 48 €/Monat Strom-Kosten. Bei zwei GPUs: 96 €/Monat. Plus Server (CPU, RAM, Lüfter): rund 18-25 €/Monat. Gesamt-Strom-Kosten für 1-GPU-Setup: rund 70 €/Monat, für 2-GPU-Setup: rund 120 €/Monat.

Abschnitt 07

Kühlung und Geräusche

RTX 5080 ist im KI-Inferenz-Betrieb heiß. Bei intensiver Last (Stunden-lang auf 90%+) heizt die GPU auf 78-85°C. Anforderungen: gut belüftetes Gehäuse (mindestens 4 Lüfter), CPU-Lüfter ausreichend dimensioniert (nicht der billige Standard), Server-Standort im Klima-stabilen Raum (nicht im Sommer-Büro ohne Klima). Geräuschpegel bei intensiver Last: 45-55 dB. Für Büro-Umgebung zu laut. Empfehlung: Server in Technik-Raum oder Keller, mit Remote-Zugriff. Bei Anwaltskanzlei mit Anforderung Daten-im-Haus: separater Server-Raum mit Klima und Schall-Dämmung.

Abschnitt 08

Custom-Server-Build

DripBack-Standard-Build für On-Premise-KI-Workstation: AMD Ryzen 9 7900X (12 Kerne) für 520 €. 64 GB DDR5 ECC für 340 €. 1× RTX 5080 für 1.299 €. NVMe 2TB Samsung 990 Pro für 240 €. HDD 8TB Seagate IronWolf für 200 €. Netzteil 850W 80+Gold für 180 €. Gehäuse Fractal Design Define 7 für 180 €. CPU-Kühler Noctua für 110 €. Gehäuse-Lüfter 4× für 140 €. Custom-Konfiguration + Test: 380 €. Gesamt: rund 3.589 €. Plus Setup-Services (OS, Stack, Härtung): 950 €. Lieferung produktions-bereit: rund 4.500 €.

Abschnitt 09

Cloud vs On-Premise: 36-Monats-TCO

Vergleich für eine 50-MA-Firma mit moderater KI-Last: On-Premise (1× RTX 5080 Custom-Server): einmalig 4.500 €, monatlich 70 € Strom + 60 € Wartungs-Pauschale = 130 €/Mo. Über 36 Monate: 4.500 + 36×130 = 9.180 €. Hetzner Cloud (GEX44): 189 €/Mo × 36 = 6.804 €. Hetzner ist günstiger über 36 Monate, ABER: bei sensiblen Daten (Patient, Mandant) ist On-Premise oft alternativlos, dann ist der Mehr-Preis akzeptabel. Bei moderater Last und ohne juristische Vorgaben: Hetzner ist wirtschaftlicher.

Abschnitt 10

Multi-GPU: wann SLI lohnt

Multi-GPU-Setups (2× oder 4× RTX 5080) lohnen sich in drei Fällen: (1) Customer braucht 32B-Modell oder größer regelmäßig (nicht nur ab-und-zu). (2) Hohe Concurrent-User-Anzahl bei Voice-Workloads. (3) Multi-Tenant-Setup mit klarer Mandanten-Trennung pro GPU. SLI bringt nur bei größeren Modellen wirklich Vorteile. Bei kleineren Modellen ist Single-GPU oft effizienter, weil die Kommunikations-Overhead bei Multi-GPU die Latenz erhöht. Faustregel: unter 32B-Modell selten Multi-GPU sinnvoll, ab 32B-Modell fast immer.