Embedding-Modelle 2026: was performt, was kostet was

Einordnung

Abschnitt 01

Die Embedding-Modell-Landschaft 2026

Vier Top-Optionen für deutsche RAG-Anwendungen: (1) nomic-embed-text v1.5 (137M Parameter, 768d Embeddings, MIT-Lizenz, lokal hostbar). (2) BGE-large-en-v1.5 (335M, 1024d, MIT, lokal). (3) Cloud-Embedding (US-Anbieter, groß) (Cloud-only, 3072d, $0.13/1M Tokens). (4) Cohere embed-multilingual-v3.0 (1024d, Cloud-only, $0.10/1M Tokens). Plus EU-Alternativen: Aleph Alpha luminous-base-embed (EU-Hosting verfügbar). Bei DripBack nutzen wir nomic als Standard für lokale Setups, Cloud-Embeddings als Option für nicht-sensible Daten.

Abschnitt 02

MTEB-Benchmark für Deutsch

Massive Text Embedding Benchmark (MTEB) ist der etablierte Standard zur Bewertung von Embedding-Modellen. Deutsche Subset-Ergebnisse: nomic-embed-text 0.62. BGE-large 0.69 (besser auf Englisch dominanten Daten). Cloud-Embedding (US-Anbieter, groß) 0.72. Cloud-Embedding B (multilingual) 0.71. Die absoluten Zahlen sind nicht super weit auseinander, aber: in der praktischen Anwendung können 5-10 Prozentpunkte Score-Unterschied messbare RAG-Qualitäts-Unterschiede bedeuten.

Abschnitt 03

Lizenz-Bedingungen klar

nomic-embed-text: MIT-Lizenz, kommerzielle Nutzung explizit erlaubt, kein Restriction. BGE-large: MIT-Lizenz ähnlich permissiv. Cloud-Embedding: kommerzielle Nutzung via API mit Standard-Terms. Cohere: ähnliches Pricing-Modell. Wichtig für KMU-Setups: lokale Modelle (nomic, BGE) haben einmalige Hardware-Investition, aber keine laufenden API-Kosten. Cloud-Modelle haben null Setup-Kosten, aber laufende Token-Gebühren.

Abschnitt 04

Performance pro Datengröße

Für unterschiedliche Datenmengen ergeben sich unterschiedliche Cost-Performance-Profile. Bei 100.000 Dokumenten (typisch ~50 GB Text): lokale Modelle mit Einmal-Indexierung sind klar günstiger. Initial-Indexierung kostet nur Strom, danach kostenlos. Beim Cloud-Embedding: $13 für initiale Indexierung (100M Tokens), dann pro Query rund $0.0001. Bei 100 Queries/Tag = $0.30/Mo. Bei 10.000 Queries/Tag (Größeres SaaS-Setup) = $30/Mo Cloud-Kosten, plus Re-Indexierung bei Daten-Updates. Für KMU mit 100.000-300.000 Dokumenten ist Cloud akzeptabel; darüber wird lokal wirtschaftlicher.

Abschnitt 05

Dimension-Auswahl: 768 vs 1024 vs 3072

Hohe Dimensionen geben mehr Information, aber kosten mehr Speicher und Suche-Latenz. Für KMU-Setups: 768d (nomic) reicht in 90% der Fälle. 1024d (BGE, Cohere) für anspruchsvollere Domain-Anwendungen wie Anwalts-Research. 3072d (großes Cloud-Embedding) für hoch-spezialisierte Bereiche wie Pharma-Patente. In unseren Tests: Sprung von 768d zu 1024d bringt rund 4-7 Prozentpunkte Recall-Verbesserung. Sprung 1024d zu 3072d nur noch 2-3 Prozentpunkte, bei 3x Storage-Verbrauch und Such-Latenz.

Abschnitt 06

DE-Spezialisierung

nomic-embed-text wurde mit mehrsprachigem Training entwickelt, deutsche Texte sind gut repräsentiert. Auf juristischen oder medizinischen Domain-Texten (mit fachspezifischen Begriffen) sind alle Modelle ähnlich schwach — Out-of-Domain. Für hochspezialisierte Anwendungen kann domain-adaptiertes Fine-Tuning helfen: zusätzliche 500-2000 domain-spezifische Texte werden zum Embedding-Modell hinzugefügt. Aufwand: 3-5 Tage Beratung + GPU-Zeit (rund 6-12 Stunden auf RTX 5080). Performance-Verbesserung: typisch 8-15 Prozentpunkte auf domain-spezifischen Tasks.

Abschnitt 07

Latenz-Profile

Einsatz-Latenz pro Embedding-Generation: nomic lokal: 8-12 ms pro Text-Chunk (auf RTX 5080). BGE lokal: 15-20 ms. Cloud-API A: 80-150 ms inklusive Netzwerk. Cloud-API B: 60-120 ms. Bei Batch-Einsatz (RAG-Initial-Indexierung): nomic kann 800-1.200 Chunks pro Sekunde. Cloud-API etwa 200-400 Chunks pro Sekunde (limitiert durch Rate-Limits). Für 100.000 Dokumente á 5 Chunks: nomic-Indexierung dauert 8-15 Minuten, Cloud-API 30-60 Minuten.

Abschnitt 08

Hardware-Anforderungen lokal

nomic-embed-text läuft auf GPU mit nur 0.9 GB VRAM, sogar auf Consumer-GPU wie RTX 3060 12GB. Optimaler Setup: RTX 4070 Ti SUPER 16 GB oder besser, dann kann das Embedding-Modell parallel zu 7B-Modell laufen. Bei größeren Setups mit BGE-large: 1.8 GB VRAM, weiterhin auf Consumer-GPU machbar. CPU-Inferenz möglich, aber dramatisch langsamer (10-15x). Nicht produktions-tauglich für Live-Suche, aber für initiale Bulk-Indexierung akzeptabel.

Abschnitt 09

Cloud-Pricing-Realität

Cloud-Embedding (US-Anbieter, groß): $0.13 pro 1M Input-Tokens. Bei einem 50-MA-KMU mit RAG-Setup für 50.000 Dokumente: initiale Indexierung kostet einmalig rund $6-8. Daily Re-Indexierung bei neuen Dokumenten: rund $0.30/Tag = $9/Mo. Query-Embeddings: bei 1000 Queries/Tag rund $0.30/Tag = $9/Mo. Gesamt-Cloud-Kosten Embedding-Layer: rund $20-30/Mo für mittleres KMU-Setup. Für DSGVO-konforme Setups kann diese Cloud-Nutzung mit Pseudonymisierung tragbar sein.

Abschnitt 10

Empfehlung für KMU-Standard-Setup

Standard-Empfehlung: starten mit nomic-embed-text lokal. Vorteile: kostenfrei, EU-DSGVO-konform, schnell, ausreichende Qualität für 90% der Anwendungsfälle. Bei nachweisbarem RAG-Qualitäts-Problem (Recall unter 75%): Test mit BGE-large oder einem Cloud-Embedding. Bei §203-/BRAO-Anforderungen: lokal bleiben, niemals zu Cloud. Bei multi-lingual-Setups (DE+EN+FR): Cohere multilingual-v3 ist die beste Cloud-Option, lokal nomic auch akzeptabel.