Whitepaper · Stand Mai 2026
Multi-Model-Routing: lokale und Cloud-Modelle richtig einsetzen
Welches LLM beantwortet welche Anfrage, mit welchem Kosten-Latenz-Profil? Eine Decision-Matrix mit realen Token-Preisen 2026, Routing-Code-Beispielen und drei Anti-Patterns, die DripBack in 18 Monaten Produktiv-Erfahrung gelernt hat.
Einordnung
Wer 2026 ein KI-Backend für ein KMU baut, hat die Auswahl zwischen rund einem Dutzend produktionsreifer Modelle. Die Versuchung ist groß, sich auf einen Anbieter festzulegen. Aus drei Gründen ist das falsch: erstens kosten generische Triage-Anfragen mit einem Frontier-Modell viermal so viel wie nötig, zweitens scheitert das System bei Anbieter-Ausfall vollständig, drittens haben unterschiedliche Modelle echte Stärken-Profile, die ungenutzt bleiben. Dieses Whitepaper zeigt eine produktiv getestete Routing-Architektur.
Abschnitt 01
Die Modell-Landschaft 2026
→ Tabelle seitlich scrollbar
| Modell | Preis pro 1M Token | Latenz p50 | Stärke |
|---|---|---|---|
| 7B-Modell lokal | ~ 0,02 € Strom | 240 ms | Triage, FAQ, einfache Generierung |
| 14B-Modell lokal | ~ 0,06 € Strom | 380 ms | Längere Texte, Reasoning leicht |
| Anbieter A · Kleinmodell | 0,80 € input / 4 € output | 520 ms | Cost-effizient, Coding light |
| Anbieter A · Mittelklasse | 2,80 € input / 14 € output | 1.100 ms | Refactor, Strategie, Brand-Voice |
| Anbieter A · Frontier | 14 € input / 70 € output | 2.300 ms | Architektur, lange Pläne, 1M context |
| Anbieter B · Multimodal | 4,80 € input / 14 € output | 1.400 ms | Strukturiertes JSON, Tool-Calling |
| Anbieter B · Mini | 0,15 € input / 0,60 € output | 440 ms | Klassifikation, einfache Extraktion |
Abschnitt 02
Die 80-15-5-Regel
In einem typischen KMU-Workload mit 1.500 LLM-Calls pro Tag verteilen sich die Anfragen wie folgt:
- 80 Prozent triviale Triage: „Ist das eine Anfrage, eine Rechnung oder Spam?" — lokales 7B-Modell reicht vollständig, kostet 0,03 € am Tag in Strom.
- 15 Prozent mittlere Komplexität: „Schreibe einen Antwort-Entwurf in Brand-Voice mit Bezug auf den Anhang." — ein Cloud-Kleinmodell oder ein lokales 14B-Modell liefern gute Ergebnisse, mit Kosten zwischen 0,10 und 0,30 € pro Antwort.
- 5 Prozent strategisch: „Erstelle einen Implementierungsplan für die Migration eines DATEV-Mandanten auf das neue Buchungsschema." — hier rechtfertigt das Mittelklasse-Modell seinen Preis um den Faktor 50.
Abschnitt 03
Routing-Code: das Minimal-Setup
Ein produktiver Router fragt vier Eigenschaften der Anfrage ab:
- Sensibilität: enthält die Anfrage Klartext-PII, Mandanten-Daten, Patienten-Bezug? — wenn ja, zwingend lokales Open-Source-Modell.
- Komplexität: reicht single-shot oder braucht es mehrere Reasoning-Schritte?
- Antwort-Länge: 30 Token oder 3.000 Token?
- Latenz-Toleranz: User wartet aktiv (Chat) oder asynchrone Verarbeitung?
Bei DripBack lebt diese Logik in llm_router.py mit einer Decision-Tree-Struktur. Wichtig ist der Circuit-Breaker: nach drei Cloud-Timeouts in 60 Sekunden fällt der gesamte Traffic auf lokales Open-Source-Modell zurück. Verfügbarkeit schlägt Qualität.
Abschnitt 04
Anti-Pattern 1: Single-Vendor-Lock-in
Die häufigste Architektur-Falle ist die exklusive Bindung an einen einzigen Cloud-Anbieter. Drei reale Risiken:
- Preis-Erhöhung: Ein großer Anbieter hat 2024 die Preise seines Flaggschiff-Modells um 18 % angehoben, ohne Vorwarnung.
- Modell-Deprecation: Anbieter kündigen regelmäßig ältere Modellversionen ab, was bei Prompts mit feinjustiertem Output zu Regressionen führt.
- Compliance-Welle: ein einziges DSGVO-Update kann eine ganze Anbieter-Region unbenutzbar machen. Wer keinen Plan B hat, steht still.
Abschnitt 05
Anti-Pattern 2: Chain-of-Thought für Triage
Eine zweite Falle ist die Übernutzung von Chain-of-Thought oder Multi-Step-Agenten für triviale Klassifikation. „Ist das eine Anfrage oder eine Rechnung?" braucht keine 8-Step-Reasoning-Kette eines Mittelklasse-Modells, sondern eine simple Embedding-Distanz-Berechnung oder einen einzelnen Aufruf des lokalen Modells mit Few-Shot-Examples.
Die Versuchung kommt aus Demo-Architekturen, die Show-and-Tell prioritisieren. Im KMU-Alltag ist 80 % der Logik trivial-genug für lokales Open-Source-Modell.
Abschnitt 06
Anti-Pattern 3: Live-Streaming wo nicht nötig
Streaming-Antworten in Echtzeit zu rendern (Token-für-Token) ist UI-charmant, aber für viele Backend-Aufgaben kontraproduktiv. Wenn eine Antwort sowieso in einer Datenbank landet und 20 Sekunden später vom User abgerufen wird, ist async Batch-Processing erheblich günstiger: die meisten Anbieter bieten 50 % Rabatt auf Batch-Calls mit 24-Stunden-Latenz.
DripBacks Empfehlung: Streaming nur für aktive Chat-UIs. Buchhaltung-Triage, Cold-Mail-Generation und SEO-Drafts laufen über Nacht-Batch, was die Cloud-Kosten halbiert.
Abschnitt 07
Konkrete Routing-Empfehlung für 5 typische KMU-Anwendungsfälle
→ Tabelle seitlich scrollbar
| Anwendungsfall | Routing | Geschätzte Kosten/Monat |
|---|---|---|
| E-Mail-Triage 200/Tag | 7B-Modell lokal | 0,90 € Strom |
| Antwort-Drafting 50/Tag | 14B-Modell lokal | 2,10 € Strom |
| CV-Screening 30/Tag | Cloud-Kleinmodell | 11 € |
| Custom-KI-Workflow-Refactor (selten) | Cloud-Mittelklasse on-demand | 40 € bei 10 Aufrufen |
| Architektur-Plan (1× pro Monat) | Cloud-Frontier-Modell | 15 € |
Gesamtmonatlich für ein 30-MA-Setup: etwa 70–95 €. Ohne Routing, nur über ein Frontier-Modell: etwa 410 €.
Nächster Schritt
30 Minuten Discovery reichen.
Konkrete Lösung für Ihren Anwendungsfall, Festpreis statt Stundensatz, Förder-Beratung inklusive.