Der DripBack-Router verteilt jeden LLM-Aufruf auf das passende Modell. Sensible Daten bleiben lokal. Verarbeitung lokal oder in der EU; Cloud-Routing für Sonderaufgaben nur mit SCC/TIA und PII-Scrub, Details in der AVV. Die Zahlen unten sind eine Beispielrechnung für einen Betrieb mit 50 Mitarbeitenden und rund 1.500 Aufrufen pro Tag, keine Messwerte aus Kundenbetrieb.
Jeder Modell-Aufruf nach Routing-Entscheidung des Routers. Lokale Modelle für sensible Daten und Triage, Cloud für komplexe Generierung, Premium nur bei nachweisbar besserem Output.
Beispielwerte zur Veranschaulichung · keine Live-Daten, keine Kundendaten oder Anfrage-Inhalte
Bei einem typischen Betrieb mit 50 Mitarbeitenden und rund 1.500 LLM-Aufrufen pro Tag. Konkrete Mathematik, keine Marketing-Zahlen.
Jede Anfrage durchläuft einen Pre-Klassifikator in llm_router.py, der vier Eigenschaften prüft: Sensibilität (PII enthalten?), Komplexität (single-shot oder Multi-Step-Reasoning?), Antwort-Länge (30 oder 3.000 Token?) und Latenz-Toleranz (User wartet aktiv oder Async-Batch?).
Mit PII oder bei Anwalts-, Arzt- oder Steuerkanzleien: zwingend ein lokales Open-Source-Modell. Bei einfacher Triage: ein kompaktes lokales Modell. Bei Brand-Voice-Texten oder mittlerer Komplexität: ein leichtes EU-Cloud-Modell oder ein größeres lokales Modell. Bei komplexem Reasoning oder Architektur-Plänen: ein leistungsstärkeres EU-Cloud-Modell — Cloud-Routing greift nur für unkritische Schritte nach PII-Scrubbing.
Plus Circuit-Breaker: nach drei Cloud-Timeouts binnen 60 Sekunden fällt der gesamte Traffic auf lokale Open-Source-Modelle zurück. Verfügbarkeit schlägt Eleganz.
Diese Strategie ist nicht nur DSGVO-konform, sondern auch 70-85% günstiger als Pure-Cloud-Setups bei vergleichbarem oder besserem Qualitäts-Profil.
Im Discovery-Call entwickeln wir die Routing-Strategie für Ihre spezifische Datenklasse und Use-Case-Mix. Keine Marketing-Folien, sondern konkrete Konfiguration.
Nächster Schritt
Im Discovery-Audit prüfen wir gemeinsam, welcher Ablauf sich bei Ihnen lohnt — und welcher nicht.