Wann EU-MSPs KI-Traffic offen statt geschlossen routen sollten

EU-Managed-Service-Provider, die KI-Workloads für Kunden routen, stehen immer wieder vor derselben Entscheidung: Wann sollte Massen- oder risikoarmer Traffic über ein offenes Hochvolumen-Gateway laufen, und wann rechtfertigt eine Aufgabe eine geschlossene Premium-API eines bestimmten Anbieters? Die Antwort ist eine Frage der Haltung und Risikotoleranz, nicht eines Anbieter-Rankings.

Offener Hochvolumen-Traffic

Entwürfe, Zusammenfassungen und interne Tooling – also Arbeiten, bei denen Fehler behebbar und leicht korrigierbar sind – eignen sich gut für ein offenes oder gemischtes Gateway, das ein MSP beobachten und pro Kunden-Tenant ratenlimitieren kann. Der Wert liegt hier in der Sichtbarkeit: Ein Gateway, das die Nutzung protokolliert und es dem MSP erlaubt, Limits pro Tenant zu setzen, macht es einfacher, ausufernde Kosten oder Missbrauch zu erkennen, bevor daraus ein kundenwirksames Problem wird.

Geschlossener Traffic mit hohem Einsatz

Kundenwirksame Entscheidungen, regulierte Datenpfade und Auswertungen, denen ein MSP bei einem bestimmten Anbieter bereits vertraut, verlangen nach engerer Kontrolle: explizite Allowlists, eine benannte Modellversion und eine Anbieterbeziehung, die der MSP zur Verantwortung ziehen kann, wenn etwas schiefgeht. Hier verschiebt sich die Priorität von Kosten und Flexibilität hin zu Vorhersehbarkeit.

Was es zu vermeiden gilt

Man sollte nicht aus der Traffic-Stichprobe eines einzelnen Gateways eine marktweite Adoptionsquote ableiten – das Dashboard eines Anbieters zeigt dessen eigenen Kundenmix, nicht die Branche. Vercels eigener AI Gateway Production Index veranschaulicht, warum: Er meldete, dass Open-Weight-Modelle im August 2026 zwar 56 Prozent des Token-Volumens dieses Gateways erreichten, aber nur 14 Prozent der Ausgaben ausmachten – eine Aufteilung, die dadurch getrieben ist, wie Vercels spezifischer Kundenstamm billige Hochvolumen-Arbeit routet. Das ist ein reales Muster, das man kennen sollte, aber es beschreibt den Traffic eines einzelnen Gateways, nicht den KI-Markt als Ganzes. Jede Open-vs-Closed-Aufteilung, die ein MSP übernimmt, sollte durch das Risiko des konkreten Workloads begründet sein, nicht durch eine entlehnte Statistik aus dem Dashboard eines anderen.

Wo die Tenant-Grenze liegt

Welche Aufteilung ein MSP auch wählt: Die Grenze, die einen Kunden tatsächlich schützt, sitzt auf der Identitätsebene, nicht auf der Routing-Ebene. Die Control Plane entscheidet, welche Route der Traffic nimmt, aber eine separate, tenant-bewusste Autorisierungsschicht muss zuerst entscheiden, wer welche Route überhaupt aufrufen darf. Altovar positioniert Lodestar als EU-basierte Control Plane für diese Routing-Entscheidung, während Auris darunter die Tenant-Grenze übernimmt – zwei verschiedene Aufgaben, die sich leicht zu einem einzigen Produktversprechen vermischen lassen.

Der praktische Test für jede Routing-Policy ist, ob ein MSP für einen bestimmten Kunden-Workload erklären kann, warum dieser auf der offenen oder der geschlossenen Seite gelandet ist – und ob diese Erklärung ein Kundenaudit überstehen würde.

Quellen: Vercel — AI Gateway Production Index, September 2026.