Übersicht
Worum es bei diesem Projekt geht.
Baue einen FastAPI-Service mit einheitlicher LLM-Schnittstelle, Routing, Fallback und Caching für ein Berliner B2B-SaaS. Erhalte ein verifizierbares Zertifikat.
Das Szenario
Der Anbieter bedient mittelständische Vertriebs- und HR-Teams im DACH-Raum; die uneinheitlichen LLM-Integrationen verursachen jeweils eigene Ausfälle und Kostensicht.
Das Briefing
Was Du tust und was Du zeigst.
Wie sieht ein produktreifer LLM-Gateway aus, der drei Anbieter konsolidiert mit Streaming, Caching, Fallback und Kostenüberwachung pro Tenant?
Earning criteria — what you'll demonstrate
- Anbieter-übergreifende LLM-Architektur mit klaren Schnittstellen entwerfen
- Streaming, Caching und Fallback als produktive Konzepte umsetzen
- Beobachtbarkeit und Kostenüberwachung pro Tenant verankern
- Rate-Limit-Behandlung mit Retry und Backoff korrekt implementieren
Studienpassung
Wo dies in Dein Studium passt.
Schärft dieselben Fähigkeiten, die Dein Studium von Dir erwartet.
Studienzuordnung folgt in Kürze.
Fähigkeiten
Fähigkeiten, die Du unter Beweis stellst.
Jede taucht auf Deinem verifizierten Zertifikat auf.
- Llm Gateway
Apply llm gateway to solve real industry problems and demonstrate production-level capability.
- Fastapi
Apply fastapi to solve real industry problems and demonstrate production-level capability.
- Litellm
Apply litellm to solve real industry problems and demonstrate production-level capability.
- Streaming
Apply streaming to solve real industry problems and demonstrate production-level capability.
- Caching
Apply caching to solve real industry problems and demonstrate production-level capability.
- Observability
Apply observability to solve real industry problems and demonstrate production-level capability.
Karrieren
Berufe, auf die dies Dich vorbereitet.
Echte Berufsbezeichnungen. Echte Skill-Brücken. Wähle die, die Deinem Werdegang am nächsten kommt.
KI-Engineer
Multi-Anbieter-LLM-Gateways zu bauen ist eine Senior-typische Aufgabe von KI-Engineers in B2B-SaaS-Teams mit mehreren KI-Funktionen.
Dieses Projekt schärft
- llm-gateway
- litellm
- fastapi
MLOps-Ingenieur:in
Beobachtbarkeit, Caching und Rate-Limit-Behandlung sind direkte MLOps-Verantwortlichkeiten in Teams, die LLM-Pipelines produktiv betreiben.
Dieses Projekt schärft
- observability
- caching
- streaming
KI-Solutions-Architekt:in
Architektur-Empfehlungen für Anbieter-übergreifende LLM-Strategien sind die Tagesarbeit von KI-Solutions-Architekt:innen in Plattform-Teams.
Dieses Projekt schärft
- llm-gateway
- observability
- litellm
Noch eine Sache