GPU-Inferenz-Pipeline einer Hamburger Computer-Vision-Plattform optimieren
Übersicht
Worum es bei diesem Projekt geht.
Optimiere eine GPU-Inferenz-Pipeline mit Nsight, behebe Bottlenecks durch dynamisches Batching und GPU-Decoding. Erhalte ein verifizierbares Zertifikat.
Das Szenario
Die Computer-Vision-Plattform zahlt pro GPU-Stunde — der Schritt von 240 auf zumindest 600 Bilder pro Sekunde halbiert die Inferenz-Kosten pro Kund:in und macht das Pricing wettbewerbsfähig.
Das Briefing
Was Du tust und was Du zeigst.
Wie hebt man die GPU-Auslastung einer Computer-Vision-Inferenz-Pipeline von 27 Prozent auf mindestens 70 Prozent, ohne das Modell zu ändern?
Earning criteria — what you'll demonstrate
- GPU-Inferenz-Pipelines mit Nsight-Werkzeugen profilieren
- Dynamisches Batching für Production-Inferenz konfigurieren
- CPU-GPU-Übergabe als Bottleneck-Klasse erkennen und mitigieren
- Tensor-Layouts an Modell-Anforderungen anpassen
Studienpassung
Wo dies in Dein Studium passt.
Schärft dieselben Fähigkeiten, die Dein Studium von Dir erwartet.
Studienzuordnung folgt in Kürze.
Fähigkeiten
Fähigkeiten, die Du unter Beweis stellst.
Jede taucht auf Deinem verifizierten Zertifikat auf.
- Gpu Programming
Apply gpu programming to solve real industry problems and demonstrate production-level capability.
- Inference Optimization
Apply inference optimization to solve real industry problems and demonstrate production-level capability.
- Batching
Apply batching to solve real industry problems and demonstrate production-level capability.
- Triton Inference Server
Apply triton inference server to solve real industry problems and demonstrate production-level capability.
- Performance Profiling
Apply performance profiling to solve real industry problems and demonstrate production-level capability.
- Documentation
Apply documentation to solve real industry problems and demonstrate production-level capability.
Karrieren
Berufe, auf die dies Dich vorbereitet.
Echte Berufsbezeichnungen. Echte Skill-Brücken. Wähle die, die Deinem Werdegang am nächsten kommt.
ChallengeDetail.careersEmptyWithDisciplineAndRole
Noch eine Sache