Profiling y Tuning de Inferencia GPU para Startup de Cómputo Mexicana
Visión general
De qué trata este proyecto.
Perfila y optimiza inferencia GPU con NVIDIA Nsight, aplica dynamic batching y half precision, mide mejora de latencia y obtén un certificado verificable.
El escenario
La startup (vende a cadenas de retail en México, Colombia y Chile, márgenes ajustados por la competencia de hyperscalers) gana cliente si demuestra que su coste unitario es competitivo.
El Briefing
Lo que harás y lo que demostrarás.
Aumentar la utilización GPU de un servicio de inferencia desde 22% a más del 60% manteniendo latencia p99 aceptable.
Earning criteria — what you'll demonstrate
- Aplicar Nsight Systems a un servicio real de inferencia
- Diagnosticar bottlenecks GPU con métricas microarquitectónicas
- Configurar batching dinámico y streams correctamente
- Cuantificar el impacto financiero de las optimizaciones
Encaje académico
Dónde encaja esto en tus estudios.
Afina las mismas habilidades que tu titulación espera de ti.
Performance Engineering of Software Systems
Master · Systems
Strong alignment
This challenge maps to Performance Engineering of Software Systems at the Master level. It sharpens the same practical skills your coursework expects — but in a real industry context with actual constraints and deliverables.
Habilidades
Habilidades que demostrarás.
Cada una aparece en tu credencial verificada.
- Gpu Profiling
Apply gpu profiling to solve real industry problems and demonstrate production-level capability.
- Cuda
Apply cuda to solve real industry problems and demonstrate production-level capability.
- Inference Optimization
Apply inference optimization to solve real industry problems and demonstrate production-level capability.
- Triton Inference Server
Apply triton inference server to solve real industry problems and demonstrate production-level capability.
- Performance Engineering
Apply performance engineering to solve real industry problems and demonstrate production-level capability.
- Benchmarking
Apply benchmarking to solve real industry problems and demonstrate production-level capability.
Carreras
Roles para los que esto te prepara.
Títulos reales. Puentes de habilidades reales. Elige el que más se acerque a tu trayectoria.
Ingeniero de Backend
Backend engineers que entienden GPU profiling construyen servicios que escalan en presupuesto, no solo en CPU.
Este proyecto afina
- cuda
- performance-engineering
- benchmarking