Evalúa estrategias de cuantización para inferencia económica en español
Visión general
De qué trata este proyecto.
Evalúa FP16, INT8, INT4-AWQ e INT4-GPTQ en modelos con benchmarks en español y obtén un certificado verificable.
El escenario
La consultora (40 personas, 15 clientes medianos en LATAM y Eurozona) opera sus inferencias en GPUs L4 y A10G en nube europea; cada GB de VRAM ahorrado es un cliente más por servidor.
El Briefing
Lo que harás y lo que demostrarás.
Producir una guía operativa para elegir estrategia de cuantización de LLMs abiertos según calidad, latencia y memoria en tareas en español.
Earning criteria — what you'll demonstrate
- Aplicar y comparar técnicas de cuantización (INT8, AWQ, GPTQ)
- Benchmarkar LLMs con métricas operativas y de calidad en español
- Identificar el punto óptimo de calidad/coste para distintos casos
- Comunicar trade-offs técnicos como guía operativa accionable
Encaje académico
Dónde encaja esto en tus estudios.
Afina las mismas habilidades que tu titulación espera de ti.
Large Language Models
Master · Generative Ai
Strong alignment
This challenge maps to Large Language Models at the Master level. It sharpens the same practical skills your coursework expects — but in a real industry context with actual constraints and deliverables.
Habilidades
Habilidades que demostrarás.
Cada una aparece en tu credencial verificada.
- Quantization
Apply quantization to solve real industry problems and demonstrate production-level capability.
- Llm Inference
Apply llm inference to solve real industry problems and demonstrate production-level capability.
- Benchmarking
Apply benchmarking to solve real industry problems and demonstrate production-level capability.
- Evaluation
Apply evaluation to solve real industry problems and demonstrate production-level capability.
- Pytorch
Apply pytorch to solve real industry problems and demonstrate production-level capability.
- Cost Analysis
Apply cost analysis to solve real industry problems and demonstrate production-level capability.
Carreras
Roles para los que esto te prepara.
Títulos reales. Puentes de habilidades reales. Elige el que más se acerque a tu trayectoria.
Ingeniera de MLOps
Benchmarkar variantes cuantizadas y producir guías operativas es exactamente el trabajo de MLOps en consultorías que despliegan LLMs por volumen.
Este proyecto afina
- quantization
- llm-inference
- cost-analysis
Ingeniera de Aprendizaje Automático
Operar la inferencia óptima de un LLM bajo restricciones de memoria es competencia transversal de cualquier ML engineer que cierre el bucle a producto.
Este proyecto afina
- pytorch
- benchmarking
- evaluation
Ingeniera de IA
Empaquetar y elegir la variante correcta para cada cliente es la decisión cotidiana de una AI engineer en consultoría aplicada.
Este proyecto afina
- llm-inference
- cost-analysis
- evaluation