Fine-tunea un LLM abierto para soporte técnico de software industrial
Visión general
De qué trata este proyecto.
Recibirás 12.000 pares pregunta/respuesta limpios. Harás un fine-tuning supervisado (SFT) de Llama-3 8B o Qwen2 7B usando LoRA (Low-Rank Adaptation, adaptación de bajo rango) sobre 8.000 ejemplos, dejando 2.000 para validación y 2.000 para test final. Compararás el modelo fine-tuned contra el modelo base y contra GPT-4o-mini en 3 métricas: ROUGE-L, juicios pareados de una persona experta sobre 50 muestras, y citation accuracy si la respuesta cita documentación. Reportarás coste de entreno + inferencia mensual estimado.
El Briefing
Lo que harás y lo que demostrarás.
Determinar si un fine-tuning supervisado de un LLM abierto pequeño justifica migrar el soporte técnico de la API comercial a infraestructura on-premise.
Earning criteria — what you'll demonstrate
- Aplicar fine-tuning supervisado con LoRA a un dominio especializado
- Diseñar evaluación que combine métricas automáticas y juicio experto
- Analizar coste total de propiedad (TCO) on-premise vs. API
- Documentar limitaciones de un modelo fine-tuned (deriva, soporte de nuevas versiones)
Encaje académico
Dónde encaja esto en tus estudios.
Afina las mismas habilidades que tu titulación espera de ti.
Habilidades
Habilidades que demostrarás.
Cada una aparece en tu credencial verificada.
Carreras
Roles para los que esto te prepara.
Títulos reales. Puentes de habilidades reales. Elige el que más se acerque a tu trayectoria.
Trayectorias profesionales que esto construye
Roles canónicosIngeniera de Aprendizaje Automático
Fine-tunear LLMs abiertos con LoRA y defender la decisión on-prem vs. API es el portafolio exacto de una ML engineer en empresas SaaS B2B que están pivotando hacia IA.
Este proyecto afina
- fine-tuning
- lora
- pytorch
Ingeniera de Investigación en IA
Diseñar evaluación que combine automáticas + juicios humanos pareados es trabajo nuclear de research engineers que entrenan modelos especializados.
Este proyecto afina
- evaluation
- fine-tuning
- instruction-tuning
Ingeniera de IA
Empaquetar y desplegar un modelo fine-tuned bajo restricciones de coste es exactamente lo que las AI engineers entregan al integrar LLMs en producto B2B.
Este proyecto afina
- fine-tuning
- cost-analysis
- pytorch