QLoRA en GPU Modesta para Lab de Modelos Abiertos en Málaga
Visión general
De qué trata este proyecto.
Entrenarás un modelo de 13B con QLoRA 4-bit y LoRA 16-bit en una RTX 4090, midiendo perplejidad y win-rate. Obtienes un certificado verificable.
El escenario
El lab publica modelos open weights en castellano para la comunidad iberoamericana; trabajar en GPUs accesibles (24GB) es eje editorial porque permite que la comunidad reproduzca el trabajo.
El Briefing
Lo que harás y lo que demostrarás.
Compara QLoRA 4-bit y LoRA 16-bit en calidad y coste sobre la misma receta y publica un blog técnico reproducible.
Earning criteria — what you'll demonstrate
- Aplicar QLoRA con NF4 + double quantization correctamente
- Diseñar un experimento pareado para comparar QLoRA y LoRA
- Realizar evaluación pairwise humana con protocolo justo
- Comunicar resultados técnicos honestos a una comunidad open-source
Encaje académico
Dónde encaja esto en tus estudios.
Afina las mismas habilidades que tu titulación espera de ti.
Fine-Tuning Large Language Models
Master · Generative Ai
Strong alignment
This challenge maps to Fine-Tuning Large Language Models at the Master level. It sharpens the same practical skills your coursework expects — but in a real industry context with actual constraints and deliverables.
Habilidades
Habilidades que demostrarás.
Cada una aparece en tu credencial verificada.
- Qlora
Apply qlora to solve real industry problems and demonstrate production-level capability.
- Lora
Apply lora to solve real industry problems and demonstrate production-level capability.
- Llm Evaluation
Apply llm evaluation to solve real industry problems and demonstrate production-level capability.
- Huggingface
Apply huggingface to solve real industry problems and demonstrate production-level capability.
- Experiment Design
Apply experiment design to solve real industry problems and demonstrate production-level capability.
- Model Quantization
Apply model quantization to solve real industry problems and demonstrate production-level capability.
Carreras
Roles para los que esto te prepara.
Títulos reales. Puentes de habilidades reales. Elige el que más se acerque a tu trayectoria.
Investigador en Aprendizaje Automático
Comparaciones pareadas y reproducibles es la rutina del ML Researcher en foundation labs.
Este proyecto afina
- qlora
- experiment-design
- llm-evaluation
Científico en IA Aplicada
Comunicar trade-offs técnicos a una comunidad técnica externa es trabajo central del Applied AI Scientist en open source.
Este proyecto afina
- llm-evaluation
- model-quantization
- experiment-design
Ingeniero NLP
Entrenar y empaquetar adaptadores reproducibles en hardware modesto es trabajo recurrente del NLP Engineer.
Este proyecto afina
- qlora
- lora
- huggingface