Optimizar el coste de embeddings de un asistente RAG para soporte SaaS
Visión general
De qué trata este proyecto.
Diseña dos estrategias para reducir el coste de embeddings de un asistente RAG para soporte SaaS, mide calidad y coste, y obtén un certificado verificable.
El escenario
La startup (~16 personas, post-seed, ~2,4 M USD de ARR — Annual Recurring Revenue — ingreso recurrente anual) tiene presión sobre el margen bruto por los costes combinados de embeddings y modelos de lenguaje en sus cuentas premium; la persona CTO necesita un plan creíble antes de la revisión de precios del próximo consejo.
El Briefing
Lo que harás y lo que demostrarás.
Recortar al menos un 60% el coste de embeddings de una base de conocimiento de 95.000 artículos refrescada a diario, sin perder más de 3 puntos porcentuales de recall@5.
Earning criteria — what you'll demonstrate
- Comparar modelos de embeddings en la frontera calidad/coste para una carga real
- Aplicar detección de cambios por hash de contenido para evitar re-embeddings inútiles
- Usar truncado de dimensiones tipo Matryoshka (representaciones anidadas) para recortar almacenamiento y coste de similitud
- Traducir mediciones de Machine Learning en una narrativa de coste apta para consejo de administración
Encaje académico
Dónde encaja esto en tus estudios.
Afina las mismas habilidades que tu titulación espera de ti.
Alineación con asignaturas próximamente.
Habilidades
Habilidades que demostrarás.
Cada una aparece en tu credencial verificada.
- Embedding Models
Apply embedding models to solve real industry problems and demonstrate production-level capability.
- Cost Optimization
Apply cost optimization to solve real industry problems and demonstrate production-level capability.
- Change Detection
Apply change detection to solve real industry problems and demonstrate production-level capability.
- Dimensionality Reduction
Apply dimensionality reduction to solve real industry problems and demonstrate production-level capability.
- Evaluation
Apply evaluation to solve real industry problems and demonstrate production-level capability.
- Rag
Apply rag to solve real industry problems and demonstrate production-level capability.
Carreras
Roles para los que esto te prepara.
Títulos reales. Puentes de habilidades reales. Elige el que más se acerque a tu trayectoria.
Applied AI Scientist
Elegir entre modelos de embeddings en la frontera calidad/coste y convertir el resultado en un memorando para consejo es el entregable cotidiano de una persona Applied AI Scientist dentro de cualquier SaaS con asistente RAG.
Este proyecto afina
- embedding-models
- evaluation
- cost-optimization
AI Engineer
Implementar detección de cambios y truncado de dimensiones contra una pipeline real de ingesta es la ingeniería práctica que los AI Engineers hacen en productos de atención al cliente y búsqueda.
Este proyecto afina
- change-detection
- dimensionality-reduction
- rag
MLOps Engineer
El plan de despliegue con backfill, comparación en sombra y rollback refleja cómo los MLOps Engineers cambian modelos en sistemas de recuperación en producción.
Este proyecto afina
- cost-optimization
- evaluation
- change-detection