Constitutional AI para reducir respuestas tóxicas en un asistente legal
Visión general
De qué trata este proyecto.
En equipo de 2, recibes el asistente actual (caja negra accesible por API), 200 prompts adversariales en español (preguntas que podrían escalar a consejo legal directo, o que invitan a tono brusco) y respuestas-oro escritas por un abogado senior. Diseña una constitución de 8-12 principios (ej: 'no afirmes el resultado de un caso', 'sugiere consultar abogado para decisiones específicas'). Implementa el loop CAI: (1) generar respuesta inicial, (2) auto-crítica contra cada principio, (3) revisión final. Mide reducción de violaciones, calidad subjetiva y latencia. Éxito = reducción >= 60% en violaciones, calidad mantenida (no degradación >5% según juez) y memo con la constitución final como documento gobernable.
El Briefing
Lo que harás y lo que demostrarás.
Reducir respuestas problemáticas de un asistente legal con Constitutional AI sin degradar calidad medible.
Earning criteria — what you'll demonstrate
- Diseñar constituciones de principios operativos y testables
- Implementar loops de auto-crítica con LLMs
- Medir trade-off seguridad vs. utilidad cuantitativamente
- Producir artefactos gobernables (constitución + plantilla de actualización)
Encaje académico
Dónde encaja esto en tus estudios.
Afina las mismas habilidades que tu titulación espera de ti.
Habilidades
Habilidades que demostrarás.
Cada una aparece en tu credencial verificada.
Carreras
Roles para los que esto te prepara.
Títulos reales. Puentes de habilidades reales. Elige el que más se acerque a tu trayectoria.
Trayectorias profesionales que esto construye
Roles canónicosInvestigador/a en Seguridad de IA
Diseñar constituciones operacionalizables y medir reducción de violaciones es exactamente el trabajo nuclear del AI safety researcher en alignment aplicado.
Este proyecto afina
- constitutional-ai
- alignment
- evaluation
Ingeniero/a de Prompts
Construir loops de auto-crítica con prompts versionados es la franja senior del prompt engineering aplicado a seguridad.
Este proyecto afina
- prompt-engineering
- constitutional-ai
- evaluation
Ingeniero/a de IA
Producir un sistema CAI gobernable para un cliente regulado es el día a día del AI engineer en consultoría legal y compliance.
Este proyecto afina
- constitutional-ai
- python
- evaluation