Investigar daños emergentes de un asistente conversacional
Visión general
De qué trata este proyecto.
Recibirás (1) 1.200 transcripciones anonimizadas de conversaciones reales con etiquetas de severidad clínica, (2) el prompt del sistema actual y (3) acceso a versiones de prueba del asistente. Realizarás (a) clasificación manual de modos de daño en una muestra estratificada de 200 conversaciones, (b) análisis cuantitativo de patrones (sub-derivación, sobre-empatía, refuerzo de evitación), (c) evaluación clínica externa con 2 profesionales de psicología clínica y (d) plan de remediación priorizado por gravedad. El éxito es identificar al menos 6 modos de daño distintos con plan de remediación accionable.
El Briefing
Lo que harás y lo que demostrarás.
Caracterizar sistemáticamente los daños emergentes de un asistente conversacional de salud mental y entregar un plan de remediación priorizado.
Earning criteria — what you'll demonstrate
- Aplicar codificación cualitativa con doble revisor y kappa de Cohen para fiabilidad
- Identificar modos de daño específicos del dominio de salud mental
- Integrar evaluación clínica externa en un estudio de daños algorítmicos
- Priorizar remediaciones por severidad e impacto, no por facilidad técnica
Encaje académico
Dónde encaja esto en tus estudios.
Afina las mismas habilidades que tu titulación espera de ti.
Habilidades
Habilidades que demostrarás.
Cada una aparece en tu credencial verificada.
Carreras
Roles para los que esto te prepara.
Títulos reales. Puentes de habilidades reales. Elige el que más se acerque a tu trayectoria.
Trayectorias profesionales que esto construye
Roles canónicosInvestigador en Seguridad de IA
Caracterizar daños emergentes con metodología cualitativa y clínica externa es trabajo nuclear de AI Safety Researcher en producto sensible.
Este proyecto afina
- harm-analysis
- responsible-ai
- clinical-evaluation
AI Product Manager
Convertir hallazgos de daño en plan de remediación priorizado es responsabilidad directa de AI PM en salud digital.
Este proyecto afina
- llm-evaluation
- stakeholder-engagement
- responsible-ai
AI Engineer
El AI Engineer recibe el plan y lo implementa; saber cómo se construye un plan defendible le permite trabajar mejor con el equipo de seguridad.
Este proyecto afina
- llm-evaluation
- harm-analysis
- responsible-ai