Análisis interpretabilidad mecánica de un modelo pequeño
Visión general
De qué trata este proyecto.
Analiza un Transformer pequeño con activation patching y logit lens para hallar un circuito causal. Obtén un certificado verificable.
El escenario
El grupo lanza un programa de doctorado en safety y necesita material reproducible que sirva de bautismo a las primeras cohortes; los recursos públicos existentes están dispersos y mal mantenidos.
El Briefing
Lo que harás y lo que demostrarás.
Replicar un experimento clásico de interpretabilidad mecánica sobre un Transformer pequeño, identificar al menos un circuito y producir un tutorial reproducible.
Earning criteria — what you'll demonstrate
- Aplicar técnicas estándar de interpretabilidad mecánica
- Validar hipótesis sobre circuitos con intervenciones causales
- Reproducir hallazgos publicados con rigor
- Producir material reproducible que un nuevo investigador pueda seguir
Encaje académico
Dónde encaja esto en tus estudios.
Afina las mismas habilidades que tu titulación espera de ti.
AI Safety and Alignment
Master · Responsible Ai
Strong alignment
This challenge maps to AI Safety and Alignment at the Master level. It sharpens the same practical skills your coursework expects — but in a real industry context with actual constraints and deliverables.
Habilidades
Habilidades que demostrarás.
Cada una aparece en tu credencial verificada.
- Mechanistic Interpretability
Apply mechanistic interpretability to solve real industry problems and demonstrate production-level capability.
- Transformer Internals
Apply transformer internals to solve real industry problems and demonstrate production-level capability.
- Pytorch
Apply pytorch to solve real industry problems and demonstrate production-level capability.
- Experimental Design
Apply experimental design to solve real industry problems and demonstrate production-level capability.
- Scientific Communication
Apply scientific communication to solve real industry problems and demonstrate production-level capability.
- Deep Learning
Design and train neural networks for complex pattern recognition tasks.
Carreras
Roles para los que esto te prepara.
Títulos reales. Puentes de habilidades reales. Elige el que más se acerque a tu trayectoria.
Investigador de Machine Learning
Replicar experimentos de interpretabilidad mecánica y producir material reproducible es trabajo directo de un ML Researcher en safety y alineamiento.
Este proyecto afina
- mechanistic-interpretability
- transformer-internals
- experimental-design
Investigador de Seguridad de IA
La interpretabilidad para safety conecta directamente con el rol de AI Safety Researcher en laboratorios de modelos foundation.
Este proyecto afina
- mechanistic-interpretability
- deep-learning
- scientific-communication
Investigador Científico
Producir tutoriales reproducibles que escalen el conocimiento a nuevas cohortes es competencia diferencial del rol de Research Scientist.
Este proyecto afina
- scientific-communication
- experimental-design
- transformer-internals