Verificación formal de propiedades de seguridad en clasificador de salud
Visión general
De qué trata este proyecto.
Recibes un modelo neuronal pequeño (red densa con dos capas ocultas) ya entrenado, junto a los rangos clínicamente válidos de cada signo vital. Aplica técnicas de verificación formal disponibles en herramientas como Marabou o ERAN: certifica o refuta monotonicidad (al aumentar la frecuencia cardiaca con el resto constante, la prioridad no debe disminuir), y robustez local (radio epsilon en norma infinito sobre cada signo vital). Reporta porcentaje de regiones certificadas y contraejemplos cuando los haya. Entrega un dossier interpretable para el comité.
El Briefing
Lo que harás y lo que demostrarás.
Certificar o refutar formalmente dos propiedades de seguridad sobre un clasificador clínico y reportar al comité de ética con interpretación accesible.
Earning criteria — what you'll demonstrate
- Aplicar verificación formal a redes neuronales pequeñas
- Especificar propiedades de seguridad en términos verificables
- Interpretar contraejemplos en contexto clínico
- Comunicar resultados formales a un comité no técnico
Encaje académico
Dónde encaja esto en tus estudios.
Afina las mismas habilidades que tu titulación espera de ti.
Habilidades
Habilidades que demostrarás.
Cada una aparece en tu credencial verificada.
Carreras
Roles para los que esto te prepara.
Títulos reales. Puentes de habilidades reales. Elige el que más se acerque a tu trayectoria.
Trayectorias profesionales que esto construye
Roles canónicosInvestigador/a de Seguridad en IA
Especificar y verificar propiedades formales sobre redes neuronales es trabajo de frontera de personas investigadoras de seguridad en IA aplicada a salud.
Este proyecto afina
- formal-verification
- neural-network-verification
- robustness-certification
Investigador/a de Aprendizaje Automático
Aplicar verificación formal y razonar sobre límites de las herramientas refleja el perfil de una persona investigadora ML con foco en seguridad.
Este proyecto afina
- formal-verification
- robustness-certification
- interpretability
Científico/a Aplicado/a de IA
Traducir resultados formales a una audiencia clínica y de ética es habilidad de una persona investigadora aplicada en salud.
Este proyecto afina
- interpretability
- technical-writing
- formal-verification