Saliency-Audit für ein Computer-Vision-Modell im autonomen Fahren
Übersicht
Worum es bei diesem Projekt geht.
Du erhältst ein vortrainiertes Hindernis-Erkennungs-CNN, 500 markierte Testbilder und die Safety-Checkliste der Probandenstrecke. Wende Grad-CAM und Integrated Gradients an, führe die Sanity Checks von Adebayo et al. durch und sortiere die Ergebnisse in eine Galerie: 'plausibel', 'verdächtig', 'klarer Shortcut'. Liefere Notebook, Galerie und 4-seitigen Audit-Bericht für die Safety-Verantwortliche.
Das Briefing
Was Du tust und was Du zeigst.
Audit ein Hindernis-Erkennungs-Modell per Saliency-Methoden und identifiziere belastbare Hinweise auf Shortcut Learning vor der Probandenstrecken-Abnahme.
Earning criteria — what you'll demonstrate
- Saliency-Methoden korrekt auf produktive CV-Modelle anwenden
- Sanity Checks nutzen, um irreführende Saliency-Karten zu entlarven
- Shortcut-Learning empirisch erkennen und kommunizieren
- Audit-Ergebnisse für Safety-Teams aufbereiten
Studienpassung
Wo dies in Dein Studium passt.
Schärft dieselben Fähigkeiten, die Dein Studium von Dir erwartet.
Fähigkeiten
Fähigkeiten, die Du unter Beweis stellst.
Jede taucht auf Deinem verifizierten Zertifikat auf.
Karrieren
Berufe, auf die dies Dich vorbereitet.
Echte Berufsbezeichnungen. Echte Skill-Brücken. Wähle die, die Deinem Werdegang am nächsten kommt.
Karrierewege, die das aufbaut
Kanonische RollenKI-Sicherheits-Forscher:in
Saliency-Audits in einer Safety-relevanten Domäne mit strengen Sanity Checks zu liefern ist eine der konkretesten Erstaufgaben in KI-Sicherheits-Teams.
Dieses Projekt schärft
- saliency-methods
- explainable-ai
- model-debugging
Computer-Vision-Ingenieur:in
Shortcut-Diagnose und Modell-Debugging gehören zum täglichen Werkzeugkasten von Computer-Vision-Ingenieurinnen in Mobility-Startups.
Dieses Projekt schärft
- grad-cam
- model-debugging
- python
ML-Forscher:in
Saliency-Sanity-Checks methodisch sauber durchzuführen ist genau die Art von Methoden-Rigorosität, die ML-Forschende in Safety-/Robustness-Linien brauchen.
Dieses Projekt schärft
- integrated-gradients
- saliency-methods
- explainable-ai
Noch eine Sache