Übersicht
Worum es bei diesem Projekt geht.
Sie erhalten ein bereits trainiertes Gesichtserkennungs-Modell (ResNet-50, fine-getuned auf einer synthetischen 5.000-Personen-Datenbank) sowie API-Zugang. Implementieren Sie drei Inversion-Attacks: (1) klassisches Model-Inversion (Fredrikson 2015), (2) GAN-basierte Inversion (Wang 2021), (3) Black-Box-Inversion via Hard-Label-Query. Quantifizieren Sie: Rekonstruktions-Qualität (FID, perzeptuelle Ähnlichkeit), Anzahl benötigter Queries, Erfolgs-Schwelle. Empfehlen Sie mindestens drei Mitigations (z. B. DP-SGD, Output-Perturbation, Query-Limits) und implementieren Sie eine prototypisch. Liefern Sie einen 6-seitigen Audit-Bericht für die CTO-Ebene.
Das Briefing
Was Du tust und was Du zeigst.
Wie anfällig ist ein produktives Gesichtserkennungs-Modell gegen drei Standard-Model-Inversion-Attacks, und welche Mitigations sind tatsächlich wirksam?
Earning criteria — what you'll demonstrate
- Drei moderne Inversion-Attack-Familien praktisch implementieren
- Privacy-Risiko quantitativ statt anekdotisch ausdrücken
- Mitigations gegen ihre Wirksamkeit empirisch testen
- Sicherheits-Befunde auf regulatorische Anforderungen (EU AI Act) abbilden
Studienpassung
Wo dies in Dein Studium passt.
Schärft dieselben Fähigkeiten, die Dein Studium von Dir erwartet.
Fähigkeiten
Fähigkeiten, die Du unter Beweis stellst.
Jede taucht auf Deinem verifizierten Zertifikat auf.
Karrieren
Berufe, auf die dies Dich vorbereitet.
Echte Berufsbezeichnungen. Echte Skill-Brücken. Wähle die, die Deinem Werdegang am nächsten kommt.
Karrierewege, die das aufbaut
Kanonische RollenKI-Sicherheits-Forscher:in
Inversion-Audit mit EU-AI-Act-Mapping ist 2026 ein extrem gesuchtes Profil in europäischen High-Risk-AI-Unternehmen und Beratungs-Häusern.
Dieses Projekt schärft
- model-inversion
- adversarial-attacks
- eu-ai-act
Angewandte:r KI-Wissenschaftler:in
Wer Privacy-Risiken quantifiziert und auf regulatorische Anforderungen abbildet, übt die Brückenrolle, die Applied AI Scientists in Compliance-getriebenen Industrien einnehmen.
Dieses Projekt schärft
- model-inversion
- eu-ai-act
- evaluation
ML-Forscher:in
Attack-und-Defense-Forschung ist publikationsnah (USENIX Security, IEEE S&P); diese Erfahrung qualifiziert für Privacy-/Security-Research-Tracks.
Dieses Projekt schärft
- adversarial-attacks
- differential-privacy
- model-inversion
Noch eine Sache