Bias- und Fairness-Audit eines deutschen Konzern-LLMs
Übersicht
Worum es bei diesem Projekt geht.
Du erhältst die System-Prompt-Konfiguration des Assistenten, einen Trace von 500 anonymisierten Beispiel-Interaktionen und ein vom Betriebsrat freigegebenes Testdesign. Implementiere (1) Counterfactual-Testfälle (gleicher Inhalt, verändertes Gender/Herkunfts-Signal); (2) automatische Auswertung mit LLM-as-judge plus regelbasierter Sprache (Wortlisten zu Stereotypen); (3) Aggregations-Metriken pro Demografie. Liefere Audit-Repository, Bericht (8 Seiten), Risiko-Matrix und eine klare Freigabe-/Rückhalte-Empfehlung mit Auflagen.
Das Briefing
Was Du tust und was Du zeigst.
Welche Bias-Risiken bestehen im internen Personalentwicklungs-LLM, und unter welchen Auflagen ist ein Roll-out vertretbar?
Earning criteria — what you'll demonstrate
- Counterfactual-Testfälle für LLM-Audit systematisch entwerfen
- LLM-as-judge mit regelbasierter Ergänzung kombinieren
- Bias-Risiken pro Demografie aggregieren und kommunizieren
- Eine ethische Empfehlung gegenüber einem Betriebsrat vertreten
Studienpassung
Wo dies in Dein Studium passt.
Schärft dieselben Fähigkeiten, die Dein Studium von Dir erwartet.
Fähigkeiten
Fähigkeiten, die Du unter Beweis stellst.
Jede taucht auf Deinem verifizierten Zertifikat auf.
Karrieren
Berufe, auf die dies Dich vorbereitet.
Echte Berufsbezeichnungen. Echte Skill-Brücken. Wähle die, die Deinem Werdegang am nächsten kommt.
KI-Sicherheitsforscher:in
Bias- und Fairness-Audits gegenüber Betriebsräten sind eine Kerntätigkeit von KI-Sicherheitsforscher:innen in deutschen Konzernen.
Dieses Projekt schärft
- bias-evaluation
- fairness-auditing
- ethics
ML-Forscher:in
Counterfactual-Testdesigns und Aggregations-Metriken sind direkte ML-Forschungs-Werkzeuge, die in industrieller Sicherheitsforschung gebraucht werden.
Dieses Projekt schärft
- counterfactual-testing
- llm-evaluation
- bias-evaluation
KI-Produktmanager:in
Roll-out-Empfehlungen unter Mitbestimmungs-Bedingungen zu vertreten ist eine Aufgabe, die KI-PMs in HR-Tech und Konzern-IT regelmäßig erfüllen.
Dieses Projekt schärft
- documentation
- ethics
- fairness-auditing
Noch eine Sache