Red-Teaming-Kampagne für ein Customer-Service-Chatbot-Deployment
Übersicht
Worum es bei diesem Projekt geht.
Du testest einen Telekom-Chatbot mit 30 Angriffsvorlagen pro Risiko-Kategorie und erhältst ein verifizierbares Zertifikat.
Das Szenario
Der Telekommunikationsanbieter hat etwa 16.000 Mitarbeitende, sitzt im Großraum Bonn und ist nach BSI-IT-Grundschutz (Bundesamt für Sicherheit in der Informationstechnik — Grundschutzkatalog) zertifiziert. Der CISO hat das Red-Teaming als Voraussetzung für den Vollroll-Out gesetzt.
Das Briefing
Was Du tust und was Du zeigst.
Wie identifiziert man systematisch die Sicherheits- und Reputationsrisiken eines Customer-Service-Chatbots und welche Mitigations bringen den größten Schutz pro Aufwand?
Earning criteria — what you'll demonstrate
- Strukturierte Red-Teaming-Kampagnen für LLM-Deployments planen
- Jailbreak- und Prompt-Injection-Angriffe systematisch katalogisieren
- Mitigations-Architekturen entwerfen und auf erwartete Wirkung bewerten
- Sicherheits-Befunde für eine Geschäftsführungs-Ebene aufbereiten
Studienpassung
Wo dies in Dein Studium passt.
Schärft dieselben Fähigkeiten, die Dein Studium von Dir erwartet.
AI Safety and Alignment
Master · Responsible Ai
Strong alignment
This challenge maps to AI Safety and Alignment at the Master level. It sharpens the same practical skills your coursework expects — but in a real industry context with actual constraints and deliverables.
Fähigkeiten
Fähigkeiten, die Du unter Beweis stellst.
Jede taucht auf Deinem verifizierten Zertifikat auf.
- Red Teaming
Apply red teaming to solve real industry problems and demonstrate production-level capability.
- Jailbreak Defense
Apply jailbreak defense to solve real industry problems and demonstrate production-level capability.
- Prompt Injection
Apply prompt injection to solve real industry problems and demonstrate production-level capability.
- Risk Categorization
Apply risk categorization to solve real industry problems and demonstrate production-level capability.
- Mitigation Design
Apply mitigation design to solve real industry problems and demonstrate production-level capability.
- Python
Write clean, efficient Python for data processing, automation, and backend services.
- Security Reporting
Apply security reporting to solve real industry problems and demonstrate production-level capability.
Karrieren
Berufe, auf die dies Dich vorbereitet.
Echte Berufsbezeichnungen. Echte Skill-Brücken. Wähle die, die Deinem Werdegang am nächsten kommt.
AI Safety Researcher
Red-Teaming ist ein Kerngebiet der angewandten AI Safety. Die Challenge übt die volle Kette von Bedrohungsmodellierung bis zur CISO-Vorlage und entspricht dem Tagesgeschäft in Foundation-Model-Sicherheitsteams.
Dieses Projekt schärft
- red-teaming
- jailbreak-defense
- prompt-injection
AI Engineer
AI Engineers, die produktive LLM-Deployments verantworten, müssen die Sicherheits-Schichten verstehen und mitkonstruieren. Die Mitigations-Architektur dieser Challenge ist genau die Engineering-Sicht.
Dieses Projekt schärft
- mitigation-design
- python
- security-reporting
AI Solutions Architect
Solutions Architects bei Telekommunikations- und Großkunden-Beratern liefern strukturierte Risiko-Audits dieser Art als Standard-Produkt. Die Challenge baut die methodische Grundlage.
Dieses Projekt schärft
- risk-categorization
- mitigation-design
- security-reporting
Noch eine Sache