Übersicht
Worum es bei diesem Projekt geht.
Du bekommst 3.500 anonymisierte Schriftsätze (rund 20 MB Text), die Kanzlei-Style-Guide und Zugriff auf eine RTX-4090. Setze QLoRA mit bitsandbytes auf, trainiere zwei Varianten (instruction-tuned vs. continued-pretraining-stil), evaluiere mit einem Benchmark aus 50 ausgewählten realistischen Schriftsatz-Prompts (manuell durch eine:n Partneranwält:in bewertet) und vergleiche mit dem Basismodell. Liefere reproduzierbare Skripte, Evaluations-Ergebnisse und eine 3-seitige Anleitung für die IT der Kanzlei.
Das Briefing
Was Du tust und was Du zeigst.
Fine-tune ein 7-8B-LLM mit QLoRA auf einer einzigen RTX-4090 für juristische Schriftsätze einer Boutique-Kanzlei und belege die Qualitätsverbesserung gegenüber dem Basismodell.
Earning criteria — what you'll demonstrate
- QLoRA als kombinierte 4-Bit-Quantisierungs- und LoRA-Methode praktisch anwenden
- LLM-Fine-Tuning unter strengen VRAM-Constraints (24 GB) planen
- Eine domänenspezifische LLM-Evaluation mit menschlichen Bewertungen aufsetzen
- Eine On-Premise-Inferenz-Anleitung für eine Nicht-Tech-Organisation schreiben
Studienpassung
Wo dies in Dein Studium passt.
Schärft dieselben Fähigkeiten, die Dein Studium von Dir erwartet.
Fähigkeiten
Fähigkeiten, die Du unter Beweis stellst.
Jede taucht auf Deinem verifizierten Zertifikat auf.
Karrieren
Berufe, auf die dies Dich vorbereitet.
Echte Berufsbezeichnungen. Echte Skill-Brücken. Wähle die, die Deinem Werdegang am nächsten kommt.
Karrierewege, die das aufbaut
Kanonische RollenML-Ingenieur:in
On-Premise-Fine-Tuning unter harten Hardware-Constraints für eine sensible Domäne ist eine wachsende Klasse von Aufgaben für ML-Ingenieurinnen in regulierten Branchen.
Dieses Projekt schärft
- qlora
- lora
- supervised-fine-tuning
KI-Ingenieur:in
Den ganzen On-Prem-Stack inklusive Quantisierung und Deploy für eine Kanzlei aufzubauen entspricht der Arbeit von KI-Ingenieurinnen in Boutique-Beratungen und Legal-Tech-Startups.
Dieses Projekt schärft
- quantization
- huggingface
- qlora
NLP-Ingenieur:in
Domänenspezifisches Fine-Tuning + menschliche Evaluation ist eine wiederkehrende Verantwortung von NLP-Ingenieurinnen in Fachverlagen und Kanzleien.
Dieses Projekt schärft
- llm-evaluation
- supervised-fine-tuning
- huggingface
Noch eine Sache