Meine Rolle: Projektleitung, Ideation & Qualitätssicherung (LLM-as-a-Judge)
Ausgangslage
Ein juristischer Fachverlag wollte nicht nur KI nutzen, sondern ein eigenes KI-Produkt anbieten: einen Chatbot, der auf den Fachinhalten des Verlags aufsetzt und den Kundinnen und Kunden etwas bietet, was generische Assistenten nicht können. Die Fragen zu Beginn waren die typischen eines Produktvorhabens: Welcher Use Case trägt? Was sind die USPs, die das Produkt vom Standard-Chatbot abheben? Und wie kommt man von der Idee verlässlich zu einem Produkt, das am Markt bestehen kann?
Vorgehen
Ich habe das Vorhaben durchgängig begleitet — von der Ideation bis zum Go-Live:
- Ideation: Use Cases entwickeln, bewerten und schärfen; die kundenspezifischen USPs herausarbeiten, die den Chatbot über einen generischen Assistenten hinausheben.
- Projektleitung: Anforderungen, Priorisierung, Steuerung der Entwicklung, Abstimmung mit Fachbereichen und Geschäftsführung — das Vorhaben als Produktprojekt führen, nicht als Technik-Experiment.
- Qualitätssicherung mit LLM-as-a-Judge: Statt Antworten stichprobenartig von Hand zu prüfen, bewertet ein zweites Sprachmodell die Antworten des Bots systematisch nach definierten Kriterien — etwa fachliche Korrektheit, Bezug auf die Verlagsinhalte und Tonalität. So wird jede Iteration messbar, Verschlechterungen fallen sofort auf, und Qualität wird zu einem wiederholbaren Prozess statt zu einem Bauchgefühl.
- Weg zum Markt: alles, was ein Produkt-Launch verlangt — Klärung der Verantwortlichkeiten, Betrieb, rechtliche und Datenschutzfragen, Vorbereitung von Kommunikation und Support — bis zum Go-Live.
Ergebnis
Der Chatbot ist fertig entwickelt und am Markt. Der Verlag hat ein eigenes KI-Produkt mit klaren USPs — und mit LLM-as-a-Judge einen Qualitätsprozess, der über den Launch hinaus trägt: Jede Weiterentwicklung wird gegen dieselben Kriterien geprüft, bevor sie Kundinnen und Kunden erreicht.