12.11.2026
09:00 - 09:45

Track
Test & AI

Stage 4

Dr. Mark Menzel
Landeshauptstadt München

Liest du noch oder testest du schon? – Wie Large Language Models Inkonsistenzen, Lücken und Risiken in Projektdokumenten erkennen

In vielen Softwareprojekten umfassen Fachkonzepte und Systemspezifikationen hunderte Seiten. Sie bilden die Grundlage für Architektur, Implementierung und Test, sind jedoch häufig unvollständig, widersprüchlich oder schwer zugänglich. Für Testteams bedeutet das hohen manuellen Analyseaufwand, späte Fehlererkennung und eine fehleranfällige Ableitung von Testartefakten.

Der Vortrag stellt ein **strukturiertes Vorgehensmodell zur LLM-gestützten Spezifikationsanalyse im Testkontext** vor. Ziel ist es, große Projektdokumente systematisch zu analysieren, Inkonsistenzen sichtbar zu machen und daraus effizient testrelevante Artefakte sowie Testkonzepte abzuleiten.

Der Ansatz basiert auf einem vierstufigen Analyseworkflow:

1. Orientierung über Projektziel und Rahmenbedingungen
2. Extraktion von Anforderungen, Prozessen und Schnittstellen
3. Strukturierung entlang typischer Testkonzept-Bestandteile
4. Konsistenzprüfung auf Lücken, Widersprüche und Risiken

Die Interaktion mit dem Large Language Model erfolgt über gezielte Prompting-Strategien zur Analyse, Strukturierung und Prüfung von Spezifikationen. Durch diesen konsequenten Shift-Left-Ansatz wird die Qualitätssicherung bereits in die frühe Spezifikationsphase verlagert. Inkonsistenzen, fehlende Anforderungen und widersprüchliche Annahmen lassen sich so frühzeitig erkennen und der manuelle Analyseaufwand deutlich reduzieren.
Der Ansatz wurde im Kontext der Landeshauptstadt München entwickelt und in einem KI-gestützten Analyseassistenten namens Dokumenta umgesetzt, basierend auf MUCGPT, der KI-Plattform der Landeshauptstadt München.

**Anhand realer Projektkontexte wird der Ansatz demonstriert.**

Im **Projekt RIS-KI** wurden Fachkonzept und Systemspezifikation analysiert, um Testgegenstände wie Dokumentanalysefunktionen, Schnittstellen zum Ratsinformationssystem sowie Anforderungen an Nachvollziehbarkeit und Datenschutz abzuleiten

Ein weiteres Beispiel ist die Einführung des **Ticketing-Systems Zammad**, bei der Spezifikationen zu Ticketprozessen, Rollenmodellen und Systemintegrationen analysiert wurden, um Testfälle für Workflows, Rollenverwaltung und Integrationen zu identifizieren.
Diese Beispiele zeigen, wie sich aus umfangreichen Spezifikationen systematisch Testkonzepte und testrelevante Artefakte ableiten lassen und welche Inkonsistenzen oder Lücken dabei in den Ausgangsdokumenten sichtbar werden.

Der vorgestellte Ansatz ist nicht auf ein einzelnes Softwareentwicklungs-Projekt beschränkt, sondern lässt sich auf unterschiedliche Spezifikationstypen übertragen. Die Erfahrungen zeigen zudem, welche Arten von Inkonsistenzen Large Language Models zuverlässig erkennen können und wo ihre Grenzen liegen.

Der Beitrag stellt ein methodisch ausgearbeitetes Vorgehensmodell dar, dessen Kern in der Kombination aus Analyseworkflow, Prompting-Strategien und Zielstruktur zur Ableitung von Testartefakten liegt. Damit wird beschrieben, wie sich aus umfangreichen Projektdokumenten reproduzierbar testrelevante Informationen extrahieren, strukturieren und in Testkonzepte überführen lassen.

Dr. Mark Menzel, Landeshauptstadt München

Dr. Mark Menzel verfügt über mehr als 25 Jahre Erfahrung im Bereich Software-Qualität und Testmanagement. Nach seiner Promotion in Business Administration spezialisierte er sich auf KI-basierte Testverfahren. Als Testmanager bei der Landeshauptstadt München leitet er Testprojekte für die Landeshauptstadt München. Darüber hinaus ist er als Hochschuldozent und Mentor tätig und erforscht, wie KI das Testen revolutionieren kann.