)
)
Ein Agent, der eine natürlichsprachige Frage in eine ausführbare Abfrage übersetzt, braucht das Schema als Grundwahrheit. Die Abfrage selbst zu erzeugen, ist selten das Problem. Schwierig ist der Schritt davor: die Begriffe der Frage den passenden Klassen und Eigenschaften der Ontologie zuzuordnen.
Der naheliegende Weg besteht darin, dem Modell die vollständige Ontologie in den Prompt zu legen. Dieses Whitepaper misst, was dabei passiert, wenn die Ontologie auf Unternehmensgröße wächst: Recall und F1 sinken, Latenz und Kosten steigen. Als Gegenentwurf wird eine Pipeline aus semantischer Suche und zwei deterministischen Erweiterungsschritten über die Graphstruktur evaluiert. Sie erreicht auf den Unternehmens-Benchmarks einen Recall von 0,89 bis 0,90, bei Kosten, die von der Größe der Ontologie praktisch unabhängig bleiben.
Warum Schema-Grounding der eigentliche Engpass ist.
Berichtsschichten haben strukturierte Daten zugänglich gemacht, indem sie Sichten um erwartete Fragen herum kuratiert haben. Wer die Frage vorher kannte, konnte die Antwort vorbereiten. Sprachmodelle verschieben diese Grenze: Ein Agent kann eine Frage entgegennehmen, das Schema als Grundwahrheit heranziehen und daraus eine ausführbare Abfrage erzeugen. Die Frage muss nicht mehr vorher bekannt sein.
Der Vorgang besteht aus drei Schritten: die Frage interpretieren, die gemeinten Schema-Entitäten bestimmen, die Abfrage erzeugen und ausführen. Der zweite Schritt ist in der Praxis der schwierigste. Sind die richtigen Klassen und Eigenschaften erst einmal identifiziert, ist SPARQL daraus zu bauen meist der leichtere Teil.
Daten als Wissensgraph abzubilden und die Ontologie als Kontext bereitzustellen, vereinfacht diesen Schritt erheblich. Entitäten und ihre Beziehungen liegen explizit vor, statt aus fragmentiertem Kontext erschlossen werden zu müssen.
Was bei Unternehmensgröße kippt.
Der Standardweg legt dem Modell die vollständige Ontologie vor und lässt es die relevanten Entitäten selbst auswählen. Das ist der einfachste Ansatz und skaliert schlecht. Drei Effekte treten gleichzeitig auf.
- Kosten: Die Eingabe wächst mit der Ontologie. Jede Frage wird teurer.
- Latenz: Mehr Tokens müssen verarbeitet werden, bevor die erste Entität feststeht.
- Trefferqualität: Das Modell muss wenige relevante Entitäten in einem langen, überwiegend irrelevanten Katalog finden. Genau in dieser Konstellation zeigen Modelle bekannte Schwächen beim Abruf aus langem Kontext.
Bei modularen Unternehmensontologien kommt ein vierter Effekt hinzu. Werden weitere Module ergänzt, entstehen für einzelne Fragen plausible, aber falsche Deutungsalternativen: ähnliche Begriffe tauchen in verschiedenen Domänen und Namensräumen erneut auf.
Eine Ontologie ist kein Dokument, das in einen Prompt passen muss. Sie ist ein semantisches System, das den Kontext eines Agenten einengen, ergänzen und begrenzen kann.
Die Konsequenz.
Full-Ontology-Prompting bleibt eine sinnvolle Vergleichsgrundlage. Als Betriebsmodell trägt es nicht, sobald das Unternehmensschema wächst. Die Alternative besteht darin, zuerst eine kleine Kandidatenmenge abzurufen und die fehlende lokale Struktur anschließend über den Graphen selbst zu ergänzen, ohne erneutes Lesen des gesamten Schemas durch das Modell.
Wie groß der Effekt ist, an welchen Modellen er gemessen wurde und was die Alternative im Betrieb kostet, zeigen die folgenden Kapitel.