LLM-MVC: Ein Entwurfsmuster zur Strukturierung von LLM-Standardaufgaben mit generischen Prompts

Systeme mit 100 oder mehr Prompts sind bei modernen LLM-Anwendungen nicht unüblich – eine Herausforderung in Bezug auf Wiederverwendbarkeit und Wartbarkeit. In diesem Vortrag stellen wir ein praxisnahes Entwurfsmuster für LLM-getrieben Prozesse vor, das in vielen Fällen helfen kann, Standardaufgaben klarer zu strukturieren und die Anzahl der benötigten Prompts stark zu verringern.

Um das zu erreichen, übertragen wir die konzeptionellen Ideen hinter der klassischen Model-View-Controller-(MVC)-Architektur auf LLM-Prozesse. Die Schnittstellen zwischen den Komponenten werden dabei durch generische Prompts realisiert und können unabhängig vom Anwendungsfall wiederverwendet werden.

Vorkenntnisse

Wir setzen lediglich voraus, dass die Zuhörer mit den Standardbegriffen aus dem LLM-Umfeld vertraut sind, da diese nicht explizit erklärt werden.

Lernziele

Wir wollen exemplarisch zeigen wie man abseits von PoCs auf strukturierte Art und Weise mit LLMs arbeiten kann. Im Vortrag werden wir dabei auf folgende Aspekte genauer eingehen:

• Warum brauchen wir auch im LLM-Kontext standardisierte Entwurfsmuster
  
• Was sind generische Prompts und (indirekte) LLM-Prozesse
  
• Wie kann man diese Konzepte verwenden um Aufgaben zu strukturieren und die Anzahl verschiedener Prompts zu reduzieren
  
• Für welche Anwendungsfälle ist das vorgestellte Entwurfsmuster nutzbar
  
• Welche Erfahrungen haben wir damit in der Praxis gesammelt (wir haben den Ansatz in mehrere große Produktivsysteme integriert)