System prompts

📝 Lernnotizen: Chatbot-Implementierung mit System Prompts

Ziel: Entwicklung eines AWS-Support-Chatbots, der spezifische Anforderungen erfüllt.

Anforderungen an die Chatbot-Antwort:

• Muss die Benutzerfrage direkt beantworten (z. B. Hosting von Postgres).
• Soll verschiedene Hosting-Methoden auf AWS auflisten.
• Soll den Benutzer durch erste Einrichtungsschritte führen.
• Soll verwandte AWS-Dienste erwähnen.

Einschränkungen (Was nicht enthalten sein darf):

• Keine Erwähnung von Lösungen von Konkurrenten.
• Keine Antworten auf Fragen, die nicht mit Cloud-Diensten zusammenhängen (z. B. "Rezept für Brot").

Implementierungsoptionen:

• Option 1 (Ineffizient): Alle Regeln (Do's und Don'ts) werden in der Benutzer-Nachricht (User Message) aufgelistet.
• Nachteil: Sehr mühsam, da eine umfassende Liste für jede mögliche Frage erstellt werden müsste.
• Option 2 (Empfohlen): Verwendung eines System Prompts.
• Ein System Prompt gibt der KI (z. B. Claude) Anweisungen, wie sie antworten soll.
• Dies geschieht durch die Zuweisung einer Rolle (Role Assignment).
• Beispiel: "Du bist ein AWS Cloud Support Specialist. "
• Vorteil: Die KI wird gezwungen, sich wie ein echter Spezialist zu verhalten (z. B. Konkurrenten vermeiden, off-topic Fragen höflich ablehnen).

Technische Umsetzung (API/Code):

• System Prompt: Wird über einen speziellen Schlüssel (Keyword) in den API-Aufruf (z. B. converse call) übergeben.
• Initialer Test: Ein hartkodierter System Prompt funktioniert, um die gewünschte Verhaltensänderung zu erzielen.
• Refactoring: Die Chat-Funktion sollte so umgeschrieben werden, dass der System Prompt als Parameter übergeben werden kann, um Wiederverwendbarkeit zu gewährleisten.
• Wichtiger Hinweis: Der System Prompt muss mindestens einen Charakter enthalten (keine leeren Strings).

Takeaways

• Der System Prompt definiert die Rolle der KI (z. B. AWS Cloud Support Specialist) und steuert ihr Verhalten sowie ihre Antwortregeln.
• Regeln und Einschränkungen sollten im System Prompt festgelegt werden, da die Auflistung in der Benutzer-Nachricht ineffizient ist.
• Der System Prompt wird technisch über einen speziellen Schlüssel (Keyword) im API-Aufruf übergeben.
• Für Wiederverwendbarkeit sollte die Chat-Funktion so refactored werden, dass der System Prompt als Parameter übergeben werden kann.