System prompts

Studie-opmerkingen: Chatbot Implementatie met System Prompts

Doel van de Chatbot (AWS Support Specialist)

• De chatbot moet vragen direct beantwoorden.
• De antwoorden moeten AWS-specifieke oplossingen bevatten (bijv. hoe je Postgres host).
• De chatbot moet gerelateerde AWS-diensten aanbevelen.
• Beperkingen (Do's & Don'ts):
• → Geen antwoorden over concurrenten.
• → Alleen vragen over cloud-diensten beantwoorden.
• → Vragen buiten het domein (bijv. "recept") beleefd weigeren.

Implementatiemethoden

• Optie 1 (Niet aanbevolen): Alle regels (do's en don'ts) in de gebruikersvraag opnemen. Dit is omslachtig en vereist een zeer uitgebreide lijst.
• Optie 2 (Aanbevolen): Gebruik van een System Prompt.

Wat is een System Prompt?

• Een instructie die de AI een specifieke rol geeft (bijv. "Je bent een AWS cloud support specialist").
• Het dwingt het model om consistent te reageren in de stijl van die rol.
• Dit zorgt ervoor dat het model automatisch de beperkingen (geen concurrenten, alleen cloud) naleeft.

Technische Implementatie

• Doorgeven van de Prompt: De system prompt wordt doorgegeven aan de converse functie via de system keyword (een lijst met een dictionary).
• Refactoring: De chatfunctie moet worden aangepast om de system prompt als parameter te accepteren, in plaats van deze hardcoded te laten staan.
• Belangrijke Regel: Een system prompt mag niet leeg zijn; deze moet minimaal één karakter bevatten.

Takeaways

• De chatbot moet AWS-specifieke vragen direct beantwoorden en gerelateerde AWS-diensten aanbevelen.
• Om beperkingen (zoals geen antwoorden over concurrenten) consistent te handhaven, is een System Prompt vereist.
• Een System Prompt definieert de rol van de AI (bijv. AWS cloud support specialist) en dwingt het model tot consistente reacties.
• Technisch wordt de System Prompt doorgegeven aan de converse functie via de system keyword.
• De System Prompt mag nooit leeg zijn; deze moet minimaal één karakter bevatten.