Multi-Turn conversations

Studiennotizen: Kontextverwaltung in Bedrock

• Keine automatische Speicherung: Bedrock und die Cloud speichern keine Nachrichten oder Antworten aus einer Konversation.
• Manuelle Kontextverwaltung: Um einen mehrstufigen Dialog (Multi-Turn Conversation) zu ermöglichen, muss der Entwickler die gesamte Konversationshistorie manuell pflegen.
• Übermittlung der Historie: Bei jeder neuen Anfrage (Follow-up) muss die gesamte Liste aller bisher ausgetauschten Nachrichten an die API gesendet werden.
• Ablauf der Konversation:
• Sende die initiale Benutzeranfrage (User Message).
• Erhalte die Antwort des Assistenten (Assistant Response).
• Füge die Assistant Response zur Nachrichtenliste hinzu.
• Sende die nächste Benutzeranfrage zusammen mit der vollständigen Nachrichtenliste.
• Wiederhole den Prozess.
• Wichtiges Prinzip (Rollenwechsel): Die Nachrichtenliste muss immer abwechselnde Rollen enthalten. Es dürfen niemals zwei aufeinanderfolgende Nachrichten derselben Rolle existieren (z. B. User → User ist nicht erlaubt).
• Korrekte Abfolge: User → Assistant → User → Assistant.

Takeaways

• Bedrock speichert Konversation und Nachrichten nicht automatisch.
• Für mehrstufigen Dialog muss der Entwickler die gesamte Konversationshistorie manuell pflegen.
• Bei jeder neuen Anfrage muss die gesamte Liste aller bisher ausgetauschten Nachrichten an die API gesendet werden.
• Die Nachrichtenliste muss immer abwechselnde Rollen enthalten (z. B. User → Assistant → User).