Running tool functions

📝 Lernnotizen: Tool-Nutzung und Ergebnisrückführung

🛠️ 1. Tool-Ausführung (Tool Execution)

• Ziel: Identifizierung und Ausführung von Werkzeugfunktionen, die das Modell (z. B. Claude) anfordert.
• Parallelität: Es muss angenommen werden, dass das Modell mehrere Tool-Nutzungsanfragen gleichzeitig senden kann. Der Code muss dies verarbeiten.
• Extraktion:
• Die Funktion run_tools iteriert über die erhaltenen parts (Teile) der Chat-Anfrage.
• Es werden nur Teile extrahiert, die die Schlüsselinformation tool use enthalten.
• Tool-Aufruf: Für jede extrahierte Anfrage werden folgende Daten extrahiert:
• tool use ID (Eindeutige Kennung der Anfrage).
• name (Name der zu ausführenden Funktion).
• input (Argument(e) für die Funktion).
• Funktionsaufruf: Die Hilfsfunktion run_tool führt die eigentliche Funktion aus.
• Wichtig: Die Eingabedaten (Dictionary) des Modells müssen in die Funktion "splattiert" (unpacked) werden.
• Fehlerbehandlung (Tool-Name): Es muss geprüft werden, ob der angeforderte name mit einer existierenden Funktion übereinstimmt. Bei einem Tippfehler (Unknown Tool Name) muss eine Ausnahme ausgelöst werden.

🔄 2. Tool-Ergebnis-Generierung (Tool Result Generation)

• Ziel: Das Ergebnis der Tool-Ausführung an das Modell zurücksenden, damit es die finale Antwort generieren kann.
• Struktur des Tool Result Parts:
• Der Teil enthält den Schlüssel tool result.
• tool use ID: Muss exakt mit der ID der ursprünglichen Anfrage übereinstimmen, um die Zuordnung zu gewährleisten.
• content: Die Ausgabe der Tool-Funktion, die als String serialisiert werden muss.
• status: Ein Flag, das entweder success oder error sein muss.
• Fehlerbehandlung (Ausführung):

Takeaways

• Die Tool-Ausführung muss parallel mehrere Tool-Nutzungsanfragen gleichzeitig verarbeiten können.
• Die Extraktion von Tool-Aufrufen erfolgt durch das Iterieren über Chat-Teile und das Filtern nach dem Schlüssel "tool use" (ID, Name, Input).
• Die Funktion run_tool muss die Eingabedaten (Dictionary) "splattieren" (unpack) und den angeforderten Tool-Namen auf Existenz prüfen.
• Das Tool-Ergebnis wird im tool result Part zurückgesendet und muss über die tool use ID exakt mit der ursprünglichen Anfrage verknüpft werden.