Making a request

Studiennotizen: Vertex AI mit Anthropic SDK

**I. Setup und Initialisierung**

• SDK Installation: Das Anthropic Python SDK muss installiert werden (z. B. mittels pip install anthropic-vertex).
• API Client Erstellung: Ein spezieller Client (AnthropicVertex) wird erstellt, um die Verbindung zu Vertex herzustellen.
• Client-Parameter: Beim Erstellen des Clients müssen zwei Schlüsselargument (Keyword Arguments) übergeben werden:
• region (z. B. global).
• Project ID (Die eindeutige ID des Google Cloud Projekts).
• Modelldefinition: Die gewünschte spezifische Modellversion wird einer Variablen zugewiesen (z. B. clod-sonnet-4@20250514).

**II. Die client. create() Funktion**

• Zweck: Diese Funktion wird verwendet, um eine Anfrage an das Modell zu senden.
• Erforderliche Argument: Die Funktion benötigt drei Schlüsselargument:
• model: Der Name des zu verwendenden Modells.
• max_tokens: Definiert das maximale Budget für die Token-Generierung.
• Wichtig: Dies ist ein Sicherheitsmechanismus, kein Zielwert. Das Modell generiert so lange, bis es fertig ist, aber stoppt bei Überschreitung.
• messages: Eine Liste, die den gesamten Konversationsverlauf darstellt.

**III. Nachrichten (Messages)**

• Struktur: Nachrichten sind Dictionaries, die eine role (Rolle) und einen content (Inhalt) enthalten.
• Nachrichtstypen:
• User Message: Enthält den Text, der vom Benutzer oder Entwickler bereitgestellt wird (Input).
• Assistant Message: Enthält den Text, der vom Modell generiert und zurückgesendet wird (Output).

**IV. Datenzugriff**

• Nesting: Die Antwort des Modells ist tief verschachtelt.
• Text-Extraktion: Um nur den generierten Text zu erhalten, muss auf die entsprechende Struktur zugegriffen werden: message. content[0]. text.

Takeaways

• Der Client AnthropicVertex muss zur Verbindung zu Vertex mit region und Project ID initialisiert werden.
• Die Anfrage an das Modell erfolgt über die Funktion client. create(), welche model, max_tokens und messages benötigt.
• Nachrichten müssen eine role (User oder Assistant) und einen content enthalten, um den Konversationsverlauf zu definieren.
• max_tokens dient als Sicherheitsmechanismus und definiert das maximale Budget für die Token-Generierung.
• Der generierte Text muss aus der tief verschachtelten Antwortstruktur über message. content[0]. text extrahiert werden.