Extended thinking — Claude On Google Cloud

Wat is Extended Thinking?

Een geavanceerde functie die Claude tijd geeft om een query te redeneren voordat een definitief antwoord wordt gegenereerd.
Dit proces wordt vaak weergegeven als een afzonderlijk 'thinking block' in de chat-UI.
Doel: Het stelt Claude in staat om complexere taken met grotere nauwkeurigheid aan te pakken.

Trade-offs (Afwegingen)

Kosten: Je wordt betaald voor de tokens die Claude gebruikt tijdens de denkfase.
Latentie: Het proces duurt langer (verhoogde vertraging).

Wanneer Extended Thinking inschakelen?

Gebruik het wanneer je prompt-evaluaties (prompt evals) aantonen dat de nauwkeurigheid van de prompt niet voldoet aan de gewenste standaard.
Het is een stap om de prompt te verbeteren nadat er al veel inspanning is geleverd.

Structuur van de Respons

Wanneer Extended Thinking is ingeschakeld, bevat de respons twee hoofdblokken:
Thinking Block: Bevat de tekst die Claude heeft gegenereerd tijdens het denkproces.
Text Block: Bevat het uiteindelijke antwoord op de gebruiker.

Belangrijke Kenmerken van de Thinking Block

Signatuur (Signature): Een cryptografische token die ervoor zorgt dat de tekst in de thinking block niet is gemanipuleerd. Dit is cruciaal omdat Claude deze tekst zwaar gebruikt bij het genereren van de uiteindelijke respons.
Redacted Content: Soms ontvang je een thinking block met alleen 'redacted content' (geëigende inhoud) zonder daadwerkelijke tekst. Dit gebeurt wanneer Claude interne veiligheidssystemen activeert op zijn denkproces. De geëigende inhoud is echter beschikbaar voor contextbehoud.

Technische Implementatie (Code)

Aanpassen van de Chat Functie: Voeg de argument thinking toe (waarde true).
Thinking Budget:
Definieer een thinking_budget (aantal tokens voor het denken).
Het minimum budget is 1024 tokens.
Belangrijk: De max_tokens moet altijd groter zijn dan het thinking_budget.
Parameters: Als thinking is ingeschakeld, moet je een geneste dictionary toevoegen aan de parameters: thinking: {enabled: true, budget_tokens: [jouw budget]}.

Testen en Debugging

Testen van Redacted Content: Je kunt een speciaal opgemaakte string (bijv. "entropic magic string triggered redacted thinking") in de gebruikersvraag plaatsen om te forceren dat Claude een redacted thinking block terugstuurt. Dit is nuttig voor het testen van de robuustheid van je applicatie.

Takeaways

Extended Thinking geeft Claude tijd om te redeneren (via een Thinking Block), wat leidt tot hogere nauwkeurigheid bij complexe taken.
De afwegingen zijn hogere kosten (tokens) en een verhoogde latentie (langere verwerkingstijd).
De respons bestaat uit twee delen: de Thinking Block (het denkproces) en de Text Block (het uiteindelijke antwoord).
Om het in te schakelen, moet het argument thinking op true worden ingesteld en een thinking_budget worden gedefinieerd.
De parameter max_tokens moet altijd groter zijn dan het gedefinieerde thinking_budget.