Extended thinking

Claude 扩展思考 (Extended Thinking) 学习笔记

一、 核心概念与权衡 (Core Concepts & Trade-offs)

• 定义： 扩展思考允许 Claude 在生成最终回复前，先进行推理和思考过程。
• 作用： 帮助 Claude 处理更复杂的任务，提高准确性。
• 权衡 (Trade-offs)：
• 成本增加：用户需为思考阶段生成的 Token 付费。
• 延迟增加：思考过程需要一定时间完成。
• 启用时机： 当通过提示评估 (Prompt Evals) 发现回复准确性不达标，且已投入大量精力优化提示时，应考虑启用扩展思考。

二、 机制与结构 (Mechanism & Structure)

• 响应结构变化： 启用扩展思考后，返回的响应不再仅包含标准的 text block，而是包含一个新的 thinking block。
• 思考块 (Thinking Block)： 包含 Claude 在思考过程中生成的文本。
• 签名 (Signature)：
• 定义：思考块内的一个加密令牌 (cryptographic token)。
• 作用：确保思考文本在传输过程中未被修改。这对于维持上下文和防止模型被引导至不安全方向至关重要。
• 被审查内容 (Redacted Content)：
• 发生条件：当 Claude 生成的思考文本被内部安全系统标记时。
• 形式：实际的思考文本以完全加密的形式提供，以便在后续对话中保持上下文完整性。

三、 技术实现 (Technical Implementation)

• 启用参数： 在调用聊天函数时，需提供额外的参数：
• thinking (布尔值)：启用或禁用思考。
• thinking_budget (整数)：允许 Claude 用于思考部分的 Token 数量。
• 预算限制：
• thinking_budget 的最小值是 1024。
• max_tokens 必须大于 thinking_budget。
• 示例： 如果 thinking_budget 为 1024，则 max_tokens 需大于 1024。
• 代码配置： 如果启用思考，需在 params 字典中添加一个嵌套的 thinking 字典，包含 enabled 和 budget_tokens。
• 测试： 可以通过发送特定的“思考测试字符串”来强制 Claude 返回一个被审查的思考块，用于测试应用程序对异常响应的处理能力。

Takeaways

• 扩展思考允许 Claude 在生成最终回复前进行推理，旨在提高复杂任务的准确性。
• 启用扩展思考的权衡是成本增加（需为思考阶段Token付费）和延迟增加。
• 响应结构会发生变化，新增一个包含思考过程的 thinking block。
• 技术实现需在调用函数时提供 thinking (布尔值) 和 thinking_budget (整数) 参数。