Handling tool use responses

🤖 工具调用 (Tool Use) 关键概念笔记

🛠️ 工具配置与调用 (Tool Configuration)

• 工具定义： 通过 JSON Schema 描述工具的调用方式，并将其包含在 API 请求中。
• 工具配置 (tool_config)： 控制模型如何使用提供的工具。
• auto (默认)：模型自行决定是否使用工具。
• any：强制模型使用工具，但模型决定使用哪一个。
• tool_name：强制模型调用指定的工具名称（常用于测试）。

💬 模型响应结构变化 (Model Response Structure)

当模型决定使用工具时，响应结构发生显著变化：

• 停止原因 (stop_reason)： 必须为 tool_use，这明确指示模型需要执行工具调用。
• 助手消息 (assistant message)： content 列表不再是单一的文本部分，而是包含多个部分 (parts)。
• 文本部分 (text)： 模型给用户的初始回复（例如：“我可以帮你查询时间。”）。
• 工具使用部分 (tool_use)： 这是一个字典，通知开发者模型想要运行哪个工具。
• name：模型想要运行的工具的名称（来自 JSON Schema）。
• input：一个字典，包含模型希望传递给工具函数的参数

Takeaways

• 工具通过 JSON Schema 定义，并包含在 API 请求中。
• 工具配置 (tool_config) 可设置为 auto、any 或 tool_name 来控制模型使用工具的方式。
• 模型决定使用工具时，响应的停止原因 (stop_reason) 必须为 tool_use。
• 助手消息 (assistant message) 的内容不再是单一文本，而是包含多个 parts，包括文本部分 (text) 和工具使用部分 (tool_use)。