Making a request

📚 AWS Bedrock API 基础学习笔记

🎯 核心目标

• 通过 API 请求向 AWS Bedrock 发送请求，运行模型并生成文本。

🛠️ API 请求所需要素

要成功发起 Bedrock 请求，需要准备三个关键要素：

• 客户端 (Client): 使用 Boto3 Python 模块创建，用于访问 Bedrock。
• 模型 ID (Model ID): 目标模型的唯一标识符（字符串）。
• 用户消息 (User Message): 一个特殊格式的对象，包含要输入给模型的文本。

💡 关键概念：模型 ID 与区域限制

• 区域依赖性 (Region Dependency): Bedrock 中的模型 ID 是与特定 AWS 区域绑定的。并非所有模型都部署在所有区域。
• 潜在风险: 如果请求发送到模型未部署的区域（例如，在 US East 1 请求一个只在 US West 2 运行的模型），将收到错误。
• 解决方案：推理配置文件 (Inference Profile):
• 作用: 自动将请求路由到模型实际托管的区域。
• 使用方法: 在请求中，不使用具体的模型 ID，而是使用 推理配置文件 ID。
• 查找位置: 在 Bedrock 控制台的“模型目录”中，选择“跨区域推理 (Cross Region Inference)”来获取该 ID。

📝 用户消息 (User Message) 结构

• 定义: 包含输入给模型的文本的特殊格式对象（Python 字典）。
• 结构特点:
• 包含 role 属性（角色）。
• 包含 content 属性，它是一个列表（List）。
• 消息类型 (Message Types):
• 用户消息 (User Message): 始终包含输入给模型的文本。role 始终为 "user"。
• 助手消息 (Assistant Message): 包含模型生成的输出文本。role 始终为 "assistant"。
• Content 属性为何是列表？
• 为了支持多模态输入。一个消息的 content 列表可以包含多种不同类型的“部分 (parts)”，例如文本和图像。

⚙️ API 调用与响应处理

• 调用方法: 使用 client. converse() 发起请求。
• 请求参数: 需传入 model ID (或推理配置文件 ID) 和 messages (包含用户消息的列表)。
• 获取生成文本:
• 原始响应包含大量信息。
• 要提取模型生成的文本，需要通过路径访问：Response. output. message. content[0]. text。
• 响应结构相似性: 用户消息和助手消息在结构上非常相似，主要区别在于它们的 role 属性。

Takeaways

• Bedrock API请求的核心是使用client. converse()，并传入包含role和content的messages列表。
• 模型ID具有区域依赖性，为解决跨区域请求问题，应使用推理配置文件ID。
• 用户消息和助手消息通过role属性区分，content属性为列表，支持文本和图像等多模态输入。