这是一本用于实施的FDE（前向部署工程师）手册 Amazon Bedrock, Amazon BedrockAgentCore, Amazon SageMaker, 和 Amazon Q，然后通过以下方式将代理引入业务 Microsoft Teams。它涵盖了LLM应用程序、RAG和MLOps的架构选择、具体的第一代理设置、工具、培训和日历估计。
1. 企业问题陈述
大多数企业不需要“另一个聊天机器人”。他们需要 在现有工作流程中运行的代理：根据已批准的知识进行回答，使用身份调用工具，保留会话记忆，并定位员工已经协作的地方（通常是团队）。
FDE 的工作是缩小工作 AWS 参考与 受管制飞行员：一个部门，一个语料库，首先阅读主要是工具，可衡量的采用，然后扩展。
2. 服务地图 — 选择正确的 AWS 表面
2.1 Amazon Bedrock
- 基础模型 通过单个 API（Anthropic Claude、Amazon Nova、Meta Llama、Cohere 等 — 按地区提供）。
- Guardrails 用于内容过滤、主题拒绝、PII 编辑和接地检查。
- Knowledge Base 用于托管 RAG（从 S3/连接器摄取、嵌入、检索）。
- 基岩药剂/流程 当您留在 Bedrock 的代理模型中时，可以了解编排模式。
在以下情况下使用基岩： 您想要托管 FM、RAG 和安全性，而无需操作 GPU。
2.2 Amazon Bedrock AgentCore
AgentCore 是生产运行时层 定制代理 （与框架无关 - Strands、LangGraph、CrewAI、自定义 Python 等）：
- 运行时 — 会话隔离、长时间运行的代理调用。
- 网关 — 将 API / MCP / OpenAPI 转变为代理工具；包括 Microsoft Teams图 目标（频道消息、聊天、会议、状态、在线会议）。
- 内存 — 短期和长期会话/情景记忆。
- 身份 — 入站 JWT 验证和出站 OAuth 到工具（包括 Microsoft Entra ID）。
- 可观察性 — 跟踪和指标进入CloudWatch/OpenTelemetry兼容路径。
在以下情况下使用AgentCore： 您拥有代理代码，需要工具 + 身份 + 内存，并且需要托管运行时而不是 DIY ECS/Lambda 粘合剂来解决所有问题。
2.3 Amazon SageMaker
- 训练/微调/评估自定义模型。
- 主机端点（实时、无服务器、异步）。
- 管道、模型注册表、特征存储、澄清、MLOps 模型监视器。
- 可以将自定义模型输入到 Bedrock 自定义模型导入中，或者作为专业端点放在 Bedrock 旁边。
在以下情况下使用SageMaker： 现成的 FM 还不够（领域分类器、排名、微调嵌入、受监管的模型治理）。
2.4 ⟦空气质量⟧
- Amazon Q 业务 （产品命名继续向 Quick Suite/企业助理打包方向发展）——SaaS 和知识、员工问答、插件的连接器。
- Amazon Q 开发者 — AWS 构建者的 IDE / CLI 编码助手。
在以下情况下使用Amazon Q： 你想要一个 产品化的 具有较少定制代理工程的助理。当您需要深度自定义工具、多步骤工作流程或您控制的 Teams 原生 UX 时，请使用 AgentCore + Bedrock。
2.5 决策矩阵
| 需要 | 小学 | 中学 |
|---|---|---|
| 聊天 + RAG 讨论内部文档 | 基岩Knowledge Base | Amazon Q 业务 |
| 自定义代理+工具+内存 | AgentCore + 基岩 | 基岩特工 |
| Microsoft Teams代理商 | Teams 机器人 → AgentCore 运行时 | AgentCore Gateway Teams 图形工具 |
| 训练 / 微调 / MLOps | SageMaker | 导入/FM模型推理的基石 |
| AWS 上的开发人员生产力 | Amazon Q 开发者 | — |
3. 参考架构（Teams 中的业务代理）
Microsoft Teams (user)
│ Bot Framework activity
▼
Azure Bot Service / Teams channel
│ HTTPS messaging endpoint
▼
AWS Lambda / API Gateway (Bot adapter + JWT mint)
│ POST /runtimes/{agentRuntimeArn}/invocations
│ Header: Authorization Bearer <JWT>
│ Header: X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aad}-{conv}
▼
Bedrock AgentCore Runtime (your agent container / code)
├── Bedrock InvokeModel (Claude / Nova / …)
├── Knowledge Base retrieve (RAG)
├── Guardrails
├── AgentCore Memory
└── AgentCore Gateway tools
├── Microsoft Graph (Teams channels / chats) [Entra OAuth]
├── Internal APIs (CRM, ITSM, HR)
└── MCP / OpenAPI targets
▼
CloudWatch / X-Ray / OTel traces + audit logs (S3)
会话 ID 经验法则： 一个 Teams 对话线程应映射到一个 AgentCore 会话，例如 teams-{aadObjectId}-{conversationId}，因此内存和工具上下文保持一致。
4. Teams 中第一个可用的代理 — 逐步说明
目标：一个 主要阅读 在大约 3-6 周内将内部知识代理引入 Teams 试点渠道。
A 阶段 — AWS 基础（第 1-5 天）
- 选择地区（确认基岩型号+AgentCore+Knowledge Base可用性）。
- 启用基岩模型访问；为推理、KB 和 AgentCore 创建IAM 角色。
- 为语料库创建S3存储桶；同步试点 SharePoint/Confluence 导出或连接器。
- 创建基岩Knowledge Base+矢量存储；运行同步；测试
RetrieveAndGenerate。 - 附上Guardrails（拒绝偏离主题、编辑 PII、需要在支持的情况下接地）。
B 阶段 — AgentCore 代理（第 5-15 天）
- 使用您首选框架或AWS示例的脚手架代理（Python/TypeScript）。
- 将模型调用连接到基岩；将检索电汇至Knowledge Base。
- 仅定义 2-3 个工具（例如搜索知识库、获取只读票证状态、获取用户配置文件）。
- 配置AgentCore内存用于短期会话。
- 配置AgentCore身份：验证入站JWT；将 Entra ID 注册为 Microsoft 工具的 IdP。
- 部署到AgentCore运行时；冒烟测试
/invocations使用curl 和测试JWT。 - 启用可观察性；定义一个 CloudWatch 仪表板（延迟、错误、令牌/成本代理）。
C 阶段——团队浮出水面（第 10-20 天，平行）
- 注册Entra ID应用程序；创建 Azure 机器人；启用团队频道。
- 创建 Teams 应用程序包（清单、图标）；试点安全组的旁加载或组织发布。
- 实现消息传递端点（Lambda推荐）：Bot Framework适配器→将活动映射到AgentCore有效负载。
- 将用户身份（AAD 对象 ID、UPN）传播到 JWT 声明 AgentCore 身份期望中。
- 回复代理文本（以及稍后的Adaptive Cards）；优雅地处理输入指示器和错误。
- 试点：一个渠道，10-30 个用户，反馈表/表情符号反应，每周 FDE 办公时间。
D 阶段——哈登（第 15-30 天）
- 最低权限IAM；机器人应用程序密码/证书的 Secrets Manager。
- 网络：需要时私有API路径；公共端点上的 WAF。
- 数据：对语料库进行分类；阻止高风险写入工具，直到存在更改控制。
- 评估集：50-100个黄金问答；衡量接地性/拒绝质量。
- Runbook：轮换机密、回滚运行时版本、禁用 Teams 应用程序。
最小团队 → AgentCore 调用形状
POST /runtimes/{agentRuntimeArn}/invocations
Authorization: Bearer <jwt>
X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aadObjectId}-{conversationId}
Content-Type: application/json
{
"input": {
"prompt": "<user message text>",
"user": { "aadObjectId": "...", "upn": "..." },
"channel": { "teamId": "...", "channelId": "..." }
}
}
确切的有效负载模式取决于您的代理合同 - 保持其版本控制。
5. AgentCore + Microsoft Graph（在 Teams 中运行的代理）
除了“在 Teams 中聊天”之外，AgentCore 网关还可以公开 团队图 操作作为工具（发送频道消息、管理聊天、会议、状态）。要求通常包括：
- 具有图形权限的Entra ID应用程序（以最小权限启动；管理员同意）。
- Entra 的AgentCore 身份OAuth 客户端。
- Microsoft Teams / Graph 的网关目标。
- 任何写入/发送的人机交互，直到建立信任。
FDE 指导：船舶 入站聊天代理 第一；添加 出站图操作 在具有明确允许列表（频道、团队、消息模板）的第二个更改票证中。
6.同一节目中的SageMaker
请勿阻止 SageMaker 上的 Teams 试点。当您需要时引入SageMaker：
- 特定领域的分类器（意图、紧急程度、Guardrails 之外的 PII 检测）。
- 微调嵌入或重新排序以实现 RAG 质量。
- 通过模型注册+批准门进行规范的模型培训。
- 对大型语料库的批量推理作业。
典型的MLOps骨架： SageMaker 管道→模型注册表→登台端点→金丝雀→产品；使用模型监视器进行监控；仅通过 CI (CodePipeline / GitHub Actions) 和 IaC (Terraform / CDK) 进行推广。
7. Amazon Q在同一程序中
- 问业务 使用托管连接器进行广泛的员工问答 - 通常比用于“搜索 Intranet”的自定义 RAG 更快。
- Q 开发者 FDE/平台工程生产力（IaC、Lambda、CDK）。
- 图案：Q代表宽度； AgentCore 深度代理（工作流 + 工具 + Teams UX）。
8. FDE培训课程（实施并启动）
| 模块 | 结果 | 时间 |
|---|---|---|
| 基岩 FM + Guardrails | 调用模型；安装护栏；成本意识 | 1天 |
| Knowledge BaseRAG | 摄取、同步、检索、评估答案 | 2天 |
| AgentCore 运行时/内存/身份 | 部署代理；会话 ID； JWT 授权 | 3天 |
| 网关工具 + Entra/Graph | 注册工具； OAuth；最小特权 | 2天 |
| 团队Bot Framework | 机器人+团队应用程序；拉姆达适配器 | 2-3天 |
| SageMaker MLOps 底漆 | 管道、注册表、端点 | 3–5 天 |
| Amazon Q 业务管理 | 应用程序、连接器、插件、访问 | 1–2 天 |
| 安全和启动操作 | 威胁模型、运行手册、评估工具 | 2天 |
总FDE斜坡： 对第一个试点进行约 2-3 周的集中培训 + 配对交付。
9. 要求清单
人
- FDE（代理+集成）
- 云/平台工程师（IAM、网络、IaC）
- Microsoft 365 / Entra 管理（应用同意、Teams 发布）
- 安全/合规审核员
- 企业主+试点用户
帐户和访问
- AWS 账户与 Bedrock、AgentCore、S3、CloudWatch；可选SageMaker / Q
- Entra ID 租户； Bot 服务的 Azure 订阅
- 上传/批准应用程序的团队管理员权限
数据
- 具有明确所有权和保留权的试点语料库
- 分类标签； PII 处理政策
- 黄金评价题
10. 工具清单
| 图层 | 工具 |
|---|---|
| 亚克 | AWS CDK / Terraform；可选的 CloudFormation |
| 持续集成/持续交付 | GitHub Actions 或 CodePipeline；容器构建为 ECR |
| 代理框架 | Strands 代理、LangGraph、CrewAI 或普通 SDK |
| 团队 | Bot Framework SDK、Teams 工具包 / M365 代理工具包 |
| 秘密 | AWS 秘密管理器； Azure Key Vault（如果拆分） |
| 可观察性 | CloudWatch、X 射线/OTel；可选的 Langfuse / 自定义 eval |
| 评估 | 黄金集 + 自动 RAGAS 式指标或 Bedrock 评估作业 |
| MLOps（如果需要） | SageMaker 管道、模型注册表、特征存储 |
11. 时间估算（FDE主导，指示性）
假设有一个专注的 FDE + 兼职平台 + Entra 管理员可用性。日历日，而不仅仅是人时。
| 可交付成果 | 乐观 | 典型 | 与企业摩擦 |
|---|---|---|---|
| 基岩聊天 + Guardrails MVP | 2-3天 | 3–5 天 | 1-2周 |
| RAG Knowledge Base（一个语料库） | 3–5 天 | 1-2周 | 3–4 周 |
| AgentCore 代理 + 2–3 个工具 | 1-2周 | 2-3周 | 4-6周 |
| Teams 机器人飞行员（旁载） | 3–5 天 | 1-2周 | 3 周以上（管理员同意） |
| Teams 中的端到端第一代理 | 3周 | 4-6周 | 8–12 周 |
| Amazon Q 业务启动 | 1周 | 1-3周 | 4-6周 |
| SageMaker微调+MLOpsv1 | 3–4 周 | 6-8周 | 1-2 个季度 |
| 多智能体+编写工具+图形动作 | 6周 | 1 季度 | 2 个以上季度 |
12.启动清单（业务）
- 指定的企业主和成功指标（偏差、回答时间、CSAT）。
- 试点保障组及通道； FDE 的支持时间。
- 用于 Knowledge Base 同步的内容新鲜度 SLA。
- 事件路径：禁用机器人、轮换机密、寻呼待命。
- 有关 Bedrock 代币和 AgentCore 运行时的成本预算警报。
- 决策门：在 4-6 周的使用数据后扩展、暂停或产品化。
13. 常见故障模式
- 沸腾的海洋： 在单个 Teams 试点之前，多代理 + 编写工具 + 完整的 Intranet。
- 最后身份： 在没有 Entra/JWT 设计的情况下构建代理 - Teams 到达时返工。
- 无黄金套装： 无法判断 RAG 在分块更改后是否变得更好。
- SageMaker 太早了： 在检索质量良好之前训练自定义模型。
- 管理员同意惊喜： Teams/Graph 权限被封锁数周 — 从第一天开始使用 Entra 门票。
14. 结束
基岩 为您提供模型、RAG 和护栏。 AgentCore 为您提供具有内存、身份和工具（包括 Teams Graph）的生产代理运行时。 SageMaker 涵盖自定义 ML 和 MLOps。 Amazon Q 涵盖产品化的员工/开发助理。实现价值最快的 FDE 路径是：RAG + Guardrails → AgentCore 代理 → Teams 机器人中继 → 测量 → 扩展工具 — 当用例需要时，将 SageMaker 和 Q Business 作为平行轨道。
发布者： Workstation - 用于将代理安排在业务已经开展的地方的交付计划。
