跳到正文

内容形态

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

32 条精选近 30 天 28 条共收录 107 条

更新

精选归档 · 第 2 页

10月21日周三第 21–32 条
  1. AWS Machine Learning Blog73

    AWS Agent Registry 支持运行时动态发现 MCP 和 A2A 工具

    AWS Agent Registry 支持在运行时通过混合语义搜索发现并实例化 MCP 服务器和 A2A 智能体,避免在编排器中硬编码工具端点。该服务通过审批工作流管理工具目录,将连接元数据与调用凭证分离,使企业系统能根据用户请求动态组装临时智能体。

    推荐理由:原文展示了通过语义搜索动态发现 MCP 和 A2A 工具的实现路径,为大型 API 场景下的 Agent 编排提供了可参考的架构模式。

10月20日周二
  1. AWS Machine Learning Blog62

    AWS 教程:使用 Strategy Mosaic 和 Amazon Bedrock AgentCore 构建智能体语义层

    AWS 发布教程,演示如何使用 Strategy Mosaic 作为语义层,通过 MCP 协议连接 Amazon Bedrock AgentCore 托管的 Strands 智能体。该架构支持跨 Amazon Redshift 和 Amazon Aurora 的无 ETL 联合查询,并将行级和列级安全策略直接应用于智能体调用,确保不同角色用户仅能访问其权限范围内的数据。

    推荐理由:演示了如何通过 MCP 协议将语义层接入 Agent,并实现跨数据源查询与细粒度权限控制。

  2. AWS Machine Learning Blog67

    vLLM 双向 KV 传输优化多轮智能体负载 TTFT

    AWS 在 vLLM 中引入双向 KV 缓存传输机制,允许 Decode 节点将已计算的 KV 块返回给 Prefill 节点,避免多轮对话中重复计算上下文。在 Amazon EC2 P5en 实例的 1P1D 部署中,该功能使 Qwen3-32B 的 TTFT 降低最高 1.6 倍,zai-org/GLM-5-FP8 降低最高 3.3 倍。

    推荐理由:文章展示了双向 KV 传输在 vLLM 中的实现机制,并给出了多轮智能体负载下 TTFT 降低的具体基准数据。

  3. AWS Machine Learning Blog72

    vLLM 引入基于 Push 的 KV 传输机制以优化分离式推理延迟

    vLLM 新增基于 Push 的 NIXL 连接器,通过将 KV 缓存传输协调移出关键路径,显著降低分离式推理的首 token 延迟(TTFT)和每 token 输出时间(TPOT)。

    推荐理由:原文展示了 push 模式如何通过重叠计算与传输协调降低延迟,为高并发推理部署提供了具体的性能优化路径。

10月14日周三
  1. AWS Machine Learning Blog78

    在 Amazon Bedrock 上使用 Grok 4.7 构建长时程智能体

    AWS 发布教程,指导如何在 Amazon Bedrock 上构建基于 Grok 4.7 的工具调用智能体,并评估不同推理强度(reasoning effort)对长时程任务的影响。在三个需要搜索而非查表的合成任务中,智能体在 72 次运行中答对 67 次,其中 xhigh 强度下 18 次全部正确,而 low 强度下答对 15 次且输出 token 仅为 xhigh 的约八分之一。

    推荐理由:原文给出了在 Amazon Bedrock 上构建 Grok 4.7 智能体的完整流程,并展示了不同推理强度下的准确率与 token 消耗对比。

10月13日周二
  1. AWS Machine Learning Blog73

    Amazon Bedrock 通过全球跨区推理在亚太五地接入 OpenAI GPT-6 模型

    Amazon Bedrock 通过全球跨区推理在泰国、马来西亚、新加坡、印尼和台湾提供 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra 的调用能力。文章演示了使用 Converse API 和 OpenAI 兼容 API 发起请求,并给出了 IAM 策略、SCP 例外配置、配额计算和 CloudTrail 监控的具体方法。

    推荐理由:原文给出了跨区推理的调用路径、权限配置和配额规则,读者可以据此在亚太区域接入 GPT-6 模型。

  2. GitHub Blog · AI & ML67

    GitHub Copilot 如何通过四种方式理解代码库

    GitHub Copilot 提供了四种配置项目上下文的方法,帮助模型遵循团队规范并执行复杂任务。用户可通过 .github/copilot-instructions.md 定义全局或路径特定的自定义指令,利用 .github/skills 文件夹封装可复用的 Agent 技能,在 .github/agents 中创建处理跨文件任务的自定义智能体,并接入 MCP 服务器以连接外部工具和数据源。

    推荐理由:原文给出了四种配置Copilot项目上下文的具体路径,读者可据此将团队规范转化为可复用的自动化指令。

  3. AWS Machine Learning Blog62

    AWS 发布多节点 Ray LLM 深度学习容器以支持 EKS 上的分离式推理

    AWS 推出多节点 Ray LLM 深度学习容器,支持在 Amazon EKS 上通过两个 GPU 节点部署大型语言模型,实现预填充和解码阶段的分离。该容器预集成了 vLLM、Ray Serve、NIXL 和 EFA 组件,通过 OpenAI 兼容接口提供服务,无需编写应用代码即可配置 KV 缓存传输,从而提升大规模推理性能并简化依赖管理。

    推荐理由:展示了如何利用预构建容器在 EKS 上实现多节点推理分离,简化了分布式部署流程。

10月9日周五
  1. AWS Machine Learning Blog72

    Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode

    Postman 在 Amazon Bedrock 上构建 Agent Mode,通过动态工具选择、Schema 感知读取和专用上下文处理器解决成熟产品集成 AI 智能体的工程挑战。架构利用 Bedrock 的跨区推理、零数据保留和分层提示词缓存,在保障数据合规的同时应对突发流量并控制推理成本。

    推荐理由:文章复盘了 Postman 在 4000 万开发者规模下构建 Agent Mode 的工程实践,提供了控制工具膨胀、Schema 读取和上下文管理的可复用架构模式。

  2. NVIDIA Blog72

    NVIDIA Omniverse 结合前沿 AI 智能体构建物理仿真应用

    NVIDIA 展示了开发者利用 GPT-6 Astra 等前沿 AI 智能体结合 Omniverse 库构建物理仿真应用的工作流。案例涵盖使用 Houdini 创建可编辑 3D 资产、在 Isaac Sim 中测试机器人拆解、从现场扫描重建建筑模型以及构建气轮机数字孪生。这些项目通过自然语言指令驱动智能体连接物理、渲染和传感器模拟能力,帮助开发者在物理 AI 仿真中探索场景、调查故障并改进设计。

    推荐理由:展示了前沿模型与 Omniverse 库结合构建物理仿真应用的具体工作流,为开发者提供可复用的智能体辅助开发路径。

10月7日周三
  1. AWS Machine Learning Blog70

    AWS 提出智能体自动化业务价值评估框架

    AWS 提出智能体自动化业务价值评估框架,指出传统 RPA 的 ROI 模型无法衡量智能体在异常处理、决策质量和变更韧性上的价值。该框架建议将投资视为工作流组合,通过量化释放产能、减少纠错成本、提升决策结果和降低维护开销四个价值池,并设定明确的止损规则来验证投资回报。

    推荐理由:原文提出了包含时间、异常、决策质量和维护成本四个维度的评估框架,帮助读者量化智能体自动化在现有 RPA 模型之外的真实业务价值。

9月26日周六
  1. GitHub Blog · AI & ML62

    GitHub Copilot 教程:使用 Canvases 构建自定义工作流

    GitHub Copilot 应用支持通过 /create-canvas 技能,利用自然语言描述生成可自定义的交互界面(Canvases)。该界面支持用户与智能体双向实时协作,可保存为扩展供团队共享,无需手动编码即可将看板、清单等工作流转化为可视化工具。

    推荐理由:文章演示了如何通过自然语言描述生成双向交互界面,展示了智能体与用户实时协作的工作流构建方法。