OpenAI 推出 Git 兼容后端 Pando 以支持 Codex 规模化开发
OpenAI 构建了 Pando,这是一个 Git 兼容的后端系统,旨在支撑 Codex 所实现的开发规模。
推荐理由:原文介绍了 Pando 作为 Git 兼容后端的设计初衷,读者可据此了解 Codex 规模化开发对基础设施的要求。
OpenAI 构建了 Pando,这是一个 Git 兼容的后端系统,旨在支撑 Codex 所实现的开发规模。
推荐理由:原文介绍了 Pando 作为 Git 兼容后端的设计初衷,读者可据此了解 Codex 规模化开发对基础设施的要求。
OpenAI 使用分层监控来检测前沿模型失准和未授权智能体行为,以便响应人员在事件升级前介入。
推荐理由:官方说明了分层监控机制,读者可了解其如何识别前沿模型失准并介入干预。
AWS 官方博客介绍了在 Amazon Bedrock 上使用 OpenAI 模型时,通过 Prompt Caching 减少 AI Agent 重复读取上下文的成本。文章演示了显式与隐式缓存结合、工具变更、子代理共享前缀等场景的代码实现,并指出在 GPT-6 Astra 的六轮工作负载中,输入成本可降低约 62%。
推荐理由:原文给出了在 Amazon Bedrock 上为 OpenAI 模型配置 Prompt Caching 的具体代码模式,读者可据此降低多轮 Agent 的输入成本。
OpenAI 介绍了 ChatGPT 新型广告系统的构建过程。该系统利用 LLM 理解对话意图,确保广告与答案分离,并实现大规模的相关性广告投放。
推荐理由:原文说明了 ChatGPT 广告系统如何区分答案与广告,读者可据此理解其信任机制设计。
Simon Willison 使用 Claude 构建了一款名为 Battle Drones 的 RTS 游戏,实现了基于音频信号的静态网页多人联机。该项目经历了 12 个主要版本迭代,包含 3D 模型、随机地图生成器以及 LLM 智能体对战模式。作者指出,通过提示词让模型运行模拟测试并调整游戏平衡,显著提升了游戏的可玩性。
推荐理由:作者展示了如何通过多轮提示词让编码智能体完成游戏开发,并实现了基于音频的静态网页多人联机。
AWS 团队在 Amazon SageMaker HyperPod 上通过 SFT 和 GRPO 微调 GPT-OSS-20B,将多语言推理正确率从 22% 提升至 100%。SFT 解决了模型默认用英语推理的问题,GRPO 进一步将答案语言正确率从 62% 提升至 70%。
推荐理由:文章给出了 SFT 与 GRPO 在能力缺口下的分工结论,读者可据此判断何时使用强化学习微调。
AWS Agent Registry 支持在运行时通过混合语义搜索发现并实例化 MCP 服务器和 A2A 智能体,避免在编排器中硬编码工具端点。该服务通过审批工作流管理工具目录,将连接元数据与调用凭证分离,使企业系统能根据用户请求动态组装临时智能体。
推荐理由:原文展示了通过语义搜索动态发现 MCP 和 A2A 工具的实现路径,为大型 API 场景下的 Agent 编排提供了可参考的架构模式。
AWS 发布教程,演示如何使用 Strategy Mosaic 作为语义层,通过 MCP 协议连接 Amazon Bedrock AgentCore 托管的 Strands 智能体。该架构支持跨 Amazon Redshift 和 Amazon Aurora 的无 ETL 联合查询,并将行级和列级安全策略直接应用于智能体调用,确保不同角色用户仅能访问其权限范围内的数据。
推荐理由:演示了如何通过 MCP 协议将语义层接入 Agent,并实现跨数据源查询与细粒度权限控制。
vLLM 新增基于 Push 的 NIXL 连接器,通过将 KV 缓存传输协调移出关键路径,显著降低分离式推理的首 token 延迟(TTFT)和每 token 输出时间(TPOT)。
推荐理由:原文展示了 push 模式如何通过重叠计算与传输协调降低延迟,为高并发推理部署提供了具体的性能优化路径。
Amazon Bedrock 通过全球跨区推理在泰国、马来西亚、新加坡、印尼和台湾提供 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra 的调用能力。文章演示了使用 Converse API 和 OpenAI 兼容 API 发起请求,并给出了 IAM 策略、SCP 例外配置、配额计算和 CloudTrail 监控的具体方法。
推荐理由:原文给出了跨区推理的调用路径、权限配置和配额规则,读者可以据此在亚太区域接入 GPT-6 模型。