跳到正文
11月8日周日
11月7日周六
  1. AWS Machine Learning Blog72

    SageMaker Inference 支持 Multi-Instance GPU 以最大化模型端点 GPU 利用率

    Amazon SageMaker Inference 新增 GPU 分区功能,利用 NVIDIA MIG 将物理 GPU 划分为独立分区,支持在单 GPU 上部署多个隔离模型。测试显示,H100 的 mig-3g.40gb 分区在吞吐和延迟上优于整卡 A100-40GB,且在长上下文高并发场景下成本降低 18%–34%。

    推荐理由:SageMaker Inference 引入 MIG 分区,允许在单 GPU 上部署多个隔离模型,并提供了 H100 分区与 A100 整卡的性能与成本对比数据。

11月6日周五
  1. The Verge · AI70

    Perplexity 推出面向工作的 AI 智能体 Teammates

    Perplexity 推出名为 Teammates 的 AI 智能体功能,旨在与 OpenAI 和 Anthropic 的同类产品竞争。Teammates 基于 Perplexity Computer 构建,支持在本地部署智能体以执行持续的大规模工作任务,并允许用户为不同智能体分配并行任务。

  2. AWS Machine Learning Blog72

    Amazon Bedrock AgentCore 的 Web Answer 功能正式可用

    Amazon Bedrock AgentCore 的 Web Answer 功能正式可用,允许智能体通过单次工具调用获取基于当前网络来源的综合且带引用的答案。该功能由 AWS 托管,自动执行规划、并行搜索、事实核查及引用提取,无需开发者自行构建和维护检索管线。Web Answer 目前仅在 us-east-1 区域可用,定价为每 1,000 次工具调用 10 美元。

    推荐理由:原文给出了 Web Answer 的 GA 状态、单次调用获取带引用答案的机制及定价,读者可据此评估其替代自建检索管线的成本。

  3. TechCrunch · AI75

    OpenAI 发布 ChatGPT Cyber 模型并扩大 Daybreak 计划

    OpenAI 宣布向 Daybreak Red 计划最高层级用户开放专注于网络安全的 ChatGPT Cyber 模型。该模型此前已用于扫描 Linux 内核并发现 948 个潜在问题,还在 Firefox 中发现了 81 个新漏洞。OpenAI 同时宣布投入 10 亿美元支持关键基础设施网络安全专业人员,但文章指出防御方资源仍可能跟不上 AI 模型带来的漏洞发现速度。

  4. TechCrunch · AI62

    Meta 宣布美国用户现可与 Muse AI 数字形象进行视频通话

    Meta 宣布其消费级 AI 智能体 Muse 的实时视频通话功能现已向全美用户开放。该功能基于 Muse Realtime Avatar 和 Muse Realtime Voice 技术,允许用户与可自定义的拟人化数字形象进行实时互动。Meta 首席 AI 官 Alexandr Wang 发布了演示视频,并透露该功能后续将登陆 AI 眼镜及即将推出的 Muse Charm 硬件设备。

  5. NVIDIA Blog72

    NVIDIA Vera CPU 发布:兼顾最高吞吐量与最快智能体性能

    NVIDIA 发布 Vera CPU,旨在为 AI 工厂提供单芯片解决方案以平衡智能体执行速度与每瓦特容量。在 100 兆瓦数据中心对比中,Vera 相比最快 x86 CPU 每瓦特支持 1.6 倍智能体数量,相比最高能效 x86 CPU 速度提升 2 倍。

    推荐理由:原文通过对比 x86 架构展示了 Vera CPU 在能效比和吞吐量上的具体优势,并列举了多家合作伙伴的生产环境实测数据。

  6. Microsoft Research78

    Microsoft Research 发布 PDD Kit 工具包以形式化验证智能体编写的 Rust 全栈 Web 应用

    Microsoft Research 发布 PDD Kit 工具包,利用 Verus 对 AI 智能体生成的 Rust 代码进行形式化验证,确保代码在所有输入下均符合规范。

    推荐理由:原文展示了将形式化验证引入 AI 编码智能体工作流的具体路径,读者可据此评估其在大规模代码生成场景下的应用边界。

11月5日周四
  1. OpenAI News70

    OpenAI 发布 Images 2.6 图像生成模型

    OpenAI 发布 Images 2.6,带来更快的图像生成、GIF 创建、更精确的编辑功能以及新的 API 控制。该更新已同步至 ChatGPT、Codex 和 API 平台。

    推荐理由:官方明确了 Images 2.6 在生成速度、GIF 创建及 API 控制上的具体升级,便于评估其对现有工作流的影响。

  2. The Decoder77

    ChatGPT 基于 OpenAI Images 2.6 模型支持生成动态 GIF

    ChatGPT 基于 OpenAI Images 2.6 模型新增动态 GIF 生成功能,用户可通过文本提示或上传照片生成 GIF 并调整动画速度。OpenAI 同步向开发者开放 GPT-Image-2.6 Flare 和 Sunburst 两个 API 模型变体,官方称目前每周通过 ChatGPT 和 API 生成的图像数量已超过 40 亿张。

    同一新闻,精选展示《OpenAI 发布 Images 2.6 图像生成模型》

  3. Simon Willison42

    Datasette Agent 0.5a0 发布

    Datasette Agent 发布 0.5a0 版本,新增 panel 功能,允许智能体聊天窗口与 Datasette 页面并排显示。结合 datasette-apps,用户可通过聊天提示词创建并修改基于数据库的应用。用户可登录 agent.datasette.io 体验该功能。

  4. Simon Willison40

    Datasette Apps 0.3a0 发布

    Datasette Apps 0.3a0 发布,增强了与 Datasette Agent 的集成。用户可在聊天中通过 # 标签自动补全引用应用,新增工具允许 Agent 管理应用可调用的存储查询,且写入查询需用户批准。

11月4日周三
11月3日周二
  1. Simon Willison42

    LLM 0.37 发布

    Simon Willison 的 LLM 工具发布 0.37 版本,新增 gpt-6.1-sol 和 gpt-6.1-terra 模型支持,并将默认模型切换为价格减半的 gpt-6-luna。该版本还改进了 embeddings 对多模态内容类型的支持,并包含来自 12 位贡献者的修复。

11月2日周一
  1. Simon Willison18

    datasette-llm 0.1a9 发布

    datasette-llm 插件更新至 0.1a9 版本,新增自动读取 LLM 默认模型的功能。用户无需再显式配置默认模型即可使用 Datasette Agent,简化了启动流程。

11月1日周日
10月31日周六
10月30日周五
  1. AWS Machine Learning Blog42

    AWS Batch 为 SageMaker Training 任务推出配额管理功能

    AWS Batch 针对 SageMaker Training 任务推出配额管理功能,支持按团队或项目划分 GPU 算力配额。该功能提供 LEND 和 LEND_AND_BORROW 等资源共享策略,允许自动借用闲置算力并执行跨配额抢占。管理员可配置基于优先级的配额内抢占,确保高优先级工作负载优先运行,从而提升多团队环境下的 GPU 利用率。