SageMaker AI 训练会话正式可用,支持无 GPU 管理自定义模型
Amazon SageMaker AI 宣布其无服务器模型定制中的训练会话功能正式可用,允许用户在无需管理 GPU 基础设施的情况下自定义后训练逻辑。该功能支持 SFT、DPO、RLVR 及多轮强化学习等技术,用户可编写自定义损失函数和奖励信号,由平台处理 GPU 分配、分布式执行及检查点存储。
Amazon SageMaker AI 宣布其无服务器模型定制中的训练会话功能正式可用,允许用户在无需管理 GPU 基础设施的情况下自定义后训练逻辑。该功能支持 SFT、DPO、RLVR 及多轮强化学习等技术,用户可编写自定义损失函数和奖励信号,由平台处理 GPU 分配、分布式执行及检查点存储。
Rescale 基于 AWS 的 AI-DLC 框架和 Strands Agents 构建了 AI 分诊智能体,用于自动分类和路由夜间端到端测试失败。该智能体调用 Amazon Bedrock 上的 Claude Opus 4.8 识别根本原因,并通过 MCP 查询日志生成修复报告。团队通过五天工作坊完成从需求定义到预发布部署,数周内上线生产环境。
在 Amazon SageMaker AI 上部署 Kokoro-82M 模型时,通过实测 Q_max 和 T_total 两个指标推导自动扩缩容阈值,替代传统猜测值。该方案利用 ConcurrentRequestsPerModel 原生指标,解决了 TTS 非自回归特性导致的默认监控失效问题,确保流量高峰下延迟符合 SLO。
NVIDIA 介绍了欧洲零售商使用开放模型和物理智能的技术进展。Shopify 通过微调 Nemotron 3.5 Lightning 将推理成本降低 90% 并提升 7 倍响应速度。Otto Group 利用 Omniverse 在数字孪生中模拟仓库运营,CATCHES 的虚拟试穿技术则帮助 AMIRI 提升了转化率和销售额。
NVIDIA 发布 DSX AI 工厂平台,将电网、设施和算力系统整合为统一体系以解决电力瓶颈。该平台包含 DSX Sim、Flex、MaxLPS 和 Exchange 等组件,支持在动工前模拟验证电网与冷却系统,并同步 AI 工厂需求与电网状态。
AWS 解决方案架构团队发布开源多智能体系统 Deep Insight,旨在解决生产环境中的执行流控制、模型选择、安全部署、代码隔离及运维监控五大挑战。该系统采用 Strands Agents SDK 的 Graph 模式定义智能体协作流程,并结合 Amazon Bedrock AgentCore 与 AWS Fargate 实现私有 VPC 内的会话隔离与沙箱代码执行。
推荐理由:原文展示了多智能体系统从开发到生产落地的完整架构,读者可参考其分层设计与安全隔离方案。
该指南演示了如何通过 AWS PrivateLink 配置 VPC 端点和连接,使 Amazon Quick 在不经过公共互联网的情况下访问企业内网数据源。此架构利用 AWS 骨干网传输流量,支持 Quick Sight 查询本地数据库及 Quick Agents 调用私有 MCP 服务器,从而满足 HIPAA 等合规要求并降低攻击面。
U.S. Hunger 利用 Amazon Quick 连接组织数据,使领导层能直接探索信息并基于共享定义协作。该非营利组织通过 Quick Spaces 整合 KPI 定义与财务文档,17 名员工已接入该工具。数据每晚 2 点从 SQL Server 刷新至 SPICE 引擎,支持 CEO 直接审查 Salesforce 报告并迭代分析指令。
AWS 发布教程,演示如何在 AWS Trainium 上使用 torchtitan 训练 Qwen3 模型。教程提供了三种配置方法:使用 Hugging Face Transformers v5 作为后端、使用 torchtitan 原生 Qwen3 实现,以及通过 Neuron Kernel Interface (NKI) 优化混合专家 (MoE) 层。
NVIDIA Vera CPU 正被 Nebius、Nscale 等欧洲云服务商及 Bull、Dell 等硬件厂商采用,用于构建本地 AI 基础设施。Vera 凭借高单核性能与内存带宽,加速了智能体在信息检索、代码执行及沙箱启动等高频任务中的处理速度,支持大规模并发部署。
推荐理由:原文梳理了 Vera CPU 在欧洲主权 AI 基础设施中的具体落地场景,涵盖云服务商、服务器厂商及 Agent 沙箱平台,展示了其支撑智能体大规模并发执行的能力。
NVIDIA 在 GTC Berlin 宣布 cuDSS 进入通用可用阶段,用于加速结构应力、流体流动等复杂物理仿真。文章列举了多家企业的落地案例:Siemens 利用该方法将工厂校准时间减少 40%;Mercedes-Benz 使用 NVIDIA Cosmos 3 构建车辆检测智能体;imec 和 Infineon 在半导体仿真中分别实现了 40 倍和 12 倍加速。
NVIDIA 欧洲云合作伙伴正在扩展区域算力,支持模型训练、推理及智能体应用,并建立智能体访问边界。Nscale 使用 NVIDIA DSX MaxLPS 在相同功耗预算下实现了 37% 的 GPU 数量增加和近 50% 的推理吞吐量提升。
推荐理由:原文展示了欧洲云厂商在算力、开放模型和智能体安全边界上的具体进展,读者可据此了解区域 AI 基础设施的落地形态。
Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施正式可用,A5X 实例将于下月上线并计划扩展至欧洲。该实例集成 Vera Rubin NVL72、ConnectX-9 SuperNICs 和 Virgo 网络,支持大规模智能体推理和强化学习,Google Cloud 计划部署多达 96 万块 Rubin GPU。
i14 利用 TorchNeuron Native 在 AWS Trainium2 上实现了 Laplace 3B 线性注意力模型的训练与推理。该模型将推理状态固定为每序列 29.5 MB,在单台 trn2.48xlarge 实例上实现了约 120,000 tokens/s 的训练吞吐和 11,544 output tokens/s 的推理吞吐。
推荐理由:展示了线性注意力模型在 AWS Trainium2 上的训练与推理工程细节,为长上下文场景提供了可复用的部署参考。
AWS 团队在 Amazon SageMaker HyperPod 上通过 SFT 和 GRPO 微调 GPT-OSS-20B,将多语言推理正确率从 22% 提升至 100%。SFT 解决了模型默认用英语推理的问题,GRPO 进一步将答案语言正确率从 62% 提升至 70%。
推荐理由:文章给出了 SFT 与 GRPO 在能力缺口下的分工结论,读者可据此判断何时使用强化学习微调。
AWS 发布 Amazon Quick 与 Amazon Bedrock AgentCore 结合 MCP 的供应链智能方案,将原本分散在 ERP、采购、邮件等系统的查询与行动整合到单一对话中。
推荐理由:原文展示了 Amazon Quick 与 Bedrock AgentCore 结合 MCP 的架构,读者可据此理解企业级智能体如何连接多源数据并实现受控决策。
Octave Reliance 基于 Amazon Bedrock 和 Cohere Embed v4 构建了多租户 AI 基础架构,将每个用例的部署时间缩短 50%。该架构通过 AgentCore Gateway 和 Bedrock Guardrails 确保数据隔离与内容安全,成功处理了 20 亿份文档的嵌入任务。
Eon 利用 Amazon Bedrock AgentCore 部署 MCP Gateway,替代分散的工具凭证与本地 MCP 进程,实现跨 AWS、GCP 和 Azure 的统一访问。新工程师配置调查工具的时间从两天缩短至约两分钟。该方案通过 Cedar 策略实施最小权限控制,支持人类开发者与自主 SRE 智能体以不同身份接入。
AWS 与 Keyfactor 联合发布参考架构,利用 X.509 PKI 解决多智能体系统中 MCP 工具调用的身份验证缺失问题。该架构结合签名请求信封、用户签名委托断言、RFC 8693 受众限定令牌及实时 OCSP 吊销检查,实现智能体间零信任通信。
推荐理由:原文给出了基于 X.509 PKI 的多智能体身份验证参考架构,读者可据此解决 MCP 工具调用中的身份伪造与重放风险。
AWS Agent Registry 支持在运行时通过混合语义搜索发现并实例化 MCP 服务器和 A2A 智能体,避免在编排器中硬编码工具端点。该服务通过审批工作流管理工具目录,将连接元数据与调用凭证分离,使企业系统能根据用户请求动态组装临时智能体。
推荐理由:原文展示了通过语义搜索动态发现 MCP 和 A2A 工具的实现路径,为大型 API 场景下的 Agent 编排提供了可参考的架构模式。
Amazon Bedrock 跨区推理(CRIS)现支持加拿大区域访问 OpenAI GPT-5.6、GPT-6 及 GPT-6.1 系列模型。这些模型支持 100 万 token 上下文窗口、推理模式及工具调用,并可通过 OpenAI Responses API 或 Bedrock Converse API 调用。
AWS 发布教程,演示如何使用 AtScale 和 Amazon Bedrock AgentCore 为智能体 AI 构建语义层。该方案利用 AtScale 的语义建模语言(SML)将业务逻辑定义在 Git 中,并通过 MCP 协议向 Strands 智能体暴露查询工具。
AWS 发布教程,演示如何使用 Strategy Mosaic 作为语义层,通过 MCP 协议连接 Amazon Bedrock AgentCore 托管的 Strands 智能体。该架构支持跨 Amazon Redshift 和 Amazon Aurora 的无 ETL 联合查询,并将行级和列级安全策略直接应用于智能体调用,确保不同角色用户仅能访问其权限范围内的数据。
推荐理由:演示了如何通过 MCP 协议将语义层接入 Agent,并实现跨数据源查询与细粒度权限控制。
AWS 博客演示了使用 Denodo 平台和 Amazon Bedrock AgentCore 构建智能体语义层的架构。该方案通过 Denodo MCP Server 将治理后的数据视图暴露给智能体,并支持联邦查询 Amazon Aurora、Amazon Redshift 及本地 PostgreSQL 数据库。
AWS 宣布新用户可通过 Google、GitHub 等现有身份快速注册并进入预配置的 SageMaker Studio 环境,无需信用卡或复杂设置。新用户可获得 100 美元 AWS Free Tier 额度,用于模型训练、定制及端点部署,且环境创建时间缩短至约 20 秒。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月间新增超过 100 个来自 30 家提供商的模型。Alibaba (Qwen) 贡献了 29 个模型,NVIDIA 贡献了 17 个,涵盖推理、多模态及世界基础模型。平台支持一键部署及 LoRA、SFT 等微调技术,并新增 Hugging Face 深度链接集成。
Deepgram 将 Nova-3 语音转文本模型移植至 AWS Trainium2,用于离线批量工作负载。该配置在单台 EC2 trn2.3xlarge 实例上运行 8 个模型副本,相比原有计算方案,每美元处理的音频量提升 11% 至 70%。
TwelveLabs 的视频语言模型 Pegasus 1.5 现已在 Amazon Bedrock 上可用,支持直接分析最长两小时的视频并返回带时间戳的结构化 JSON 元数据。该模型新增视频分段、多模态提示(支持参考图像)和即时处理功能,无需预索引即可从 Amazon S3 或 base64 字符串直接读取视频,数据保留在 AWS 数据边界内。
推荐理由:Pegasus 1.5 在 Amazon Bedrock 上支持直接分析长达两小时的视频并返回带时间戳的结构化元数据,为长视频检索提供了新的工程路径。
AWS 在 vLLM 中引入双向 KV 缓存传输机制,允许 Decode 节点将已计算的 KV 块返回给 Prefill 节点,避免多轮对话中重复计算上下文。在 Amazon EC2 P5en 实例的 1P1D 部署中,该功能使 Qwen3-32B 的 TTFT 降低最高 1.6 倍,zai-org/GLM-5-FP8 降低最高 3.3 倍。
推荐理由:文章展示了双向 KV 传输在 vLLM 中的实现机制,并给出了多轮智能体负载下 TTFT 降低的具体基准数据。
vLLM 新增基于 Push 的 NIXL 连接器,通过将 KV 缓存传输协调移出关键路径,显著降低分离式推理的首 token 延迟(TTFT)和每 token 输出时间(TPOT)。
推荐理由:原文展示了 push 模式如何通过重叠计算与传输协调降低延迟,为高并发推理部署提供了具体的性能优化路径。
NVIDIA DLSS 4.5 控制功能现已登陆 GeForce NOW,允许用户在不升级硬件的情况下调整云端游戏画质与性能。Ultimate 会员在 RTX 5080 云端主机上可使用最高 4X 动态多帧生成。Enshrouded 1.0 和 Warhammer 40,000: Boltgun 2 同步上线云游戏服务。
NVIDIA 宣布加入欧盟委员会发起的 AI in Science Enablers Initiative,向欧洲科研社区提供加速计算工具、开源模型、算力资源及技能培训。
AWS 发布基于 Amazon Bedrock AgentCore 的自改进文档处理方案,利用八个专用智能体协作实现文档分类、提取、验证及自动学习。该系统通过 Strands Agents 构建工作流,能自动适应新文档格式并复用提取指令,将处理时间从 3 分 49 秒缩短至 1 分 30 秒,月处理千份文档成本约 58 美元。
Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami,在 90 天内将关键云暴露风险降低 90% 以上且无生产事故。该系统通过调查、安全评分、修复及代码生成四个专用智能体,自动处理 CNAPP 发现的安全问题。
基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可自动化生成演示文稿,内部测试显示耗时不足 90 秒。该方案使用 Strands Agents 框架编排 Claude Sonnet 4.6 进行内容创作,结合 Amazon Titan Text Embeddings v2 实现 RAG 检索以增强内容准确性。
本文演示了如何使用 SageMaker Python SDK 从 Amazon SageMaker JumpStart 部署预训练模型并执行轻量级性能测试。该流程通过发送示例提示词测量延迟、输出长度及生成速率,测试完成后自动清理端点。此方法适用于多种兼容模型,但具体载荷格式和实例类型需根据模型调整。
欧洲多座城市利用 NVIDIA 加速计算构建物理 AI 智能体与数字孪生,以优化城市运营决策。法国 Côte-d’Or 省项目将文档搜索时间从数周缩短至分钟级,并降低 10% 运营成本。
Amazon Bedrock 托管授权允许从中央账户一次性订阅,即可向组织内多个 AWS 账户分发第三方 AI 模型访问权限。AWS 提供轻量脚本用于一次性激活,或基于 AWS CDK 的事件驱动自动化,通过 EventBridge 和 Lambda 自动验证卖家并激活授权。
Orca Security 基于 Amazon Bedrock 构建 Discovery AI,将自然语言转换为 Sonar 查询,输入 token 降低 93%,成本降低 90%,延迟降低 75%。
AWS 团队在 Amazon SageMaker AI 上实施了多项针对混合专家(MoE)模型的 GPU 内核优化,旨在降低推理延迟并提升吞吐量。通过 Swap-AB 矩阵转置、FP8 量化后端路由调整及消除 Triton JIT 重编译,在 H200 上实现了最高 10% 的吞吐量提升和 9% 的首 token 延迟(TTFT)降低。