NVIDIA 与韩国扩大主权 AI 合作,涵盖芯片、人才与模型生态
NVIDIA 与韩国科学技术信息通信部(MSIT)扩大主权 AI 合作,覆盖 AI 半导体、数据中心基础设施、人才、初创企业、模型、智能体及安全。合作为韩国 NPU 和 XPU 公司参与 NVIDIA NVLink Fusion 生态奠定基础,并包含 NVIDIA 培训认证、黑客松及技术研讨会以强化 GPU 利用率。
NVIDIA 与韩国科学技术信息通信部(MSIT)扩大主权 AI 合作,覆盖 AI 半导体、数据中心基础设施、人才、初创企业、模型、智能体及安全。合作为韩国 NPU 和 XPU 公司参与 NVIDIA NVLink Fusion 生态奠定基础,并包含 NVIDIA 培训认证、黑客松及技术研讨会以强化 GPU 利用率。
NVIDIA 正利用韩国在制造和工程领域的优势,推动物理 AI 生态从开发走向实际生产。三星电子通过 NVIDIA cuISS、cuDSS 等加速计算工具优化半导体研发,在特定 AI 均质化案例中实现约 1600 倍加速,仿真时间从 18 小时缩短至 41 秒。
Amazon SageMaker Inference 新增 GPU 分区功能,利用 NVIDIA MIG 将物理 GPU 划分为独立分区,支持在单 GPU 上部署多个隔离模型。测试显示,H100 的 mig-3g.40gb 分区在吞吐和延迟上优于整卡 A100-40GB,且在长上下文高并发场景下成本降低 18%–34%。
推荐理由:SageMaker Inference 引入 MIG 分区,允许在单 GPU 上部署多个隔离模型,并提供了 H100 分区与 A100 整卡的性能与成本对比数据。
Taxbit 在 Amazon Bedrock AgentCore 上构建了嵌入产品仪表盘的 AI 助手 Taxbit Assist,该助手具备引用溯源和角色权限感知能力。超过 55% 的用户在提问后 24 小时内会再次使用,其架构通过隔离身份处理确保模型不接触客户税务数据。
AWS 发布教程,演示如何使用 Okta Cross App Access (XAA) 和 Amazon Bedrock AgentCore 构建 AI 代理的权限治理体系。该方案通过 ID-JAG 令牌交换实现代理代表用户访问应用,实测显示管理员移除用户授权后,新请求在约 1 秒内被拒绝,已签发令牌在 5 分钟内过期。
NVIDIA 开源的 Aerial 和 Sionna 软件过去一年开发者采用量增长 10 倍,下载量超 100 万次,被全球 8000 多家机构用于构建 AI 原生 6G 网络。King's College London 利用语义通信将机器人任务完成时间缩短 52.6%,SoftBank 的神经接收器在干扰测试中实现最高 60% 的上行吞吐量增益。
NVIDIA 发布 Vera CPU,旨在为 AI 工厂提供单芯片解决方案以平衡智能体执行速度与每瓦特容量。在 100 兆瓦数据中心对比中,Vera 相比最快 x86 CPU 每瓦特支持 1.6 倍智能体数量,相比最高能效 x86 CPU 速度提升 2 倍。
推荐理由:原文通过对比 x86 架构展示了 Vera CPU 在能效比和吞吐量上的具体优势,并列举了多家合作伙伴的生产环境实测数据。
Amazon Marketplace 利用 Amazon SageMaker AI 构建多模型融合架构,通过 VLM 对 A+ Content 进行整体质量评估。该方案将 VLM 语义分数与 OCR 信号输入 CatBoost 分类器,结合 SHAP 解释生成改进建议,帮助卖家提升内容质量并促进销售。
Hogwarts Legacy 在 GeForce NOW 平台获得 NVIDIA DLSS 5 升级,通过 3D 引导神经渲染技术带来逼真的光照与材质细节。该更新支持 DLSS 多帧生成和光线重建功能,Ultimate 会员可体验 RTX 5080 级别性能。
NVIDIA 提出通过全栈协同设计解决 AI 内存挑战,旨在从每一字节内存中获取更高性能。该策略通过 NVFP4 量化、KV cache 卸载及 RAG 索引优化,在 HBM 容量仅增长约 3% 的情况下,将智能体推理吞吐量每美元提升最高 30 倍。
推荐理由:原文通过具体技术路径解释了全栈协同设计如何缓解 HBM 压力,读者可据此理解 AI 工厂中内存层级优化的实际逻辑。
AWS 团队在开源项目 Deep Insight 中展示了生产级 AI 智能体的四层上下文工程实践,通过架构隔离、提示词控制、文件系统外化和独立验证,显著降低 token 消耗。其中,write_and_execute 工具将脚本加入上下文的 token 减少约 95%,按需加载 Skills 使系统提示词缩小约 97%。
推荐理由:文章给出了四层上下文工程的具体代码实现,读者可据此解决生产级智能体的上下文溢出问题。
马来西亚电信运营商 U Mobile 基于 Amazon Bedrock AgentCore 构建了 AI 驱动的智能体帮助台 AiDaH,用于自动化处理跨系统的电信运营工单。
推荐理由:文章拆解了电信运营商利用多智能体架构处理跨系统工单的具体路径,展示了从试点到生产落地的工程细节。
Indegene 在 AWS 的 NEXT UDP 平台上构建了生产级 LLM 数据质量智能体,用于生成上下文感知的数据质量规则并产出可执行的 SQL 和 Python 代码。该智能体通过集中式人工介入治理机制验证规则,帮助企业在保持严格合规的同时降低数据质量维护成本,解决传统静态验证无法捕捉业务语境的问题。
Daybreak Red 现已在 AWS GovCloud (US-East) 上线,通过 Amazon Bedrock 向获批客户提供 GPT-5.6 Cyber 模型。该服务专为授权网络安全工作设计,仅限特定客户使用。
NVIDIA 提出 AI 正在重塑半导体制造,通过加速计算、物理 AI 和数字孪生缩短仿真周期并优化决策。COMSOL 利用 NVIDIA cuDSS 将多物理场仿真加速至 10 倍,Applied Materials 使用 PhysicsNeMo 将等离子体预测时间从数天缩短至毫秒级。
OpenAI 构建了 Pando,这是一个 Git 兼容的后端系统,旨在支撑 Codex 所实现的开发规模。
推荐理由:原文介绍了 Pando 作为 Git 兼容后端的设计初衷,读者可据此了解 Codex 规模化开发对基础设施的要求。
AWS 展示了如何构建多智能体工程助手,利用 Amazon Nova Multimodal Embeddings 和 Amazon Bedrock AgentCore 自动化零部件替换评估。系统通过确定性 Python 代码进行规格评分,结合多模态嵌入实现图表检索与视觉相似度比对,并生成符合 AS9100 标准的审计追踪。
AWS 团队演示了如何利用序列级知识蒸馏(SeqKD)在 Amazon SageMaker AI 上微调小型购物智能体。该方法使用 Amazon Bedrock 上的 GLM-5.3 作为教师模型生成多步轨迹,并通过 ShoppingBench 评分器筛选成功样本,对 Qwen3.5-4B 学生模型进行 LoRA 微调。
推荐理由:文章提供了在 Amazon SageMaker AI 上通过序列级知识蒸馏将前沿模型行为迁移至小模型的具体流程与代码示例。
文章展示了如何利用开源 Python 爬虫 Crawl4AI 为 Amazon Bedrock Knowledge Bases 准备网页内容。该方案通过生成 Markdown 和元数据文件上传至 Amazon S3,支持结构化内容清洗、基于 CSS 选择器的定向提取及自定义元数据附加。
AWS 发布 Amazon Bedrock 成本端到端管理指南,提出包含归属、观测、执行、优化和运营的五阶段操作模型。该模型利用 IAM 标签和 CUR 2.0 实现按身份的成本归属,通过模型调用日志和请求元数据实现工作负载级观测,并建议根据风险选择监控告警、IAM 拒绝或网关同步拦截等预算执行层级。
推荐理由:文章给出了从成本归属、请求观测到预算强制执行的五阶段操作模型,帮助团队将 Bedrock 支出转化为可治理的工程问题。
Amazon Bedrock AgentCore 发布 Session endpoints 功能,允许用户通过认证 URL 在浏览器中实时查看 Agent 会话内运行的 Web 应用。该功能支持 HTTP 和 WebSocket 协议,用户可配置允许访问的端口,在 Agent 修改文件时通过 Vite 热重载即时看到页面变化,无需等待传统部署流程。
推荐理由:原文展示了通过 Session endpoints 在浏览器中实时预览 Agent 修改的 Web 应用,提供了无需部署即可即时查看变更的开发工作流。
ChatGPT 桌面应用现已支持通过 Amazon Bedrock 在 AWS GovCloud (US) 中运行,提供 Work 和 Codex 两种模式。该配置将模型推理路由至 us-gov-west-1 区域的 Bedrock Mantle 端点,利用 AWS IAM 进行访问控制。此部署支持零数据保留(ZDR),确保提示词和响应不写入持久存储,满足严格的数据驻留与安全合规要求。
Worldwide Express 基于 Amazon Bedrock 构建多智能体 AI 解决方案,接入 SpeedShip 系统自动化处理货运账单异常。上线六个月后,活跃异常减少 75%,现金周转时间缩短 4 周,实现 100 万美元年度节省及 1000 万美元一次性自由现金流注入。
Kiro 结合 AWS Transform 提供了一套可重复的 PHP 到 Java 迁移引擎,通过八阶段工作流将迁移转化为可度量过程。该引擎利用共享技能文件驱动发现扫描器,并强制通过 parity harness 验证以确保 Java 移植行为与 PHP 原应用一致。
MoEngage 使用 Amazon Bedrock AgentCore Gateway 将 400 多个私有 REST API 转化为 Agent 工具,避免了构建 20 多个独立 MCP 服务器。
推荐理由:文章给出了将私有 API 转化为 Agent 工具的具体架构,读者可参考其权限隔离与语义搜索方案解决大规模工具接入问题。
AWS Batch 针对 SageMaker Training 任务推出配额管理功能,支持按团队或项目划分 GPU 算力配额。该功能提供 LEND 和 LEND_AND_BORROW 等资源共享策略,允许自动借用闲置算力并执行跨配额抢占。管理员可配置基于优先级的配额内抢占,确保高优先级工作负载优先运行,从而提升多团队环境下的 GPU 利用率。
AWS 发布教程,展示如何在 Amazon EKS 和 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 3.5 Super VL 模型。该模型为 120B 参数 MoE 架构,支持文本、图像、文档和视频理解,并提供了 vLLM 部署配置及基于 aiperf 的性能评估方法。
基于 Amazon Nova Act 构建的 QA Studio 参考方案新增“应用”与“团队”功能,以解决大规模测试自动化中的组织与权限管理难题。应用功能通过 CloudWatch 指标计算 0-100 健康分并识别不稳定测试,团队功能则实施基于角色的访问控制,确保测试资产归属清晰且权限隔离。
AWS 推出 Ray Train 深度学习容器(DLC),预集成 PyTorch 2.13.0、CUDA 13.0.2 及 EFA 网络栈,消除分布式训练环境配置障碍。该镜像通过 KubeRay 在 EKS 上部署,支持跨节点 EFA 通信,示例展示了在 8 块 NVIDIA L4 GPU 上使用 FSDP 微调 Qwen2.5-1.5B 模型。
AWS 发布了一套基于 Amazon Bedrock AgentCore 的企业级智能体 AI 平台参考实现,旨在解决多团队构建智能体时的安全隔离、模型治理和成本归属难题。该架构采用联邦式运营模型,通过独立的推理网关和 MCP 工具网关实施最小权限控制,并引入部署时评估门禁,确保每个智能体在晋升至生产环境前通过安全与质量验证。
Exowatt 利用 Amazon SageMaker AI 无服务器模型定制功能,通过微调 Qwen3-1.7B 和 Qwen3-14B 模型,在边缘告警分诊和云端能源市场分析任务上实现了比前沿模型更高的准确率。
Property Finder 发现其 96.8% 的评估标签源自单一模型预测,导致评估存在系统性偏差。团队通过专家标注构建无偏基准,并利用演化式提示词优化将 Llama 4 Maverick 17B Instruct 的 Micro F1 从 0.55 提升至 0.81,同时降低了 86% 的成本。
AWS 宣布 SageMaker AI 训练和处理任务支持 SOCI 索引镜像,通过懒加载将容器启动时间从分钟级缩短至秒级。基准测试显示,35.4 GB 镜像的下载时间从 7 分 17 秒降至 3-11 秒,GPU 空闲时间最多减少 90%,且不影响后续训练性能。用户可直接使用带 -soci 后缀的预索引 DLC 镜像,或为自定义镜像创建索引,无需修改任务定义。
推荐理由:原文给出了SOCI索引在SageMaker中的具体加速数据和两种接入方式,读者可据此评估对现有训练工作流的影响。
AWS 发布教程,展示如何使用 AWS CDK 在 Amazon Bedrock 托管知识库上构建企业级 Agentic 检索系统。该系统通过 AgentCore Gateway 将知识库暴露为 MCP 工具,支持多知识库语义路由和迭代检索,并内置七层可观测性仪表板及按需与连续评估功能。
推荐理由:原文展示了如何用 CDK 部署带可观测性和评估的 Agentic RAG 系统,读者可参考其架构解决多知识库路由问题。
AWS 官方博客介绍了在 Amazon Bedrock 上使用 OpenAI 模型时,通过 Prompt Caching 减少 AI Agent 重复读取上下文的成本。文章演示了显式与隐式缓存结合、工具变更、子代理共享前缀等场景的代码实现,并指出在 GPT-6 Astra 的六轮工作负载中,输入成本可降低约 62%。
推荐理由:原文给出了在 Amazon Bedrock 上为 OpenAI 模型配置 Prompt Caching 的具体代码模式,读者可据此降低多轮 Agent 的输入成本。
基于 SageMaker SDK v3 构建的边缘端计算机视觉全车队生命周期管理方案,利用 SageMaker Neo 替代已弃用的 Edge Manager 进行模型优化。
Firebird 获准在哈萨克斯坦部署 45,000 块 NVIDIA Grace Blackwell GPU,首期目标 2027 年 Q3 商用,二期总容量达 500 兆瓦。Kazakhtelecom 已在阿斯塔纳和阿拉木图部署 400 块 H200 和 480 块 B300 GPU,计划明年新增超 1,000 块 GPU 及 1,000 块 Vera Rubin GPU。
AWS 教程演示了如何在 Amazon SageMaker AI 上部署 Kokoro-82M 模型,通过双向 WebSocket 流式传输实现 AI 智能体低延迟语音合成。实测显示,逐句流式传输将首音频字节时间从 329.3 毫秒降至 156.7 毫秒,在部署环境中比批量处理快 2.4 至 3.5 倍。
推荐理由:原文给出了双向流式传输与音频编码的实测对比,读者可据此优化语音智能体的首包延迟。
AWS 发布 Amazon Quick 的 HIPAA 合规部署指南,明确该服务在 Web、桌面和移动端均符合 HIPAA 资格,但合规性取决于客户自身的配置与管控。
Amazon SageMaker AI 发布训练会话 API,允许用户在本地 Python 进程中编写训练循环,由服务托管 GPU 执行采样、梯度更新和检查点操作。该功能支持 SFT、RL 等自定义算法,按 token 计费,并配套发布包含 SFT 和 RL 配方的训练会话 cookbook。
推荐理由:该功能将抽象边界下沉至训练操作层,允许用户在本地编写训练循环,由服务托管 GPU 基础设施,从而在算法自由度与运维成本间取得平衡。