跳到正文
只看观点#安全/对齐
  1. Latent Space80

    Anthropic 如何用 Claude 开发 Claude：分离智能体大脑与执行沙箱

    Anthropic 工程与产品负责人在访谈中解释了 Opus 5.5 发布及 Claude Managed Agents 的架构设计。核心思路是将智能体的会话日志与执行环境分离，让代码在独立沙箱中运行，从而降低延迟并防止凭证泄露。

    推荐理由：原文拆解了 Anthropic 将智能体大脑与执行沙箱分离的架构，读者可据此理解其安全与性能权衡。

  1. AWS Machine Learning Blog76

    AWS 发布 Trust in Depth 框架：通过分层验证赋予 Agent 更高自主权

    AWS 发布 Trust in Depth 框架，旨在通过 Scope、Know、Bound、Observe 四层独立机制，在保持控制的前提下提升 AI Agent 的自主性。

    推荐理由：AWS 提出 Trust in Depth 框架，将自动化推理引入 Agent 策略验证，为高自主性场景提供可证明的安全边界。

已经到底了