Anthropic · 安全

Anthropic 发布可信 Agent 研究报告

Anthropic 发布了一份关于构建可信 Agent 的研究报告，聚焦于如何让语言模型在自主执行任务时保持可靠与可控。论文从多个维度分析了当前 Agent 系统在安全性、透明度和可审计性方面的不足，并提出了面向任务执行的可信设计原则，包括可验证的中间步骤、确定性回滚机制以及对模型行为的细粒度约束。这项研究为 Agent 在生产环境中的安全落地的工程实践提供了清晰的技术路线。

域名

anthropic.com

评分

4 · 重要更新

发布

2026-04-09