Anthropic 分享为 AI 加速攻击做准备的安全策略

这篇文章讲了什么

• Anthropic 安全工程团队发布一组建议，帮助安全项目应对 AI 加速的攻击节奏
• 文章承接 Project Glasswing 与 Claude Mythos Preview 的发布，把内部经验对外整理成 SOC 2 / ISO 27001 可对齐的控制清单
• 七条主控制：关闭 patch gap、为漏洞洪水做准备、上线前找 bug、找出代码里已有的漏洞、按 breach 思路做架构、收敛并清点暴露面、压缩 incident response time
• 给出向上游提交漏洞报告的质量底线，避免低质 AI 报告污染开源生态
• 为没有专职安全团队的小组织、独立开发者、开源维护者另写一节简化建议
• 附一张参考资料表，列出 CISA KEV、FIRST EPSS、NIST SSDF、OWASP ASVS、SLSA、OpenSSF Scorecard、MITRE ATT&CK 等标准
• 由 Donny Greenberg、Jason Clinton、Michael Moore、Abel Ribbink、Jackie Bow 等安全研究人员合写

具体怎么实现

文章按"先做什么"组织七节主控制，每节都把建议拆成可在 CI、IT、cloud 控制台直接配置的动作。Close your patch gap 一节给出三层优先级：CISA KEV catalog 上的已确认在野利用漏洞按紧急事件处理，其余按 EPSS 的 30 天利用概率打分排队，互联网暴露的系统在 exploit 公开后 24 小时内打补丁，其它在数日内完成；patch 部署与 reboot 在可接受 outage 的场景下自动化。Vulnerability management 一节预判未来两年漏洞发现量会上一个数量级，建议把 OpenSSF Scorecard 接进 CI 评估开源依赖，把可达性分析、AI 驱动的去重、ticket 起草、patch 验证乃至小型不再维护依赖的 AI vendoring 都纳入流程。Find bugs before you ship 强调 SAST、AI-assisted review、自动化渗透测试、SLSA build provenance 与 memory-safe 语言迁移，并直接点出 GitHub 的 CodeQL 与 slsa-github-generator 是低门槛起点，特别加粗一句：If you implement one thing from this section, implement AI vulnerability scanning。Find vulnerabilities already in your code 提示对长期未被 frontier model 审过的老代码做主动扫描，优先处理解析 untrusted input、做认证授权决策、可从公网到达的代码路径。

Design for breach 一节把重点放在"摩擦类缓解措施已经不够用"，建议放弃 SMS-based MFA、额外跳板这类只是让攻击者麻烦但不构成硬屏障的控制，改用 zero trust 架构，认证授权每一个服务间调用，把访问绑定到具备 attested hardware identity 的托管设备并搭配 FIDO2 或 passkey，把长期密钥换成由 identity provider 颁发的短期 token，让 build server 无法直接查询 production 数据库。Reduce and inventory 强调连续维护 internet-facing host、service、API 的清单，并用 AI agent 做 autonomous external red-teaming，从外部以无凭据状态测试自家边界。Shorten incident response time 一节把"在告警队列前放一个 model"作为关键动作：triage agent 以只读权限接 SIEM，对每条 alert 做 first-pass investigation 产出结构化 disposition，让 human reviewer 把判断时间留给真正需要决策的部分；同时让 model 做 incident scribe，做笔记、打时间戳、推进并行调查线、起草 postmortem，而 containment、disclosure、customer-comms 的决定保留给 human。文章建议 tabletop 不再以"周一上午一个高危 CVE"为脚本，而是模拟"一周同时五起事件"。

Submitting vulnerability reports 一节给开源生态提了硬底线：报告必须由人工核实并署名，第一段就用 plain language 说清 bug 与影响，再走 code path，附可运行的 PoC、给出维护者会愿意接受的 patch，并在首行明示 AI involvement；自检方法是"关掉编辑器，凭记忆复述 bug"。If you don't have a security team 一节面向独立开发者和小团队，要求开启系统与浏览器自动更新、优先用 managed service 把 patching 转嫁给 provider、所有支持 passkey 或硬件密钥的账号都启用、在 GitHub 上免费打开 Dependabot、secret scanning 与 CodeQL，开源项目则在仓库里写 SECURITY.md 公布报告通道。文章最后附的参考表把 patch prioritization、baseline controls、secure development、memory safety、supply chain、zero trust、detection & response、program framework 八类话题对齐到 CISA、NIST、NCSC、ACSC、OWASP、MITRE 的现成标准。