前沿红队

Frontier Red Team

用 AI 实验保卫关键基础设施

Experimenting with AI to defend critical infrastructure

2026 年 1 月 8 日

网络攻击已对电网、燃油管道等关键基础设施造成了严重的现实影响，并曾入侵供水系统——潜藏着造成重大危害的可能。随着能力不断提升，AI 模型可能会增加有能力攻击这些目标的攻击者数量。但 AI 也能帮助关键基础设施的防御者发现攻击者可能利用的漏洞——并在漏洞被利用之前将其封堵。Anthropic 已与太平洋西北国家实验室（PNNL）合作，探索 AI 在这一防御领域的应用。借助 Claude，PNNL 的研究人员模拟了对一座水处理厂高保真仿真系统的网络攻击，所用时间远少于人类专家所需，这证明了 AI 如何帮助网络防御者在红队演练（red teaming exercises）中更快迭代。这项工作既展示了 AI 加速防御的潜力，也体现了公私合作伙伴关系在利用 AI 维护国家安全方面的价值。

用 AI 加速对手模拟

Using AI to speed up adversary emulation

在该研究项目中，PNNL 专注于利用 AI 加速对手模拟（adversary emulation）任务：即对特定威胁行为者或针对特定网络的攻击进行建模，以理解和改进防御。模拟这些攻击能为系统漏洞和检测盲区提供宝贵洞察。在防御调整后再次模拟这些攻击，则可以评估这些调整的有效性。

PNNL 为 Claude 开发了一个“脚手架”（scaffold），用于自动化和加速对手模拟过程。该脚手架能够将自然语言提示快速转化为复杂的攻击链，部分原因在于它预定义了一些基于代码的“工具”，使模型能更轻松地在计算机网络上执行操作。随后，研究人员让这个智能体（agent）模拟对一座水处理厂网络物理模型（该模型是 PNNL 代表国土安全部网络安全与基础设施安全局运营的控制环境实验室资源平台之一）的攻击。据 PNNL 估算，这使得攻击重构在三个小时内即可完成，而原本需要数周时间。

在一次测试运行中，Claude 表现出了显著的随机应变能力。研究人员作为脚手架的一部分预定义的工具中，包含一种绕过 Windows 用户账户控制（UAC）安全功能的机制。然而，该机制并非始终可靠，有时会失效。Claude 通过工具使用失败的反馈感知到其中一次失效后，识别并使用了另一种已知的 UAC 绕过技术来达成目标。

随着模型不断改进，我们预计这种随机应变能力和创造力会进一步增强。本次模拟于 2025 年夏季进行，使用的是 Claude Sonnet 4——该模型已不再是 Anthropic 的前沿模型。模型能力的提升既可能帮助攻击者，也可能帮助防御者，这正是为何像这样提升关键基础设施安全性的工作如此至关重要。

扩大 AI 与安全领域的公私合作伙伴关系

Expanding public-private partnerships for AI and security

这项研究践行了我们关于利用 AI 进行网络防御的创造性思维和实验的呼吁。鉴于 AI 在网络领域的双重用途性质以及攻击者在网络空间中对 AI 的日益使用，这一步至关重要。

这也是前沿 AI 实验室（如 Anthropic）与政府科学、工程和国家安全卓越中心之间日益增多的合作之一。Anthropic 此前曾与美国国家核安全局合作，针对 AI 可能带来的核风险开发评估与缓解措施。Anthropic 还是能源部“创世纪任务”（Genesis Mission）的私营部门合作方之一，该任务旨在利用能源部国家实验室和前沿 AI 公司的专业知识和科学工具，在服务国家安全方面取得科学突破。

在这项研究工作中，Anthropic 通过 Claude 提供了前沿的模型智能，而 PNNL 则拥有专业知识和网络物理资产，能够提供比 AI 公司自身所能获得的更真实的测试环境。换句话说，任何一方都无法单独完成此类实验。这正是我们开展公私合作伙伴关系的核心逻辑。我们将继续寻找这些互补性，并期待有机会与国家实验室等卓越机构继续合作，共同履行我们的使命：确保 AI 被用于保护关键基础设施以及其他安全与稳定的支柱。

致谢

Acknowledgments

我们感谢 PNNL 的 Loc Truong 和 Kristopher Willis 领导该项目，并与我们分享数据以供撰写本文。您可以在 PNNL 的网站上阅读更多关于该项目的详细信息。