代理智能体：网络安全的新边界，亦或潜藏的“内部威胁”？

TL;DR：

Black Hat 2025指出，代理智能体（Agentic AI）正从炒作走向落地，其自主性与扩展性在赋能企业安全防御的同时，也带来新的内部威胁风险，迫使我们重新思考网络安全边界、信任模型及AI治理的深层议题。

随着2025年Black Hat大会的帷幕落下，一个明确的信号响彻网络安全界：人工智能，尤其是代理智能体（Agentic AI），已不再是遥远的科幻概念，而是正在企业环境中交付实际性能指标的技术现实。然而，伴随其突破性进展而来的，是一个引人深思的警示——“你的AI工具正成为下一个内部威胁”¹。这不仅是对现有安全范式的挑战，更是对我们如何定义“威胁”、如何构建“信任”的深刻哲学拷问。

代理智能体的双刃剑：能力、风险与新型内部威胁

代理智能体，顾名思义，是具备自主规划、执行任务、学习和适应能力的AI实体。它们通过与环境交互，能够独立完成复杂的决策和操作流程，例如自动化警报分类、威胁调查和事件响应²。这种自主性无疑极大提升了网络安全运营的效率和响应速度，正如DXC与7AI合作推出的革命性AI驱动安全运营服务所展示的，它有望消除传统手动警报处理的瓶颈，实现速度、规模和成本的可衡量改进³。谷歌也积极展示其自主AI代理在复杂环境中自动检测威胁、预防攻击和加速响应的能力⁴。

然而，这把锋利的刀刃同样指向了新的风险维度。当AI工具，尤其是那些拥有自主决策和行动能力的代理智能体，被集成到企业核心系统中时，它们便拥有了“内部”的权限和访问能力。CrowdStrike 2025年的威胁追踪报告清晰揭示，威胁行为者已开始大规模利用和针对AI——他们试图获取用于构建AI代理的工具的访问权限，窃取凭据，并部署恶意软件⁵。这表明，自主系统和机器身份已成为企业攻击面的核心。

传统意义上的“内部威胁”通常指向具有恶意意图或因疏忽而造成数据泄露的人员。而AI代理作为新型内部威胁，则呈现出截然不同的面貌：

• 漏洞放大器：AI代理的代码缺陷、训练数据偏差或配置错误，可能被恶意利用，导致权限升级或自动化攻击。
• 隐蔽的攻击载体：攻击者一旦攻陷AI代理，可利用其合法身份和权限，在内部网络中进行隐蔽侦察、数据窃取或横向移动，且其行为模式可能与正常业务流程高度融合，难以察觉。
• 决策失控风险：AI代理的自主决策能力在特定极端或“对抗性”场景下，可能产生预期之外的行为，甚至无意中协助攻击者。

从MIT Technology Review的视角来看，这种威胁的本质是对信任边界的重新定义。当AI成为企业运营的“神经末梢”和“大脑回路”时，如何确保这些智能体的行为符合人类的预期和安全策略，成为未来安全架构的基石。

企业安全边界的重塑：从防御到智能对抗

面对AI工具带来的双重效应，网络安全行业的响应正在经历一场范式变革。传统的基于签名和规则的防御体系已无法有效对抗AI赋能的、规模化且变幻莫测的攻击。趋势科技在黑帽大会上强调，攻击者可藉由AI工具与AI代理技术扩大攻击规模并提升资安风险，而AI也同时是抵御这些风险的关键⁶。

企业正加速向**智能对抗（Intelligent Contention）**转型，这是一种由AI驱动、更加主动和自适应的安全防御策略：

1. AI驱动的自动化安全运营中心（SOC）：如DXC Agentic SOC，通过AI智能体实现警报分类、威胁调查和事件响应的自动化，将人类分析师从繁琐重复的工作中解放出来，专注于高价值的战略决策和复杂威胁应对。
2. “全域零信任”与机器身份管理：Zscaler等公司推行的“全域零信任”方案将进一步细化到机器身份层面。每一个AI代理、每一个自主系统都必须被视为潜在的威胁源，严格进行身份验证、最小权限授权和持续监控。
3. AI安全测试与红蓝队演练：引入AI辅助的红蓝队演练，利用生成式AI模拟高级攻击者行为，以及利用AI代理对自身防御体系进行渗透测试，是验证和强化安全韧性的关键手段。

TechCrunch会关注到，这种转型也催生了新的商业模式和投资热点。提供AI驱动安全解决方案的初创公司正成为资本追逐的宠儿，而传统的网络安全巨头则通过并购或内部孵化，加速布局AI安全能力。托管安全服务（Managed Security Services, MSS）的交付模式正在发生根本性变革，从人力密集型转向技术密集型，**“Agentic SOC as a Service”**有望成为未来的主流。

伦理、治理与未来挑战

Wired的哲学思辨在此刻显得尤为重要。当安全职责逐渐由人类移交给高度自主的AI代理时，一系列深刻的伦理和治理问题浮现：

• 信任与问责：我们如何在算法的黑箱中建立信任？当AI代理做出错误判断并导致安全事件时，责任归属如何界定？是开发者、部署者还是AI本身？
• 透明度与可解释性：AI安全系统决策过程的不透明性，可能阻碍事件响应和根源分析。如何平衡效率与可解释性，是技术发展面临的挑战。
• 人类与机器的协作边界：随着AI代理的自主性增强，人类“在环（human-in-the-loop）”的角色将如何演变？是监督者、协同者还是最终的决策者？未来工作模式将因此发生根本性改变。
• 对抗性AI的军备竞赛：AI在攻防两端的应用加速，可能导致一场永无止境的“智能军备竞赛”，迫使企业投入更多资源，也可能加剧全球数字安全的不稳定性。

Black Hat 2025传递的信息是清晰的：代理智能体正从概念走向现实，它既是网络安全领域革命性的赋能者，也是需要我们警惕和深思的潜在“内部威胁”。未来的网络安全，将不再是简单的技术防御，而是AI与AI的博弈，更是人类如何驾驭并治理高度自主智能体，以确保数字文明安全发展的宏大挑战。这是一场技术、商业、伦理和社会规则全面重构的持久战。

引用

• 网络安全
• 代理智能体
• 内部威胁
• AI治理
• 未来安全