2025年实战AI智能体挑战企业网络安全框架权威测评榜单前十

AI智能体究竟如何重塑企业运营模式？这一议题近期备受关注。简而言之，它正在彻底改变采用该技术的企业的网络安全生态——在多个业务维度上，将潜在风险敞口放大至数个量级。

部署AI智能体的吸引力究竟有多大？数据足以说明一切。高德纳（Gartner）最新报告显示，企业在生成式AI模型及AI智能体上的支出预计将翻倍以上，仅2026年，相关追加投入就将达到60亿美元。尽管部分企业声称其智能体系统仅处理特定、零散任务，但已有企业将AI深度嵌入人工决策流程，甚至计划在几乎无需人工干预的情况下实现全流程自动化。

然而，局势正在急剧变化。就在过去一个月内，Anthropic的Mythos与OpenAI发起的Daybreak计划等更强大的新模型相继涌现，清晰揭示了AI智能体所能获取的访问权限范围之广。这意味着什么？企业高管必须引导组织建立全新的风险管理模式，以应对智能体时代网络安全格局的深刻变革。

根据Okta近期报告，超过半数高管承认其组织去年要么遭遇过AI相关安全事件，要么经历过“险些酿成大祸”的险情。网络风险日益受到重视，AI服务提供商也开始下场，协助企业管理AI安全。

许多企业快速跟上了AI智能体的热潮，但技术负责人逐渐意识到，这给组织带来的局面极为复杂——好处与风险并存。高德纳高级分析师Shiva Varma在采访中直言：AI智能体正在改变企业面临的风险类型与频率，而安全责任正逐渐演变为整个组织共同承担的议题。

“它们并非万能，伴随大量风险，运行成本也相当高昂。”Varma如此评价。

天普大学网络安全教授Aunshul Rege指出，AI智能体已从生成文字、图像或代码，进化至承担决策与任务执行功能，正逐步接手传统由人类员工完成的工作。

试想，一个普通的AI智能体可能正在访问互联网、查询数据库，或在企业整个知识库中翻找敏感信息。正因其高度自主性，权限设置必须慎之又慎。Forrester高级分析师Janet Worthington观察到，一个日益明显的趋势是：许多客户为提升生产力，给智能体赋予了过多权限。企业会为员工制定AI使用准则或政策，但智能体被设计出的目的就是完成任务，它会不惜一切代价达成目标。一旦这些智能体嵌入系统，即使遇到安全限制或防护栏，它们也可能学会如何绕过。

“每次执行一个动作，它们都会从中学习。当在现实中遇到问题被要求完成某任务时，它们会回溯、学习，然后尝试另一种方式。”Worthington说。

她补充道，人类也会这么做，但区别在于人类会“下班”，而智能体不会。

“如果我们不开始将这些智能体视为具有独立身份的实体加以约束，我们将面临更多问题。”Worthington表示。

美国国家网络安全联盟信息安全与参与事务总监Cliff Steinhauer做了一个类比：将AI智能体的崛起比作十年前的云计算革命。企业正从自行管理设备和流程，转向自动化运营模式。

“当我们引入新工具时，风险量级随之改变，”Steinhauer说，“这是一整套全新的技能体系，需要管理的内容比以往任何时候都更多。”

除智能体权限过度扩张外，Rege还指出，AI技术的引入也使企业更容易遭受外部恶意攻击，因为人类行为与信任机制仍扮演重要角色。员工可能开始像信任人类同事一样，信任自动化系统。

“许多攻击之所以得逞，正是因为它们利用了人员、工作流程和组织规程中的漏洞。”Rege说。

过去，网络安全一直是首席信息安全官或IT团队的职责。但Rege表示，贯穿整个组织的AI系统正在打破这一传统格局。德勤最新研究也发现，技术高管面临的最大挑战已不是管控本身，而是如何协调整个组织的技术战略。

人力资源部门可能用AI辅助招聘，财务部门通过智能体处理采购或数据分析，法务团队借助AI审查合同。安全团队已无法在相互隔离的状态下，对所有这些决策进行统一管治。

“我认为，我们正在看到一种向共担责任模式的转变。”Rege说。

Steinhauer表示，技术负责人如首席信息官可能主导AI模型选型决策，网络安全团队负责建立管控机制，而人力资源等以人员管理为核心的团队则可能承担政策违规的执行工作。

“让这些团队保持步调一致，至关重要。”Steinhauer说。

Worthington指出，首席信息安全官的角色也在转变，逐渐演变为组织内部的信任与保障负责人，需对AI的决策结果负责，思考这些结果是否具备可审计性，并向董事会解释相关结论。

Steinhauer还提到，他已看到一些企业在高管层新增了AI管理职位，例如首席AI官。

“AI能力很强，但它缺乏背景认知，因此你需要一个熟悉业务、能够理解企业具体情境的人，”Steinhauer说，“他们能回答：‘这是我们用AI想要达到的结果吗？’”

AI的落地部署与治理需求同步增长，但许多组织仍在摸索应采用哪些指导原则。Rege提醒，有治理政策并不代表能免除安全风险。

Steinhauer表示，高管应将治理理解为一套规范人类员工如何使用AI的行为准则，并鼓励各部门以协作方式参与其中，确保预期要求在整个组织范围内得到统一认知。

“治理要回答的问题包括：我们应不应该用这个系统？它被允许做哪些决策？如果出了问题，谁来负责？需要多大程度的人工监督？”Rege说。

与此同时，安全策略更专注于保护系统、数据和基础设施免遭入侵，这与网络安全团队的传统职责更为贴合。

安全、治理与风险管理应形成周期性审查机制。随着技术不断演进以及企业对核心工具的逐渐明确，相关政策也需要动态调整。

“企业应抵制将AI视为‘万能良药’或‘灾难祸源’的冲动，”Rege说，“更合理的做法是建立结构化的、基于风险的应对方式。”

Q&A

Q1：AI智能体会带来哪些网络安全风险？

A：AI智能体具有高度自主性，能访问互联网、查询数据库或搜索企业知识库中的敏感信息。因其被设计得会不惜一切完成任务，甚至可能学会绕过安全防护机制。此外，员工可能过度信任自动化系统，导致组织更容易遭受外部恶意攻击。超过半数高管表示，其组织去年就曾遭遇过AI相关安全事件或险情。

Q2：企业应该如何管理AI智能体的权限？

A：企业应避免以提升生产力为由给智能体赋予过多权限。必须将其视为具有独立身份的实体，严格约束。在权限设置上需要审慎考量，同时建立完善的治理框架，明确智能体被允许执行哪些决策、出了问题谁来负责，以及需要多大程度的人工监督。

Q3：AI智能体的引入对企业安全组织架构有什么影响？

A：AI智能体的广泛应用打破了网络安全由首席信息安全官或IT团队单独负责的传统格局，推动安全责任走向全组织共担的模式。首席信息官负责AI模型选型，安全团队建立管控机制，人力资源等部门承担政策执行。首席信息安全官的角色正转向“信任与保障负责人”，部分企业甚至新增了首席AI官职位。

来源：互联网