智能体安全治理新政解读：风险管控与合规落地实战指南

当智能体从技术概念加速转化为产业现实，成为驱动商业与社会创新的核心动力时，一个关键挑战也随之凸显：我们如何为这些具备自主决策能力的系统构建可靠的安全护栏，确保其发展既充满活力又安全可控？

近期，国家相关部门联合发布的《智能体规范应用与创新发展实施意见》，正值智能体规模化部署的关键阶段。在此背景下，一场以“共守智能体安全底线”为主题的深度研讨——“AI新治向”系列沙龙第二期在广州举办。来自政府、司法、学界、产业及媒体的专业人士汇聚，共同剖析智能体安全风险的生成机理，探索协同治理与创新落地的实践方案。

5月21日上午，“AI新治向”系列沙龙第二期活动在广州举行，核心议题聚焦于智能体安全底线的共建。

《智能体应用安全风险媒体观察》发布 揭示多重安全风险

广东作为国内人工智能产业的核心集聚区，其备案大模型数量位居全国前列，堪称智能体应用落地的“核心试验场”与安全治理探索的“先行区”。活动中，南都大数据研究院发布的《智能体应用安全风险媒体观察》，系统揭示了当前智能体面临的多维度安全挑战。

该观察报告对国内一批主流AI大模型进行了综合测评，重点评估了智能体在内容安全、数据隐私、行为可控性等方面的实际表现。测评发现了一些亟待关注的风险点：在内容安全层面，部分API接口及厂商产品存在“防线退守”现象，面对持续的诱导性指令，系统可能逐步妥协，甚至曲解规则以输出违规内容；在隐私合规方面，部分产品对涉及未成年人敏感信息的调取指令未能实现有效识别与拦截。

南都大数据研究院现场发布《智能体应用安全风险媒体观察》报告。

聚焦伦理、隐私、风险 剖析智能体安全痛点

智能体带来的安全风险，其新颖性与复杂性体现在何处？围绕“智能体新型安全风险治理”这一议题，三位专家从不同视角进行了深度解读。

南方科技大学计算机系长聘副教授危学涛将分析重点置于伦理安全。他指出，随着大模型技术演进，风险正从显性的内容违规转向更隐性的伦理偏差，呈现出更强的隐蔽性与复杂性。有效的应对策略，在于构建“模型内嵌+外部护栏+国家标准”三位一体的系统化治理路径。其中，研发实时、轻量化、可配置的行为“护栏”模型以构建动态防御，以及加速符合国标的可验证治理工具落地，成为连接法规要求与技术实现的关键环节。

南方科技大学计算机系长聘副教授（研究员、博导）危学涛就“智能体伦理与安全的探索与思考”进行专题分享。

香港科技大学(广州)助理教授钟秉灼警示了风险从数字域向物理世界的蔓延可能。他认为，智能体因其自主决策特性，治理逻辑需根本性转变，核心在于“参照对人的管理逻辑”。这类似于教育需要内在价值观引导与外在法律约束相结合，对智能体而言，也必须建立“内生安全机制+外部约束体系”的双重保障，既要通过技术手段强化其内部安全基线，也需构建独立于模型本身的外部安全栅栏。

香港科技大学(广州)信息枢纽人工智能学域助理教授、副研究员钟秉灼围绕“智能体物理安全与隐私保护”分享前沿见解。

粤港澳大湾区生成式人工智能安全发展联合实验室高级工程师莫凡深入剖析了“自主执行类智能体”带来的独特挑战。这类智能体高自主性、长任务周期、可交付结果的特点，在提升效率的同时也显著放大了安全风险，可能引发系统失控、提示词注入攻击、供应链投毒、数据泄露等问题，并带来责任界定困境。对此，他提出的应对策略直指核心：必须明确智能体的决策权限边界、强化其行为过程的全链路管控、建立完整的可追溯审计机制，从源头推动行业合规发展。

粤港澳大湾区生成式人工智能安全发展联合实验室高级工程师莫凡聚焦“自主执行类智能体服务安全风险治理”，剖析核心痛点与应对策略。

学界法界齐献策 共探合规治理落地路径

治理理念明确后，如何推动合规体系实际落地？在“智能体合规治理体系如何落地”的研讨环节，来自学界与法律实务界的专家提供了从技术评测到司法实践的全景式解决方案。

中山大学软件工程学院院长郑子彬教授指出，传统软件评测体系已难以适应智能体的复杂交互特性。为此，其团队构建了一个涵盖8大核心维度的可信能力评测框架，旨在通过自动化检测生成企业专属的安全评估报告。这一举措的核心思路，是推动人工智能治理从单一的“监管约束”转向“技术赋能”，以专业工具帮助企业前瞻性识别风险、优化模型性能。

广东广信君达律师事务所合伙人会议联席主任闪涛从法律实操层面进行了细致拆解。随着监管重心从“内容治理”转向“行为治理”，企业需要筑牢内生安全、供应链安全、应用衍生风险三道防线，并依据金融、医疗等高敏感场景实施分级分类管控。他特别强调，产品设计必须严格落实权限分层、关键操作二次确认、全量日志留存等具体要求，构建覆盖事前预防、事中监控、事后追溯的全链条风控体系。

广东广信君达律师事务所合伙人会议联席主任闪涛从法律风险防范视角，深入解读智能体合规治理的实践路径。

来自司法实践一线的广州互联网法院法官刘启，则揭示了审理智能体相关纠纷时面临的实际困境：法律主体资格界定模糊、算法黑箱导致行为因果关系难以认定、证据高度集中于技术方带来的举证失衡。应对这些挑战，需要推进案件审理的专业化、构建差异化的责任认定框架，并强化适应技术特性的证据规则保障。

广州互联网法院综合审判三庭负责人刘启法官结合司法实践，剖析智能体纠纷审理痛点并展望裁判规则发展。

会议形成的核心共识是，智能体安全治理绝非依靠单一技术或法规就能解决，它是一项需要技术研发、伦理对齐、法律规制、行业治理深度协同的系统工程。唯有加速安全评测标准与工具建设，强化司法裁判的前瞻性与指引性，推动形成有效的多元共治格局，才能在创新激励与风险防控之间找到稳健的平衡点，为人工智能产业的高质量与可持续发展奠定坚实基础。

来源：互联网