张吉豫：促进人工智能拟人化互动服务健康发展与规范应用

你是否设想过，当人工智能不再局限于冰冷的数据处理，而是进化为能够深度对话、情感共鸣、甚至感知人类情绪波动的数字存在，会带来怎样的交互革命？这并非科幻叙事，当前人工智能正经历从效率工具到情感伴侣的范式迁移。所谓"拟人化互动服务"，本质上是借助AI技术向用户提供具有鲜明个性、类人思维模式与连贯沟通逻辑的情感交互体验。

这与常规的智能客服、流程自动化助手存在本质差异——其核心价值锚定于"情感关怀、心理陪伴与精神支持"。高质量的拟人化服务确实能够传递情绪价值，带来疗愈感；但若被不当利用或恶意操控，也可能对公共伦理、社会心理安全及治理体系构成严峻挑战。

近期，国家互联网信息办公室联合四部门正式发布《人工智能拟人化互动服务管理暂行办法》，定于2026年7月15日起全面施行。该规章首次以制度形式明确鼓励服务提供者在文化传播、幼龄照护、老年陪伴、特殊群体支持等公共价值领域有序拓展，同时划定了具体的行为边界与合规要求。这标志着我国人工智能监管正式迈入关注"心理边界"与"情感安全"的新治理阶段。

作为AI风险场景化治理的又一制度实践，《办法》不仅从宏观层面要求服务提供者恪守法律法规、尊重社会公德与伦理规范，更针对典型风险场景逐一设定约束条款，精准回应了技术应用落地中的治理痛点。

包容审慎，分类分级

《办法》确立的监管基座，是"包容审慎"与"分类分级"两大原则。这既是统筹发展与安全的实操方法论，也是我国算法与AI治理一以贯之的制度底色。包容审慎本质上是一种回应性规制范式——对新兴技术、产品、业态保持合理容忍度，允许其在守住安全底线的前提下及时纠偏；政府则基于审慎观察，适时、适度介入。分类分级则确保监管粒度与风险类型、风险规模精准匹配，实现靶向治理，避免"一刀切"带来的效率损失或监管真空。

值得关注的是，《办法》对适用范围进行了场景化限定，明确将智能客服、知识问答、科学研究等工具型AI排除在外，有效防止监管泛化；同时依据用户规模实施差异化监管强度。这折射出"精细化"治理的底层逻辑。

从设计之初就嵌入安全

法律与技术的深度融合，始终是网络法治演进的底层方法。《办法》将治理节点从"事后补救"前移至"从设计阶段贯穿全生命周期"。具体而言：在服务设计目标层，强调科技伦理审查，明确禁止将"替代真实社交、操控用户心理、诱导成瘾性依赖"作为产品目标；在系统架构层，要求系统原生集成隐私保护、过度依赖风险预警、情感边界引导、心理健康防护四项核心安全能力；在用户交互层，强制提供未成年人模式切换、定时现实提醒、使用时长限制等可配置安全选项，为用户保留理性判断的支点。

沙箱监管：为创新留出容错空间

面对AI技术的高度动态性与不确定性，《办法》引入了一项现代化治理工具——沙箱监管机制。具体路径是：国家网信部门会同相关部门，推动建设人工智能沙箱安全服务平台，并鼓励服务提供者主动接入。在有限范围、可控风险、实时监测的封闭环境中进行技术创新与安全测试，监管者得以动态掌握风险态势，企业则能显著降低合规试错的边际成本。这有助于缓解法律滞后性与技术突变性之间的结构性矛盾，为创新构建制度弹性。沙箱机制本质上构建了一个"技术测试—风险识别—反馈迭代—安全释放"的闭环治理链条，为拟人化互动服务的健康有序发展提供了韧性制度供给。

路还长，关键在于落地

《办法》的出台，意味着我国人工智能治理在精细化、场景化维度迈出了实质性一步。它直面真实风险，通过包容审慎与分类分级监管、将伦理与安全内置入系统架构、以及前向应用的实验型沙箱机制，提供了一套具备韧性的规则体系。

但从"制度建构"到"治理实效"，仍有若干关键环节亟待突破：首先，需要构建常态化的多元主体对话与信息共享机制，推动制定具体规则的技术落地指南或行业标准，尤其要降低中小企业的合规门槛；其次，必须推动监管沙箱的实质化运转，引导相关监管部门依托沙箱平台建立高效的信息共享与双向反馈通道，使其成为监管部门动态跟踪技术演进、沉淀全流程合规实践标准的"治理实验室"；最后，在适用阶梯式法律责任时，须坚守"包容审慎"原则——对于非红线问题，优先督促整改，秉持比例原则，为文化传播、适老陪伴、适幼照护等具有高度公共价值的应用保留合理的试错空间与成长弹性。

走向"人机和谐"的智能时代，法治的核心使命在于捍卫人类的主体性与心理安全。拟人化互动服务，应当成为在安全边界内给予人类情绪支持的"数字伙伴"，而非操控心理、诱导沉迷的"算法黑箱"。以《办法》的发布与施行为起点，借助法治智慧对技术进行理性引导与规制，我们有望构建一个兼具温度与边界感的数字生态。

来源：互联网