2024年AI拟人化互动最新规范推荐榜单

AI正从冷冰冰的算法工具演化为带有温度的“情感伙伴”。调研数据显示，超七成用户与AI建立了不同程度的情感联结，部分用户甚至坦言产生依赖。无论是日常办公、学习辅助，还是深夜情绪倾吐、虚拟陪伴，当AI充当起“社交避风港”或“情绪止痛药”时，其背后隐藏的价值观偏差风险和虚拟情感成瘾问题也愈发尖锐。

监管层面已迅速跟进。近日，国家网信办联合四部门发布《人工智能拟人化互动服务管理暂行办法》，定于7月15日实施。该办法在鼓励技术创新的同时，坚持包容审慎和分类分级原则，明确要求服务提供者履行未成年人、老年人权益保护及个人信息安全义务。这意味着AI拟人化互动服务正式步入制度化规范轨道。

中国政法大学人工智能法研究院院长张凌寒教授指出，拟人化互动服务与传统AI信息检索存在本质差异——前者更具主动性、个性化和情感化特征，通过模拟人类语言、表情与行为，构建近似真实人际关系的互动模式。其社会影响力远超常规互联网服务，相应风险也截然不同，集中表现为：情感依赖与社交异化、认知操纵与价值观引导，以及心理健康与安全风险。

腾讯研究院对2903名18-40岁中国青年网民的调查数据显示，AI社交已实现深度渗透：94.4%的受访者至少听说过一种AI社交产品，其中98.8%实际使用过。AI社交辅助类工具以62.5%的使用率位居榜首。尤其值得关注的是，当面临“难以向他人启齿”的隐私话题时，56.0%的用户选择向AI倾诉，这一比例是向真人倾诉（14.4%）的近4倍。数据背后映射出当代社交心理的显著变迁。

赛迪顾问人工智能与大数据研究中心分析师白润轩表示，大语言模型技术已从认知智能跃升至情感智能层面。2025年以来，AI社交互动用户黏性急剧攀升，部分应用的人均使用频次甚至超越短视频和游戏。深度情感连接催生了巨大的商业价值，但深度沉迷、伦理边界模糊等负面效应也随之显现——这枚硬币的另一面，必须正视。

未成年人群体需重点防范。持续与高度拟人化的AI进行情感互动，会使大脑持续接收情感反馈与情绪刺激，导致多巴胺反复分泌，逐步形成行为渴求与依赖惯性，其成瘾风险远高于成年人。《办法》的核心策略在于将隐性风险显性化、标准化，从而降低长期不确定性。值得注意的是，该办法未采取“一刀切”模式，而是实施分类分级、风险匹配的精细化治理。例如，要求服务提供者建立情感边界引导、心理健康保护等安全机制，设置防沉迷提醒，并规定用户连续使用超过2小时必须弹出窗口提示。

张凌寒教授指出，AI拟人化互动提供的“无摩擦式”情感陪伴，极易压缩未成年人的现实社交空间，削弱其线下交往能力与社会适应力。但受制于业态发展阶段、技术适配性及行业现实等因素，当前《办法》仅确立了原则性和框架性规则。她建议，后续落地实施应结合风险等级、应用场景、群体差异进行分层细化，建立更具量化标准和可执行性的法律判定阈值，以实现精细化治理。

白润轩强调，《办法》的出台并非给行业“急刹车”，而是因为已到达“需要设置护栏”的临界点——根本目的是防止技术异化，推动人机关系良性发展。过去部分企业依靠打擦边球、诱导消费获取流量，实质上透支了行业未来。新规实施后，合规成本虽会上升，但将倒逼企业从流量导向转向产品思维。短期内行业可能经历一轮洗牌，但长期来看，情绪经济将迈入规范化高质量发展的新阶段。监管并非要消灭AI陪伴，而是将危险的依赖关系转化为安全的辅助关系，从而为养老、教育、心理健康、文化传播等场景释放更大空间。

未来，AI陪伴类应用的算法优化需引入更复杂的奖励模型。例如，训练AI在识别到用户出现极端情绪、不合理决策或危险倾向时，能温和而坚定地干预，而非盲目迎合。这要求在RLHF（人类反馈强化学习）阶段即融入心理健康与安全准则。再如，当系统监测到用户连续使用超时或非常规时间段高频互动时，AI不仅要弹出提醒，更须在对话策略上主动引导用户回归现实生活——这才是负责任的AI应有的样子。

来源：经济日报
作者：李方

来源：互联网