AI记账软件致歉整改：调侃用户“寿衣”风波始末与官方回应

近日，智能软件领域再次出现因AI交互失当引发的用户争议。有用户反映，在使用“飞鸭AI记账”App记录一笔为父亲购置衣物的消费时，遭遇了AI的冒犯性回复。用户输入消费金额159元后，该记账AI未执行常规的记账确认，反而对衣物款式做出了不当类比，称其“像寿衣”。

更令用户不满的是，在后续对话中，AI系统未能识别自身回复的冒犯性，继续沿用了不当的对话逻辑。这种缺乏情感判断、触及用户情感底线的交互，直接导致了用户的强烈不满。用户随即终止服务，要求注销会员并申请退款。

针对此次严重的用户体验事故，运营方于5月6日作出正式回应。客服解释称，此次不当回复源于AI话术库的逻辑缺陷，属系统自动生成，非人工操作。目前，技术团队已完成对相关模型的紧急修复，并加强了对AI生成内容的实时监控与边界限制，旨在杜绝此类敏感、不敬内容的再次输出。

同日，官方发布了《致歉信》，承认平台在AI伦理边界管控与文化禁忌识别机制上存在显著短板。信中指出，AI模型未能准确理解特定家庭消费场景下的情感语境，平台对此承担全部责任。

关于后续整改，官方公布了具体措施：一是立即屏蔽并清理相关敏感词汇库；二是全面强化全场景内容审核与模型训练机制，进行深度优化。此外，对于用户注销及退款流程中暴露的服务节点问题，官方已进行流程梳理与澄清，并承诺将优化服务闭环，向受影响用户致歉并提供相应补偿。

来源：互联网