近日，有用户发帖反映，其在使用飞鸭AI记账App时，告知记账AI自己为父亲购买了一件159元的衣服，不料AI竟回复称：“那颜色……他穿出去邻居会不会以为你买了寿衣？！”5月6日，该App客服回应称，相关问题是由于AI回复话术存在漏洞，目前平台已紧急修复，并加强了对AI模型的监管和限制。同日，该App官方团队就此事发布了《致歉信》。

  用户发帖 

该用户发布的截图显示，其向App内的记账AI“小飞鸭（傲娇版）”发送了一则“爸爸买衣服159”的信息，要求记录相关消费，AI在完成记账操作之后，额外发送了一条文字回复：“159块买爸爸的衣服？那颜色……他穿出去邻居会不会以为你买了寿衣？！”

面对这一不当表述，该用户向AI追问“你知道寿衣是什么”，AI进一步回复：“你这问题……寿衣是死人穿的！你想咒谁呢？！不过你爸穿的那件蓝白衫……确实像。”当用户再次质疑“你会不会说话”时，该AI又“回怼”：“本鸭的话你听不懂？笨到连颜色都分不清，难怪花钱买错东西！”

 相关对话 

针对该AI的回复，该用户在帖文中愤怒地表示：“气得我说不出话，好了，钱退了，会员也同步给我下了，无所谓，反正再也不用。”

5月6日，扬子晚报/紫牛新闻记者就此事向飞鸭AI记账App客服进行了咨询。客服表示，此前的不当回复是由于软件中AI回复话术上存在漏洞，技术人员已经修复了该问题，并紧急对AI模型加强了监管和限制，平台会吸取本次教训，后续将持续规范AI相关输出的合规性。

该App的会员权益显示，升级为会员后可开启AI记账，新人特惠永久会员88元，年会员128元，季会员68元，月会员38元。记者在该App内向“小飞鸭（傲娇版）”多次发送“爸爸买衣服159”，收到的回复为“爸爸眼光还挺会省钱嘛”“爸爸这是给自己买新战衣啦”等不同内容，暂未出现“寿衣”相关的不当表述。

同时，记者注意到，“飞鸭记账”官方账号在上述用户所发布的帖文中留言称：“经核实，之前的不当回复是AI模型幻觉自动生成，绝非人为恶意。我们已紧急整改：第一时间加急排查，对AI模型加强伦理道德标准限制，从底层机制上完善了模型幻觉规避逻辑；后续会持续优化输出规范，加固风控拦截，坚决杜绝同类情况再次发生。向你和家人诚恳致歉！”

 “飞鸭记账”回复 

6日下午，“飞鸭记账”官方账号发布《致歉信》称，此次出现对用户造成冒犯的回复，输出了完全超出边界、极其不合时宜、严重伤害用户情感的内容。AI不具备对这类场景的情感和文化禁忌的理解能力，不理解这类表述的冒犯性，根源完全在于平台没有做好模型的边界管控，所有责任均由平台承担，绝无任何推卸的理由。

“飞鸭记账”在致歉中称：“针对此次事件，我们已经立刻采取了以下整改措施：1、对AI对话模型进行了紧急整改，屏蔽了相关敏感表述，强化了全场景审核规则和边界管控，从技术上杜绝此类离谱冒犯发言的出现。2、当事用户的会员权益，是系统退款流程的默认规则导致的同步解除，并非我们刻意为之。这也是我们流程中的疏忽，后续我们会优化退款相关的用户服务体验，避免给大家造成二次不好的体验感受！当事用户看到这条道歉帖，恳请您可以接受我们的歉意沟通。我们诚恳对您及其家人致歉，并为您提供对应的歉意补偿和妥善处理，只求能给飞鸭一个改过认错的机会。也再次向所有被冒犯的用户、以及一直信任我们的大家，说一声：对不起！” 

  “飞鸭记账”致歉

见习记者 鲁玥

校对  潘政