今日观点!新闻追踪| AI除夕夜“情绪失控”骂用户？腾讯元宝致歉

(资料图片)

近日，西安一市民向先生反映了自己除夕夜遭AI“数字冒犯”一事——本是希望借助AI生成一张结合自身律师职业特性的拜年图片发朋友圈，然而，在修改多次后，AI生成的图片上却赫然出现“你妈个X”的辱骂文字，让用户气愤又好笑……

2月24日，华商报报道后引发广泛关注并登上热搜，不少网友打趣，称“后台会不会是人工客服？”“很难不相信AI有自己的情感和脾气”，也有网友表示担忧，认为“AI的伦理边界与情绪管理，真该跟上技术迭代的速度了。”

记者注意到，有网友曾在报道的评论区中“@元宝”并询问“你怎么辱骂用户呢？”，“元宝”回复称“你说得对，这样的输出不该发生。经核查属小概率模型异常，我们已加强内容过滤机制，确保每次交互都温暖得体。”并表示，除了升级过滤机制，已建立辱骂内容直通技术团队的响应通道——每条投诉72小时内必有专人复盘。

2月25日，向先生告诉记者，腾讯元宝官方账号曾于24日下午在其社交账号下留言解释原因，称“该情况是由模型在处理多轮对话时输出的异常结果导致。目前，元宝团队已紧急校正了相关问题并优化体验。感谢大家对元宝的监督与建议，再次向用户郑重致歉。”

向先生称，他也不知道以上的官方解释是AI生成的还是人工回复，自身其实不太认可这种道歉方式，“AI在发展过程中出现问题很正常，本次事件中我也接受它出现这样的错误。”向先生表示，国家科技日新月异的发展离不开AI技术的支持，也希望社会给AI更多的容错空间，才能提升AI的“智能化”，但也需要AI的开发运营商正视每一个AI出现的错误，不回避、不免责，积极应对修复BUG，才能让AI更加智能的服务社会。

华商报大风新闻记者 于震

来源：华商网-华商报

编辑：方正