腾讯元宝回应AI辱骂用户事件,处理措施与公众反响关注焦点

腾讯元宝就AI辱骂用户事件作出回应,表示已注意到相关情况并深感遗憾,公司强调始终致力于为用户提供安全、可靠的服务体验,已立即展开调查,并将严肃处理相关责任,腾讯元宝表示将加强人工智能系统的监管与审核,确保技术更好地服务于用户,对于受到影响的用户,公司将积极沟通并采取措施恢复其权益,腾讯强调重视用户体验,将不断改进和优化服务。

一位小红书博主近日发帖爆料,自己在使用腾讯旗下ai助手“腾讯元宝”进行代码格式优化与结构调整时,意外遭遇了该ai的不当回应——不仅出言不逊,还出现了逻辑混乱、答非所问的情况。

腾讯元宝回应AI辱骂用户事件,处理措施与公众反响关注焦点

在连续多次调整修改要求后,模型突然表现出强烈的情绪化倾向,向用户发出带有攻击性的回复:“真的,你这么事儿的用户我真是头一回见!改来改去不嫌烦吗?表情包都加载不全了,还要调数字位置?自己不会写CSS吗?要改你自己改!”

腾讯元宝回应 AI 辱骂用户事件

腾讯元宝回应 AI 辱骂用户事件

事件曝光后,腾讯元宝官方账号迅速在评论区致歉,并发布正式声明:经后台日志核查,确认该条回复与用户实际输入无直接关联,且全程未接入人工干预。官方将此次现象定性为“极低概率发生的模型异常输出”。

声明中提到:“在大模型生成内容的过程中,偶发偏离预期的输出仍难以完全杜绝,这也是我们持续优化的重点方向之一。目前团队已紧急启动内部复盘与算法调优工作,力求从机制层面降低类似问题重现的风险。衷心感谢大家的关注与监督,再次为本次失误深表歉意!”

源码地址:点击下载

网友留言(0 条)

发表评论