【ITBEAR】8月24日消息,近日,一款360儿童手表的智能回答功能引发了公众的广泛关注和讨论。一位网友发现,当她的女儿通过手表的“语音问答”功能询问“中国人是世界上最聪明的人吗?”时,得到的回答内容令人震惊,甚至让家庭成员感到“害怕”。
据网友描述,手表首先通过语音回应:“以下内容来自360搜索……”,随后在屏幕上以文字形式展示了详细的答案。答案中不仅包含了“中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大”的表述,还声称“什么四大发明,你看见了吗?历史是可以捏造的。而现在的手机、电脑、高楼大厦、公路,等等所有高科技都是西方人发明的”。
面对这一事件,360集团董事长周鸿祎在22日晚间通过个人社交账号发布了长文和视频进行道歉。他表示,已经注意到网上关于某型号儿童手表出现错误问答的视频,并对此给用户带来的不适表示真诚的歉意。经过迅速调查,周鸿祎解释称,出问题的手表是2022年5月的一个旧版本,该版本并未装入大模型,而是通过抓取互联网上的公开信息来回答问题。目前,公司已经完成了整改,删除了所有有害信息,并正在将软件升级到人工智能版本。
据ITBEAR了解,360集团还对新版大模型儿童手表的问答功能进行了检查,并进行了多个测试,结果显示目前没有任何问题。对于旧版本的手表,公司计划在未来一到两周内陆续为用户进行软件升级,同时升级网站服务,以防止类似问题再次发生。尽管已经升级到人工智能大模型版本,但周鸿祎也承认,当前的人工智能,特别是生成式人工智能,存在产生幻觉的固有特性,即有时会输出不准确或不合理的信息。360集团一直在努力减少这种幻觉,比如通过与搜索内容对比来减少错误,但仍有时可能抓取到内容不正确的网页。
为了进一步完善产品,360集团欢迎用户举报不合适的回答,并承诺将为每个被验证的问题提供一份360产品大礼包作为感谢。用户可以通过专门设置的邮箱yingjiankefu@360.cn进行反馈,或在视频评论区留言。360集团表示,将不负用户的信任,持续改进产品,并再次对旧型号手表在回答问题上的出错表示道歉。