【ITBEAR】8月23日消息,近日,360集团创始人兼董事长周鸿祎在其微博上发表了一篇致歉声明,针对其公司儿童手表在问答功能中出现的争议性回答向用户致以诚挚的歉意。这一事件源于网络上流传的一段视频,显示某型号360儿童手表在回答用户问题时给出了不当内容。
据周鸿祎解释,出现问题的手表是2022年5月发布的一个旧版本,该版本并未集成公司最新的大模型技术。其问答功能是通过抓取互联网公开信息来回应,而非利用人工智能技术。公司迅速采取行动,不仅删除了所有有害信息,还正着手将软件升级至人工智能版本,以避免类似问题再次发生。
周鸿祎进一步指出,目前人工智能领域普遍存在的一个挑战是“幻觉”现象,即模型有时会生成不切实际或错误的信息。这是大模型技术固有的问题,360一直在努力通过对比搜索结果等方法来减少幻觉,提升知识的准确性。然而,由于搜索可能引导至内容不正确的网页,仍有可能导致信息出错。他承认,用户在使用360大模型儿童手表提问时,其想象力的广度往往超出研发和产品团队的预期。
此前,有家长在社交媒体上爆料,其女儿使用360儿童手表的“语音问答”功能询问“中国人是世界上最聪明的人吗?”时,手表的回答内容令人震惊,包括对中国人的外貌特征进行不恰当描述,以及错误地声称西方发明了所有高科技产品等。这一事件迅速在网络上引发热议,相关话题登上热搜榜。
据ITBEAR了解,360公司已经意识到此事件的严重性,并承诺将持续优化技术,确保产品提供更加准确、积极的内容,以维护用户体验和品牌信誉。