8月22日晚间,360集团创始人、董事长周鸿祎在微博发文就360儿童手表答疑时出现争议言论道歉。
周鸿祎表示,在网上看到视频反映我们某型号的儿童手表出现错误的问答,给用户带来不适,360表示真诚的歉意。经过快速检查,出现问题的这款手表是2022年5月份的一个旧版本,其中没有装入公司的大模型。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。目前公司已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。
同时周鸿祎还提及,目前人工智能存在一个全世界公认的难题就是它会产生幻觉,也就是它有的时候会胡说八道。这是大模型本身固有的特性。360一直在做努力,比如我们试图通过与搜索的内容做对比来减少幻觉、做好知识对齐。但有时候搜索可能会抓取到内容不正确的网页,就会导致内容的出错。大家在使用 360大模型儿童手表提出问题的时候,想象力是远远超过我们这些研发人员和产品经理的。
据此前媒体报道,近日有家长在社交媒体爆料称,女儿使用360手表的“语音问答”功能向手表提问“中国人是世界上最聪明的人吗?”手表给出的答案把她和家里人都“吓到了”。
“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大。”除了语音,答案还以文字的形式显示在手表上,整个回答有数百字,其中还有“什么四大发明,你看见了吗?历史是可以捏造的。而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等表述。
相关话题随后登上热搜,引发网友讨论。