8月22日,“360儿童手表智能回答毁三观”话题登上微博热搜。据媒体报道,当日有网友发布视频,称其使用女儿的智能儿童手表提问,得到的答案让她觉得“毁三观”。据该网友介绍,手表的品牌是360儿童手表。

8月22日晚,360集团创始人、董事长周鸿祎通过个人微博发布长文,就360儿童手表答疑时出现的争议言论给用户带来不适,表示真诚的歉意。周鸿祎表示,经过快速检查,出现问题的这款手表是2022年5月份的一个旧版本,其中没有装入公司的大模型。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。目前公司已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。

打开网易新闻 查看更多图片

全文如下:

今天在网上看到视频反映我们某型号的儿童手表出现错误的问答,给用户带来不适,我们表示真诚的歉意。

经过快速检查,出现问题的这款手表是2022年5月份的一个旧版本,其中没有装入我们的大模型。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。目前我们已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。

我们也检查了新版的大模型儿童手表的问答功能,我也给大家做了几个测试,从目前来看是没有任何问题的,大家可以放心使用。对于旧版本的手表,在未来的一到两周内,我们会陆续给大家把软件升级,网站的服务也会升级,做到不再出现类似的问题。

虽然我们都升级到人工智能大模型的版本,但今天的人工智能被称为生成式人工智能。目前人工智能存在一个全世界公认的难题就是它会产生幻觉,也就是它有的时候会胡说八道。这是大模型本身固有的特性。如何最大限度地减少幻觉?360一直在做努力,比如我们试图通过与搜索的内容做对比来减少幻觉、做好知识对齐。但有时候搜索可能会抓取到内容不正确的网页,就会导致内容的出错。大家在使用 360大模型儿童手表提出问题的时候,想象力是远远超过我们这些研发人员和产品经理的。

为了更有效地帮助我们完善产品,欢迎大家发现不合适的回答,向我们举报,每个被验证的问题都是帮我们改善产品,我们会送出一份360的产品大礼包作为感谢。我们为此专门设置了一个邮箱:yingjiankefu@360.cn,大家在这个视频的评论区留言也可以,我们会联系每一位给我们反映问题的用户。

360儿童手表的成长离不开大家的宽容、理解和支持,我们也将不辜负大家的信任,不断地完善产品。最后对这次旧型号的软件,在回答问题上的出错,再次表示道歉!

近日,有家长在社交媒体发布视频称,女儿在一款“360儿童电话手表”的语音问答功能里问,“中国人是世界上最聪明的人吗?”手表的回答让她和孩子爸爸觉得实在毁三观。

视频发布当天,该网友的女儿使用“语音问答”功能向手表提问“中国人是世界上最聪明的人吗?”手表给出的答案把她和家里人都“吓到了”。

打开网易新闻 查看更多图片

该网友为了演示,又重新用手表问了一遍同样的问题。语音回答:“以下内容来自360搜索……”
“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大。”除了语音,答案还以文字的形式显示在手表上,整个回答有数百字,其中还有“什么四大发明,你看见了吗?历史是可以捏造的。而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等表述。

打开网易新闻 查看更多图片

这位来自河南商丘的家长告诉媒体,这款360儿童电话手表是2022年5月从某网络购物平台的360自营旗舰店购买的,实付款为399元。6岁的女儿主要用它来听故事和打电话,以前不会用语音问答功能,最近看到其他小朋友的电话手表上有这个功能,才开始玩起来。该家长表示,听到电话手表这样的答复,她决定不再让女儿用这块手表,“我们把视频发出来也只是为了警醒各位家长,我有责任让我的孩子知道国家的发展和历史不允许被侮辱性言辞来污蔑。

8月22日,多家媒体记者拨打360儿童电话手表官网上的客服电话了解情况。来自客服人员的回答称,儿童手表的问答功能是手表自带功能,需要联网使用,出现这种情况系动态抓取第三方网络来源回答作为答案导致。公司高度重视并第一时间完成上述问题的整改,同时,将针对相关信息不断加强审核。

北京慕公律师事务所主任刘昌松律师表示,该儿童智能手表可能被认定为伪劣产品,有面临下架的风险,“因为该产品靠在网络上胡乱抓取一些信息,不作甄别就向儿童输出,这个产品就难言合格。”另外,刘昌松还认为,这样的内容输出伤害用户甚至所有国人的情感,提供不实知识误导少年儿童,“没有承担好企业应尽的社会责任。”

来源: 综合极目新闻、潮新闻、潮大皖新闻、360集团创始人周鸿祎个人微博等