近日,小天才电话手表因过度管控"违禁词"而引发家长吐槽。

有家长反映,"我是你妈""打断你腿"等日常用语竟被判定为"不适宜内容",让人哭笑不得。

打开网易新闻 查看更多视频
热闻|小天才手表违禁词“逼疯”爸妈,网友吐槽“这不能发那也不能发”,官方回应

据了解,小天才电话手表近期进一步加强了对"违禁词"的限制,原本正常的语句无法发送。

据中新经纬采访报道,“‘我是你妈’‘我是你妈妈啊’‘宝贝儿子,我是你妈’‘赶紧回来不然狗腿给你打断’‘打你狗腿’这些话都是发不出去的,系统提示‘该消息可能含有不适宜内容’,发‘儿子,我是妈妈’是可以发出去的。”郑州的罗星(化名)表示,自己之前通过小天才电话手表App与孩子沟通时,并未出现过这种情况。

打开网易新闻 查看更多图片
打开网易新闻 查看更多图片

小天才官方回应:系统会过滤涉黄涉暴、带有隐藏含义的词段

20日,针对前文中提到的违禁词限制,记者以家长身份致电小天才电话手表官方客服,对方表示,因为电话手表使用的群体大多都是孩子,小天才电话手表设计了一些保护孩子的功能。“我们也是想创造一个绿色的沟通环境,一些敏感词汇或者不文明用语都是发送不出去的。不管是家长跟孩子聊天,还是孩子之间聊天,这些内容都发不出去。”

提到违禁词的审核逻辑,小天才电话手表官方客服表示,系统既有过滤机制,也有人工审核。

但还有网友反映,自己在安排孩子晚上做作业时给孩子发消息“晚上做”,被系统提示“可能含有不适宜内容”。

打开网易新闻 查看更多图片

提到该案例,上述客服表示,“(发)‘晚上做’得加一下后缀,做什么。这个‘做’系统是有判断的。因为有别的手表用户会发那些(违禁词),所以系统就统一都提醒一下。”

该客服表示,小天才电话手表会对涉黄、涉暴之类的内容以及一些有隐藏含义的词段进行过滤,同时也有人工审核。“(发)有隐藏含义的(内容),系统会标记提醒,不会说直接封,但是要是骂人系统就会把账号直接封了,禁言。”

上述客服称,小天才电话手表最近加强了违禁词限制,“其实一直在加强,也一直都有人工审核,只是现在越来越强化了,(系统)提醒得更频繁了。”

网友评论:这不能发那也不能发

对此不少网友表示不理解这一举措。还有网友认为这样的电话手表是“家庭版文明卫士,保护每个幼小的心灵”“让爸妈直接没脾气”。

打开网易新闻 查看更多图片
打开网易新闻 查看更多图片

专家:出发点是好的

《第5次全国未成年人互联网使用情况调查报告》显示,2022年未成年网民规模已突破1.93亿。2018—2022年,未成年人互联网普及率从93.7%增长到97.2%,基本达到饱和状态。正在使用智能手表、智能台灯、词典笔、智能屏等新型智能设备的未成年网民均超过20%。

在手机化发展趋势之下,由于服务对象的敏感性和特殊性,儿童智能手表发展中带来的隐患备受关注,功能冗余、诱导消费、隐私侵犯等问题屡禁不止。多位受访对象表示,儿童智能手表主要依靠硬件来赚取利润,但在软件需求越来越大的今天,这门生意很容易跑偏。

中国教育科学研究院研究员储朝晖表示,小天才电话手表对于违禁词的管控,出发点是好的,但至于管控效果如何,还得结合用户体验来看。

中国互联网协会法工委副秘书长、中国消费者协会律师团成员胡钢表示,采取技术措施筛选相关网络信息,或对网络信息设置必要的提示词、禁忌词,要严守合法、正当的原则。

打开网易新闻 查看更多图片

儿童智能设备如何平衡安全与体验?

有业内分析,小天才事件折射出儿童智能设备在内容安全方面的诸多问题。一方面,部分产品过度放大商业诉求,忽视了内容的儿童友好属性;另一方面,行业缺乏统一规范,安全防护标准不一,难以形成合力。对此,亟需政府、企业、家长等多方携手,共同推动行业健康发展。

首先,企业应牢固树立安全意识,将内容安全放在首位。在产品设计、运营等各环节,都要充分考虑儿童的特点和需求,提供适合其身心发展的优质内容和服务。其次,主管部门应加强行业引导,制定儿童智能设备的通用标准,为企业的安全防护工作提供参考和遵循。最后,家长也要提高警惕,加强对孩子使用智能设备的教导和监管,必要时可使用家长控制等功能,为孩子营造安全、健康的成长环境。

(来源:综合中新经纬、、红星新闻、北青网、网友评论等)

主笔:周小涵