“豆包识别这是鸡腿菇,可以吃”——因为AI的一则误判,一位用户将小区里采摘的蘑菇做成了菜。吃完之后,人进了医院。
6月5日,“豆包误判蘑菇致用户中毒”的话题冲上热搜,引发全网对AI安全性的深度拷问。随后,抖音集团副总裁李亮发文回应,证实了此事并披露了关键细节。
据李亮披露,事发后豆包团队已联系上当事用户。还原事情经过,豆包识别流程其实给出了一个“自相矛盾”的答案。
用户使用豆包拍照识别从小区摘到的蘑菇时,AI将其识别为“鸡腿菇”。但在同一份回复中,豆包也明确给出了警示性文字:“极容易和剧毒的大青褶伞混淆,误食会引发严重的胃肠炎症状”,并明确建议:“如果这几朵蘑菇是野外采摘的,强烈建议不要食用。”
同时,豆包的回复中还强调:“野生蘑菇的辨别风险极高,仅凭图片无法100%排除有毒相似种的可能。”
然而,用户最终选择性地“听到”了前半句——AI说这是“鸡腿菇”,忽视了后半句的强烈警告。一顿“野味”下肚,代价是中毒入院。
面对这起“AI辅助误判”引发的中毒事件,李亮在回应中既没有回避问题,也没有将责任完全推给用户。
他承认“AI目前还在发展阶段,豆包也在不断提升识别准确性”,同时划出了一条清晰的红线:涉及人身安全的问题,AI的回答仅供参考,务必多方咨询求证,以免造成伤害。
此外,李亮还提醒了一个容易被忽视的问题:小区里采摘的蘑菇或其他果蔬,即使本身无毒,也可能存在喷洒农药等安全隐患,强烈不建议食用。
专家给出的建议清晰且唯一:不采、不买、不食野生蘑菇。如果误食后出现不适,应立即停止食用、尽快催吐、保留样本并立即就医,切莫因“症状暂时缓解”而延误救治。
AI的“眼力”正在飞速进步,从识花识草到辅助医疗诊断,应用边界不断拓展。但“豆包误判蘑菇”事件暴露了一个根本性问题:
有些决策,一旦错了,撤回键是生命。
技术可以迭代,算法可以升级,但用户对AI的盲目信任才是真正的陷阱。“仅供参考”四个字,不该是用户协议里的免责条款,而应是每个人使用AI时的基本操作守则。在AI学会100%分辨毒蘑菇之前,最稳妥的“识别工具”,仍然是“不采、不吃”这四个字。
对此,你怎么看?

