美国联邦调查局（FBI）指控，一名俄勒冈州男子冒充职业橄榄球运动员，与其年轻同伙从四个州的至少26名女性手中骗取了约130万美元。调查人员称，两人在网上强化骗局的行为，最终被谷歌存在错误信息问题的AI Overviews功能吸收，并被其当作事实复述——而被告似乎还试图利用这一失误进一步诱骗受害者。
FBI表示，35岁的Daejon Labrayae Love和18岁的Taylor Jamie Chan策划了一个复杂的骗局：Love冒充旧金山49人队球员——有时也冒充富有的瑞士房地产开发商——而Chan则假扮其财务顾问。两人通过约会应用与女性建立联系，随后说服她们将钱投入根本不存在的投资机会，并将钱款据为己有。FBI称，部分女性甚至被说服贷款参与该骗局。
Love在社交媒体上极为活跃，在Instagram、TikTok甚至LinkedIn上将自己描绘成一名因伤休战的49人队外接手。根据法庭文件，由于Love的大量发帖，搜索引擎和人工智能等科技工具无意中成了骗子的“帮凶”——当受害者上网核实这位所谓职业运动员的身份时，这些工具有时会强化Love在社交媒体上的谎言。
文件写道：“一些受害者对Love产生怀疑，通过互联网搜索Love的信息。由于Love在社交媒体上的虚假展示，搜索引擎和人工智能偶尔会声称Love是真正的49人队球员。”更值得注意的是，Love似乎还利用这些虚假信息进一步巩固其骗局叙事。据《洛杉矶时报》报道，在一个已被删除的关于其“NFL之旅”的Instagram帖子中，Love晒出了谷歌AI Overviews的截图——该功能错误地称其为49人队接球手，并提供了关于其位置、合同和队友短信习惯的“信息”。
这一案例凸显了AI搜索工具在信息验证方面的潜在风险：当社交媒体上的虚假内容被AI当作事实输出时，它可能无意中为骗局提供“背书”。目前，谷歌尚未就此案的具体情况发表公开评论。