根据外媒TechCrunch近日看到的内部信件显示,协助改善AI聊天机器人Gemini的外承包商将其答案与竞争对手Anthropic Claude所产生的答案进行比较。
负责对模型输出准确性进行评估的Gemini外承包商根据多项标准(如真实性和冗长性),对他们看到的每个AI回应进行评分。TechCrunch报道指出,外承包商每次收到文本提示,最多有30分钟来确认Gemini和Claude的答案谁比较好。
内部对话显示,外承包商注意到Claude的AI回应似乎比Gemini更强调安全。“Claude的安全设置是最严谨的”,一名外包人员说。因为某些情况下,Claude不会回应不安全的提示指令。
Anthropic的商业服务条款禁止客户在未经同意情况下,访问Claude来“创建竞争产品或服务”或“训练竞争AI模型”。但实际上,Google是Anthropic这家创业公司的投资人之一,有了这层关系,Google利用Claude改善自家Gemini似乎说得通。
Google DeepMind发言人被TechCrunch询问,未透露Google是否已经获得Anthropic同意来使用Claude,仅表示Google DeepMind确实比较模型输出来进行评估,但不会以Anthropic模型训练Gemini。
(首图来源:Google Blog)