子弹飞到了大模型应用

2024年的伊始,科技领域热闹非凡。

OPPO、荣耀、三星不约而同地选择在1月发布年度旗舰产品,除了影像、性能等常规看点,这三个品牌手机所搭载的AI大模型的进展更值得期待。在2023一年的大模型狂奔之后,大家都想知道手机搭载了大模型之后还能有什么新玩法、新体验。

大模型行业日新月异,本月海外一个重磅看点即将到来:OpenAI颠覆AI生态的革命性力作GPT Store终于要正式上线。去年11月,OpenAI推出了GPTs功能,允许任何人以零代码搭建自己的聊天机器人。当时,OpenAI还宣布将发布AI版的App Store:GPTs Store。然而,原计划11月上线的GPTs Store由于多种原因一直推迟。等不及的网友们甚至开发了一个类似产品GPTs Hunter,在短短两个月就积累了近十万个GPT应用,涉及的领域从开发工具、生产力、做图、语言学习,到财经、客服、市场分析、医疗健康,种类五花八门应有尽有。随着官方GPTs Store的正式上线,人工智能又会掀起一波舆论热潮,届时也一定会有不少现象级的智能应用走入大众视野。

不出意外的话,只要让子弹飞一会,一些热门的智能应用自然会更新到手机的智能助手中。不过,除了让智能助手借鉴GPTs Store的智能应用,手机原生的系统级应用其实有着比聊天机器人更丰富的应用场景,理论上作为更底层的系统级应用也有更大的想象空间。在刚刚结束的Find X7系列发布会上,OPPO就展示了几项“颠覆级大模型体验”。

全面赋能终端智慧交互体验

“作为驱动OPPO公司AI战略的核心引擎,安第斯大模型全面赋能OPPO智慧终端,持续构建知识、记忆、工具、创作能力,并通过与终端结合的AI智能体和多模态对话范式,给用户带来全新的个性专属智能体验。”在OPPO Find X7系列发布的当天,AndesGPT在官方微信中对外这样介绍到,明确地将未来落点在“赋能”和“体验”。

这次发布会上,OPPO提出了多个由AndesGPT赋能的系统级应用能力,如其中“AI文章摘要”的智能摘要能力,能快速让用户获取信息。

打开网易新闻 查看更多图片

除了能对文字进行处理,AndesGPT还包含了生成式视觉模型。比如在相册的编辑功能中,现在有了AIGC消除的能力,达到了“一键消除,自然生成”的状态。

部分圈出的画面在被消除后,原有位置补足得非常完美。甚至对于重叠遮挡的主体,也可以完成精准的语义分割,重新生成的背景基本看不出AI生成的痕迹。

打开网易新闻 查看更多图片

最让人感到耳目一新的,是本次OPPO Find X7系列首发的“AI大模型通话摘要”功能。

在使用搭载AndesGPT的Find X7通话完成后,可以产生文字速记,现场整体准确度非常高,并且在现场演示中,准确按照要点生成了“智能摘要”和“待办事项”。 这就如同一位合格的私人助理一样,既对内容做了简化和概括,也保留了一定信息量的细节,忽略了与核心信息无关的内容。

这几大功能,虽然严格意义上并不是 “独创”,比如之前ChatGPT和其他后续大模型也能做到提炼要点。但这些一是没有和终端的使用场景与使用逻辑结合,二是没有呈现出如这次发布会上快速、准确和精炼的结果。

所以,OPPO的AndesGPT并没有在大模型这条路上“亦步亦趋”,而是对于“大模型如何赋能智慧终端”有着自己清晰的认知和布局。不断创新体验、不断刷新大模型如何与终端结合的行业认知。

以用户为中心的AndesGPT技术特点

这几个功能的演示证明了AndesGPT确实带来了领先的技术体验。实际上,它是OPPO在去年11月在开发者大会上正式发布的大模型技术。作为一个自主训练的大模型,AndesGPT推出了三大规格:AndesGPT-Tiny、AndesGPT-Turbo和AndesGPT-Titan,可涵盖十亿至千亿以上多种不同参数规模的模型规格,根据不同场景智能调度。

为了打造一个以用户为中心的智能体,OPPO内部通过不断地推演与论证,最终选择将“对话增强”、“个性专属”,以及“端云协同”作为AndesGPT的突破点。

在技术点上,OPPO也带来了一些创新,如自研的SwappedAttention机制,能够带来50%的首字延迟降低,以及30%的推理吞吐提升。这也是“对话增强”的技术支撑之一。

“端云协同”则是充分发挥端和云各自优势。比如在前面提到的“通话摘要”演示中,OPPO只采用AndesGPT的端侧模型,因为在此场景下,用户的数据隐私和摘要的生成速度更为重要,适合采用端侧方案。而对于文案创作、知识查询等场景,则会根据任务的复杂程度,结合端侧与云侧的优势进行智能调度。

系统级应用是一个准确的切入点

过去一年,大模型领域的疯狂是有目共睹的,几乎任何一家稍有规模的科技公司,都会毫不犹豫地投入大模型赛道,这种疯狂的背后逻辑是:大模型技术能对个人或团队的生产效率产生极大的提升,正如乔布斯曾把电脑比喻成大脑的自行车,大模型技术可以看作是大脑的摩托车,它必定会成为未来商业的基础资源。因此,对于大型科技公司来说,当务之急就是先迈出第一步,训练出自家的大模型。至于未来是怎么的产品形态和付费模式,则根据整个行业的进展来决策。

虽然在商业逻辑上说得通,但是实际操作很多公司都低估了一项难点:数据的获取。在聊天机器人这种形态下,让用户主动提供数据并非易事,尤其是比较敏感的个人数据。离数据远,就意味着用户每次的请求都需要付出一定的沟通成本。而拥有智能设备作为依托的制造商在这方面拥有先天的优势。

与其他科技企业相比,终端厂商和消费者的关系更加紧密,由厂商开发的系统级应用是软件生态的基础,具有更高的权限和更广泛的功能访问。不过,为了获取用户信任,系统级应用对用户数据的使用和保护也更为谨慎。

因此,相比第三方应用,用户更倾向于把数据访问权开放给原生的系统级应用。

其次更重要的一点,智能终端能获取的数据类型也更丰富,除了能访问设备中的文字和图像,还能通过各类传感器获取位置信息、环境亮度信息、温度信息等,假如结合智能手表的传感器,还可以捕获更多的个人健康数据。这些数据常年存储在手机中,但很多未被开发利用。

如今大模型接入系统级应用后,这些多维度的数据都成为了构建智能应用的宝贵资源。

举个例子,手机常常收到广告短信,理论上我们可以利用大模型在短信中整理出广告,并且屏蔽相关的关键词。此时,通过手机访问短信的数据,无论是便捷度还是数据隐私方面,都比第三方聊天机器人更完善。

再比如,OPPO此前发布的智慧跨端系统潘塔纳尔,如今在在AndesGPT的加持下,其核心能力也会得到提升。假设用户有某天出行的计划,手机上的高铁行程卡和目的地的天气卡可以融合生成全新的卡片。这就是潘塔纳尔在理解了用户需求后,和AndesGPT进行了系统级的信息共享,从而带来了更好的用户体验。作为OPPO的两大核心技术,潘塔纳尔系统和AndesGPT正深度协同,共同升级。

打开网易新闻 查看更多图片

Agent开源计划,向着AndesGPT生态前行

虽然大模型技术在终端设备上有着非常光明的应用前景,但是如何才能在激烈的竞争中脱颖而出呢?OPPO给自己立了一个方向:生态。

OpenAI在去年11月放出大招:GPTs,让服务和体验变得多元,希望能够打造生态。说白了,OpenAI的思路是当所有人都能在一套开放体系中得到利益,让生态繁荣起来。从近期又暂停注册和订阅的消息来看,OpenAI的策略确实吸引了大量用户的参与。

OPPO吸纳了OpenAI的经验,同时也兼顾自身作为设备制造商的特点,在发布AndesGPT时就同步宣布了智能体框架开源计划,这一计划让B端和C端用户都可以通过低代码甚至零代码构建自己的AI应用,参与到OPPO大模型应用生态的共创中来。

为了降低开发门槛,OPPO在智能体框架方面的设计上也花了一番心思。

一是扩展智能开发的边界。OPPO基于自身积累的技术优势,在智能体框架上对外提供丰富的开发工具——尤其是跟手机应用开发相关的工具,开发者可以更加便捷地构建以手机为核心的应用生态。当然,如果开发B端应用,智能体框架也能帮助开发者解构和处理复杂任务。

二是智能体框架可将大模型与指令集更多地相结合,将大模型使用工具的能力进行强化,使得指令操作、系统控制、服务调用更加智能、灵活。

三是提供丰沛的云类资源。无论是文档存储、向量数据库搜索召回,还是数据分析类工具,都要占用大量的云类资源。OPPO将传统云类资源进行统一封装,然后对外提供,提高了智能体框架调用和处理数据的能力。此外,OPPO还将会发布相应的SDK ,让开发者更方便地在智能体框架集成端侧应用,把安第斯智能云、AndesGPT的能力植入到终端中。

一场强者愈强的游戏

随着大模型融入智能设备的系统级应用,普通人接触智能应用的门槛变得更低,紧跟最新一代中高旗舰机型的步伐,就相当于抓住了最前沿科技的一角。

除了手机智能助理这个形态最接近ChatGPT的应用场景之外,手机上的相册、信息通知、安全隐私等其他系统级应用也展现出了与大模型结合的潜力。不夸张地说,大模型的出现一定会深刻影响人们使用手机等智能设备的方式。同时,移动智能设备的“生产力”属性也会得到前所未有的加强。

当然,罗马并非一天建成,开发应用场景需要厂商、开发者、用户三方的共同挖掘和优化。谁在这场挖宝游戏中占得先机,优先推出有价值的智能应用,就越有机会占领消费者的心智,从而在市场端获得良性反馈。

显然,OPPO已经为这场挖宝游戏做好了充足的准备。对于拥有6亿C端用户的OPPO而言,AndesGPT的应用生态既是对“用户体验为先”理念的践行,也是OPPO在激烈的行业竞赛中取得进一步优势的关键策略。

随着这场“优势积累的游戏”,向着“强者愈强”的方向快速迭代,未来我们将看到AndesGPT在“赋能终端”与“深入系统级应用”上的不断的新动作,一个AndesGPT生态的蓝图也正在逐渐清晰和生长起来。