“计算革命在计算机历史上只发生过三次,第一次是70年代的CPU,第二次是90年代的GPU,而Graphcore就是第三次革命,他们的芯片(IPU,智能处理单元)是这个世界伟大新架构的一种。”说这话的是ARM公司创始人、英国半导体之父赫尔曼·豪瑟(Hermann Hauser)。

他口中的 Graphcore,是来自英国的 AI芯片公司。这家公司创办于2016年,在芯片领域有着多年经验的奈杰尔·图恩(Nigel Toon)担任联合创始人和 CEO,曾创办过两家处理器公司的西蒙·诺尔斯(Simon Knowles)担任联合创始人和 CTO。

打开网易新闻 查看更多图片

图 | Graphcore(来源:Graphcore)

这家分公司遍布多个国家和地区的公司,于2019年进入中国。9月19日,DeepTech和 Graphcore 高级副总裁兼中国区总经理卢涛,就相关问题进行了交流。

图 | 卢涛(来源:Graphcore)

他表示,Graphcore 的主要技术是以 IPU 处理器、为 IPU 打造的 Poplar 软件。基于 IPU 处理器和 Poplar 软件栈,Graphcore 的产品最后以用在IPU服务器中的PCIe 卡、IPU 系统产品 IPU-Machine 和 IPU-POD 的形式呈现给用户。

Graphcore 已经取得了一些阶段性进展。截至目前,IPU 已达到一万多片的发货规模,并服务于全球超过100家的机构,其主要应用在互联网大规模数据中心、高校和科研机构等。同时,IPU 也在支撑医疗、金融、生命科学、汽车、金融和计算领域方面的应用。

2019年初,AI 教父杰夫·欣顿(Geoff Hinton)在接受记者采访的时候,被问未来什么样的计算系统会更像大脑?他的回答是:“我认为我们需要转向不同类型的计算机。幸运的是,我这里有一个...” 欣顿伸手进入他的钱包,拿出一个又大又亮的硅片——一个 Graphcore IPU 芯片。

IPU带来可持续发展路径

2016年,全球 AI 产业进入高速发展阶段。在过去,大概每隔三个月,模型参数规模就会提高一倍。2018年10月,谷歌的 ResNet 模型有3.3亿个参数。2019年3月,OPEN AI 的大型语言模型 GPT-2达到15.5亿个参数。2020年,GPT-3达到1750亿个参数。GPT-3模型完成一次完整训练,要耗费千万美金级别的花销。这样的密集计算,很难带来持续发展。那么,是否有可持续发展的路径?

在论文《EfficientNet:对卷积神经网络的模型缩放的重新思考》(EfficientNet:Rethinking Model Scaling for Convolutional Neural Networks)中,论文作者通过平衡神经网络的深度、宽度、准确率,再通过找到平衡点、并把底层卷积改变之后,找到了大幅减小参数数量的方法,与此同时准确度也得到提升。卢涛认为,这是未来的代表方向之一。

2020年上半年,微软机器学习科学家 Sujeeth Bharadwaj 分享了 IPU 训练 CXR 模型的卓越性能,IPU 在运行微软 COVID-19影像分析算法 EfficientNet 和SONIC 时表现亮眼,在30分钟内完成了英伟达传统芯片需5个小时的训练工作量。

打开网易新闻 查看更多图片

图 | 微软用IPU和GPU训练用于新冠算法模型的对比

从 Graphcore 的角度来看,不管是 CPU 还是 GPU,都不是针对 AI 应用而生。CPU 是标量处理器,它主要做模拟性判断,用于帮助程序员针对固定模式进行编程。CPU 特别适合的架构是通过大量的模拟处理器开发手机 App 和外包服务器。GPU 是针对图像处理而生,相比 CPU 来说 GPU 在并行度和向量机上都有很大提升。

概括来说,GPU 主要应用在主流 AI 平台,它并不是为 AI 而生的处理器。Graphcore 进行大量分析后发现,AI 计算具有高度并行、低密度计算等特点,不管做图像处理模型、还是语言处理模型,都会在底层表达成一个计算图。卢涛认为,真正面向未来的 AI 处理器,必须是针对计算图来进行处理,而 Graphcore 的IPU 正是以计算图为核心的智能处理器。

三项变革性技术:计算、数据、通信

进入中国后,Graphcore 一直努力接近开发者,卢涛在9月19日中关村论坛的演讲结尾,特意提到该公司在中文网站 graphcore.cn、微信和知乎的开发者创新社区,并鼓励更多开发者来到上述平台,获取 Graphcore 的资源和支持来进行创新。

对此做法,他解释称,Graphcore 希望将权利移交给创新者。那么,首先要给创新者提供新的平台,让他有新的可能性。如果开发者的算法不适合 GPU,并不一定代表你的算法无效,而是你需要一个新平台。基于此,Graphcore 提供了非常先进的AI 处理器、以及大规模 IPU 集群系统。

2020年7月15日,Graphcore 发布基于7nm 的第二代 IPU 处理器——GC200,以及用于 Mk2m IPU 和 IPU 系统产品的技术:计算、数据、通信。

图 | GC200(来源:Graphcore)

GC200基于台积电7nm 工艺,有594亿个晶体管,是当前单一芯片最大规模的处理器。GC200仍然延续了第一代的“同构众核”架构,所不同的是,制造工艺从16nm,提升为最新的7nm。

GC200的处理器片上存储也从300MB 提升到900MB,晶体管数量超出英伟达2020年5月发布最新旗舰 A100。GC200的处理器核心从上一代的1217提升到1472,能执行8832个单独的并行线程,系统性能提升8倍以上。在数据处理方面,GC200延续之前的高带宽高容量表现,这对于应对一些复杂 AI 模型及算法很有帮助,官方表示它可支持具有数千亿个参数的最大模型。

此外,Graphcore 还首次提出 IPU-EXCHANGE-MEMORY,这是一种交换式的储存架构。Graphcore 在 M2000每个 IPU-Machine 里面通过 IPU-Exchange-Memory 技术,提供了将近超过100倍的带宽以及大约10倍的容量,这对于很多复杂的 AI 模型算法是非常有帮助的。

针对 AI 计算集群,Graphcore 打造了 IPU-Fabric 技术,这是为 AI 横向扩展而生的通信技术,它的优点是弹性大、低时延。有了 IPU-Fabric 之后,用户可以轻松构建出超低弹性的计算平台。M2000是 Graphcore 推出的基于 GC200的刀片型服务器,每片能提供1PetaFlop 的算力支持。M2000可以被看作是 Graphcore IPU 系统产品部署的最小单元,基于它可以很方便地创建各种规模的集群。

图| IPU-Fabric(来源:Graphcore)

Graphcore 协同 IPU 从零打造了一个以图为抽象编程模型的软件 Poplar。通过这套软件 SDK,不管是使用浪潮还是戴尔的服务器,更或者是使用单个 M2000以及大规模计算系统 IPU-POD,Graphcore 都能使用同一套软件进行编程。

Graphcore 还在 Poplar 层面上,提供了很多软件库。以神经网络库为例,其可以支持标准的 PyTorch、TensorFlow 与 ONNX 等。同时,Graphcore 认为,对一个系统而言,运维和管理也非常重要。为此,Graphcore 基于开源做了集群管理套件。

在整个处理器研发过程中,Graphcore 认为开放非常重要。卢涛表示,开源是因为创新需要对底层有很多可见度。Graphcore 认为要把权利移交给开发者,并于2020年7月开源了所有的计算图库源代码和机器学习算法模型。

在构建社区方面,Graphcore 在金山云上构建了一个开发者云,其主要面向商业用户、高校、科研机构和个人研究者。卢涛表示,这一切都是为了帮助创新者,可以在在机器智能中实现下一波突破,以及帮助用户实现在 CPU、GPU 上没有办法实现的创新。

Graphcore 至今成立了四年多的时间,期间已得到红杉资本的支持,也获得了宝马、博世、微软、三星、DELL 等企业的投资。经过几年的发展,Graphcore 已经发展为遍布全球的机构。

对于加入中国,该公司创始人奈杰尔·图恩(Nigel Toon)表示:“有远见的中国公司已经开始着手布局自己在 AI 领域的蓝图。也许这就是为什么 Graphcore 在中国找到了热情,并如此深度的参与。Graphcore 已经开始为一些颇有建树的中国公司提供技术支持,并将助力推动中国那些发展最快、最具创新性的 AI 初创企业。”

卢涛也对 DeepTech 表示,中国的企业非常擅长把创新进行大批量的快速落地部署,Graphcore 觉得中国是最大的市场之一。在快速落地部署中,Graphcore 也可以进一步打磨自己的产品。此外,IPU 也能帮助用户释放出更多潜能,今天在CPU 和 GPU 上做不好的事情,在 IPU 上可能会释放极大潜力。

-End-

相关推荐:

芯片之后面板也将遭美国卡脖子?业内:技术依赖日韩

“整体风险我们认为是可控的。”TCL华星高级副总裁赵军在9月初的一场媒体沟通会上,谈及中国面板行业是否存在被卡脖子的风险时对AI财经社说。

芯片行业在关键技术上遭到美国卡脖子,继而引发了国内对国产面板行业的担忧,毕竟一块屏、一颗芯,是很多电子产品的标配。

打开网易新闻 查看更多图片

图/视觉中国

令赵军做出上述判断的,是中国大陆已成为全球液晶显示行业的核心。在中国大陆地区,到2021年建设完成的、能生产32英寸以上大尺寸液晶的高世代生产线,将达到21条,产线布局占到了全球约三分之二。从产能占比来看,2019年中国大陆占到全球的42%,今年将达到51%,明年则会继续攀升至63%。

“中国半导体显示行业、面板行业已经成为国外在这个领域公司的主要业务来源。他们不会自己卡自己的脖子。”赵军在沟通会上说。

另一方面,一位行业人士告诉AI财经社,美国自己并没有发力显示行业,在该领域的影响力相对较小。

但就在几天之前,三星、LG显示断供华为高端手机面板的消息传来,主要原因是两家厂商的高端显示面板驱动芯片使用了美国技术。因此,即便它们均非美国企业,也不可向华为供货。这是一个不好的信号。而国内显示行业的关键设备和先进材料,还依赖日韩供应商。

中国面板行业有无被卡脖子的风险?“就看美国是否通过长臂管辖,限制日韩企业。”一位行业人士对AI财经社说。

依赖日韩

国内显示屏行业的一些关键设备和先进材料,依然依赖于海外供应商,集中在日韩。

在大部分手机都采用的OLED显示屏领域,真空蒸镀机号称“屏幕界的光刻机”。蒸镀是OLED生产工艺中的核心环节,就像光刻机之于芯片一样,蒸镀机把握着全球OLED行业命脉。京东方前工程师肖颂对AI财经社说:“蒸镀机理论上比光刻机还要难。”

而这项心脏技术掌握在日本佳能手中。高端蒸镀机全部来自日本一家名叫Canon Tokki的小工厂。Tokki于2007年被佳能收购。不论是三星显示部门还是国内的华星光电、京东方,想量产稳定可靠的OLED显示屏,都离不开这家企业。但Tokki蒸镀机的年产能不到10台,单台售价过亿美元,十分昂贵且抢手。

图/视觉中国

“基本被三星买完了,国内很少抢到。”肖颂称。

三星作为Tokki早期客户,曾在2006年后者面临生死存亡的时候,坚持合作帮助它度过了生存危机。后来,双方签订了协议,一度每年生产的设备全部供货给三星。这也让三星在OLED抢占了先机。直到2017年Tokki产能提升后,京东方和华星光电才拿到采购名额。

除了“屏幕界光刻机”之外,做过光刻胶市场调研的行业人士杜锋对AI财经社说,京东方号称现在采用的光刻胶有相当一部分是国产自研了。“但其实是日本合成橡胶公司(JSR)给它的专利授权和技术提供。”

他解释道:“简单来说就是,在国内购买普通原料,然后跟日本公司提供的一些占比极低的材料,搅拌混合,在一个无尘车间内把它做成光刻胶。”

光刻胶是面板制造的上游关键原料,相关技术被美日垄断,日本在成品及上游材料方面占支配地位。“没有人家的核心原料,你是肯定做不出来的。”杜锋说,“我们只是完成了一个表面的国产化,但其实还是一个高级的组装工厂。”

除了光刻胶,能够让玻璃导电发光、最终变成屏幕的关键,是ITO靶材技术,同样被日本主导。“ITO是在玻璃上面电镀用的,是一种透明的导电材料。”肖颂告诉AI财经社,ITO靶材国内每年大概消耗超过1000吨,大部分特别是高端的部分均为进口。

“现在ITO靶材国内能做,但是在尺寸上突破困难,而且产出效率远赶不上国外。”基于他去年的了解,国内可以做出的靶材长度不超过800毫米,而日韩企业可以做到3000毫米,差距明显。资料显示,中国是ITO靶材最大的需求国,需求量占全球的25%。有统计称,2019年之前,国内ITO靶材近9成依靠进口。

而ITO靶材的生产设备“烧结炉”,顶尖的基本上也都来自日本。据称这样一台设备的售价动辄上千万元。而烧结工艺更是各家压箱底、不会售卖的秘方。

此外,面板核心材料偏光片,国内自给率也处于较低水平,仍需大量进口。目前全球偏光片产业也主要由日本日东电工、韩国三星和LG、中国台湾企业奇美材料和明基材料主导。

除了日韩,美企在高世代玻璃基板上具有较大话语权。玻璃基板是面板行业的最上游,绝大部分市场份额被美国康宁、日本旭硝子等几个大厂瓜分。

“每一个有京东方工厂的地方,都有康宁工厂。“肖颂告诉AI财经社,基本上已经属于配套设施。

图/视觉中国

AI财经社了解到,京东方和华星光电都形成了较为稳固的玻璃基板供应配套。京东方主要是与美国康宁合作,而华星光电则主要由日本旭硝子提供配套供应。

“康宁世界第一,其它都和它有差距,日韩也不行。”肖颂说。美国康宁参与到中国市场超过35年,在中国的17座城市建立了办公室,也是国内手机厂商外屏主要的供应商。其在中国投资巨大。截至2019年底,康宁在中国的投资规模已超70亿美元。

美国通过康宁在面板行业掌握着一定的话语权。但肖颂分析,美国通过康宁打压中国的可能性几乎为零。中国市场是康宁除北美以外最大的市场,失去中国市场,将给双方都造成无法弥补的损失。

“如果美国刻意打击,还要看日本、韩国是否跟随。单纯美国来说影响不大,美国带来的影响主要是贸易连带。”肖颂称。

而造成国内企业在关键技术上对外依赖的现实原因,一方面,过去大家认为,企业越大,越需要全球化,虽然上游材料设备国产化率在逐步提高,但不到万不得已,还是进口成本低。另一方面,则是国产全链条对核心技术的重视和投入都不够。过去多年,类似关键技术落后于人的呼吁很多,但改观很小。

国内双雄格局

虽然上游材料设备依赖海外,但不可否认,近年来,中国液晶显示面板的生产已经走在了世界最前列,在效率、竞争力、市场响应速度方面,都有着巨大优势。其中,大尺寸液晶面板中国已经处于全球领导地位。到2023年,大尺寸液晶面板中国会达到或超过全球70%的产量。

同时,日韩企业在加速退出液晶面板业务,韩国两大厂商三星和LG均在今年退出,转而聚焦以OLED为代表的新型产业,而OLED显示屏更轻薄、色彩显示更佳。

图/视觉中国

分析人士告诉AI财经社,中国大陆面板行业崛起,产能的提升加剧了竞争,令液晶面板价格持续低迷,叠加疫情,负担进一步加重,是韩企退出的重要原因。

不过,肖颂对AI财经社称,三星退出液晶面板生产,是因为“其他所有的液晶厂都需要用三星的技术和设备”。“三星在用液晶技术来赚钱,然后发展OLED。”他表示,三星的技术和设备不光局限在面板生产上,面板生产的上游也依靠它。“液晶对三星来说依然有利可图。”

三星和LG显示的退出,令液晶面板的产能进一步向中国大陆集中,多家分析机构对京东方、华星光电持看涨态度。“随着面板双龙头市场占有率的提升,行业周期性显著缩短,面板价格波动将大为放缓,格局长期看好。”信达电子研究认为,此轮面板景气度上行周期将持续1-2年。

8月28日,TCL宣布以约10.8亿美元收购苏州三星电子液晶显示科技有限公司60%的股权,以及三星显示有限公司100%股权,从而获得8.5代LCD生产线。

“液晶电视面板出货量最高的还是京东方,但我们并购了那几家产线后,规模基本上差不多了。“TCL华星光电LCD开发中心总经理赵斌告诉AI财经社。两家企业分列全球液晶电视面板出货量、出货面积第一和第二位。双雄格局的确立,有利于进一步提升中国大陆面板显示行业的绝对话语权。

“华星更像TCL的配套企业,自给自足的感觉。“肖颂称,京东方在规模上更有优势。

“从现有液晶面板的技术格局来看,双方确实要竞争。”赵斌称,两家是不同的技术流派,华星光电采用的是VA,京东方是IPS,两者均是液晶显示器常见的面板类型,但华星光电更类似三星,京东方更像LG。

双方也会在未来的竞争中,相互渗透。华星光电此前收购中国电子信息产业集团的工厂,该厂技术流派和京东方类似。而京东方此前也期望加入苏州三星厂的竞购。“两方可能会有一个技术融合的过程。”赵斌说。

据AI财经社了解,华星的技术路线能为TV面板提供更好的对比度,更快的响应速度,三星、索尼的产品都属于这样的阵营。而京东方是另外一种方式,应用更广。在投资上,京东方更加多元化,华星更加聚焦。

下一代技术竞赛开启

大尺寸LCD面板已成为中国厂商的天下,但一位京东方LCD产线员工对AI财经社表达了悲观情绪:“要废了。”他加入京东方超过5年,近来愈发感受到“LCD没有前景了”。

OLED取代液晶,似乎已是大势所趋。三星凭借先发优势已经拿下OLED市场超80%的份额。中国企业尚需时间追赶。

这是来自一线工人的直观感受。但企业的管理者们有着截然不同的看法。TCL赵斌认为,下一代显示技术4-5年就会比较成熟,但产品商业化可能要等到十年以后,“这十年间应该还是LCD占主流”。

但下一代显示技术——印刷OLED和Micro LED竞赛早已提前打响。目前,国内参与新技术研发及生产的企业,一类是京东方、华星光电为代表的面板企业,另一类是传统LED芯片厂商。液晶取代CRT,液晶电视市场迎来了几十年的蓬勃发展。而目前液晶显示技术已经达到发展瓶颈。业内认为,印刷OLED、Micro/Mini LED等创新显示技术才是显示行业的未来。

OLED面板主要有两种制造工艺,一种是前文提到的蒸镀工艺,另一种就是喷墨打印,也就是印刷OLED。后者被认为能极大提高有机材料利用率,降低成本,也更适合量产。

华星光电在2015年就开展了印刷OLED的布局,2016年建了国内首条针对G4.5代试验线,今年跟日本TJP合作,利用其在日本的产线进行OLED量产屏的开发。

打开网易新闻 查看更多图片

图/视觉中国

据赵军介绍,在2022年到2023年间,华星将会投建第一条8.5代线的印刷OLED工厂。“如果能实现的话,相信是世界第一条高世代柔性印刷OLED产线。”赵军称。

而Micro LED被认为是显示技术的”终极形态”,其直接由像素点产生颜色,从而提高了色彩表现。媒体报道,华星已经实现了mini背光产品的样板出库,预计明年产出。mini LED被认为是向Micro LED的过渡产品。

京东方对印刷OLED也有持续投入,在合肥的实验线上进行技术、工艺、量产效率、成本对比评估。但据京东方EVP、显示与传感器件事业群CEO高文宝回复投资者提问中提到,京东方尚没有确定最终的技术路线,暂时也没有相关的产能建设计划。在Mini LED技术方面,京东方也在研发,预计今年4季度量产出货。

分析师预计,中国面板企业未来的规模效应将带来盈利的快速增长,有了资金支持,中国在更先进的microLED面板技术上将有机会赶上韩国面板企业。

(应采访对象要求,文中肖颂、杜锋为化名)