英特尔将为客户提供一站式服务,以衡量人工智能应用在其不同芯片上的的性能。

今年晚些时候,将用于英特尔开发者云服务支持,使客户能够在GPU、Xeon CPU和Gaudi2等加速器上对机器学习任务进行比较。

打开网易新闻 查看更多图片

“客户可以在一套给定的硬件上找到对他们好处最大的特定型号。”英特尔高级研究员Ronak Singhal说。

该服务的目标是让程序员能够在不同的实例上测试他们的代码库,并选择合适的芯片来满足他们的性能要求。Singhal表示,英特尔将利用2020年收购以色列公司Cnvrg.io所得的资源来构建该平台。

Cnvrg.io提供了蓝图和工具,让客户能够在短时间内构想出人工智能应用程序。容器化模型可以利用现有广泛的计算资源,包括FPGA、GPU、AI芯片和CPU来运行AI应用程序。在这种情况下,Cnvrg.io正在这些芯片上制作人工智能模型的原型,然后将其呈现给客户,以选择运行其模型的最佳硬件。

英特尔的开发者云(Developer Cloud)是一个平台,客户可以在该平台上对人工智能应用程序进行原型设计并将其调整到芯片上。然后,可以将这些模型部署到云服务中,这些云服务提供基于Xeon芯片的虚拟机实例。预计所有主要云提供商都将提供运行在Sapphire Rapids芯片上的虚拟机实例。

打开网易新闻 查看更多图片
英特尔开发者云测试版门户截图

现在市场上充斥着人工智能芯片,这些芯片对于人工智能模型各有自己的优势。例如,计算机视觉应用程序在GPU上比AI处理器或CPU更好。Singhal说:“当然,一切都会成功。但在特定的硬件上会更快。客户可以在给定的硬件上找到他们特定型号的好处。”

谷歌通过Colab提供免费访问其云服务中的硬件资源,Colab是研究人员测试神经网络概念的游乐场。开发者可以编写Python脚本来编译AI指令(包括模型类型),还可以指定在云中使用GPU或TPU的偏好。云服务会自动选择可用的GPU,这些GPU大多是像英伟达(Nvidia)的Tesla T4这样的旧GPU,在其上运行AI应用。较旧的GPU减慢了推理速度,但客户可以按月订阅或支付年费来访问最新和最强大的Nvidia GPU。但客户没有办法对不同GPU性能进行比较。

英特尔开发者云服务(Intel Developer Cloud service)仍处于测试阶段,其中有专门针对硬件和软件的部分。裸金属服务允许客户在第四代Intel Xeon芯片(代号为Sapphire Rapids)、Gaudi2和Xeon Max芯片上测试实例。客户可以选择一个实例并按小时计费,这是常见的AWS、Google Cloud和Microsoft Azure向客户计费的方式。

Sapphire Rapids上一个具有四个CPU核、10GB存储和8GB RAM的小型虚拟机实例是免费的。最大的Sapphire Rapids实例具有32个CPU核、64GB内存和64GB存储,每小时成本为4美元。一个带有GPU的Xeon Max实例(代号为Ponte Vecchio的芯片)每小时18美元。Gaudi2 AI芯片每小时花费39美元。所有虚拟机都将Ubuntu 22作为用户操作系统。

开发者云服务还拥有一个在线开发环境,该环境托管用于AI、高性能计算、渲染和其他应用程序的OneAPI工具。OneAPI AI分析工具包为包括TensorFlow和PyTorch在内的框架提供了单独的包。