英伟达创始人、CEO黄仁勋(Jensen Huang)
钛媒体App获悉,当地时间6月15日,英伟达创始人、CEO黄仁勋(Jensen Huang)参加美国加州理工学院第 130 届毕业典礼,并发表了一段题为“迎难而上抓住机会“(Embrace Challenges and Seize Opportunities)的主题演讲。
黄仁勋畅谈了英伟达(NVIDIA)自1993年成立至今经历的计算机技术革命,以及AMD、英特尔、高通拒绝与英伟达合作的历史,最终不得不退出了与CPU厂商的合作,以及能够进入移动设备芯片市场的重要机会。
黄仁勋坦言,过去一段时间,英伟达和他所忍受的一切挫折、痛苦和苦难,都是他本人珍视的超能力。
“当时,我们被踢出了这些市场,没有其他市场可以发展。因此,我们决定建造一些我们确信没有客户的东西,因为你绝对可以保证的一件事是,没有客户的地方。也没有竞争对手。没有人关心你。所以我们选择了一个没有客户的市场,一个 0 亿美元的市场:AI超级计算机。而现在,10 年后的今天,我对我们所建造的和创造下一波人工智能的机会感到非常高兴。更重要的是,我们培养了敏捷性和韧性文化。一次又一次的挫折,我们摆脱了它,滑向了下一个机会。每一次我们都获得了技能,增强了我们的性格,我们增强了我们的企业性格,我们的公司真的很难分心,真的很难气馁。“黄仁勋表示。
黄仁勋坦言,“我希望,你们将挫折视为新的机会。你们的痛苦和苦难将增强你们的性格、韧性和敏捷性,它们是我最珍视的终极超能力。智力不在这个列表的首位,我是有忍受痛苦和苦难的能力。”
黄仁勋强调,这十年里,英伟达从一家最初认识的制造 GPU 的芯片设计公司,转变为一家现在制造大规模数据中心、超级计算机的 AI 公司。“我们彻底改变了公司。我们也彻底改变了计算。今天计算的基本方式已经发生了根本性的变化。”
同时,黄仁勋本周还参与DataBricks CEO Ali Ghodsi的对谈分享活动。
黄仁勋表示,我们现在看到,数据每五年增长约10倍,而未来,AI 数据或每 5 年增长 100 倍。收集更多数据,捕捉更多见解,从而在其中提取和提供更好的 AI 技术服务。最终,每个人都会是智能数据制造商。
“每家公司的业务数据都是他们的金矿。每家公司都坐拥金矿。如果你有一个服务或产品的飞轮,客户使用这些服务和产品并提供反馈,你已经收集数据很长时间了,可能是客户相关的,市场相关的,或供应链相关的。我们都积累了大量数据。但事实上,直到现在,我们还没有真正能够从中提取出有价值的见解,更重要的是,提炼出有用的智能。现在,我们对此非常兴奋。我们在芯片设计、漏洞数据库、新产品和服务的创建以及供应链中都在使用这些数据。”黄仁勋称。
黄仁勋强调,AI 的长期效益在于推理和生成能力,这将大大减少能量消耗。未来的计算体验将更加生成化和情境化,减少互联网流量并显著节省能源。他鼓励企业尽早开始使用 AI 技术,参与到这个快速发展的领域中,以免在未来落后于竞争对手。
以下是黄仁勋最新演讲内容,经钛媒体AGI编辑整理:
感谢你的介绍。作为一个展示,也许可以应用,有多少人知道英伟达?哇。很多人知道 GPU 是什么吗?很好。我不必改变我的演讲。
女士们,先生们,罗森鲍姆(Thomas F. Rosenbaum)校长,尊敬的教职员工,各位嘉宾,自豪的家长们,最重要的是,2024 届加州理工学院的毕业生们。今天对你们来说是非常快乐的一天。你们看起来更兴奋。
你们从加州理工学院毕业。这是伟大的理查德·费曼(美国理论物理学家)、莱纳斯·鲍林(美国化学家,量子化学和结构生物学的先驱者之一),以及在我们行业有很大影响的人的学校。
这是一件非常重要的事情。今天是充满自豪和喜悦的一天。这是你们所有人梦想成真的一天。
不仅仅是你们,因为你们的父母和家人为了看到你们达到这个里程碑做出了无数的牺牲。让我们借此机会向他们表示祝贺。感谢他们,让他们知道。你们爱他们。你们不想忘记这一点,因为你们不知道你们还要在家里住多久。我知道你们今天作为一个准备者想要非常感激。我真的很喜欢我的父母,我的孩子没有搬出去。每天看到他们真是太好了。但是现在他们已经搬出去了,这让我很难过。所以希望你们能花些时间和你们的父母在一起。你们在这里的旅程证明了你们的性格、决心、为梦想做出牺牲的意愿。你们应该为自己感到骄傲。做出牺牲、忍受痛苦和苦难的能力。你们在生活中需要这些品质。
你们和我们(NVIDIA)有一些共同交集。首先,英伟达的两位首席科学家都来自加州理工学院。而我今天发表演讲的原因之一,是因为我在招聘。所以我要告诉你们,NVIDIA是一家非常棒的公司。我是一个非常好的老板,广受喜爱,可以在NVIDIA中工作,你们和我们,对科学和工程都有热情。
尽管我们岁数相隔约 40 年,但我们都处于职业生涯的巅峰,对于所有关注英伟达和我的人来说,你们知道我的意思。只是,你们还有更多的巅峰要去攀登。
我只希望,今天不是我的巅峰,不是顶峰。所以我像往常一样努力工作,以确保我在未来还有更多的巅峰。
去年,我很荣幸在国立台湾大学发表毕业典礼演讲。我分享了一些关于这个旅程的故事,以及我们学到的可能对毕业生有价值的经验教训。
我不得不承认,我不喜欢给别人建议,尤其是给别人的孩子。我今天的建议将主要隐藏在一些我喜欢的故事,和一些我喜欢的生活经历中。
我相信,我是当今世界上任职时间最长的科技公司首席执行官(CEO)。在 31 年的时间里,我设法没有破产,没有感到无聊,也没有被解雇。我有幸享受了很多生活经历。我从一无所有创建NVIDIA到今天的样子。
我创建GPU图形计算经历漫长道路,我们致力于发明 20 多年的GPU模型,这正在彻底改变计算。今天,我们依然在这个项目上工作,以及我所知道的理查德·费曼非常关心并经常谈论,知识诚实和谦逊如何拯救了我们的公司,以及一次撤退,一次战略撤退是我们最好的策略之一。所有这些都是我在毕业典礼上谈到的违反直觉的经验教训。
我鼓励毕业生参与 AI ,这是我们这个时代最重要的技术。稍后我会再谈一些,但关于人工智能的一切,很难不沉浸其中,被它包围,并对它进行大量的讨论。
我希望,你们都在使用它并应用玩它。所以有令人惊讶的结果,有些神奇,有些令人失望,有些令人惊讶,但你必须享受它。你必须参与其中,因为它发展得如此之快。这是我所知道的唯一一种同时在多个指数上发展的技术。
所以,技术变化非常非常快,因此我建议台大学生跑步,不要走路,参与人工智能革命。
然而,1 年后的今天,变化之大令人难以置信。
今天,我想做的是与你们分享,从我的有利位置,我对你们毕业时正在发生的一些重要事情的看法。这些都是正在发生的非凡事情,你们应该对它们有一个直观的理解。因为这对你很重要,对这个行业也很重要。希望你们能利用面前的机会。
计算机行业正在从根本上转型。在每一层,很快每个行业也将被改变。原因很明显,因为今天的计算机,是每个科学领域中每个行业的知识和基础的最重要工具。如果我们如此深刻地改变计算机,它将对每个行业产生影响。稍微谈谈它们,当你进入行业时,重要的是,正在发生什么?
现代计算可以追溯到 IBM System/360。这是我学习的架构手册。这是一本你不需要学习的架构手册。自那以后,已经有了更好的文档和对计算机和架构的更好描述。但IBM System/360在当时非常重要。
事实上,IBM System/360的基本思想、架构、原则、思想和架构以及策略仍然支配着计算机行业,它是在我出生一年后推出的。
在 80 年代,我是第一代超大规模集成电路工程师之一,他们从里程碑式教科书中学习设计芯片。我不确定这里是否还在教。应该是。基于 Caltech 的 Cover 开创的 LSI 系统容器的引入,在芯片设计方法和教科书中彻底改变了 IC 设计。它使我们这一代人能够设计超级巨型芯片。
最终,CPU 导致了计算性能的指数增长。被称为摩尔定律的令人难以置信的技术进步推动了信息技术革命,我们所处的工业革命,我这一代人所处的工业革命见证了世界从未见过的东西的大规模生产。
大规模生产看不见的东西,易于复制的软件的大规模生产。它导致了一个 3 万亿美元的行业(IT)。当我坐在你坐的地方时,IT 行业微不足道。你可以通过销售软件赚钱的概念是一个幻想。然而,今天,它是我们行业生产的最重要的商品、最重要的技术和产品创造之一。
但是,Denard 缩放、晶体管缩放和指令级并行性的限制已经减缓了 CPU 性能。在计算需求继续呈指数增长的时候,CPU 性能的缓慢增长正在发生。计算需求和计算机能力之间的这种指数增长差距。如果不解决,计算能源消耗和成本通胀最终将扼杀每个行业。我们说话的时候已经看到了计算通胀的明显迹象。
在经过二十年的推进和NVIDIA加速计算之后,提供了一条前进的道路。这就是我在这里的原因。因为最终,行业意识到加速计算的难以置信的有效性,就在我们目睹计算通胀几十年后。通过将消耗时间的算法卸载到专门用于并行处理的 GPU 上。我们通常可以实现 10 倍、100 倍,有时甚至 1000 倍的速度提升,节省资金、成本和能源。
我们现在从计算机图形学、光线追踪到基因测序、科学计算、天文学、量子电路模拟、数据处理,甚至熊猫数据科学等领域,都需要GPU进行加速计算应用。
加速计算已经达到了一个临界点。这是我们对计算机行业的第一个伟大贡献,它现在为我们提供了一条可持续计算的前进道路,在计算需求继续增长 100 倍的情况下,成本将继续下降。
加速计算在时间、成本或能源节约方面打开的任何东西肯定会在其他地方引发新的发展。我们只是不知道它是什么。直到深度学习进入我们的意识,一个全新的计算世界出现了。杰夫·辛顿、艾丽斯·克拉泽夫斯基和伊莱乌斯·苏斯卡伯使用NVIDIA的 GPU 训练AlexNet,并通过赢得 2012 年 ImageNet 挑战赛震惊了计算机视觉社区。
这是深度学习的大爆炸时刻,一个关键时刻,标志着人工智能革命的开始。
在AlexNet之后,我们决定改变了NVIDIA公司,这是值得注意的。我们看到了深度学习的潜力,并相信只是通过原则思考,相信通过我们自己对深度学习可扩展性的分析,我们相信这种方法可以学习,其他有价值的功能,也许,深度学习是一种通用函数学习器。有多少问题很难或不可能用基本的第一原理来表达?
当我们看到这一点时,我们认为,这是一项我们必须真正关注的技术,因为它的限制可能仅受模型和数据规模的限制。然而,当时存在挑战,这是 2012 年。
就在 2012 年之后不久。如果我们不必在当时构建这些巨大的 GPU 集群,我们如何探索深度学习的极限?或者说,作为一家小公司,构建这些巨大的 GPU 集群可能需要数亿美元。但如果我们不这样做,就无法保证它在扩展时会有效。
然而,没有人知道深度学习可以扩展到多远。如果我们真的构建了它,我们永远不知道,这是其中之一。如果你建造它,他们会来吗?我们的逻辑是,如果我们不建造它,他们就不会来。
我们基于我们的第一性原理,信念和我们的分析致力于此。我们让自己相信,这将是如此有效。当公司相信某件事时,我们就应该去做。
所以,我们深入研究深度学习。在接下来的十年里,我们系统地重新发明了一切,从 GPU 本身开始,发明了现代GPU,它与我们最初发明的过去的GPU非常不同。我们继续发明了计算的几乎所有其他方面,互连、系统、网络和软件。
在这其中,我们向未知领域投资了数十亿美元。同时,十年来,数千名工程师致力于深度学习和推进深度学习的发展,而实际上,我们并不知道能真正把这项技术推进多远。
我们投资、设计并建造了超级计算机,来探索深度学习和人工智能的极限。然后在 2016 年,我们宣布了 DGX-1——英伟达第一台人工智能超级计算机。我把第一台交付给了旧金山的一家初创公司——OpenAI。在 2012 年,也就是 AlexNet 10 年之后,计算能力提高了约 100 万倍。
如果你能想象一下,如果你的笔记本电脑的能力提高了 100 万倍,那会是什么样子,100 万倍之后,OpenAI 推出了 ChatGPT,人工智能进入了主流。
在这十年里,英伟达从一家你们很多人可能最初认识的制造 GPU 的芯片设计公司,转变为一家现在制造大规模数据中心规模超级计算机的人工智能公司。我们彻底改变了我们的公司。我们也彻底改变了计算。今天计算的基本方式已经发生了根本性的变化。
现在的计算堆栈使用 GPU 来处理在超级计算机上训练的大型语言模型,而不是处理程序员编写的指令的 CPU。我们现在正在创建没有人能想象的软件。
即使在 10 年前,计算机现在也是由意图驱动的,而不是指令驱动的。告诉计算机你想要什么,它会想出如何去做。就像人类一样,人工智能应用程序将理解任务、原因、计划,并组织一个大型语言模型团队来执行任务。未来的应用程序,将以与我们非常相似的方式执行和执行任务,组装专家团队,使用工具,推理和计划,并执行我们的任务。
软件和软件能做的事情已经完全改变了。甚至我们的行业,在它被改变和转型的过程中,创造了另一个行业,一个世界从未见过的行业。一个行业正在我们眼前形成。
对于所有工程师来说,人工智能的输入和输出都是标记。这些都是嵌入智能的浮点数。公司现在正在构建一种新型的数据中心,这种数据中心以前不存在,专门用于生产智能标记。从本质上讲,AI 工厂就像尼古拉·特斯拉在过去的工业革命中发明的交流发电机一样。我们现在有了人工智能标记发生器。它们将是新工业革命的工厂。有生产能源、电力的大工业。我们现在有一个生产无形软件的大产业。
在不久的将来,我们将有生产制造智能标记、人工智能发生器的产业。一种新的计算模型已经出现,一个新的行业已经出现,这一切都是因为我们从第一原理出发,形成了对未来的信念。
下一波人工智能是机器人技术。除了语言模型,人工智能还具有物理世界模型。我们与数百家公司合作制造机器人、机器人车辆、机械臂、人形机器人,甚至整个巨大的机器人仓库。但与我们在人工智能工厂战略中的经验不同,我们的机器人技术之旅是由一系列挫折导致的。
英伟达发明了 GPU,这是在我们发明人工智能工厂之前。我们对计算机行业的第一个伟大贡献是通过可编程渲染,彻底改变计算机图形学。我们在 2000 年发明了 GPU 和可编程渲染。我们想把 GPU 集成到每台计算机中。所以我们开始把我们的 GPU 和主板芯片结合起来。我们推出了一款出色的集成图形芯片。当时对于 AMD 的 CPU,我们的芯片业务立即取得了成功。
我想它几乎在一夜之间从零增长到了 10 亿美元。
但突然之间,AMD 想要控制个人电脑中的所有技术(CPU、GPU),我们想要保持独立,所以他们收购了 ATI,不再需要我们。
所以,我们转向英特尔,这可能不是一个好主意,但我们转向英特尔,并协商了一项许可证,以连接英特尔的 CPU。同时,苹果对我们正在建设的东西感到兴奋,并要求我们与他们合作开发一款新电脑,这就是第一台 MacBook Air。
当英特尔看到事情发生改变并决定,他们不再希望我们这样做。他们终止了我们的协议。
我们再次转向,这一次我们去授权了 Arm,我们构建了一个低功耗的 SoC 移动 SoC,这是世界上第一个 SoC,本质上是一台计算机,一台完整的操作计算机。
这太不可思议了。我们的芯片让谷歌兴奋不已,他们要求,我们为一款新设备工作,结果这款设备就是安卓移动设备。
然而,高通决定他们不希望我们这样做。他们不希望我们连接到他们的模型,而且如果不连接到移动处理器,就很难构建一个基于 AI 的移动设备,因为没有其他 LTE 调制解调器公司,所以,我们不得不退出移动设备市场。
这几乎是在一年的节奏上发生的。
然后一年后,我们被踢出了这些市场,没有其他市场可以发展。因此,我们决定建造一些我们确信没有客户的东西,因为你绝对可以保证的一件事是,没有客户的地方。也没有竞争对手。没有人关心你。所以我们选择了一个没有客户的市场,一个 0 亿美元的市场:机器人技术。
我们建造了世界上第一台机器人计算机,处理一种当时没有人理解的算法,叫做深度学习。
这是十多年前的事了。
而现在,10 年后,我对我们所建造的和创造下一波人工智能的机会感到非常高兴。更重要的是,我们培养了敏捷性和韧性文化。一次又一次的挫折,我们摆脱了它,滑向了下一个机会。每一次我们都获得了技能,增强了我们的性格,我们增强了我们的企业性格。我们的公司真的很难分心,真的很难气馁。
这些天来,没有任何挫折看起来不像一个机会。具有讽刺意味的是,我们今天建造的机器人计算机甚至不需要图形,这就是我们的旅程开始的原因。
所以我们今天所处的位置告诉我们一些事情,并教会我们所有人。正如理查德·费曼所说,世界是不确定的,世界可能是不公平的,会给你发一手烂牌,迅速摆脱它,但显然要多读书。迅速摆脱它,来吧。这很聪明。我让自己笑了。
外面还有另一个机会,或者创造一个。我再给你讲一个故事。我曾经每年夏天在我们的一个国际站点工作一个月。当我们的孩子十几岁的时候,我们在日本度过了一个夏天。一个周末,我们参观了京都和银阁寺。
如果你还没有机会去,你一定要去。它以其精致的苔藓花园而闻名。我们参观的那天是典型的京都夏日,闷热难耐,只有炎热潮湿,黏糊糊的。热量从地面辐射出来。空气很浓。静止的。和其他游客一起,我们漫步在精心修剪的苔藓花园中。我注意到一个孤独的园丁。现在记住苔藓花园。这是银阁寺。苔藓花园很大。它大约有这个庭院那么大,有收藏,显然是世界上最大的苔藓收藏。而且维护得非常精致,我注意到一个孤独的园丁蹲着,用竹镊子仔细地挑选苔藓,然后把它放进竹篮里。你必须这样做,这是一个竹镊子。这只是一个花园。篮子看起来空了一会儿。
我以为他是把想象中的苔藓捡到一堆想象中的死苔藓里。于是我走过去问他,你在干什么?用他的英语?他说,我在捡死苔藓。我在照顾我的花园,我说,但是你的花园太大了。
他回答说,我已经照顾我的花园 25 年了。我有足够的时间。这是我一生中最深刻的收获之一。它真的教会了我一些东西,这个园丁致力于他的手艺,做他一生的工作。当你这样做的时候,你有足够的时间。
我每天早上都这样完全一样地开始,我每天早上都从做我最优先的工作开始。首先。我有一个非常明确的优先事项列表,我从最高优先级的工作开始。在我开始工作之前,我的一天已经成功了。我已经完成了我最重要的工作,可以把我的一天奉献给帮助别人。
当人们为打断我而道歉时,我总是说我有足够的时间。
我对 2024 届的毕业生们说,我很难想象,还有谁比你们为未来做好了更充分的准备。你们致力于自己。你们努力工作。你们从世界上最负盛名的学校之一获得了世界一流的教育。当你们进入下一个阶段时,希望接受我们的学习。希望它们能在一路上帮助你们。
我希望你们相信一些东西,一些非常规的东西,一些未被探索的东西,但让它是知情的,让它是有道理的,然后致力于实现它。你可能会找到你的 GPU,你可能会找到你的导师,你可能会找到你的生成式人工智能,你可能会找到你的英伟达。
我希望,你们将挫折视为新的机会。你们的痛苦和苦难将增强你们的性格、韧性和敏捷性,它们是我最珍视的自己能力的终极超能力。智力不在这个列表的首位,我忍受痛苦和苦难的能力。
亲爱的,我长时间致力于某件事情的能力,我处理挫折并看到机会就在眼前的能力,我认为是我的超能力。我希望它们也是你们的,我希望你们找到一种手艺。
第一天决定并不重要。甚至很快决定也不重要,但我希望,你们能找到一种手艺。我希望你们找到一种想要奉献一生去完善、磨练技能,并让它成为你们一生工作的手艺。
最后,优先考虑你们的生活。有很多事情要做。有很多事情要做,但要优先考虑你们的生活。你们将有足够的时间去做重要的事情。
祝贺你们,2024 届的同学们。