如今,NVIDIA首席科学家Bill Dally在GTC中国在线会议上的主题演讲中说,NVIDIA研究人员致力于构建更快的AI芯片,并在具有更高带宽的系统中使用它们来简化编程。他以三个项目为例来描述他的200人研究团队如何成功实现“黄定律”。这项以NVIDIA首席执行官黄仁勋(Jensen Huang)命名的法律预测,GPU将推动AI性能逐年翻番。达利说:“如果我们真的想提高计算机性能,黄氏法则是一个重要指标,并且在可预见的将来将始终适用。此前,Dally负责NVIDIA相关的AI,光线追踪和高速互连领域。研究。” NVIDIA每年帮助AI推理性能提高一倍以上。超高能效的加速器。为了实现这一突破,NVIDIA研究人员专门开发了一种称为MAGNet的工具。它生成的AI推理加速器可以在模拟测试中实现这一目标。每瓦100 tera ops的推理能力比当前商用芯片的推理能力高一个数量级。 MAGNet使用一系列新技术来协调和控制通过设备的信息流,以最大程度地减少数据传输,而这是当今芯片中最耗能的环节。该研究原型在模块中实现,因此可以灵活扩展。此外,研究团队还进行了一项研究,旨在用更快的光学链路代替现有系统中的电气链路。释放所有光子的潜能。 Bill Dally拥有120多项专利。在2009年加入NVIDIA之前,他是斯坦福大学计算机科学系系主任。 Dally说:“我们可以将连接到GPU的NVLink的速度提高一倍,也许可以再提高一倍,但最终电子信号将被耗尽。”该团队正在与哥伦比亚大学的研究人员紧密合作,以探索如何使用电信提供商。其核心网络中使用的技术通过一条光纤传输数十个信号。期望这种被称为“密集波分复用”的技术在小到一毫米的芯片上实现Tb / s级数据传输,这是当今互连密度的十倍以上。除了提高吞吐量之外,光链路还有助于构建更密集的系统。 Dally举例说明了NVIDIA DGX系统模型,该模型将来将配备160多个GPU。工程师依靠光链路在单个系统中携带160多个GPU软件。 NVIDIA研究人员开发了一种新的编程系统原型Legate。在Legate的帮助下,开发人员可以在任何大小的系统上运行为单个GPU编写的程序,甚至适用于具有数千个GPU的大型超级计算机(例如Selene)。 Legate在加速软件库和高级运行时环境Legion中加入了新的编程速记,Legion目前正在美国国家实验室进行测试。除了以上三项研究外,Dally还在主题演讲中讨论了NVIDIA在许多行业的平台,例如医疗和健康,无人驾驶汽车和机器人技术。同时,他还致力于研究数据科学,人工智能和图形处理。 Dally说:“经过几代的努力,NVIDIA的产品将使用基于物理渲染的路径跟踪技术来实时生成令人惊叹的图像,并能够在AI的帮助下构建整个场景。”此外,他还首次公开展示了NVIDIA。 Jarvis和对话式AI框架GauGAN的完美结合。 GauGAN使用生成式对抗网络创建具有简单构图的美丽景观。在演示中,用户可以使用语音命令立即生成与照片一样逼真的绘画。在录制主旨演讲的视频之间,Dally接受了采访,并对研究团队在多个领域取得的开拓性进展表示自豪。他说:“目前,NVIDIA在光线追踪领域的进步始于NVIDIA Research Institute建立的原型。我们的产品团队非常兴奋。 2011年,我任命NVIDIA研究员Bryan Catanzaro与斯坦福大学教授Andrew Ng合作。随后,一个项目创建了CuDNN软件,该软件使深度学习领域的许多研究工作成为可能。”基于网络领域,Dally还领导了一项合作,以构建NVLink和NVSwitch的初始原型。 NVLink和NVSwitch现在已在世界上最大的超级计算机中使用,以实现其内部GPU的互连。他说:“产品团队始终可以迅速将研究工作转化为实际结果,