实时机器学习芯片的设计

如果没有过去几十年取得的重大计算进展，当前一代机器学习（ML）系统将不可能实现。图形处理单元（GPU）的开发对ML的发展至关重要，因为它为ML系统处理和训练大型数据集提供了新的计算能力。随着人工智能领域朝着超越当前的ML能力的方向发展，进入实时“学习”领域，需要新的计算水平。高度专业化的应用专用集成电路（ASIC）在满足诸如自主系统和5G等高级ML应用的物理尺寸、重量和功率（交换）需求方面表现出了良好的前景。然而，设计和实现的高成本使得开发ML专用ASIC对于所有人来说都是不切实际的，但却是最高的VO。流明应用。

美国国防部高级研究计划局（DARPA）微系统技术办公室（MTO）项目经理安德烈亚斯·奥洛夫森（AndreasOlofsson）说：“在计算领域，一个关键的挑战是创建能够主动地实时解释和学习数据、应用以前的知识来解决不熟悉的问题、以人类大脑的能源效率运行的处理器。”“低交换、低延迟和适应性的竞争挑战需要开发新的算法和电路，专门用于实时机器学习。我们需要的是快速开发节能硬件和ML架构，这些架构可以实时从连续不断的新数据流中学习。”

DARPA的实时机器学习（RTML）计划旨在通过开发一种基于ML框架自动生成新型芯片设计的方法，降低开发为新兴ML应用程序定制的ASIC的相关设计成本。RTML程序的目标是创建一个编译器或软件平台，它可以吸收像TensorFlow和PyTorch这样的ML框架，并根据特定ML算法或系统的目标，生成针对特定需求优化的硬件设计配置和标准Verilog代码。在程序的整个生命周期中，RTML将探索编译器在两个关键的高带宽应用领域的能力：5G网络和图像处理。

“机器学习专家擅长开发算法，但对芯片设计知之甚少甚至一无所知。相反，芯片设计人员不具备所需的专业知识来通知特定于ML的ASIC的设计。RTML寻求合并这些独特的专业领域，使设计超专业化ASIC的过程更高效、更具成本效益，”Olofsson说。

基于应用空间的预期灵活性和效率，RTML编译器为原型设计和测试需要新芯片设计的基本ML研究思想提供了一个理想的平台。因此，DARPA计划与国家科学基金会（NSF）合作进行这项努力。NSF正在推行自己的实时机器学习计划，致力于开发新的ML范例和架构，以支持实时推理和快速学习。在DARPARTML项目的第一阶段之后，该机构计划将其编译器提供给NSF研究人员，以提供一个平台来评估他们提出的ML算法和体系结构。在项目的第二阶段，DARPA研究人员将有机会使用NSF生成的结果评估编译器的性能和能力。DARPA-NSF伙伴关系的总体期望是为下一代RTML算法和硬件的协同设计打下基础。

美国国家科学基金会计算机和信息科学与工程负责人吉姆·库罗斯说：“我们很高兴能与DARPA合作，为研究团队提供资金，以解决实时学习、预测和自动决策方面的新挑战。”“这种合作符合美国人工智能倡议，对于保持美国在技术和创新方面的领导地位至关重要。它将有助于促进可持续能源和水系统、医疗保健物流和交付以及先进制造业的发展。

RTML是DARPA电子复兴计划（ERI）第二阶段的一部分，该计划为期五年，对国内、美国政府和国防电子系统的未来投资超过15亿美元。作为ERI第二阶段的一部分，DARPA正在支持国内的制造选择，并促进针对不同需求的差异化能力的发展。RTML通过创建一种快速且经济高效地生成新的芯片设计来支持新兴的ML应用程序，帮助完成这一任务。