院士|王恩东院士：释放多元算力价值，计算系统创新是关键

文章插图

【院士|王恩东院士：释放多元算力价值，计算系统创新是关键】人工智能从5、6年前的 “黑科技”变成了今天的“热科技”，背后离不开算力支撑能力的巨大飞跃。2020年以GPU为代表的AI加速芯片所交付的计算力总和已经超过了通用CPU，预计到2025年，加速芯片所提供的计算力可能超过80%。可以说，人工智能的规模化发展，算力已经成为决定性的力量，智慧计算是智慧时代的核心生产力。
“人工智能带来指数级增长的算力需求，计算产业正面临着多元化、巨量化、生态离散化交织的趋势与挑战。一方面多样化的智能场景需要多元化的算力，巨量化的模型、数据和应用规模需要巨量的算力，算力已经成为人工智能继续发展的重中之重；另一方面从芯片到算力的转化依然存在巨大鸿沟，多元算力价值并未得到充分释放。如何快速完成多元芯片到计算系统的创新，已经成为推动人工智能产业发展的关键环节。”在10月16日举行的2021人工智能计算大会（AICC2021）上，中国工程院院士、浪潮首席科学家王恩东阐释了计算系统创新在计算到智算转变的产业新格局下的重大意义。
多元芯片到算力转化，计算系统创新是关键
随着人工智能在算法领域的不断突破，不同数值精度带来了跨度更大的计算类型，对计算芯片指令集、架构的要求更加细分。图灵奖获得者 John Hennessy和 David Patterson共同发表的《计算机架构的新黄金时代》中提出：当摩尔定律不再适用，一种更加以硬件为中心的DSA（Domain Specific Architecture）架构设计会成为主导，这种设计的核心在于针对特定问题或特定领域来定义计算架构。基于DSA思想设计的AI芯片，在特定AI工作负载上表现出远超通用芯片的处理能力，大大推动了AI芯片的多元化发展。
芯片的多元化为产业AI化的加速提供了重要的产业基础和更加丰富的选择。但是，芯片从造出来到大规模用起来，还隔着一个巨大的产业鸿沟。一方面，算力的供给需要构建算力平台，需要解决架构设计、核心部件、高速互联、散热设计等一系列问题。以一台AI服务器研制为例，整个系统需要经过30 多个开发流程，使用150 多种加工制造工艺，对280多个关键过程控制点的质量进行严格把控，并且还要实现与算法框架和AI应用的优化和适配等问题；另一方面，面对大规模AI算力部署，AI算力平台建设又面临高功耗、高电流密度、高总线速率、高系统复杂度的新问题。
“我们能造出性能强大的火箭发动机，但要想造出安全、高性能的运载火箭，还要在循环、控制、结构等很多领域做大量的工作。芯片到计算系统同样如此，需要完成体系结构、信号完整性、散热、可靠性等大量系统性设计工作。”王恩东院士用生动形象的比喻，诠释了芯片到算力转化过程中计算系统创新的价值所在。
以巨量模型为代表的巨量化是AI发展的重大趋势
“人工智能如何发展出像人类具备逻辑、意识和推理的认知能力，是人工智能研究一直在探索的方向。目前来看，通过大规模数据训练超大参数量的巨量模型，被认为是非常有希望实现通用人工智能的一个重要方向。”王恩东院士认为，随着巨量模型的兴起，巨量化已成为未来人工智能发展非常重要的一个趋势。
目前，全球知名的AI领先公司在巨量模型上都予以重兵投入，谷歌、微软、英伟达、浪潮、智源研究院、百度、阿里等公司相继推出了各自的巨量模型。
巨量化的一个核心特征就是模型参数多、训练数据量大。以浪潮人工智能研究院开发的全球最大规模的中文AI巨量模型“源1.0”为例，其参数量高达2457亿，训练数据集规模达到5000GB。相比GPT3模型的1750亿参数量和570GB训练数据集，“源1.0”的参数规模增加了40%，训练数据集规模增加近10倍。