宁畅|MLPerf成绩冲入世界前三,服务器独角兽宁畅如何做到?

宁畅|MLPerf成绩冲入世界前三,服务器独角兽宁畅如何做到?
文章插图
智东西(公众号:zhidxcom)
作者 | 贞逸
编辑 | 漠影
当人们认为服务器行业格局已定时,一位年轻的挑战者“宁畅”出现在我们视野。
这家成立仅18个月的服务器公司,今年7月初在一众老大哥聚集的行业顶级赛事MLPerf AI基准测试中突出重围,在MASK R-CNN、U-NET3D两个AI场景中拔得头筹。
业内资深分析师将宁畅喻为服务器独角兽,媒体更将其与行业龙头浪潮进行比较研究。
宁畅为什么能夺冠?宁畅又是一家怎样的公司?
带着这些疑问,智东西采访了宁畅相关负责人。经深入沟通,我们发现一场变革正席卷国内服务器市场。
一、宁畅凭什么夺得MLPerf冠军?近日MLPerf发布基于Training V1.0 最新标准测试结果。宁畅AI服务器X640 G40和X660 G45,分别以48.43、28.64成绩,取得固定任务(closed)赛道,单机服务器系统的MASK R-CNN、U-NET3D两项AI场景世界性能冠军。宁畅单机服务器系统AI性能冲入世界前三。
宁畅|MLPerf成绩冲入世界前三,服务器独角兽宁畅如何做到?
文章插图
MASK R-CNN测试结果
宁畅|MLPerf成绩冲入世界前三,服务器独角兽宁畅如何做到?
文章插图
U-NET3D测试结果
去年参加MLPerf Training 的组织只有9家,今年增长到了13家,不管是MLperf 中的常驻会员NVIDIA、 Intel、Google;还是新入场的Habana,GIGABATE,Graphcore等厂商都实力雄厚。
宁畅作为创业公司,在八个赛道中能取得两项单机服务器系统世界冠军,核心依托的是过硬的产品研发能力。
1、全栈研发破解“木桶效应”
宁畅介绍,随着AI技术不断发展,各大厂商都在发力AI服务器,行业竞争激烈。
AI服务器是相对复杂服务器产品,其性能遵从木桶效应,计算模块、存储模块、网络模块,散热模块等任何一个模块出现短板,都会影响整体性能。
正因如此,在单机服务器系统领域,能参加MLPerf Training测试并取得冠军成绩的初创企业极少,目前除宁畅外国内还没有第二家初创服务器厂商。
宁畅虽然是初创公司,但团队成员可谓是行业“老兵”。宁畅团队成员在服务器领域的平均工作经验超八年,核心员工不低于15年。
此外,宁畅具有全面的产品、技术与工程平台,从标准规范到BIOS软件设计,再到散热、电信号的模拟仿真,以及自动化压力测试,宁畅均具有全栈技术研发能力。
宁畅|MLPerf成绩冲入世界前三,服务器独角兽宁畅如何做到?
文章插图
宁畅全栈研发平台
这使得宁畅的AI服务器整体性能强劲,在完成同等量AI模型训练任务时,可以“先人一步”。
如宁畅X640 G40是兼备训练与推理的全能型AI服务器,具备海量存储扩展能力,最大支持24块3.5寸硬盘。强劲性能、海量存储,使得X640 G40在训练MASK R-CNN模型时,一秒可完成57000张图片分析,以及570余次训练迭代。
X660 G45是高性能AI计算平台,GPU之间采用高达600GB/s 的NVLink总线高速互联。每个GPU上还可搭配专属的200G HDR高速网络和U.2高速缓存,在训练U-NET3D模型时,一秒可分析5040张X光照片,这是单机服务器的世界极限处理速度。
宁畅|MLPerf成绩冲入世界前三,服务器独角兽宁畅如何做到?
文章插图
X640 G40和X660 G45
值得关注的,除MASK R-CNN、U-NET3D两个赛道外,在比较同功耗的GPU配置下,宁畅X660 G45在DLRM(推荐系统)、SSD(目标检测)固定任务赛道中,亦取得最好成绩。同GPU功耗配置下,宁畅其实获得的是八大赛道的四个冠军席位,取得数量同样是世界第一。
宁畅|MLPerf成绩冲入世界前三,服务器独角兽宁畅如何做到?
文章插图
X660 G45在DLRM的成绩