英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”

老黄在CES上发布的迷你超算Project DIGITS,开启了AI超算的PC时刻。 但随即也引发了不小争议,还遭到了大佬的贴脸嘲讽。 在AMD和英特尔都工作过的芯片设计专家Raja Koduri实名吐槽道:FLOPs除以4,价格翻倍,这就是在CES上stay grounded的秘诀。

老黄在CES上发布的迷你超算Project DIGITS,开启了AI超算的PC时刻。

但随即也引发了不小争议,还遭到了大佬的贴脸嘲讽。

在AMD和英特尔都工作过的芯片设计专家Raja Koduri实名吐槽道:

FLOPs除以4,价格翻倍,这就是在CES上stay grounded的秘诀。

图片

后来Koduri在网友追问下给出了详细解释,表示英伟达宣传的算力是在FP4精度下的,而Project DIGITS在FP16下的表现,可能就和5070差不多,甚至接近Intel Arc B580(售价250美元)。

图片

友商Tiny Corp更是抓住这一点猛地一波输出,直接表示,人们趋之若鹜的的所谓3000美元超算,就是纯纯的诈骗。

最后还不忘再补一刀说,3000美元还不如买个游戏电脑。

图片

关于细节,Tiny Corp在另一则推文里表示,FP4根本就没法用,Project DIGITS在FP8精度下只有500TFLOPs,顺便宣传自家的产品有4PFLOPs,是Project DIGITS的8倍。

图片

史上最迷你超算,售价22000起

英伟达介绍,这一波发布的Project DIGITS,可以说是目前体积最小的AI超算。

Project DIGITS将于今年5月份由官方和顶级合作商一同发售,起售价3000美元,约合人民币两万二。

图片

它搭载了英伟达全新Grace Blackwell超级芯片——GB10,FP4运算能力达到了1PFLOPs

GB10包含了英伟达Blackwell GPU,具有最新一代CUDA核心和第五代Tensor Cores。

CPU则是与联发科合作研发的Grace CPU,基于Arm架构,拥有20个节能核心。

CPU和GPU之间,则是通过NVLink-C2C芯片到芯片互连连接,另外还有128GB统一内存和4TBNVMe存储。

图片

据介绍,Project DIGITS可以在桌面端运行200B大模型,还可以把两台组合到一起,跑405B的模型。

图片

此外英伟达还给用户配有AI软件库,包括NGC目录和开发者门户中的软件开发工具包、编排工具、框架和模型等,可用NVIDIA NeMo框架微调模型、NVIDIA RAPIDS库加速数据科学,运行PyTorch等常见框架。

还可以利用NVIDIA Blueprints和NVIDIA NIM微服务构建智能AI应用。

并且在桌面系统上对大模型搞完开发或推理之后,还可以无缝部署到加速云或数据中心基础设施里。

英伟达的桌面CPU计划

之前有传言称,英伟达打算在今年进军消费级CPU市场。

这次的Project DIGITS中,20个节能核心的Grace CPU就是英伟达的第一次试水。

黄仁勋在投资者演讲中回答分析师的问题时表示,英伟达与联发科共同设计了一款“可以广泛销售的”节能CPU。

不过,搭载新CPU的Project DIGITS主要面向AI从业人员,主要运行Linux系统,离成为大众消费市场设备还存在距离。

但老黄也明确表示,英伟达对于桌面级的CPU“有进一步计划”,具体细节则要之后再透露。

不过这已经足够证明,英伟达想要进军消费级CPU的说法属实。

并且老黄也对此充满了信心:

我们将使其成为主流产品,将竭尽全力支持专业和高质量的软件,而PC(制造商)将向最终用户提供它。

另外,与英伟达合作的联发科可能也有自己的野心。

老黄表示,联发科既可以把产品提供给英伟达,也可能自行保留并推向市场。

不过至少在目前看来,黄仁勋依然认为与联发科的合作是一个双赢的结果。

相关资讯

百分点认知智能实验室:基于不完全标注样本集的信息抽取实践

编者按信息抽取是从文本数据中抽取特定信息的一种技术,命名实体识别(Named Entity Recognition, NER)是信息抽取的基础任务之一,其目标是抽取文本中具有基本语义的实体单元,在知识图谱构建、信息抽取、信息检索、机器翻译、智能问答等系统中都有广泛应用。基于监督学习的NER系统通常需要大规模的细粒度、高精度标注数据集,一旦数据标注质量下降,模型的表现也会急剧下降。利用不完全标注的数据进行NER系统的建立,越来越受到专家学者们的关注。第九届国际自然语言处理与中文计算会议(NLPCC 2020)针对此业

关键点检测项目代码开源了!

作者:闫永强,算法工程师,Datawhale成员 本文通过自建手势数据集,利用YOLOv5s检测,然后通过开源数据集训练squeezenet进行手部关键点预测,最后通过指间的夹角算法来判断具体的手势,并显示出来。文章第四部分为用C 实现整体的ncnn推理(代码较长,可先马后看)一、YOLOV5训练手部检测训练及部署思路类似表情识别,需要将handpose数据集标签改成一类,只检测手部,简化流程,更易上手。此部分数据集来源格物钛  ,具体的效果如图:本教程所用训练环境:系统环境:Ubuntu16.04cuda版本:

5 个章节、25 条规范,全方位 Get 数据集选择与创建的「百科全书」

内容一览:如果你正在学习如何创建或选择一个合适的数据集,那么这篇文章会给你一些实用的建议,帮助你在选择和创建数据集时做出明智的决策。 关键词:机器学习 数据集