3000美元运行200B模型!英伟达Project DIGITS重磅发布


一台桌面级的AI超级计算机,能跑200B参数模型,还可以堆叠使用!


CES 2025上,英伟达再次刷新了我们对AI计算的认知。他们发布了一款名为「Project DIGITS」的个人AI超级计算机,这个小巧的设备搭载了全新的GB10 Grace Blackwell超级芯片。

Steve(@xyster)对此激动不已:

能运行200B参数模型!!!(在FP4精度下)还能堆叠使用!我等不及了!@Nvidia 抱抱

这不仅仅是一台普通的AI计算设备,它标志着Grace Blackwell平台正式走进千家万户。

英伟达CEO黄仁勋表示:「AI将在每个应用和每个行业成为主流。通过Project DIGITS,Grace Blackwell超级芯片将服务于数百万开发者。

强悍性能,平民价格

这台小巧的超算有多强?

它配备了最新的GB10超级芯片,这是一款基于Grace Blackwell架构的系统级芯片(SoC),在FP4精度下可提供高达1 petaflop的AI计算性能。

这块芯片集成了:

  • 最新一代CUDA核心

  • 第五代Tensor核心

  • 通过NVLink-C2C芯片间互连与高性能NVIDIA Grace CPU相连

  • 20个基于Arm架构的高效核心

更令人振奋的是,MediaTek参与了GB10的设计,为其贡献了最佳功耗效率、性能和连接性。

dmsimon(@dmsimon)惊呼道:

3000美元就能买到一台迷你DGX!

平民超算的诞生

每台Project DIGITS都配备了128GB统一内存和高达4TB的NVMe存储。最令人惊叹的是,它只需要一个标准电源插座就能运行

更神奇的是,如果你觉得一台不够用,还可以通过NVIDIA ConnectX网络将两台设备连接在一起,这样就能运行高达405B参数的模型了!

Lazy Geek(@geeknlazy)对此表示:

这真是太令人惊叹了🤩🤩🤩

无缝过渡的生态系统

Project DIGITS运行基于Linux的NVIDIA DGX OS,用户可以在本地系统上进行原型设计、微调和测试模型,然后无缝部署到NVIDIA DGX Cloud、加速云实例或数据中心基础设施上。

开发者可以访问大量NVIDIA AI软件进行实验和原型设计,包括:

  • 软件开发工具包

  • 编排工具

  • 框架和模型

  • NeMo框架用于模型微调

  • RAPIDS库用于加速数据科学

  • PyTorch、Python和Jupyter notebooks等常用框架

Mid Season Group(@MidSeasonGroup)好奇地问道:

能说得更多一点吗?

这款重量级产品将于2025年5月开始发售,起售价3000美元。

看来,AI超级计算的「平民时代」即将来临!

我那疲惫不堪的4090 终于可以淘汰了!

(文:AGI Hunt)

欢迎分享

发表评论