速递|印度初创公司Ziroh Labs,推出无需高端芯片即可运行大型AI模型

图片来源:Artisan

印度人工智能初创公司 Ziroh Labs ,与该国顶尖技术学院的研究人员合作,设计出一套经济实惠的系统,据称无需依赖英伟达公司等提供的高端计算芯片,即可运行大型 AI 模型。

该公司的框架名为 Kompact AI,是与印度马德拉斯理工学院合作开发的。

Ziroh Labs 表示,该平台能让 AI 在日常计算设备的中央处理器(CPU)上运行,而非依赖当前人工智能热潮中炙手可热却价格高昂的图形处理器(GPU)。

随着 DeepSeek 以远低于美国同行的成本,打造出具有竞争力的 AI 模型并取得现象级成功后,越来越多的 AI 开发者开始宣扬其效率提升,声称能在后续数月减少芯片使用量。

Ziroh Labs 的方法主要聚焦于推理过程,即在 AI 系统完成训练后的实际运行阶段。

Ziroh Labs 宣称能优化主流 AI 模型使其在个人电脑上运行。在本周的演示活动中,研究团队展示了其产品在搭载市售英特尔至强处理器的笔记本电脑上运行,并成功调用 Meta Platforms Inc.的 Llama 2 ,和阿里巴巴集团的 Qwen2.5 等模型。

其他科技公司也曾利用 CPU 处理部分推理工作负载。Ziroh Labs 表示其方法能带来高质量成果。这家初创企业称其技术已通过美国芯片制造商英特尔公司和超威半导体公司的测试。

“Sun Microsystems 前首席战略官、该初创公司技术顾问威廉·拉杜切尔在线上活动中表示:“未来几年,这将对市场产生非常深远的影响。”

与其他国家一样,印度开发者难以负担并获取顶级英伟达芯片来构建和支持 AI 产品。GPU 短缺可能阻碍当地 AI 研究及部署的速度与规模。

印度理工学院马德拉斯分校主任 V·卡玛科蒂指出:“AI 鸿沟源于只有拥有高端昂贵 GPU 资源的人才能访问、开发和部署强大 AI。我们正在证明,杀鸡焉用牛刀。”



参考资料

本文翻译自:https://www.bloomberg.com/news/articles/2025-04-10/indian-startup-unveils-system-to-run-ai-without-advanced-chips?srnd=phx-technology

编译:ChatGPT


——-

(文:Z Potentials)

欢迎分享

发表评论