国内的GPU租赁市场最近半年真是越来越魔幻了。
6月份还是一小时4块钱的A100,现在2.4元了,4090也因为天命人普遍通关进入了闲置状态,涌入了GPU租赁市场,眼看着4090的价格一骑绝尘降到了一块七。
▲ 截图来源于:智星云算力平台
今年信通院发布了《中国算力中心服务商分析报告(2024年)》,其中指出,全国算力中心机架总规模已超过了810万标准机架,算力总规模达到230EFLOPS,位居全球第二,远超欧洲、日本、韩国等。
而其中最重要的问题在于,算力资源的利用率问题。在算力的使用过程中,由于现有的供给结构与用户实际的算力需求不平衡、不匹配,出现供需错位,这也导致了出现了算力闲置和浪费。
不止国内“算力荒”,国外也一样,以学术圈为例。
今年5月,斯坦福大学教授李飞飞称学术界正在面临AI计算资源的严重短缺,斯坦福大学的NLP实验室只有64块GPU(英伟达A100)。而这在不少其它高校的学生看来就已是天方夜谭了,不少高校甚至连1块英伟达A100 GPU也没有。
国内大多高校,也大都是通过GPU租赁的方式获得算力进行科学实验。甚至连AI行业也没能逃过同样的命运,像国内以意间ai、无界为代表的千万用户量级的AI绘画平台,也都没有自己的GPU算力集群,以租用为主。
GPU算力租赁目前主要分为两种方式,平台自有GPU集群租赁以及CPC租赁模式。
前者一般都是“大云”,如阿里、华为、腾讯等;后者属于中介平台,撮合个人闲置的显卡上架租给其它个体。
“大云”和“小云”无论是GPU算力规模还是技术实力,都有着天然的割裂。
不同于阿里、华为等巨头旗下的云平台,CPC模式下的“小云”良莠不齐,为了争夺市场份额,不惜以超低价吸引客户,低价背后往往是低质量的硬件、不稳定的服务以及缺乏技术实力支持。
举个例子,正规渠道采购的GPU有着严格的质量保障。而CPC个人租赁人多手杂,没有统一的标准,“矿渣卡”(挖矿类)严重泛滥,“矿渣卡”的显存、主板、芯片、散热片、风扇全都伤,不可逆转的那种伤,伤的结果除了寿命透支之外还有性能的不稳定下跌。
当“矿卡”重新被平台收拢用于AI和科研,几乎是无法保证算力的有效利用率。同样是4090,测试下来正规平台算力中心卡用于AI文生图只需10s出图,而“矿卡”可能就要跑到30s~60s,这其中巨大的差距显而易见。
这也就是我们在租赁GPU时,会发现一些平台的GPU与该型号卡实际应有的处理速度和效率,和认知严重不符。
而数据安全也是重灾区,一些服务商在数据安全方面缺乏保障措施,导致用户数据泄露或丢失的风险增加。
当然。在这个鱼龙混杂的大环境里,它做到了一枝独秀。
智星云算力服务平台,上市公司安诺其集团(股票代码:300067)全资子公司上海亘聪信息技术有限公司旗下的GPU算力平台,目前自有GPU算力达到了1000P。
创始团队成员全部来自英伟达和阿里云,天然具备行业基因优势,早在2020年就已经是国内具有代表性的GPU算力生态服务平台之一了。
短租可直接去官网的算力市场(请用PC端浏览器):
服务于国企、央企以及国内众多耳熟能详的头部AI平台,高校师生对它应该是不陌生的,尤其是清华北大的同学们,搞科研时第一个想到的大概就是智星云。
GPU业务囊括云主机租赁、裸金属以及服务器出售三大板块。
自有算力全部为数据中心正规算力,拥有英伟达全系列GPU产品,技术团队来自于阿里云专业团队,拥有等级保护、iso质量体系。
价格方面同样“遥遥领先”,弹性算力,按小时付费,随用随开,包月包年价格更加优惠。
不只是企业和高校,炼丹大佬也普遍用的是智星云,一键云部署SD WebUI,还支持保存磁盘,短时间内不用了,完全可以把环境先存起来,下次使用一键启动。完全不会出现GPU到期了,我辛辛苦苦部署好的环境也废了的情况。
另外,今年下半年智星云上线了积分商城系统,租用GPU就可以获得相应的积分,在积分商城兑换最新的数码科技产品,日常用品应有尽有,都是完全通过积分进行兑换。可以说相比众多积分商城,是目前见过的最有诚意的积分商城。
GPU既便宜,服务又好的算力平台肯定不止智星云一个,但是智星云属于方方面面你都没办法拒绝的类型,他们真的好会。
现在注册就送500元新人大礼包,立刻省钱!
官网(请用PC端浏览器访问):
https://www.ai-galaxy.cn
建议大家先注册起来,先把福利拿了再说。
长租请扫码添加下方商务人员微信
▼ 点击「阅读原文」,领取500元大礼包
(文:PaperWeekly)