苹果AI新进展:Qwen3已全面“登陆”苹果MLX框架

作者summer
邮箱huangxiaoyi@pingwest.com

在苹果AI中国版一片静默之际,阿里出牌了。

2024年6月16日,阿里巴巴Qwen团队对外宣布,推出支持苹果MLX架构的 Qwen3 模型,包含4种精度,用户可以根据硬件资源选择合适的模型。搭载对应芯片的苹果设备可以更流畅、更高效地在本地运行这款来自中国的开源大模型。

看似是一个并不复杂的工程优化,但在此刻,它承载的意义远不止于代码层面。

继今年2月,阿里确认与苹果合作中国区 Apple Intelligence之后,不断有消息预测上线时间,但前不久的WWDC(全球开发者大会)上,官方再次沉默,没有新的进展,让外界很是担心。

在这一背景下,此次Qwen的官方适配,似乎用代码和性能回应了种种疑虑,“我们准备就绪中”。

1

8个尺寸、4种精度,不只是适配

这次技术发布的核心,是Qwen3模型对苹果MLX框架的全面、官方支持。

MLX是苹果专为Apple Silicon芯片设计的高效机器学习框架,提供了类PyTorch的API,兼容Numpy语法,支持C++/Swift扩展,利用统一内存架构,数据在CPU/GPU间共享,可降低功耗、提升处理速度,还具备动态图构建、多模态支持、端侧部署优化等功能,能在iPhone、iPad、Mac等设备上高效运行模型,帮助开发者更轻松地进行机器学习模型训练与部署。

随着用户对数据隐私的日益重视和对个性化体验的追求,让AI大模型在个人设备上本地运行,正成为不可忽视的趋势。MLX正是苹果为这股趋势提供的官方解决方案。

而Qwen3模型支持MLX格式,意味着可以充分利用苹果设备的高性能神经引擎和统一内存架构,在MacBook、iPad等设备上实现更快的推理速度和更低的能耗,相比技术迭代,更多的是工程优化。

不过,即使是工程优化,从具体的工作来看,Qwen3的MLX适配也展现了远超“完成任务”的诚意,几乎将Qwen开源模型家族,完整地融入苹果生态,适配范围广、精度深。

此次Qwen3一共提供了32个MLX适配模型,涵盖从0.6B到235B的8个尺寸,以及4bit、6bit、8bit、BF16四种精度,允许用户根据硬件资源选择合适的模型精度。对开发者而言,低量化(如4bit)适合内存有限的设备(如iPhone),而高精度(如BF16)适合需要更高推理质量的场景(如M2/M3 Ultra)。

这意味着,无论是想在iPhone上实现轻量级AI助手,还是在Mac Studio上进行复杂AI内容创作,都能找到对应的Qwen3模型。

阿里通义千问开源负责人林俊旸在X上表示,“这是一个小更新,但是由于模型太多,以及需要测试,所以花了不少时间。”

这种“量体裁衣”式的优化,是阿里与苹果硬件的积极协同,而非简单的“能用就行”。它实质上帮助苹果解决了“如何在多样化硬件上,为用户提供一致且高效AI体验”这一难题。

值得注意的一个细节是,4月28日,Qwen3发布前夕,苹果MLX Community成员就在X上率先宣布完成了Qwen3的适配。而这一次,发布者变成了Qwen官方团队。

从功能效果看,社区适配与官方适配的差别不大,但意义不同。

社区适配更像是基于技术热情的“粉丝行为”,证明模型代码质量优越、社区受欢迎度高,是来自基层的认可。而Qwen官方团队的发布,则是正式的、企业级的“战略决定”。

它也在向所有开发者和潜在商业伙伴传递一种态度:我们将为这一技术路线提供持续、稳定、可靠的官方支持,包括未来的模型更新、技术答疑和潜在的Bug修复。

1

苹果AI,需要阿里催一催

这个适配很有意思,即便苹果官方动作缓慢,阿里因为开源模型的成功,也依然可以主动推进自己在苹果生态里的占位。

Qwen系列模型已经成为全球范围内最具影响力的开源模型之一,在Hugging Face等全球最大的开发者社区上,其下载量和关注度稳居第一梯队,构建了庞大的开发者生态。

Qwen在不断强化从基模到多模态到工具调用的能力,由此不断拓展AI生态。而苹果生态是其中一块重要拼图。

开发者社区已经对此展示出热情。在Qwen官方适配MLX之前,大量苹果开发者早已在社区引导下,自发地在自己的MacBook上部署和测试Qwen模型,且在Huggingface平台上,在所有MLX模型中,排名前五有两个都是Qwen3模型。

而苹果方面,AI的进展依然有些缓慢。根据IDC、Canalys等市场研究机构的数据,2024年上半年,苹果在中国的智能手机市场份额持续面临压力,销量同比出现下滑。Counterpoint研究公司总监塔伦·帕塔克指出:”iPhone 16系列市场反响不一,部分原因在于上市初期未能提供Apple Intelligence功能。”相比之下,华为、小米、OPPO、vivo等中国本土手机厂商早已将端侧AI大模型作为核心卖点,并快速迭代相关功能了。

所以,今天的苹果,反而需要AI技术提供方来倒逼它一把,Qwen的主动适配,也能让苹果知道这有个“即插即用”的合作伙伴,在这随时等着它。

国行版的Apple Intelligence,还在继续。

点个爱心,再走

(文:硅星人Pro)

发表评论