手机流畅处理128K长文本,vivo端侧新算法突破内存限制 ACL 2025
vivo AI研究院提出EdgeInfinite算法,解决了端侧设备处理超长文本的瓶颈问题。该方法能够在不到10GB GPU内存的设备上处理长达128K tokens的输入,并在ACL 2025中正式发表。
vivo AI研究院提出EdgeInfinite算法,解决了端侧设备处理超长文本的瓶颈问题。该方法能够在不到10GB GPU内存的设备上处理长达128K tokens的输入,并在ACL 2025中正式发表。
划重点:
❶
中国AI团队强势崛起
!
Qwen2.5系列
实现
多模态理解
、
百万字长文本处理
2024 年 4 月,我们发布了 Jina Reader (https://jina.ai/read
中国大模型创业者的背景主要分为两类:互联网大厂技术骨干和顶尖高校科研工作者。头部独角兽企业背后的投资方多为顶级机构。其中,智谱AI在多项应用中领先,如GLM在语义理解和文档总结方面,而月之暗面则擅长处理长文本。但大模型商业化仍面临技术、硬件等挑战。