跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

iPhone 16

移动端大模型推理框架——cactus

2025年6月21日8时 作者 NLP工程化

这是一个支持C/C++、Dart/Flutter 和 Ts/React-Native 的API框架,使用GGML作为推理后端,并且兼容Llama.cpp模型。目前其在iPhone 16上运行的速度为49 token/s(Gemma3 1B)和16 token/s(Qwen3 4B)。

分类 开源 标签 4B、 Cactus、 Gemma3、 ggml、 iPhone 16、 Qwen3 发表评论

2025年 AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub GPT-4o LLM MCP Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
  • 7B智能体仅凭9个任务训练即超越R1!上交大打造AI-for-AI新范式
  • AI 穿越 vlog 刷爆全网!我用这些视频模型「亲历」玄武门之变 附避坑提示词
  • 华人学者助力「数学大一统理论」新突破!4位数学家花费近10年完成证明
  • 舍弃CUDA编程!CMU等用几十行代码将LLM编译成巨型内核,推理延迟可降6.7倍
  • 陶哲轩罕见长长长长长访谈:数学、AI和给年轻人的建议

2025 年 6 月
一 二 三 四 五 六 日
 1
2345678
9101112131415
16171819202122
23242526272829
30  
« 5 月    

归档

  • 2025 年 6 月
  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×