跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

缓存机制

SGLang 源码学习笔记:Cache、Req与Scheduler

下午7时 2025/05/14 作者 GiantPandaCV

41
前言
笔者一直想找个开源的推理引擎框架学习一下源代码,机缘巧合认识了 sglang 社区的朋友

分类 学术 标签 CacheUnfinishedReq、 MatchPrefix、 ReqToTokenPool、 SGLang、 TokenToKVPool、 缓存机制 发表评论

《超大规模操作手册:在 GPU 集群上训练 》Part1(基础概念,DP,TP)

下午2时 2025/02/22 作者 GiantPandaCV

cale-playbook
作者:nanotron
校正:pprp
我们在最多 512 个 GPU

分类 学术 标签 内存消耗、 吞吐量、 大规模语言模型、 张量并行、 梯度同步、 缓存机制 发表评论

被玩疯的小红书 AI 翻译,用了哪家大模型?

下午11时 2025/01/20 作者 特工宇宙

小红书在五天内全量更新了笔记和评论的多语言翻译功能。此功能利用大语言模型技术,处理文字的歧义和缩写等情况时更加精准,并且有时会出现意料之外的结果。

分类 分享 标签 AI翻译、 GPT4、 大语言模型、 技术创新、 缓存机制、 蔡徐坤 发表评论

2025年 AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub GPT-4o LLM Manus Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克

近期文章

  • 78%主创跳槽!Llama 14名作者只剩3人,Meta最强开源模型团队大溃散引争议
  • 阿里云发布通义灵码 AI IDE,深度适配千问 3 大模型、新增编程智能体,可调用 3000+ MCP 服务
  • 新版DeepSeek R1你得这样用,太爽啦~
  • 工业级耐用之选!盈连砂带机:耐磨抗造,多材质打磨一“机”搞定
  • AI之父Hinton:想知道不是最聪明物种的感觉?去问鸡吧

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
2025 年 5 月
一 二 三 四 五 六 日
 1234
567891011
12131415161718
19202122232425
262728293031  
« 4 月    

归档

  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×