跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

数据传输

图解Vllm V1系列2:Executor-Workers架构

2025-05-02 作者 GiantPandaCV

batching / online serving 这两种场景下的整体运作流程,以offline

分类 学术 标签 Executor、 Shm、 ShmRingBuffer、 Worker、 ZmqSocket、 数据传输 发表评论

Karpathy新实验火了!一个「表情」占53个token,DeepSeek-R1苦思10分解谜失败

2025-02-13 作者 新智元

神Karpathy发现,一个😀竟然占用了多达53个token!这背后隐藏着Unicode编码的哪些秘

分类 资讯 标签 Emoji、 Karpathy、 Unicode、 变体选择器、 数字水印、 数据传输 发表评论

CUDA-MODE课程笔记 第17课 GPU集合通信(NCCL)

2024-12-31 作者 GiantPandaCV

我的课程笔记,欢迎关注:https://github.com/BBuf/how-to-optim-a

分类 学术 标签 GPU集群、 NVIDIA NCCL、 PyTorch DDP、 Ring AllReduce、 分布式训练、 数据传输 发表评论

2025年 AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub GPT-4o LLM Manus Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
  • 【博客转载】Row-Major VS Column-Major
  • 横评首款地产Agent,每个行业都该有个自己的垂类AI
  • 12万奖金,面向大模型的数据挑战赛来了!
  • 硅谷顶尖产品教练万字干货,一针见血揭示产品失败真相
  • Google新研究:降低大模型幻觉的全新视角——充分上下文!

2025 年 6 月
一 二 三 四 五 六 日
 1
2345678
9101112131415
16171819202122
23242526272829
30  
« 5 月    

归档

  • 2025 年 6 月
  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×