跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

GiantPandaCV

一键式训练端到端Agent,Qwen3+MCP工具集高效集成!

下午2时 2025/05/27 作者 GiantPandaCV

本文介绍了一种名为RLFactory的开源框架,旨在通过简单且高效的端到端训练方法解决现有深度学习框架在奖励设计和工具配置上的复杂问题。

分类 学术 标签 DeepSearch模型、 Qwen3模型、 RLFactory、 异步工具调用、 端到端Agent模型、 高效训练 发表评论

【CUDA 博客】使用PTX指令更高效地加载和存储矩阵

下午2时 2025/05/26 作者 GiantPandaCV

表到本公众号。原始地址为:https://veitner.bearblog.dev/load-and

分类 学术 标签 CUDA、 fragments、 ldmatrix、 stmatrix、 对称性、 矩阵初始化 发表评论

【CUDA博客】关于TensorCore和Inline PTX Assembly的一个超简短笔记

下午2时 2025/05/24 作者 GiantPandaCV

表到本公众号。原始地址为:https://veitner.bearblog.dev/a-short-

分类 学术 标签 bfloat16、 HMMA.1688.F32、 TensorCore、 半精度浮点、 性能分析、 浮8 发表评论

[Triton编程][基础] Triton极简入门: Triton Vector Add

下午2时 2025/05/24 作者 GiantPandaCV

778199261291694
编辑丨GiantPandaLLM
0x00 前言
后续会陆续更新一些

分类 学术 标签 CUDA、 LeetCUDA、 TIL scheduling、 Triton、 Vector Add、 高性能 发表评论

【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快

下午7时 2025/05/23 作者 GiantPandaCV

表到本公众号。原始地址为:https://veitner.bearblog.dev/tma-intr

分类 学术 标签 CUDF、 CUTLASS、 Hopper、 Swizzle、 矩阵转置、 高效实现 发表评论

Sglang 源码学习笔记(三)- 分布式和并行(以deepseek 为例)(WIP)

下午2时 2025/05/21 作者 GiantPandaCV

082781461207006
编辑丨GiantPandaLLM
写在前面
基于上述的两篇文章,我们

分类 学术 标签 DeepEPMoE、 gemm运算、 专家ID、 冗余专家、 动态调整、 并行化 发表评论

sglang 源码学习笔记(二)- backend & forward 过程

下午2时 2025/05/19 作者 GiantPandaCV

5771025
编辑丨GiantPandaLLM
前言
书接上回,Bruce 仗剑走天涯:sglan

分类 学术 标签 Capture/Replay、 CUDA Graphs runner、 cudaGraphMemoryPool、 前向传递过程、 动态恢复图、 隐藏状态 发表评论

通过查看GPU Assembly分析CUDA程序

下午2时 2025/05/16 作者 GiantPandaCV

本文讨论了通过分析GPU Assembly来优化CUDA程序性能的方法,特别是向量化版本可以减少指令数量并提高效率。

分类 学术 标签 CUDA程序、 GPU Assembly、 Nsight Compute、 内存受限、 向量化版本、 性能提升 发表评论

单机H200最快DeepSeek V3和R1推理系统优化秘籍

下午7时 2025/05/15 作者 GiantPandaCV

optim-algorithm-in-cuda/blob/master/large-language

分类 学术 标签 CUDA Stream重叠操作、 DeepSeek V3/R1、 FP8量化、 SGLang、 Triton、 层间复用 发表评论

SGLang 源码学习笔记:Cache、Req与Scheduler

下午7时 2025/05/14 作者 GiantPandaCV

41
前言
笔者一直想找个开源的推理引擎框架学习一下源代码,机缘巧合认识了 sglang 社区的朋友

分类 学术 标签 CacheUnfinishedReq、 MatchPrefix、 ReqToTokenPool、 SGLang、 TokenToKVPool、 缓存机制 发表评论
较早文章
页面1 页面2 … 页面8 下一页 →

2025年 AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub GPT-4o LLM Manus Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克

近期文章

  • 重磅!Telegram官宣Grok将登陆!Ton应声暴涨16%
  • OpenMemory MCP:大模型的记忆中枢
  • CoGenAV 的核心理念是让 AI 模型也实现“音画同步”的深度理解
  • Telegram Search:一个功能强大的Telegram聊天记录搜索客户端
  • Awesome-Diffusion-LLM:为扩散大语言模型研究者提供一站式资源

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
2025 年 5 月
一 二 三 四 五 六 日
 1234
567891011
12131415161718
19202122232425
262728293031  
« 4 月    

归档

  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×