GiantPandaCV，作者每时AI

CUDA优化让向量求和变得非常快

下午2时 2025/04/09 作者 GiantPandaCV

表到本公众号。
让向量求和变得非常快
06 Apr, 2025
在这篇博客文章中，我们将简要描述如何

下午2时 2025/04/09 作者 GiantPandaCV

DeepSeek V3 SGLang 优化
继续我们的DeepSeek V3与SGLang集成的技术

下午2时 2025/04/06 作者 GiantPandaCV

Llama 4
系列中的首批模型，这些模型将使人们能够构建更个性化的多模态体验。
Llama 4 S

下午2时 2025/04/04 作者 GiantPandaCV

2356369
编辑丨GiantPandaLLM
文末有送书福利~
0x00 前言
写在最前面，
新

下午2时 2025/04/03 作者 GiantPandaCV

R1 应用一个fuse shared experts到普通256个expert中的工作 (https

下午7时 2025/03/26 作者 GiantPandaCV

lgorithm-in-cuda/tree/master/cuda-mode 。主要是LLM和cud

下午2时 2025/03/23 作者 GiantPandaCV

8350
1 前言
Attention的计算过程中，需要之前的k和v。
但每次计算的时候，把之前的k

上午8时 2025/03/17 作者 GiantPandaCV

kernel触发条件为当输入x的shape的tokens<256时，这个时候会先把int4的awq权

下午2时 2025/03/14 作者 GiantPandaCV

dation Classification
论文地址：
https://openreview.net

下午2时 2025/03/13 作者 GiantPandaCV

《超大规模AI实战手册》是一本实用指南，涵盖从基础理论到实际应用的各个方面。本书由中文翻译，旨在为初学者和专业人士提供见解和技巧，英文原版可在线获取。