跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

Triton

Meta「轻量级」KernelLLM颠覆GPU内核生成,8B参数碾压GPT-4o

下午4时 2025/05/27 作者 新智元

Meta发布KernelLLM,一个基于Llama 3.1微调的8B模型,能够在PyTorch代码基础上生成高效的Triton GPU内核,单次推理性能超越GPT-4o和DeepSeek V3。

分类 资讯 标签 200B参数、 KernelLLM、 Llama 3.1 Instruct、 Meta、 PyTorch、 Triton 发表评论

[Triton编程][基础] Triton极简入门: Triton Vector Add

下午2时 2025/05/24 作者 GiantPandaCV

778199261291694
编辑丨GiantPandaLLM
0x00 前言
后续会陆续更新一些

分类 学术 标签 CUDA、 LeetCUDA、 TIL scheduling、 Triton、 Vector Add、 高性能 发表评论

单机H200最快DeepSeek V3和R1推理系统优化秘籍

下午7时 2025/05/15 作者 GiantPandaCV

optim-algorithm-in-cuda/blob/master/large-language

分类 学术 标签 CUDA Stream重叠操作、 DeepSeek V3/R1、 FP8量化、 SGLang、 Triton、 层间复用 发表评论

一次推理解决复合问题:基于MoE的大语言模型知识模块可扩展融合推理架构MeteoRA

下午4时 2025/02/22 作者 机器之心

多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,

分类 学术、 资讯 标签 LORA、 S-LORA、 Triton、 低秩适配、 大型语言模型、 混合专家 发表评论

MoE之年的总结和MoE 推理优化的一些认识

下午7时 2025/02/04 作者 GiantPandaCV

0x0. 前言
祝大家新年快乐! 希望大家天天开心,学业有成,工作顺利。
我是在2025农历新年的大

分类 学术 标签 Expert Parallel、 Fused MoE、 SplitK、 TensorRT-LLM、 Triton、 VLLM/SGLang 发表评论

Fused AllGather_MatMul Triton工程实现

下午10时 2025/01/24 作者 GiantPandaCV

0x0. 前言
yifuwang 在 https://github.com/yifuwang/sym

分类 学术 标签 Fused AllGather、 Hopper架构GPU、 MatMul、 Overlap、 Triton、 重叠操作 发表评论

Triton Kernel 编译阶段

下午2时 2025/01/01 作者 GiantPandaCV

博客来源:https://pytorch.org/blog/triton-kernel-compil

分类 学术 标签 AMD、 CUDA、 NVIDIA、 OpenCL、 PTX、 Triton 发表评论

2025年 AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub GPT-4o LLM Manus Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克

近期文章

  • 中兴星云拿下推理总分榜一!SuperCLUE 5月成绩出炉
  • 美国开始吊销,中国学生签证
  • sktime 是一个用于 Python 的时间序列分析库
  • typed-ffmpeg:为Python开发者提供现代、易用的FFmpeg封装库
  • Unsloth AI发了一个动态1bit的DeepSeek-R1-0528量化模型

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
2025 年 5 月
一 二 三 四 五 六 日
 1234
567891011
12131415161718
19202122232425
262728293031  
« 4 月    

归档

  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×