跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

Triton

Meta「轻量级」KernelLLM颠覆GPU内核生成,8B参数碾压GPT-4o

2025年5月27日16时 作者 新智元

Meta发布KernelLLM,一个基于Llama 3.1微调的8B模型,能够在PyTorch代码基础上生成高效的Triton GPU内核,单次推理性能超越GPT-4o和DeepSeek V3。

分类 资讯 标签 200B参数、 KernelLLM、 Llama 3.1 Instruct、 Meta、 PyTorch、 Triton 发表评论

[Triton编程][基础] Triton极简入门: Triton Vector Add

2025年5月24日14时 作者 GiantPandaCV

778199261291694
编辑丨GiantPandaLLM
0x00 前言
后续会陆续更新一些

分类 学术 标签 CUDA、 LeetCUDA、 TIL scheduling、 Triton、 Vector Add、 高性能 发表评论

单机H200最快DeepSeek V3和R1推理系统优化秘籍

2025年5月15日19时 作者 GiantPandaCV

optim-algorithm-in-cuda/blob/master/large-language

分类 学术 标签 CUDA Stream重叠操作、 DeepSeek V3/R1、 FP8量化、 SGLang、 Triton、 层间复用 发表评论

一次推理解决复合问题:基于MoE的大语言模型知识模块可扩展融合推理架构MeteoRA

2025年2月22日16时 作者 机器之心

多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,

分类 学术、 资讯 标签 LORA、 S-LORA、 Triton、 低秩适配、 大型语言模型、 混合专家 发表评论

MoE之年的总结和MoE 推理优化的一些认识

2025年2月4日19时 作者 GiantPandaCV

0x0. 前言
祝大家新年快乐! 希望大家天天开心,学业有成,工作顺利。
我是在2025农历新年的大

分类 学术 标签 Expert Parallel、 Fused MoE、 SplitK、 TensorRT-LLM、 Triton、 VLLM/SGLang 发表评论

Fused AllGather_MatMul Triton工程实现

2025年1月24日22时 作者 GiantPandaCV

0x0. 前言
yifuwang 在 https://github.com/yifuwang/sym

分类 学术 标签 Fused AllGather、 Hopper架构GPU、 MatMul、 Overlap、 Triton、 重叠操作 发表评论

Triton Kernel 编译阶段

2025年1月1日14时 作者 GiantPandaCV

博客来源:https://pytorch.org/blog/triton-kernel-compil

分类 学术 标签 AMD、 CUDA、 NVIDIA、 OpenCL、 PTX、 Triton 发表评论

AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub GPT-4o LLM Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 工业机器人 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克 黄仁勋

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
  • 皮衣换唐装,首次中文演讲,老黄亮相链博会展望物理AI,人形机器人各种火爆出圈儿
  • 黄仁勋最新演讲: AI下一波浪潮将是机器人系统
  • 阿斯麦Q2销售超预期,AI推动订单大增
  • 明星初创公司Anthropic推出专业金融AI服务
  • 突发!Cursor全面限制国内使用部分模型,非常彻底!

2025 年 7 月
一 二 三 四 五 六 日
 123456
78910111213
14151617181920
21222324252627
28293031  
« 6 月    

归档

  • 2025 年 7 月
  • 2025 年 6 月
  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×