跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

优化技术

DeepSeek-V3 + SGLang: 推理优化 (v0.4.3.post2+sgl-kernel:0.0.3.post6)

下午2时 2025/04/09 作者 GiantPandaCV

DeepSeek V3 SGLang 优化
继续我们的DeepSeek V3与SGLang集成的技术

分类 学术 标签 LMSYS、 SGLang、 sglang团队、 优化技术、 协作、 深度学习 发表评论

在本地实现接近10倍的加速运行 Deepseek

上午8时 2025/02/20 作者 NLP工程化

KTransformers是提升Transformer体验的灵活框架,支持多GPU加速和本地部署优化,适用于24GB显存和382GB系统内存配置。

分类 开源 标签 DeepSeek-R1、 KTransformers、 MoE机制、 V3模型、 代码生成、 优化技术 发表评论

DeepSeek官方发布部署 R1 的正确打开方式~

下午2时 2025/02/15 作者 PaperAgent

今天,DeepSeek官推发布部署指南,并强调避免模型跳过思考以确保最佳性能。

分类 分享 标签 AI模型部署、 DeepSeek-R1、 优化技术、 启动响应、 推理、 避免跳过思考模式 发表评论

2025年 AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub GPT-4o LLM Manus Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克

近期文章

  • AI之父Hinton:想知道不是最聪明物种的感觉?去问鸡吧
  • 【大会深度】具身智能发展未来走向哪?这场大会专家这样说
  • 上海加速布局具身智能产业:2025张江具身智能开发者大会暨国际人形机器人技能大赛成功举行
  • 让AI学着“看菜下碟”!港中大等新框架让推理长度减少90%,准确率反增17%
  • 函数向量对齐技术,让大模型持续学习不“失忆”丨ICLR 2025

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
2025 年 5 月
一 二 三 四 五 六 日
 1234
567891011
12131415161718
19202122232425
262728293031  
« 4 月    

归档

  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×