跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

优化技术

DeepSeek-V3 + SGLang: 推理优化 (v0.4.3.post2+sgl-kernel:0.0.3.post6)

2025年4月9日14时 作者 GiantPandaCV

DeepSeek V3 SGLang 优化
继续我们的DeepSeek V3与SGLang集成的技术

分类 学术 标签 LMSYS、 SGLang、 sglang团队、 优化技术、 协作、 深度学习 发表评论

在本地实现接近10倍的加速运行 Deepseek

2025年2月20日8时 作者 NLP工程化

KTransformers是提升Transformer体验的灵活框架,支持多GPU加速和本地部署优化,适用于24GB显存和382GB系统内存配置。

分类 开源 标签 DeepSeek-R1、 KTransformers、 MoE机制、 V3模型、 代码生成、 优化技术 发表评论

DeepSeek官方发布部署 R1 的正确打开方式~

2025年2月15日14时 作者 PaperAgent

今天,DeepSeek官推发布部署指南,并强调避免模型跳过思考以确保最佳性能。

分类 分享 标签 AI模型部署、 DeepSeek-R1、 优化技术、 启动响应、 推理、 避免跳过思考模式 发表评论

AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub Google GPT-4o LLM Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 工业机器人 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
  • 小鹏汇天完成2.5亿美元B轮融资,陆地航母明年量产交付
  • Perplexity的终极野心:一个域名,暴露一切
  • 中国工业机器人出口跃居全球第二!
  • 网友:马斯克杀死了人类出生率
  • 甲骨文副总裁吴承杨:AI 放大了数据优势,数据融合至关重要

2025 年 7 月
一 二 三 四 五 六 日
 123456
78910111213
14151617181920
21222324252627
28293031  
« 6 月    

归档

  • 2025 年 7 月
  • 2025 年 6 月
  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×