NLP工程化
ExlLlamaV3:为现代消费级GPU优化的本地运行LLMs的量化和推理库
ExlLlamaV3是为现代消费级GPU优化的本地运行LLMs量化和推理库,支持多种架构,低内存需求,70B模型仅需16GB显存。
收集了大模型、Agent平台的system prompt
收集了大模型/Agent平台的system prompt,包括ChatGPT, Manus, Claude, Grok等。来源:https://github.com/dontriskit/awesome-ai-system-prompts。欢迎加入我的知识星球(NLP工程化)获取更多资源。
nanoAhaMoment:单文件强化学习库,专为LLM设计,不到700行代码即可实现高效训练
nanoAhaMoment是一款专门为大型语言模型设计的单文件强化学习库,特点包括:单GPU训练3B参数模型、提供详细教程和10小时内完成R1-zero倒计时任务。
KrillinAI:基于AI大模型的视频翻译和配音工具,一键部署全流程,轻松搞定多平台内容适配
KrillinAI是一款基于大模型的视频翻译和配音工具,支持56种语言翻译,一键部署全流程操作,适配多平台内容格式。
GitHub Copilot大更新,增加了MCP支持,推出Copilot Agent模式
GitHub Copilot大更新引入Agent模式,支持MCP服务、多种AI模型,并推出Pro+订阅计划和代码审查功能。