LLM从构建到应用工具全集:推理大模型Github索引梳理


今天是2025年3月17日,星期一,北京,天气晴。

我们继续来看大模型的一些技术总结,从构建但落地,做个全局的索引。特意设定两个,一个是LLM相关汇总github,主打一个全局。一个是关于推理大模型相关汇总,包括语言模型以及多模态大模型。

是个很好的索引,大家可以收藏。

抓住根本问题,做根因,专题化,体系化,会有更多深度思考。大家一起加油。

一、LLM相关汇总github 

这类github是一个集大成,主打一个全局。

1、awesome-LLM-resourses

LLM资料总结(数据处理、模型训练、模型部署、o1 模型、小语言模型、视觉语言模型,依旧还在更新,内容涉及数据Data、微调Fine-Tuning、推理Inference、评估Evaluation、体验 Usage、知识库RAG、智能体Agents、搜索Search、书籍Book、课程Course、教程Tutorial、论文Paper、社区Community、Open o1、Small Language Model、Small Vision Language Model多个内容。

地址:https://github.com/WangRongsheng/awesome-LLM-resourses

2、llm-engineer-toolkit

llm-engineer-toolkit,汇集了120多个按类别分类的大语言模型(LLM)相关库和工具,涵盖了从LLM训练、应用开发、推理、服务到数据提取、生成、代理、评估、监控、提示设计、结构化输出、安全与嵌入模型等多个方面。但是并不全面。

地址:https://github.com/KalyanKS-NLP/llm-engineer-toolkit

二、推理大模型相关github总结 

1、Post-training总结

技术综述《A Survey on Post-training of Large Language Models》,对当前后训练的技术总结。

也可看看演变时间线:

地址:https://arxiv.org/pdf/2503.06072

2、推理模型长文本压缩技术总结

这类,主要专注于推理大模型。

Awesome-Long2short-on-LRMs,包括论文、带啊、数据集和评估,有多种策略。

地址:https://github.com/Hongcheng-Gao/Awesome-Long2short-on-LRMs

3、大模型推理技术总结

Awesome LLM Reasoning,总结了推理大模型相关技术。

地址:https://kkgithub.com/atfortes/Awesome-LLM-Reasoning

4、多模态推理大模型技术总结

Awesome-MLLM-Reasoning当前多模态推理大模型的几个技术总结工作,包括数据集以及技术方案。

地址:https://github.com/phellonchen/Awesome-MLLM-Reasoning/

同名的还有,纯强化学习路线的多模态推理大模型技术总结,Awesome RL-based Reasoning MLLMs

地址:https://github.com/Sun-Haoyuan23/Awesome-RL-based-Reasoning-MLLMs

(文:老刘说NLP)

欢迎分享

发表评论