中文大模型资源清单快速上手Awesome-Chinese-LLM 收录 100 开源模型、数据集与部署工具【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLMAwesome-Chinese-LLM 是一份开源中文大语言模型的整理清单以规模较小、可私有化部署、训练成本较低的模型为主按底座模型、垂直领域微调、数据集、训练与推理框架、评测、教程六类收录了 100 资源。适合想私有化部署中文 LLM 的开发者以及需要选型底座模型与训练数据的 NLP 研究者。它是什么这个项目本身不训练模型而是充当中文 LLM 全链路的零件库加工具目录把选底座、找数据、微调部署、评测验证四步所需的资源整理进一份文档。核心模块包括底座模型概览表ChatGLM、LLaMA、Baichuan、Qwen、BLOOM、Aquila、InternLM、Mixtral、Yi、DeepSeek、XVERSE、MiniMax 共 12 个底座系标注参数大小、训练 token 数、上下文长度与商用许可垂直领域微调医疗、法律、金融、教育、科技、电商、网络安全、农业 8 个方向每个模型注明底座、数据与做法数据集预训练、SFT指令微调、偏好用于 RLHF 奖励建模三类训练与推理框架训练侧有 LLaMA Efficient Tuning、DeepSpeed Chat推理侧有 vLLM、LMDeploy、MNN评测与教程C-Eval、OpenCompass、CMMLU 等中文基准外加提示工程与实战教程为什么值得关注选底座不用逐条翻许可协议。概览表直接回答多大、多长上下文、能否商用ChatGLM3-6B 标注 6B 参数、32K 上下文、可商用LLaMA 标注部分可商用避免逐个查 license 文件的绕路。微调数据不会选错层。数据集按预训练、SFT、偏好三层切分并标注用途例如 CValues 是 145k 条价值对齐数据用于奖励模型训练你把它误当指令数据用的情况会被清单的结构提前挡住。低显存部署路径明确。清单以可私有化部署为筛选标准推理框架里列了 MNN移动端与 AirLLM4GB 单卡跑 70B 推理这类低资源选项不用另找资料。原理速览先说它做了什么把中文大模型的开发链路切成 7 段——模型、应用、数据集、训练微调框架、推理部署框架、评测、教程每个资源统一按地址、star 数、简介格式登记。再说它怎么组织。README.md 是总索引doc/ 目录是深化层doc/LLM.md 把所有衍生模型按底座系分组ChatGLM 底座下列着 DoctorGLM、Med-ChatGLM、LexiLawLLaMA 底座下列着 ChatMed、Lawyer LLaMA、聚宝盆等。看到一个底座就能立刻看到它的全部衍生。可以把它理解为一份零件表加装配指南你先挑零件底座模型加数据集再挑工具微调与推理框架最后看质检报告评测基准验收。5 分钟上手资源清单的demo是一条完整的查找路径。先获取仓库git clone https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM.git cd Awesome-Chinese-LLM ls doc/这条命令拉下清单并列出 4 份领域深化文档。然后三步走打开 README.md 顶部的常见底座模型细节概览表按参数大小与商用状态过滤锁定一个底座例如 ChatGLM3-6B 或 Baichuan-7B。到目录3. 数据集一节选一个与你的场景匹配的 SFT 数据集。到4. LLM训练微调框架选框架例如 LLaMA Efficient Tuning它支持全参数、LoRA、QLoRA 三种微调模式单卡即可开始。典型用法场景一私有化部署前的底座选型。做法用 12 个底座的概览表先按商用状态过滤再按参数规模取舍单卡部署优先考虑 14B 及以下。产出一份带上下文长度与许可状态的底座候选表可直接交给部署同事。场景二构建一个垂直领域模型。做法从2.1 垂直领域微调选方向以医疗为例doc/Medical.md 逐条记录了模型的底座、数据量与算力配置比如 DoctorGLM 基于 ChatGLM-6B、在 1 张 A100 80GB 上 13 小时完成训练。你照同类配方替换成自己领域的数据集即可。产出一个领域微调模型和可复现的训练配方。场景三用基准验证模型效果。做法从6. LLM评测选 C-Eval13948 道知识题、CMMLU覆盖 67 个中文主题或 OpenCompass50 数据集跑分。产出可跨模型对比的评测分数表用来决定保留或重训。常见坑与解决商用许可误判。LLaMA 系底座在概览表中标注为部分可商用直接放进商业产品可能踩线。解决办法把是否可商用一列作为第一道过滤器优先选 ChatGLM、Baichuan、Qwen 这类标注可商用的底座。部署显存溢出。70B、110B 级模型单卡跑不起来常见情况是先选模型、后才发现跑不动。解决办法先收窄到 6B 到 14B 区间再配合支持量化的推理框架清单里注明 LMDeploy 支持 4bit 量化CTranslate2 支持量化与 prompt 缓存。框架能力用错场景。vLLM 吞吐高但清单注明它对 LoRA、QLoRA 等适配器支持不友好LoRA 权重直接部署会走不通。解决办法选推理框架前先读 README 第 5 节该框架的特性与局限说明LoRA 模型选 OpenLLM 或支持多适配器的 MNN。生态与延伸doc/Medical.md、doc/Legal.md、doc/Financial.md三个领域的深化明细表每条记录底座模型、训练数据与算力要求doc/LLM.md按底座系分组的衍生模型索引src/Legal.png、src/Financial.png法律与金融领域大模型全景图与同名明细文档配套先看图再读表效率更高清单全文在 README.mddoc/ 目录是逐领域的细化层。从底座模型概览表入手你就能按类别定位到训练一个中文模型所需的每一类资源。【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
中文大模型资源清单快速上手Awesome-Chinese-LLM 收录 100 开源模型、数据集与部署工具【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLMAwesome-Chinese-LLM 是一份开源中文大语言模型的整理清单以规模较小、可私有化部署、训练成本较低的模型为主按底座模型、垂直领域微调、数据集、训练与推理框架、评测、教程六类收录了 100 资源。适合想私有化部署中文 LLM 的开发者以及需要选型底座模型与训练数据的 NLP 研究者。它是什么这个项目本身不训练模型而是充当中文 LLM 全链路的零件库加工具目录把选底座、找数据、微调部署、评测验证四步所需的资源整理进一份文档。核心模块包括底座模型概览表ChatGLM、LLaMA、Baichuan、Qwen、BLOOM、Aquila、InternLM、Mixtral、Yi、DeepSeek、XVERSE、MiniMax 共 12 个底座系标注参数大小、训练 token 数、上下文长度与商用许可垂直领域微调医疗、法律、金融、教育、科技、电商、网络安全、农业 8 个方向每个模型注明底座、数据与做法数据集预训练、SFT指令微调、偏好用于 RLHF 奖励建模三类训练与推理框架训练侧有 LLaMA Efficient Tuning、DeepSpeed Chat推理侧有 vLLM、LMDeploy、MNN评测与教程C-Eval、OpenCompass、CMMLU 等中文基准外加提示工程与实战教程为什么值得关注选底座不用逐条翻许可协议。概览表直接回答多大、多长上下文、能否商用ChatGLM3-6B 标注 6B 参数、32K 上下文、可商用LLaMA 标注部分可商用避免逐个查 license 文件的绕路。微调数据不会选错层。数据集按预训练、SFT、偏好三层切分并标注用途例如 CValues 是 145k 条价值对齐数据用于奖励模型训练你把它误当指令数据用的情况会被清单的结构提前挡住。低显存部署路径明确。清单以可私有化部署为筛选标准推理框架里列了 MNN移动端与 AirLLM4GB 单卡跑 70B 推理这类低资源选项不用另找资料。原理速览先说它做了什么把中文大模型的开发链路切成 7 段——模型、应用、数据集、训练微调框架、推理部署框架、评测、教程每个资源统一按地址、star 数、简介格式登记。再说它怎么组织。README.md 是总索引doc/ 目录是深化层doc/LLM.md 把所有衍生模型按底座系分组ChatGLM 底座下列着 DoctorGLM、Med-ChatGLM、LexiLawLLaMA 底座下列着 ChatMed、Lawyer LLaMA、聚宝盆等。看到一个底座就能立刻看到它的全部衍生。可以把它理解为一份零件表加装配指南你先挑零件底座模型加数据集再挑工具微调与推理框架最后看质检报告评测基准验收。5 分钟上手资源清单的demo是一条完整的查找路径。先获取仓库git clone https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM.git cd Awesome-Chinese-LLM ls doc/这条命令拉下清单并列出 4 份领域深化文档。然后三步走打开 README.md 顶部的常见底座模型细节概览表按参数大小与商用状态过滤锁定一个底座例如 ChatGLM3-6B 或 Baichuan-7B。到目录3. 数据集一节选一个与你的场景匹配的 SFT 数据集。到4. LLM训练微调框架选框架例如 LLaMA Efficient Tuning它支持全参数、LoRA、QLoRA 三种微调模式单卡即可开始。典型用法场景一私有化部署前的底座选型。做法用 12 个底座的概览表先按商用状态过滤再按参数规模取舍单卡部署优先考虑 14B 及以下。产出一份带上下文长度与许可状态的底座候选表可直接交给部署同事。场景二构建一个垂直领域模型。做法从2.1 垂直领域微调选方向以医疗为例doc/Medical.md 逐条记录了模型的底座、数据量与算力配置比如 DoctorGLM 基于 ChatGLM-6B、在 1 张 A100 80GB 上 13 小时完成训练。你照同类配方替换成自己领域的数据集即可。产出一个领域微调模型和可复现的训练配方。场景三用基准验证模型效果。做法从6. LLM评测选 C-Eval13948 道知识题、CMMLU覆盖 67 个中文主题或 OpenCompass50 数据集跑分。产出可跨模型对比的评测分数表用来决定保留或重训。常见坑与解决商用许可误判。LLaMA 系底座在概览表中标注为部分可商用直接放进商业产品可能踩线。解决办法把是否可商用一列作为第一道过滤器优先选 ChatGLM、Baichuan、Qwen 这类标注可商用的底座。部署显存溢出。70B、110B 级模型单卡跑不起来常见情况是先选模型、后才发现跑不动。解决办法先收窄到 6B 到 14B 区间再配合支持量化的推理框架清单里注明 LMDeploy 支持 4bit 量化CTranslate2 支持量化与 prompt 缓存。框架能力用错场景。vLLM 吞吐高但清单注明它对 LoRA、QLoRA 等适配器支持不友好LoRA 权重直接部署会走不通。解决办法选推理框架前先读 README 第 5 节该框架的特性与局限说明LoRA 模型选 OpenLLM 或支持多适配器的 MNN。生态与延伸doc/Medical.md、doc/Legal.md、doc/Financial.md三个领域的深化明细表每条记录底座模型、训练数据与算力要求doc/LLM.md按底座系分组的衍生模型索引src/Legal.png、src/Financial.png法律与金融领域大模型全景图与同名明细文档配套先看图再读表效率更高清单全文在 README.mddoc/ 目录是逐领域的细化层。从底座模型概览表入手你就能按类别定位到训练一个中文模型所需的每一类资源。【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
