本地大模型

在本地部署和使用大语言模型

中文资料

持续维护

LlamaFactory 中文指南

学习大模型微调环境配置、数据准备及训练流程,按模型和硬件选择配置。

官方中文指南 · 持续演进 / 以原文标注版本为准
大模型微调 LoRA Python
持续维护

vLLM Ascend 中文指南

面向昇腾 NPU 的 vLLM 推理部署指南,包含环境准备、兼容要求和使用入口。

官方中文入口 · 持续演进 / 以原文标注版本为准
模型推理 昇腾 NPU vLLM
持续维护

Hugging Face 官方中文课程

从 Transformer 基础到模型微调,系统学习 Transformers、Datasets 和 Tokenizers。

官网中文 / 社区翻译 · 以官网语言与版本选择器为准
Hugging Face NLP 中文课程
待更新

PyTorch 中文文档

PyTorch 深度学习框架中文文档,涵盖张量、模型训练与 API 参考。

ApacheCN 中文资料 · 含 2.6 更新说明 / 按章节核对版本
深度学习 AI Python

相关项目

Python

Hugging Face / Transformers

Hugging Face 模型与数据社区及 Transformers 工具库,提供官网中文文档与课程。

Hugging Face Transformers 中文文档
★ 166.7k Apache-2.0
Go

Ollama

在本地轻松运行大语言模型,支持多种模型,简单易用。

大语言模型 本地部署 LLM
Python

Open WebUI

灵活的大语言模型 Web UI,支持多模型连接与知识库应用。

大模型 Web UI 部署
★ 152.9k 自定义许可