欢迎使用 torchtune 文档

torchtune 是一个用于 LLM 微调的 Native-PyTorch 库。

开始

本节中的主题将帮助您开始使用 torchtune。

什么是 torchtune？

Torchtune 的简要介绍以及如何 在项目中使用该库。

安装说明

有关如何安装 torchtune 的分步教程。

微调您的第一个模型

按照一个简单的教程使用 torchtune 微调 Llama2。

教程

准备好尝试了吗？查看一些互动 Torchtune 教程。

---

torchtune 中的 llama3

主题： 微调，llama3

在 torchtune 中使用 LoRA 进行微调

主题：微调，llama2，lora

使用 LoRA 对 Llama2 进行参数高效的微调

了解 TorchTune 中的 QLoRA

主题：微调，llama2，qlora

使用 QLoRA 量化基本模型权重并最大限度地节省内存

使用 torchtune 的端到端工作流

主题：微调，量化，推理，评估，llama2

使用您的 LLM 进行训练、评估、量化和生成。