说明:本控制台基于 Web 技术构建,提供图形化操作界面,后端服务基于 LlamaFactory 0.9.5。适合用于快速配置模型微调任务,当前演示适配1个模型(Qwen3-1.7B)和3个数据集(ScienceQA、alpaca_zh_demo、 alpaca_en_demo)。
基本参数介绍
LlamaFactory 控制台通常指其 WebUI,也称 LLaMA Board。该界面将训练、评估、推理和导出流程整合到浏览器页面中,用户可以通过表单选择模型、数据集、微调方法、训练阶段、学习率、批处理大小等参数,从而减少命令行配置成本。
通用参数
| 参数名称 | 含义 | 说明 |
|---|---|---|
| 语言 | 控制台显示语言 | 可选择中文或英文界面。 |
| 模型名称 | 选择内置或已注册的模型名称 | 当前只适配Qwen3-1.7B |
| 微调方法 | 选择模型微调方式 | 常见选项包括 lora、freeze、full、oft。 |
Train 页面参数
Train 页面是控制台的核心页面,用于配置训练任务。
| 参数名称 | 含义 | 建议说明 |
|---|---|---|
| 训练阶段 | 指定当前任务类型 | 普通指令微调一般选择 Supervised Fine-Tuning。 |
| 数据集 | 选择训练使用的数据集 | 可选择ScienceQA、alpaca_zh_demo、 alpaca_en_demo。 |
| 学习率 | 优化器学习率 | 常用 1e-4 到 5e-5 |
| 训练轮数 | 训练 epoch 数 | 小数据集可设置 2-5;大数据集通常设置 1-3。 |
| 截断长度 | 输入文本最大 token 长度 | 超过该长度的样本会被截断。常见值为 1024、2048、4096。 |
| 批处理大小 | 每张 GPU 上的 batch size | 显存不足时优先降低该值。LoRA 微调常设为 1 或 2。 |
| 梯度累积 | 累积多少步后更新一次参数 | 用于扩大等效 batch size。例如 batch size 为 1、梯度累积为 8,则等效每卡 batch size 为 8。 |
| 验证集比例 | 从训练集中划分验证集的比例 | 例如 0.1 表示 10% 数据作为验证集;若已有单独验证集,可保持为 0。 |
| 学习率策略 | 学习率变化策略 | 常见选项包括 cosine、linear、constant。一般训练可使用 cosine。 |
| Packing | 是否使用Packing | 是否使用Packing策略。 |
使用示例
(一)对ScienceQA数据集进行full微调
适用场景:使用已有指令数据集,对 Qwen等模型进行full微调。
- 进入控制台的Train 页面。
- 设置模型路径、微调方法、训练阶段、数据集、模板、输出目录等基础参数。
- 点击 Start 开始训练。
| 参数 | 示例值 |
|---|---|
| 模型名称 | Qwen3-1.7B |
| 模型路径 | /root/autodl-tmp/model/Qwen/Qwen3-1.7B |
| 微调方法 | full |
| 训练阶段 | Supervised Fine-Tuning |
| 数据路径 | data |
| 数据集 | scienceqa_train |
| 对话模板 | default |
| 截断长度 | 512 |
| 学习率 | 5e-5 |
| 训练轮数 | 8 |
| 批处理大小 | 16 |
| 梯度累积 | 1 |
| 计算类型 | bf16 或 fp16 |
| 验证集比例 | 0.1 |
| 学习率调节器 | cosine |
| 最大梯度范数 | 1 |
| 序列打包 | true |
可视化界面:


效果示例:



注:不同LlamaFactory版本的Packing具体实现方式不同,本组实验后端服务基于 LlamaFactory 0.9.5。
可知:精度EcoTrain API方法明显高于Baseline,且EcoTrain API方法未出现过拟合。训练step数约在950step(Baseline方法约2520step),算力节省约62.3%。
