跳到主要内容

前期准备

LlamaFactory 适配版插件

在开始前,请确保:

  1. 获取插件wheel和TLS根证书。 下载链接
  2. LlamaFactory 基础训练环境已正确安装并可正常运行。
  3. 已准备好训练数据、测试数据和训练模型。

1. 安装通信依赖

在 LlamaFactory 基础训练环境中执行以下命令,安装 gRPC 与 protobuf 相关依赖:

pip install "grpcio>=1.76" "grpcio-tools>=1.76" "protobuf"

2. 安装插件

执行以下命令安装插件:

pip install ecophase-1.1.0a1+llamafactory-cp313-cp313-linux_x86_64.whl

3. 修改训练文件

打开以下文件:

LlamaFactory/src/llamafactory/train/sft/trainer.py

CustomSeq2SeqTrainer(Seq2SeqTrainer) 类下的 __init__ 函数最后一行后,插入以下代码:

from EcoPhase.EcoMonitor import EcoMonitor
EcoMonitor.attach(self, enabled=True)

4. 启用插件

通过 enabled 参数控制插件是否启用:

EcoMonitor.attach(self, enabled=True)

参数说明:

参数值含义
enabled=True启用插件
enabled=False不启用插件