Hunyuan Video 1.5 快速入门¶
本指南将介绍如何使用 SimpleTuner 训练腾讯 8.3B 参数的 Hunyuan Video 1.5(tencent/HunyuanVideo-1.5)LoRA。
硬件要求¶
Hunyuan Video 1.5 是大型模型(8.3B 参数)。
- 最低:在 480p、Rank-16 LoRA 且开启全量 gradient checkpointing 时,24GB-32GB VRAM 较为舒适。
- 推荐:A6000 / A100(48GB-80GB)以支持 720p 训练或更大批大小。
- 系统内存:建议 64GB+ 以便顺利加载模型。
前提条件¶
确保已安装 Python;SimpleTuner 在 3.10 到 3.12 版本上运行良好。
您可以运行以下命令检查:
如果您的 Ubuntu 系统未安装 Python 3.12,可以尝试以下命令:
容器镜像依赖¶
对于 Vast、RunPod 和 TensorDock(以及其他平台),在 CUDA 12.2-12.8 镜像上可以使用以下命令启用 CUDA 扩展编译:
AMD ROCm 后续步骤¶
要使 AMD MI300X 可用,必须执行以下操作:
apt install amd-smi-lib
pushd /opt/rocm/share/amd_smi
python3 -m pip install --upgrade pip
python3 -m pip install .
popd
安装¶
通过 pip 安装 SimpleTuner:
pip install 'simpletuner[cuda]'
# CUDA 13 / Blackwell users (NVIDIA B-series GPUs)
pip install 'simpletuner[cuda13]' --extra-index-url https://download.pytorch.org/whl/cu130
如需手动安装或开发环境设置,请参阅安装文档。
必需的检查点¶
主仓库 tencent/HunyuanVideo-1.5 包含 transformer/vae/scheduler,但文本编码器(text_encoder/llm)与视觉编码器(vision_encoder/siglip)需要单独下载。启动前请将 SimpleTuner 指向本地路径:
export HUNYUANVIDEO_TEXT_ENCODER_PATH=/path/to/text_encoder_root
export HUNYUANVIDEO_VISION_ENCODER_PATH=/path/to/vision_encoder_root
如果未设置,SimpleTuner 会尝试从模型仓库拉取;多数镜像并未包含它们,因此请显式指定路径以避免启动错误。
设置环境¶
Web 界面方式¶
SimpleTuner WebUI 可简化配置。启动服务器:
默认会在 8001 端口创建 Web 服务器,可访问 http://localhost:8001。
手动 / 命令行方式¶
通过命令行运行 SimpleTuner 需要准备配置文件、数据集与模型目录,以及数据加载器配置文件。
配置文件¶
实验脚本 configure.py 可能通过交互式步骤让你跳过本节。
**注意:**这不会配置数据加载器,你仍需手动配置。
运行:
如果更喜欢手动配置:
将 config/config.json.example 复制为 config/config.json:
HunyuanVideo 的关键配置覆盖项:
查看示例配置
{
"model_type": "lora",
"model_family": "hunyuanvideo",
"pretrained_model_name_or_path": "tencent/HunyuanVideo-1.5",
"model_flavour": "t2v-480p",
"output_dir": "output/hunyuan-video",
"validation_resolution": "854x480",
"validation_num_video_frames": 61,
"validation_guidance": 6.0,
"train_batch_size": 1,
"gradient_accumulation_steps": 1,
"learning_rate": 1e-4,
"mixed_precision": "bf16",
"optimizer": "adamw_bf16",
"lora_rank": 16,
"dataset_backend_config": "config/multidatabackend.json"
}
model_flavour选项:t2v-480p(默认)t2v-720pi2v-480p(图生视频)i2v-720p(图生视频)validation_num_video_frames:必须满足(frames - 1) % 4 == 0,例如 61、129。
高级实验功能¶
显示高级实验详情
SimpleTuner 包含可显著提高训练稳定性和性能的实验功能。 * **[计划采样(Rollout)](../experimental/SCHEDULED_SAMPLING.md):**通过让模型在训练期间生成自己的输入来减少曝光偏差并提高输出质量。 > ⚠️ 这些功能会增加训练的计算开销。 #### 数据集注意事项 创建 `--data_backend_config`(`config/multidatabackend.json`)文档如下:[
{
"id": "my-video-dataset",
"type": "local",
"dataset_type": "video",
"instance_data_dir": "datasets/videos",
"caption_strategy": "textfile",
"resolution": 480,
"video": {
"num_frames": 61,
"min_frames": 61,
"frame_rate": 24,
"bucket_strategy": "aspect_ratio"
},
"repeats": 10
},
{
"id": "text-embeds",
"type": "local",
"dataset_type": "text_embeds",
"default": true,
"cache_dir": "cache/text/hunyuan",
"disabled": false
}
]
执行训练¶
在 SimpleTuner 目录下运行:
注意事项与排错提示¶
VRAM 优化¶
- 分辨率:显存有限时保持 480p(
854x480或类似);720p(1280x720)会显著增加内存占用。 - 量化:使用
base_model_precision(默认bf16);int8-torchao可以进一步节省但速度更慢。 - VAE patch convolution:HunyuanVideo VAE OOM 时设置
--vae_enable_patch_conv=true(或在 UI 中开启)。这会切分 3D conv/attention 以降低峰值 VRAM,吞吐略降。
图生视频(I2V)¶
- 使用
model_flavour="i2v-480p"或i2v-720p。 - SimpleTuner 在训练期间会自动将视频样本的首帧作为条件图像。
I2V 验证选项¶
对于 i2v 模型的验证,有两种选择:
-
自动提取首帧:默认情况下,验证使用数据集中视频样本的首帧。
-
单独的图像数据集(更简单的设置):使用
--validation_using_datasets=true并将--eval_dataset_id指向图像数据集。这允许您使用任何图像数据集作为验证视频的首帧条件输入,无需设置训练时使用的复杂条件数据集配对。
选项 2 的示例配置:
文本编码器¶
Hunyuan 使用双文本编码器(LLM + CLIP)。缓存阶段请确保系统内存足够加载它们。