TorchCompileVAE

节点功能啊:使用 PyTorch 的 torch.compile() 功能来编译 VAE (变分自编码器) 模型,从而加速 VAE 的推理过程。

输入参数

参数名称说明
vae输入待优化的 VAE 模型。

输出参数

参数名称说明
VAE编译优化后的 VAE 模型结构对象。

控件参数

参数名称说明
backend指定 torch.compile 的后端实现。
fullgraph启用 Full Graph 编译模式。启用后会尝试整体编译模型模块,提升运行效率,但失败率更高。建议逐步测试稳定性后再启用。
mode编译优化模式。 可选值: - default:推荐默认值,稳定。 - max-autotune:自动调优以获得最佳性能。 - reduce-overhead:减少开销,适用于低显存设备。
compile_encoder是否对编码器部分进行编译。建议开启,VAE 编码器通常负责将图像压缩为 latent 表示,计算密集,优化后能显著提升编码性能。
compile_decoder是否对解码器部分进行编译。建议开启,解码器将 latent 转换为图像,为最终输出环节,优化后可显著提升图像生成速度。