Nunchaku Text Encoder Loader

节点功能:双文本编码器加载器,支持FLUX架构的4-bit量化T5模型,灵活适配不同文本编码需求,优化生成质量与推理速度。

输出参数

参数名称说明
CLIP返回已构建好的文本编码器对象

控件参数

参数名称说明
model_type文本编码器模型类型,目前仅支持 "flux"。
text_encoder1第一个文本编码器的文件名,位于 ComfyUI/models/text_encoders 目录下。
text_encoder2第二个文本编码器的文件名,用于配合第一编码器完成 Flux 文本向量构建。
t5_min_lengthT5 编码器的最小长度(min_length)。默认值为 512,范围 256-1024。
use_4bit_t5是否启用 4-bit T5 编码器。 可选值: • disable:不使用。 • enable:启用压缩模型。 若在内存紧张场景使用 Flux,可尝试开启节省显存。需要在下方提供 int4 模型路径。
int4_model指定用于加载的 4-bit T5 模型名称,位于 text_encoders 目录中。启用 use_4bit_t5 后必须填写。注意选择包含 4bit 权重的完整模型目录。

如果使用4-bit量化T5,需下载int4_model,HuggingFace或者ModelScope,将里面 的文件全部下载下来,放到ComfyUI/models/text_encoders文件夹

启用use_4bit_t5,它会在后台对T5模型进行量化,以达到节省GPU内存的作用。