ModelComputeDtype

节点功能: ModelComputeDtype 节点用于设置模型在推理时使用的 计算精度类型(dtype),主要目的是为了控制显存占用、推理速度与数值稳定性之间的平衡。节点允许你指定模型用什么精度进行计算,比如 fp16(省显存、快)或 fp32(更稳),从而优化显存使用、推理速度或调试稳定性。

输入参数

参数名称说明
model输入基础模型对象。

输出参数

参数名称说明
MODEL已设置计算精度类型的模型对象。

控件参数

参数名称说明
dtype设置模型计算时使用的数据类型。可选值如下:<br/>- default:使用当前环境默认数据类型(通常为 fp16 或 bf16);<br/>- fp32:单精度浮点数,最高精度,显存占用最大;<br/>- fp16:半精度浮点数,兼顾速度和显存效率,需 GPU 支持;<br/>- bf16:bfloat16 精度,适合特定硬件(如 A100)。

如下图所示选择了更高的计算精度fp32会导致出图时间增加,但是画面会有所变动,相对来说并不明显,时间从原来的6秒增加到19秒。