comfyui_llm_party>🖥️简易VLM-GGUF加载器
comfyui_llm_party
时间:2025/11/03

🖥️简易VLM-GGUF加载器

该节点用于 加载基于 GGUF 格式的多模态大模型(VLM),例如 MiniCPM-V 系列。与普通 VLM-GGUF 加载器不同,此节点在选择模型时支持下拉列表(无需手动输入路径),更适合常用模型快速切换。
🖥️简易VLM-GGUF加载器-节点参数说明
输出参数
model已加载的 GGUF 模型对象,可用于多模态推理。
控件参数
ckpt_path模型的主权重文件路径(.gguf 格式),如 ggml-model-Q3_M.gguf。
clip_path投影模型文件路径(.gguf 格式),通常与视觉部分相关,例如 mmproj-model-f16.gguf。
max_ctx最大上下文长度(即模型能处理的最大 token 数),如 512。值越大显存占用越高。
gpu_layers设置多少层放在 GPU 上,其余在 CPU 上。数值越高 → 推理更快,但显存占用更多。
n_threadsCPU 推理线程数,推荐与 CPU 核心数接近。
is_locked是否锁定模型,true 表示加载一次后保持不变,避免重复加载。

示例工作流

   需要将模型文件放置在“\ComfyUI\custom_nodes\comfyui_llm_party\model\VLM-GGUF”目录下,该节点才能检索到。

广告

可加入知识星球获取所有示例工作流

广告

微信扫码入群,加入AIGC大家庭,与大家一起交流学习