comfyui_llm_party>🖥️词嵌入模型工具
comfyui_llm_party
时间:2025/11/03

🖥️词嵌入模型工具

“🖥️词嵌入模型工具”节点用于将输入的文本内容(通常是外部文件或数据片段)转换为向量表示(embeddings),并构建一个可供LLM使用的检索工具。它常用于语义搜索、知识增强、上下文检索等任务,是构建RAG(Retrieval-Augmented Generation,检索增强生成)流程的重要组件。
🖥️词嵌入模型工具-节点参数说明
输入参数
file_content输入待处理的文本内容或文档数据(可选,与base_path二选一,该节点会优先调用base_path传入的数据)。
ebd_model使用的嵌入模型,可以是本地路径或远程模型名称(可选,与model_path二选一)。
输出参数
tool嵌入检索工具对象,后续LLM节点可以调用它执行语义检索。
控件参数
model_path嵌入模型的本地路径,若使用本地模型,需确保路径包含所有模型文件(如.bin、.config等)。
is_enable启用/禁用节点。设为False时跳过本节点,直接传递输入。
k在检索时可设定默认返回的相似结果数量,例如输入5,则返回5段相似结果。
device指定计算设备(cpu或cuda)。GPU加速可显著提升长文本处理效率。
chunk_size文本分块大小(默认 200),决定每个切片的最大长度。
chunk_overlap分块时的重叠部分(默认 50),保证语义连续性。
base_path输入数据库文件的根目录路径。

示例工作流

   LLM通过“🖥️词嵌入模型工具“检索”G:\向量数据库“中的与user_prompt相关的信息,并提取最相关的前5条,然后根据这5条信息对user_prompt做出相应回复。

广告

可加入知识星球获取所有示例工作流

广告

微信扫码入群,加入AIGC大家庭,与大家一起交流学习