Skip to content
Steven Shum avatar

Steven Shum

A Bioinformatics Engineer.

131 followers96 following

  1. 156

    Dify 上的 Ollama 不支持 Rerank 模型

    在 Dify Cloud 平台调用各大平台的大模型 API 一直都没发现这个问题,随着开始折腾本地化使用,才发现 Ollama 部署大模型虽然方便,但是 RAG 中 Dify 知识库混合检索,需要 Rerank 模型时,这一点上,Ollama 居然是不支持 Rerank 模型的。 Dify Cloud 的系统模型设置,在接入了阿里云百炼的通义千问 API Key 后,Rerank 模型会默认显示通…

    1 comment