Skip to content
Steven Shum avatar

Steven Shum

A Bioinformatics Engineer.

131 followers96 following

1.3.26-人工智能 2

  1. 156

    Dify 上的 Ollama 不支持 Rerank 模型

    在 Dify Cloud 平台调用各大平台的大模型 API 一直都没发现这个问题，随着开始折腾本地化使用，才发现 Ollama 部署大模型虽然方便，但是 RAG 中 Dify 知识库混合检索，需要 Rerank 模型时，这一点上，Ollama 居然是不支持 Rerank 模型的。 Dify Cloud 的系统模型设置，在接入了阿里云百炼的通义千问 API Key 后，Rerank 模型会默认显示通…

    1 comment
  2. 101

    DeepSeek 本地部署与使用初探

    DeepSeek 相关的人工智能现在是火得一塌糊涂，本着学习的心态，基于现在的一些有限资源，也来体验一下。 用本地文件调教 DeepSeek ollama+open-webui，本地部署自己的大模型 open-webui 安装完成后，在 backend 目录执行 bash start.sh 如果出现 ImportError: libGL.so.1: cannot open shared objec…