Takagi rainwu 这个是因为在代码中暂时限制了 Gitee 只有语言模型和 Rerank。 下个版本会修改这里,手动修改时将可以选定为任意的模型类型,不再进行限制。 所以麻烦只能暂时先使用其他模型了,例如智谱等。等下个版本升级后再使用 Gitee 的嵌入模型
Takagi rainwu 目前会根据每个 Provider 去做特殊处理。不过思考模式的开启与关闭这里受 provider 和 model 的影响,也没有一个完善的规范,所以此功能目前并不一定可靠。比较可靠的做法是自行使用 providerOptions 去对每个 provider 做特殊处理。
rainwu 更新:v0.3.3 已开源,可以直接安装体验了 之前发帖时项目还没有公开。最近把代码、文档、截图和可安装制品都整理完成,也根据 @ryan Wang 👍 的建议,将模型能力完整接入 Halo AI Foundation:模型供应商、Base URL、API Key 和默认模型统一由 AI Foundation 管理,AI 智能套件只负责 RAG、搜索、写作、摘要、脑图、评测和运营流程。 现在可以从这里获取 GitHub:https://github.com/xianyuwu/halo-plugin-ai-suite v0.3.3 安装包:https://github.com/xianyuwu/halo-plugin-ai-suite/releases/tag/v0.3.3 完整文档:https://ai-suite-docs.rainwu.cn 问题与建议:https://github.com/xianyuwu/halo-plugin-ai-suite/issues 安装前请注意 需要 Halo 2.25+。 需要先安装并配置 Halo AI Foundation。 下载 plugin-ai-suite-0.3.3.jar,在 Halo Console 的「插件」页面上传并启用。 模型调用可能产生第三方 API 费用;用于问答、Embedding、摘要或写作的站点内容会发送给你在 AI Foundation 中自行配置的模型服务商,请按自己的数据与隐私要求选择供应商。 应用市场上架正在等待开发者资格审核,现阶段请从 GitHub Release 手动安装。 这一版已经包含 RAG 智能问答、AI 搜索、写作辅助、文章摘要、交互脑图、意图路由、效果评测、用量审计和内容缺口运营智能体。项目采用 GPL-3.0 开源。 如果你愿意帮忙,最有价值的不是一句“支持”,而是: 用自己的 Halo 站点实际装一次; 告诉我你使用的模型供应商和遇到的兼容问题; 在 GitHub 提 Issue,或给仓库一个 Star,让更多 Halo 用户能看到它。 尤其欢迎反馈:首次配置是否清楚、不同主题下访客端是否正常、RAG 引用是否准确,以及你最希望下一版优先补什么。
rainwu DFIR 访客搜索框由 Halo 官方搜索插件提供。因此,启用面向访客的 AI 搜索时,应同时安装并启用 Halo 官方搜索插件。你可以用快捷键试试Ctrl/Cmd + K 看一下这个文档https://ai-suite-docs.rainwu.cn/user-guide/ai-search
handsome ceet 你用5.2测试 重排序 能不报错吗 哥哥 智谱的 重排序 是固定的 https://docs.bigmodel.cn/api-reference/%E6%A8%A1%E5%9E%8B-api/%E6%96%87%E6%9C%AC%E9%87%8D%E6%8E%92%E5%BA%8F
rainwu handsome 没看明白,你图片里说的GLM5.2是对话模型不是重排序模型,你发的链接是重排序模型,model名称是 rerank,你看一下调用链接里写的的 "model": "rerank" 。你搞错模型了。
rainwu handsome 你要分清楚模型类型,RAG领域一般分为对话模型,向量模型Embedding,重排序模型和改写模型,对话模型和改写模型可以共用,比如DeepSeek V4,GLM 5.2 这种,向量模型和重排序模型是单独的模型,比如bge-m3是向量模型,bge-reranker-v2-m3是重排序模型,对话模型不能作为向量和重排序。你要先搞清楚概念
败犬 rainwu 额,没问题啊, @handsome 表达的是 @ceet 使用 GLM 5.2 做 Rerank 测试,但 GLM 5.2 不支持 Rerank ,所以发个链接让 @ceet 换成智谱的 Rerank 模型。
handsome rainwu 你看一下调用链接里写的的 "model": "rerank" 他用的模型是5,2 ,5.2是智谱的对话模型 能理解吗,报错原因不就是把对话模型 用在排序模型了吗? 我真的不太理解你的脑回路
rainwu handsome @败犬 哦,我看懂了,这种我一般都自定义兼容openai协议的模型,说实话各厂商模型太多了,更新也很快,如果厂商接口都标记好了能直接加载过来还行,很多模型提供商不规范没有接口,插件自己来维护这个分类的话很麻烦。