大模型选型及切换

选型

在接入大模型之前,建议先阅读 大模型评测对比 文档,了解各模型在数据问答(Nora)、深度代理(deepagent)及 AI 建模(sage)三个维度上的表现,结合自身业务场景选择最匹配的模型。

首次登录系统时,需要先完成可用大模型的配置,这是使用系统的必要前置条件。

新增或修改大模型

系统初始化完成后,若需新增其他大模型或修改现有大模型,可进入 系统配置 → AI 员工 页面(也可通过 AI 员工市场 → 管理后台 进入),在 LLM 服务 区域操作:

LLM 服务入口

LLM 服务 区域中:

  • 新增大模型:添加新的 LLM 服务配置,填写模型名称、API Key、Base URL 等信息。
  • 修改大模型:调整已有服务的配置,如更换 API Key、更新模型名称等。
注意

添加或修改大模型后,还需要进入 AI 员工 设置,将对应员工配置上新的 LLM 服务和大模型,配置才会在问答中生效。

切换

当当前模型效果不达预期、希望尝试其他模型时,可以进行切换。更换大模型需要管理员权限

完成模型配置后,进入 AI 员工 设置,即可为每个员工在已配置的 LLM 服务和模型之间灵活切换;如需使用新的模型,可先按上一节「新增或修改大模型」完成配置。

提示

若只是 API Key 变更(如密钥过期、账户迁移),无需切换模型,直接编辑现有模型配置即可,见上一节「修改大模型」。