​

AnythingLLM 接入启航AI教程

​

教程说明

AnythingLLM 支持 Generic OpenAI 提供商。本教程只写官方源码和界面中已经能核实的字段。

​

适用形态

• AnythingLLM 桌面端
• AnythingLLM 自托管实例
• 需要同时配置 LLM 和 Embedding 的知识库场景

​

前置条件

• 可访问的 AnythingLLM 控制台
• 启航AI API Key
• 一个可用的 OpenAI-compatible API 地址

​

官方支持的接入方式

AnythingLLM 的 LLM 和 Embedding 都可以单独选择 Generic OpenAI。官方源码和设置页都能对应到 Base URL、API Key、Chat Model Name、Model context window、Max Tokens、Embedding Model 等字段。

​

逐步配置

​

1. 打开设置

进入 AnythingLLM 的 Settings 页面，找到 LLM Preference。

​

2. 选择 Generic OpenAI

在 LLM 提供商列表中选择 Generic OpenAI。

​

3. 填写 LLM 字段

按页面要求填写以下内容：

• Base URL
• API Key
• Chat Model Name
• Model context window
• Max Tokens

​

4. 配置 Embedding

进入 embedding 相关设置，选择同样的 Generic OpenAI 方案，并填写：

• Base URL
• Embedding Model
• API Key（如果页面要求或允许填写）

​

5. 保存并测试

保存配置后，执行一次测试连接或新建工作区测试回复。

​

验证是否接入成功

• LLM 配置能正常保存
• Embedding 配置能正常保存
• 新建工作区后可以上传文档并正常对话

​

常见问题

Q: 为什么要把 LLM 和 Embedding 分开配？ A: AnythingLLM 的源码和界面都把这两部分拆开了，知识库场景必须两边都正常。 Q: 为什么不写固定模型列表？ A: AnythingLLM 允许手动指定模型名，具体可用模型取决于你实际接入的 provider，若无强证据不写死。 Q: Token Limit 和 Max Tokens 是什么关系？ A: 官方界面区分了模型上下文窗口和输出上限，不要把它们混成一个字段。

​

官方参考链接

• AnythingLLM 官网
• AnythingLLM GitHub
• Generic OpenAI LLM 配置源码
• Generic OpenAI Embedding 配置源码
• LLM Preference 设置页源码

​

最后更新时间

2026-03-21