配置使用自托管 LLM
使用自托管 LLM
您可以使用自托管 LLM(例如:通过 Ollama)来翻译内容。
前往设置页面中的 Service Configuration > Self-hosted LLM,并配置相关值。
| 设置 | 说明 |
|---|---|
| Endpoint URL | 自托管 LLM 模型的 HTTP 端点 URL。请参见下方示例。 |
| Compatible with API endpoint from | 您的自定义端点兼容的 AI 服务提供商:ChatGPT 或 Claude。 |
| Model | 翻译内容时使用的自托管 LLM 模型名称。 |
| Max tokens | 模型在响应中可生成的最大 token 数。留空表示不限制(ChatGPT),或使用 Claude 的默认值。 |
Endpoint URL 示例:
| URL | 说明 |
|---|---|
http://localhost:11434/v1/chat/completions | ChatGPT 格式,服务器上的 Ollama |
http://localhost:11434/v1/messages | Claude 格式,服务器上的 Ollama |
https://ollama.com/v1/chat/completions | ChatGPT 格式,Ollama Cloud |
https://ollama.com/v1/messages | Claude 格式,Ollama Cloud |

如果您在自己的服务器上托管 LLM,则不需要 API 密钥。
如果您在云端使用自托管 LLM(例如:使用 Ollama Cloud),则可能需要通过设置页面的 API Keys > Self-hosted LLM 标签页提供 API 密钥。
