配置
配置使用自托管 LLM

使用自托管 LLM

您可以使用自托管 LLM(例如:通过 Ollama)来翻译内容。

前往设置页面中的 Service Configuration > Self-hosted LLM,并配置相关值。

设置说明
Endpoint URL自托管 LLM 模型的 HTTP 端点 URL。请参见下方示例。
Compatible with API endpoint from您的自定义端点兼容的 AI 服务提供商:ChatGPTClaude
Model翻译内容时使用的自托管 LLM 模型名称。
Max tokens模型在响应中可生成的最大 token 数。留空表示不限制(ChatGPT),或使用 Claude 的默认值。

Endpoint URL 示例:

URL说明
http://localhost:11434/v1/chat/completionsChatGPT 格式,服务器上的 Ollama
http://localhost:11434/v1/messagesClaude 格式,服务器上的 Ollama
https://ollama.com/v1/chat/completionsChatGPT 格式,Ollama Cloud
https://ollama.com/v1/messagesClaude 格式,Ollama Cloud
在设置页面中配置自托管 LLM
在设置页面中配置自托管 LLM

如果您在自己的服务器上托管 LLM,则不需要 API 密钥。

如果您在云端使用自托管 LLM(例如:使用 Ollama Cloud),则可能需要通过设置页面的 API Keys > Self-hosted LLM 标签页提供 API 密钥。

在设置页面中为自托管 LLM 提供 API 密钥
在设置页面中为自托管 LLM 提供 API 密钥