常见问题如何减少 AI 服务的响应时间?
如何减少 AI 服务的响应时间?
发送到 AI 服务 API 的请求包含需要翻译的字符串。请求越长,API 处理所需的时间就越长。
例如,翻译一篇包含 1000 个字符串的文章,ChatGPT 可能需要超过 1 分钟才能完成。
要减少 AI 服务的响应时间,您可以:
- 使用同一 AI 服务中更快的模型(例如:用 ChatGPT 5 mini 代替 ChatGPT 5)
- 在插件设置中减少发送到 API 的负载大小
减少负载大小后,请求将被拆分为多个请求,每个请求的处理速度更快。由于这些请求是并行处理的,整体响应时间将得到缩短。
前往 Settings > Service Configuration > [AI service],将 Max request payload length 选项调小。
尝试不同的值,直到找到响应时间最佳的设置。例如,如果当前设置为 8000,可以改为 4000 后再试。

Prev
Next