常见问题
常见问题如何减少 AI 服务的响应时间?

如何减少 AI 服务的响应时间?

发送到 AI 服务 API 的请求包含需要翻译的字符串。请求越长,API 处理所需的时间就越长。

例如,翻译一篇包含 1000 个字符串的文章,ChatGPT 可能需要超过 1 分钟才能完成。

要减少 AI 服务的响应时间,您可以:

  • 使用同一 AI 服务中更快的模型(例如:用 ChatGPT 5 mini 代替 ChatGPT 5
  • 在插件设置中减少发送到 API 的负载大小

减少负载大小后,请求将被拆分为多个请求,每个请求的处理速度更快。由于这些请求是并行处理的,整体响应时间将得到缩短。

前往 Settings > Service Configuration > [AI service],将 Max request payload length 选项调小。

尝试不同的值,直到找到响应时间最佳的设置。例如,如果当前设置为 8000,可以改为 4000 后再试。

设置「Max request payload length」选项
设置「Max request payload length」选项