Skip to content

可观测性 ​

监测和代理大语言模型的请求和响应。

选择可观测性提供商 ​

在 设置 > 扩展 > 可观测性 中选择以下提供商之一:

  • Cloudflare AI Gateway

Cloudflare AI Gateway ​

在 Cloudflare 中创建 AI Gateway:Cloudflare 仪表板 > AI > AI Gateway > Create Gateway:

在 ChatWise 设置中配置:

您可以通过访问 Cloudflare 仪表板 https://dash.cloudflare.com/ 找到您的 Cloudflare 账户 ID,访问仪表盘的时候会跳转到 https://dash.cloudflare.com/{YOUR_ACCOUNT_ID}

然后在支持的提供商设置页面会显示可观测性状态:

WARNING

确保相应提供商的 API Base URL 为空,否则将不会启用可观测性。

API 密钥 ​

你可以在 Cloudflare AI Gateway 内置的 Provider Keys 功能存储各个提供商的 API 密钥,这样就不需要手动在 ChatWise 中再输入 API 密钥了。如果你同时在 ChatWise 中输入了 API 密钥,那么你在 Cloudflare AI Gateway 上存储的 API 密钥将不会被使用。

已知问题 ​

  • Cloudflare AI Gateway + Google AI Studio 不支持流式响应,issue
  • Cloudflare AI Gateway + Google AI Studio 在 Provider Keys 中存储 API Key 会报错, issue