中文 ▾
ApiRouterOpen

即插即用无审查 LLM API

OpenRouter:常见错误

开发者在使用 LLM 网关时往往感到困难,因为他们假设所有端点的行为都像标准的 OpenAI 服务。错误配置 base URL 或模型 ID 会破坏兼容性,而忽略速率限制和 token 计数规则会导致意外错误。了解这些细微差别可确保您的自动化脚本可靠运行,而不会因静默失败而浪费积分。

最后更新时间

摘要

  1. 始终验证您的基础 URL 是否与提供者完全匹配,因为通用的 OpenAI SDK 默认指向 openai.com。
  2. 模型 ID 不是厂商名称,而是一个必须与提供商配置匹配的具体路由键。
  3. 速率限制按 API 密钥应用,因此如果并发请求超过允许阈值,它们可能会失败。
  4. 流式响应需要特定的客户端处理以避免连接挂起或部分数据丢失。

为什么您的 Base URL 很重要

基础 URL 是切换提供商时最常见的故障点。大多数 OpenAI SDK 默认指向 https://api.openai.com. 如果您更改了 API 密钥但忘记更新基础 URL,您的请求将发送到错误的服务器。这会导致身份验证错误或意外的模型可用性。始终检查提供商的文档以获取确切的端点。例如,即插即用的无审查 API 可能使用 https://api.apirouteropen.com/v1. 只需更改基础 URL 和密钥,即可保留现有代码。这确保了与 LangChain 或 LlamaIndex 等库的兼容性。在扩大使用规模前,请验证 URL。

模型 ID 误解

开发人员通常认为模型 ID 对应于供应商的名称,例如 gpt-4 或 claude-3. 实际上,模型 ID 是由网关定义的具体路由键。对于我们的无审查服务,ID 仅为 uncensored. 发送 gpt-3.5-turbo 如果网关未映射,可能会失败或返回不同的模型。始终使用文档中提供的确切 ID。这适用于所有 LLM 代理。检查 GET /v1/models 用于查看可用选项的端点。错误识别模型 ID 会导致请求立即失败。它不是供应商的产品,而是一个配置参数。

速率限制意外

速率限制通常针对 API 密钥,而非账户。如果您对多个进程使用单个密钥,可能会很快达到限制。我们的 API 允许每个密钥每分钟 300 次请求和 8 个并发请求。超出这些限制将返回 429 错误。这对于高容量应用至关重要。为不同的服务使用单独的密钥以避免干扰。通过仪表板监控您的使用情况。速率限制保护服务器稳定性,但可能会中断自动化工作流。仔细规划并发性。单个密钥替换会立即使旧密钥失效。这防止了同一密钥的并发使用。

流式与非流式混淆

流式响应需要特定的客户端处理。SDK 必须配置为处理服务器发送事件(SSE)。如果你使用非流式客户端,你将等待整个响应。这会增加长输出的延迟。我们的 API 支持流式传输,并在最后一个数据块中包含令牌用量。这允许实时显示文本。非流式传输更适合批处理。根据你的用例选择模式。处理不当可能导致连接挂起。始终先用小样本测试流式传输。确保你的客户端支持 SSE 以获得最佳性能。

Token 计数错误

不同提供商之间的 Token 计数有所不同。有些计算空格,有些则不计算。我们的 API 将提示和补全 Token 一起计算。上下文窗口为 100,000 个 Token。每次请求的最大输出为 16,000 个 Token。如果您超过此限制,请求将失败。不要假设 OpenAI 的分词方式与我们相同。使用提供商的分词器以确保准确性。Token 计数错误会导致意外费用或失败。在发送大型提示之前,始终验证 Token 数量。这对于长上下文应用程序尤为重要。计数错误可能会在拒绝的请求上浪费余额。

忽略函数调用限制

函数调用需要特定的 JSON 格式。SDK 必须支持 response_format 参数。我们的 API 支持用于结构化输出的 JSON 模式。如果您忽略这一点,模型可能会返回无效的 JSON。这将破坏自动化解析。首先使用简单的模式测试函数调用。确保您的客户端正确处理工具选择。并非所有模型都支持函数调用。请查阅文档以了解支持的功能。忽视这些限制会导致自动化不可靠。验证输出格式是否符合您的预期。

加密货币充值延迟

加密货币支付可能需要时间确认。我们接受 TRC20 上的 USDT 和 Base 上的 USDC。支持 $20 至 $500 的支付。$50、$100 和 $200 适用 bonus credit。延迟是由于区块链拥堵造成的。查看交易哈希以获取状态。我们的系统在确认后为账户充值。这通常需要几分钟。在流量高峰期间,可能需要更长时间。使用可靠的区块链浏览器。不要重新发送同一笔交易。这会导致重复积分或错误。提前计划充值以确保服务不间断。

试用余额过期

试用额度在 7 天后过期。新账户获得 $0.50。这允许无承诺测试。然而,短暂的窗口限制了广泛测试。使用试用来验证兼容性。检查基础 URL、模型 ID 和流式传输。如果有效,请使用加密货币充值。试用额度不可退款。它们非常适合快速验证。不要依赖它们进行长期项目。过期是严格的。请相应地规划测试时间表。这确保您不会在试用期间浪费时间。

常见问题

这是官方的 OpenAI API 吗?

不,这是一个独立的 OpenAI 兼容服务。它使用相同的端点结构,但提供不同的模型。基础 URL 不同,因此您必须更新配置。它不是 OpenAI 模型的经销商。

如何处理流式传输响应?

在 SDK 调用中使用 streaming 参数。响应将以服务器发送事件的形式发送。随着每个数据块的到达进行处理。这降低了长输出的延迟。确保您的客户端支持 SSE 以便正确处理。

如果我超出速率限制会怎样?

您将收到 429 错误。每个密钥的请求限制为每分钟 300 次。并发请求限制为 8 个。为不同的进程使用单独的密钥以避免干扰。监控您的使用情况以保持在限制范围内。

你们支持哪些支付方式?

仅支持加密货币:TRC20 上的 USDT 或 Base 上的 USDC,任何整金额从 $20 到 $500。从 $50 起适用奖励余额。

获取您的 API 密钥

注册,获取密钥,并更新您的基础 URL。你只需做这些。

创建键