为什么您的 Base URL 很重要
基础 URL 是切换提供商时最常见的故障点。大多数 OpenAI SDK 默认指向 https://api.openai.com. 如果您更改了 API 密钥但忘记更新基础 URL,您的请求将发送到错误的服务器。这会导致身份验证错误或意外的模型可用性。始终检查提供商的文档以获取确切的端点。例如,即插即用的无审查 API 可能使用 https://api.apirouteropen.com/v1. 只需更改基础 URL 和密钥,即可保留现有代码。这确保了与 LangChain 或 LlamaIndex 等库的兼容性。在扩大使用规模前,请验证 URL。
模型 ID 误解
开发人员通常认为模型 ID 对应于供应商的名称,例如 gpt-4 或 claude-3. 实际上,模型 ID 是由网关定义的具体路由键。对于我们的无审查服务,ID 仅为 uncensored. 发送 gpt-3.5-turbo 如果网关未映射,可能会失败或返回不同的模型。始终使用文档中提供的确切 ID。这适用于所有 LLM 代理。检查 GET /v1/models 用于查看可用选项的端点。错误识别模型 ID 会导致请求立即失败。它不是供应商的产品,而是一个配置参数。
速率限制意外
速率限制通常针对 API 密钥,而非账户。如果您对多个进程使用单个密钥,可能会很快达到限制。我们的 API 允许每个密钥每分钟 300 次请求和 8 个并发请求。超出这些限制将返回 429 错误。这对于高容量应用至关重要。为不同的服务使用单独的密钥以避免干扰。通过仪表板监控您的使用情况。速率限制保护服务器稳定性,但可能会中断自动化工作流。仔细规划并发性。单个密钥替换会立即使旧密钥失效。这防止了同一密钥的并发使用。
流式与非流式混淆
流式响应需要特定的客户端处理。SDK 必须配置为处理服务器发送事件(SSE)。如果你使用非流式客户端,你将等待整个响应。这会增加长输出的延迟。我们的 API 支持流式传输,并在最后一个数据块中包含令牌用量。这允许实时显示文本。非流式传输更适合批处理。根据你的用例选择模式。处理不当可能导致连接挂起。始终先用小样本测试流式传输。确保你的客户端支持 SSE 以获得最佳性能。
Token 计数错误
不同提供商之间的 Token 计数有所不同。有些计算空格,有些则不计算。我们的 API 将提示和补全 Token 一起计算。上下文窗口为 100,000 个 Token。每次请求的最大输出为 16,000 个 Token。如果您超过此限制,请求将失败。不要假设 OpenAI 的分词方式与我们相同。使用提供商的分词器以确保准确性。Token 计数错误会导致意外费用或失败。在发送大型提示之前,始终验证 Token 数量。这对于长上下文应用程序尤为重要。计数错误可能会在拒绝的请求上浪费余额。
忽略函数调用限制
函数调用需要特定的 JSON 格式。SDK 必须支持 response_format 参数。我们的 API 支持用于结构化输出的 JSON 模式。如果您忽略这一点,模型可能会返回无效的 JSON。这将破坏自动化解析。首先使用简单的模式测试函数调用。确保您的客户端正确处理工具选择。并非所有模型都支持函数调用。请查阅文档以了解支持的功能。忽视这些限制会导致自动化不可靠。验证输出格式是否符合您的预期。
加密货币充值延迟
加密货币支付可能需要时间确认。我们接受 TRC20 上的 USDT 和 Base 上的 USDC。支持 $20 至 $500 的支付。$50、$100 和 $200 适用 bonus credit。延迟是由于区块链拥堵造成的。查看交易哈希以获取状态。我们的系统在确认后为账户充值。这通常需要几分钟。在流量高峰期间,可能需要更长时间。使用可靠的区块链浏览器。不要重新发送同一笔交易。这会导致重复积分或错误。提前计划充值以确保服务不间断。
试用余额过期
试用额度在 7 天后过期。新账户获得 $0.50。这允许无承诺测试。然而,短暂的窗口限制了广泛测试。使用试用来验证兼容性。检查基础 URL、模型 ID 和流式传输。如果有效,请使用加密货币充值。试用额度不可退款。它们非常适合快速验证。不要依赖它们进行长期项目。过期是严格的。请相应地规划测试时间表。这确保您不会在试用期间浪费时间。