なぜベースURLが重要なのか
ベースURLはプロバイダーを切り替える際の失敗の原因として最も一般的です。ほとんどの OpenAI SDK はデフォルトで https://api.openai.com. APIキーを変更したがベースURLを更新し忘れた場合、リクエストは間違ったサーバーに送信されます。これにより、認証エラーや予期しないモデルの利用可能性が発生します。プロバイダーのドキュメントで正確なエンドポイントを確認してください。例えば、ドロップインの無制限APIは https://api.apirouteropen.com/v1. ベース URL とキーを変更するだけで既存のコードを維持できます。これにより、LangChain や LlamaIndex などのライブラリとの互換性が確保されます。使用量を拡大する前に URL を確認してください。
モデルIDの誤解
開発者は、モデルIDがベンダーの名前（例えば gpt-4 または claude-3. 実際、モデルIDはゲートウェイによって定義された特定のルーティングキーです。無制限サービスの場合、IDは単に uncensored. 送信 gpt-3.5-turbo ゲートウェイがモデルをマッピングしない場合、失敗したり異なるモデルが返されたりする可能性があります。ドキュメントに記載されている正確なIDを必ず使用してください。これはすべてのLLMプロキシに適用されます。確認してください。 GET /v1/models 利用可能なオプションを確認するためのエンドポイント。モデルIDを誤識別すると、リクエストは直ちに失敗します。これはベンダー製品ではなく、構成パラメータです。
レート制限の予期せぬ事態
レート制限は通常、アカウントごとではなくAPIキーごとに適用されます。1つのキーを複数のプロセスで使用している場合、すぐに制限に達する可能性があります。当社のAPIは、キーごとに1分あたり300リクエスト、8並列リクエストを許可しています。これらの制限を超えると、429エラーが返されます。これは高ボリュームアプリケーションにとって重要です。異なるサービスには別のキーを使用して、干渉を避けてください。ダッシュボードを通じて使用状況を監視してください。レート制限はサーバーの安定性を保護しますが、自動化されたワークフローを中断させる可能性があります。並列処理を慎重に計画してください。キーを1つ置き換えると、古いキーは直ちに無効になります。これにより、同じキーの並行使用が防止されます。
ストリーミングと非ストリーミングの混乱
ストリーミングレスポンスには特定のクライアント処理が必要です。SDKはサーバー送信イベント (SSE) を処理するように構成する必要があります。非ストリーミングクライアントを使用すると、レスポンス全体を待機することになります。これにより、長い出力ではレイテンシが増加します。当社のAPIは、最終チャンクにトークン使用量を含むストリーミングをサポートしています。これにより、テキストのリアルタイム表示が可能です。バッチ処理には非ストリーミングの方が適しています。ユースケースに基づいてモードを選択してください。誤った処理は接続のハングを引き起こす可能性があります。まず小さなサンプルでストリーミングをテストしてください。最適なパフォーマンスのために、クライアントがSSEをサポートしていることを確認してください。
トークン数のカウントエラー
トークンカウントはプロバイダーによって異なります。空白をカウントするものもあれば、しないものもあります。当社のAPIはプロンプトトークンと補完トークンを一緒にカウントします。コンテキストウィンドウは100,000トークンです。リクエストあたりの最大出力は16,000トークンです。これを超えると、リクエストは失敗します。OpenAIのトークン化が当社と一致すると想定しないでください。正確性のためのプロバイダーのトークナイザーを使用してください。トークンカウントのエラーは予期せぬ請求や失敗につながります。大きなプロンプトを送信する前に、常にトークン数を確認してください。これは特に長いコンテキストのアプリケーションにとって重要です。カウントミスは、拒否されたリクエストにクレジットを無駄にする可能性があります。
関数呼び出しの制限を無視
関数呼び出しには特定のJSONフォーマットが必要です。SDKは response_format パラメータ。当社のAPIは構造化された出力のためにJSONモードをサポートしています。これを無視すると、モデルが無効なJSONを返す可能性があります。これにより自動解析が破綻します。まず単純なスキーマで関数呼び出しをテストしてください。クライアントがツール選択を正しく処理していることを確認してください。関数呼び出しはすべてのモデルでサポートされているわけではありません。サポートされている機能についてはドキュメントを確認してください。これらの制限を無視すると、自動化が信頼できなくなります。出力形式が期待値と一致していることを確認してください。
暗号通貨チャージの遅延
暗号通貨による決済には確認に時間がかかる場合があります。USDT（TRC20）とUSDC（Base）を受け取っています。$20から$500の決済がサポートされています。ボーナスクレジットは$50、$100、$200で適用されます。ブロックチェーンの混雑により遅延が発生することがあります。ステータスを確認するにはトランザクションハッシュを確認してください。当社のシステムは確認後にアカウントにクレジットを追加します。通常、これは数分かかります。トラフィックが多い期間中は、より時間がかかる場合があります。信頼できるブロックチェーンエクスプローラーを使用してください。同じトランザクションを再送しないでください。これにより、二重クレジットまたはエラーが発生する可能性があります。中断のないサービスのために、事前にチャージを計画してください。
トライアルクレジットの有効期限
試用クレジットは7日後に期限切れとなります。新規アカウントには$0.50が付与されます。これにより、コミットなしでテストが可能です。ただし、短い期間のため広範なテストには制限があります。試用を使用して互換性を確認してください。ベースURL、モデルID、ストリーミングを確認してください。動作すれば、暗号通貨でチャージしてください。試用クレジットは返金されません。迅速な検証に最適です。長期プロジェクトには依存しないでください。期限切れは厳格です。テストスケジュールを適切に計画してください。これにより、試用期間中に時間を無駄にしません。
