Pourquoi votre URL de base compte
L'URL de base est le point de défaillance le plus courant lors du changement de fournisseur. La plupart des SDK OpenAI utilisent par défaut https://api.openai.com. Si vous changez la clé API mais oubliez de mettre à jour l'URL de base, vos requêtes vont au mauvais serveur. Cela entraîne des erreurs d'authentification ou une disponibilité de modèle inattendue. Vérifiez toujours la documentation du fournisseur pour le point de terminaison exact. Par exemple, une API sans cension de remplacement peut utiliser https://api.apirouteropen.com/v1. Changer simplement l'URL de base et la clé vous permet de conserver votre code existant. Cela garantit la compatibilité avec des bibliothèques comme LangChain ou LlamaIndex. Vérifiez l'URL avant de mettre à l'échelle votre utilisation.
Le malentendu sur l'ID du modèle
Les développeurs supposent souvent que l’ID du modèle correspond au nom d’un fournisseur comme gpt-4 ou claude-3. En réalité, l'ID du modèle est une clé de routage spécifique définie par la passerelle. Pour notre service sans censure, l'ID est simplement uncensored. Envoi de gpt-3.5-turbo peut échouer ou retourner un modèle différent si le gateway ne le mappe pas. Utilisez toujours l'ID exact fourni dans la documentation. Cela s'applique à tous les proxies LLM. Vérifiez le GET /v1/models point de terminaison pour voir les options disponibles. Une mauvaise identification de l'ID du modèle entraîne immédiatement l'échec des requêtes. Il ne s'agit pas du produit d'un fournisseur, mais d'un paramètre de configuration.
Surprises liées aux limites de débit
Les limites de débit s'appliquent souvent par clé API, et non par compte. Si vous utilisez une seule clé pour plusieurs processus, vous pourriez atteindre la limite rapidement. Notre API permet 300 requêtes par minute et 8 requêtes simultanées par clé. Le dépassement de ces limites renvoie une erreur 429. C'est critique pour les applications à fort volume. Utilisez des clés séparées pour différents services pour éviter les interférences. Surveillez votre utilisation via le tableau de bord. Les limites de débit protègent la stabilité du serveur mais peuvent perturber les flux de travail automatisés. Planifiez soigneusement votre concurrence. Le remplacement d'une seule clé invalide l'ancienne clé immédiatement. Cela empêche l'utilisation simultanée de la même clé.
Confusion : Streaming vs Non-Streaming
Les réponses en streaming nécessitent une gestion client spécifique. Le SDK doit être configuré pour gérer les server-sent events (SSE). Si vous utilisez un client non streaming, vous attendrez la réponse entière. Cela augmente la latence pour les sorties longues. Notre API prend en charge le streaming avec l'utilisation des jetons dans le dernier fragment. Cela permet l'affichage en temps réel du texte. Le mode non streaming est préférable pour le traitement par lots. Choisissez le mode en fonction de votre cas d'utilisation. Une gestion incorrecte peut entraîner des connexions bloquées. Testez toujours le streaming avec un petit échantillon d'abord. Assurez-vous que votre client prend en charge les SSE pour des performances optimales.
Erreurs de comptage des jetons
Le comptage des tokens varie entre les fournisseurs. Certains comptent les espaces blancs, d'autres non. Notre API compte les tokens de prompt et de complétion ensemble. La fenêtre de contexte est de 100 000 tokens. La sortie maximale est de 16 000 tokens par requête. Si vous dépassez cette limite, la requête échoue. Ne supposez pas que la tokenisation d'OpenAI correspond à la nôtre. Utilisez le tokenizer du fournisseur pour plus de précision. Les erreurs de comptage des tokens entraînent des frais ou des échecs inattendus. Vérifiez toujours les comptes de tokens avant d'envoyer de gros prompts. C'est particulièrement important pour les applications à contexte long. Une mauvaise estimation peut gaspiller des crédits sur des requêtes rejetées.
Ignorer les limites d'appel de fonction
L'appel de fonctions nécessite un formatage JSON spécifique. Le SDK doit prendre en charge le response_format paramètre. Notre API prend en charge le mode JSON pour les sorties structurées. Si vous ignorez cela, le modèle peut renvoyer du JSON invalide. Cela casse l'analyse automatisée. Testez toujours l'appel de fonction avec un schéma simple en premier. Assurez-vous que votre client gère correctement les choix d'outils. L'appel de fonction n'est pas pris en charge par tous les modèles. Consultez la documentation pour les fonctionnalités prises en charge. Ignorer ces limites entraîne une automatisation peu fiable. Vérifiez que le format de sortie correspond à vos attentes.
Retards de recharge crypto
Les paiements en crypto peuvent prendre du temps à être confirmés. Nous acceptons les USDT (TRC20) et les USDC (Base). Les paiements de 20 $ à 500 $ sont pris en charge. Le crédit bonus s'applique à 50 $, 100 $ et 200 $. Des retards se produisent en raison de la congestion du réseau blockchain. Vérifiez le hash de la transaction pour l'état. Notre système crédite votre compte après confirmation. Cela prend généralement quelques minutes. En cas de forte affluence, cela peut prendre plus de temps. Utilisez un explorateur de blockchain fiable. Ne renvoyez pas la même transaction. Cela provoque des crédits doubles ou des erreurs. Planifiez vos recharges à l'avance pour un service ininterrompu.
Expiration du crédit d'essai
Les crédits d'essai expirent après 7 jours. Les nouveaux comptes reçoivent $0.50. Cela permet de tester sans engagement. Cependant, la courte fenêtre limite les tests approfondis. Utilisez l'essai pour vérifier la compatibilité. Vérifiez l'URL de base, l'ID du modèle et le streaming. Si cela fonctionne, ajoutez des fonds en crypto. Les crédits d'essai ne sont pas remboursables. Ils sont idéaux pour une validation rapide. Ne comptez pas dessus pour des projets à long terme. L'expiration est stricte. Planifiez votre calendrier de tests en conséquence. Cela vous évite de perdre du temps pendant la période d'essai.
