Hvorfor din base URL er vigtig
Den basale URL er det mest almindelige punkt for fejl, når du skifter udbyder. De fleste OpenAI SDK'er bruger standardindstillingen https://api.openai.com. Hvis du ændrer API-nøglen, men glemmer at opdatere base URL, går dine anmodninger til den forkerte server. Dette resulterer i autentifikationsfejl eller uventet modeltilgængelighed. Tjek altid udbyderens dokumentation for det nøjagtige endpoint. For eksempel kan et drop-in ufiltreret API bruge https://api.apirouteropen.com/v1. Ved blot at ændre base URL og nøgle kan du beholde din eksisterende kode. Dette sikrer kompatibilitet med biblioteker som LangChain eller LlamaIndex. Verificer URL'en, før du skalere din brug.
Misforståelsen om model-ID
Udviklere antager ofte, at model ID'et svarer til en leverandørs navn som gpt-4 eller claude-3. I virkeligheden er model-ID'et en specifik routing-nøgle defineret af gatewayen. Til vores ufiltrerede service er ID'et blot uncensored. Sending gpt-3.5-turbo Må mislykkes eller returnere en anden model, hvis gatewayen ikke kortlægger den. Brug altid den nøjagtige ID, der er angivet i dokumentationen. Dette gælder for alle LLM-proxyer. Tjek GET /v1/models endpoint til at se tilgængelige muligheder. En fejlagtig identificering af model-ID'et medfører øjeblikkelige anmodningsfejl. Det er ikke en leverandørs produkt, men en konfigurationsparameter.
Rate Limit-overraskelser
Ratebegrænsninger er ofte per API-nøgle, ikke per konto. Hvis du bruger en enkelt nøgle til flere processer, kan du nå grænsen hurtigt. Vores API tillader 300 requests i minuttet og 8 samtidige requests per nøgle. Overskridelse af disse grænser returnerer en 429-fejl. Dette er kritisk for applikationer med højt volumen. Brug separate nøgler til forskellige tjenester for at undgå interferens. Overvåg din brug via dashboardet. Ratebegrænsninger beskytter serverstabiliteten, men kan forstyrre automatiserede arbejdsgange. Planlæg din concurrenty omhyggeligt. En enkelt nøgleudskiftning ugyldiggør den gamle nøgle øjeblikkeligt. Dette forhindrer samtidig brug af den samme nøgle.
Streaming vs. Non-Streaming Forvirring
Streaming-respons kræver specifik klienthåndtering. SDK'et skal konfigureres til at håndtere server-sendte begivenheder (SSE). Hvis du bruger en ikke-streaming-klient, skal du vente på hele svaret. Dette øger latensen for lange output. Vores API understøtter streaming med tokensforbrug i den sidste chunk. Dette giver realtidsvisning af tekst. Ikke-streaming er bedre til batchbehandling. Vælg tilstand baseret på dit brugstilfælde. Forkert håndtering kan føre til hængende forbindelser. Test altid streaming med en lille prøve først. Sørg for, at din klient understøtter SSE for optimal ydeevne.
Fejl i token-tælling
Tokenoptælling varierer mellem udbydere. Nogle tæller mellemrum, andre gør ikke. Vores API tæller prompt- og completion-tokens sammen. Kontekstvinduet er 100,000 tokens. Maks output er 16,000 tokens pr. anmodning. Hvis du overskrider dette, mislykkes anmodningen. Antag ikke, at OpenAI's tokenisering matcher vores. Brug udbyderens tokenizer for nøjagtighed. Tokenoptællingsfejl fører til uventede gebyrer eller fejl. Verificer altid tokenantal, før du sender store prompts. Dette er især vigtigt til applikationer med lang kontekst. Forkert optælling kan spilde kredit på afviste anmodninger.
Ignorerer funktionssamtale-grænser
Funktionskald kræver specifik JSON-formatering. SDK'et skal understøtte response_format parameter. Vores API understøtter JSON-tilstand for strukturerede outputs. Hvis du ignorerer dette, kan modellen returnere ugyldig JSON. Dette ødelægger automatisk parsing. Test altid funktionkald med et simpelt skema først. Sørg for, at din klient håndterer værktøjsvalg korrekt. Funktionkald understøttes ikke i alle modeller. Tjek dokumentationen for understøttede funktioner. At ignorere disse grænser fører til upålidelig automation. Verificer, at outputformatet matcher dine forventninger.
Forsinkelser ved kryptotopning
Kryptobetalinger kan tage tid at bekræfte. Vi accepterer USDT (TRC20) og USDC (Base). Betalinger fra $20 til $500 understøttes. Bonuskredit gælder ved $50, $100 og $200. Forsinkelser opstår på grund af blockchain-trængsel. Tjek transaktionshashen for status. Vores system kreditterer din konto efter bekræftelse. Dette tager normalt et par minutter. I perioder med høj trafik kan det tage længere tid. Brug en pålidelig blockchain explorer. Send ikke samme transaktion igen. Dette fører til dubletter af kreditter eller fejl. Planlæg dine top-ups i god tid for uafbrudt service.
Prøvekredit Udløb
Prøvekreditter udløber efter 7 dage. Nye konti modtager $0.50. Dette giver mulighed for test uden forpligtelse. Det korte tidsvindue begrænser dog omfattende test. Brug prøven til at verificere kompatibiliteten. Tjek base-URL, model-ID og streaming. Hvis det virker, kan du foretage en indbetaling med krypto. Prøvekreditter er ikke refunderbare. De er ideelle til hurtig validering. Lid ikke på dem til langsigtede projekter. Udløbet er strengt. Planlæg din testplanning derefter. Dette sikrer, at du ikke spilder tid i prøveperioden.
