Waarom je Base URL belangrijk is
De basis-URL is het meest voorkomende punt van falen bij het wisselen van providers. De meeste OpenAI SDK's gebruiken standaard https://api.openai.com. Als je de API-sleutel wijzigt maar vergeet de base URL bij te werken, gaan je aanvragen naar de verkeerde server. Dit resulteert in authenticatiefouten of onverwachte modelbeschikbaarheid. Controleer altijd de documentatie van de provider voor het exacte endpoint. Een drop-in ongefilterde API gebruikt bijvoorbeeld https://api.apirouteropen.com/v1. Door alleen de base URL en sleutel aan te passen, kun je je bestaande code behouden. Dit zorgt voor compatibiliteit met bibliotheken zoals LangChain of LlamaIndex. Controleer de URL voordat je je gebruik opschalt.
De Model ID Misconception
Ontwikkelaars gaan er vaak van uit dat de model ID overeenkomt met de naam van een leverancier zoals gpt-4 of claude-3. In werkelijkheid is de model-ID een specifieke routeringssleutel die door de gateway is gedefinieerd. Voor onze ongefilterde service is de ID eenvoudigweg uncensored. Verzenden gpt-3.5-turbo kan falen of een ander model retourneren als de gateway het niet mapt. Gebruik altijd de exacte ID zoals vermeld in de documentatie. Dit geldt voor alle LLM-proxy's. Controleer de GET /v1/models endpoint om beschikbare opties te zien. Het verkeerd identificeren van de model-ID leidt onmiddellijk tot verzoekfouten. Het is geen product van een leverancier, maar een configuratieparameter.
Rate Limit-surprises
Rate limits zijn vaak per API-sleutel, niet per account. Als je een enkele sleutel gebruikt voor meerdere processen, bereik je de limiet mogelijk snel. Onze API staat 300 verzoeken per minuut en 8 gelijktijdige verzoeken per sleutel toe. Het overschrijden van deze limieten retourneert een 429-fout. Dit is kritiek voor hoogvolume-applicaties. Gebruik aparte sleutels voor verschillende services om interferentie te vermijden. Monitor je gebruik via het dashboard. Rate limits beschermen de stabiliteit van de server, maar kunnen geautomatiseerde workflows verstoren. Plan je concurrency zorgvuldig. Een enkele vervanging van de sleutel maakt de oude sleutel onmiddellijk ongeldig. Dit voorkomt gelijktijdig gebruik van dezelfde sleutel.
Streaming vs. Niet-streaming verwarring
Streamingresponsen vereisen specifieke clientafhandeling. De SDK moet worden geconfigureerd om server-sent events (SSE) te verwerken. Als je een niet-streamende client gebruikt, wacht je op de volledige respons. Dit verhoogt de latentie voor lange uitvoeren. Onze API ondersteunt streaming met tokengebruik in de laatste chunk. Dit maakt realtime weergave van tekst mogelijk. Niet-streamen is beter voor batchverwerking. Kies de modus op basis van je use case. Foute handeling kan leiden tot hangende verbindingen. Test streaming altijd eerst met een kleine steekproef. Zorg ervoor dat je client SSE ondersteunt voor optimale prestaties.
Fouten bij het tellen van tokens
Token telling varieert tussen providers. Sommigen tellen spaties mee, anderen niet. Onze API telt prompt- en completiontokens samen. Het contextvenster is 100,000 tokens. Max output is 16,000 tokens per request. Als je dit overschrijdt, faalt de request. Ga er niet van uit dat de tokenisatie van OpenAI overeenkomt met die van ons. Gebruik de tokenizer van de provider voor nauwkeurigheid. Token tellingsfouten leiden tot onverwachte kosten of fouten. Controleer tokenaantallen altijd voordat je grote prompts verstuurt. Dit is vooral belangrijk voor toepassingen met lange context. Verkeerd tellen kan tegoeden verspillen aan afgewezen requests.
Negeer Function Calling-limieten
Function calling vereist specifieke JSON-opmaak. De SDK moet de response_format parameter. Onze API ondersteunt JSON-modus voor gestructureerde outputs. Als je dit negeert, kan het model ongeldige JSON retourneren. Dit verstoort geautomatiseerde parsing. Test functaanroepen altijd eerst met een eenvoudig schema. Zorg ervoor dat je client toolkeuzes correct verwerkt. Functaanroepen worden niet in alle modellen ondersteund. Controleer de documentatie voor ondersteunde functies. Het negeren van deze limieten leidt tot onbetrouwbare automatisering. Verifieer dat het outputformaat overeenkomt met je verwachtingen.
Vertragingen bij crypto-opwaardering
Cryptobetalingen kunnen tijd nodig hebben om te bevestigen. We accepteren USDT (TRC20) en USDC (Base). Betalingen van $20 tot $500 worden ondersteund. Bonuscredit is van toepassing bij $50, $100 en $200. Vertragingen treden op door blockchain-congestie. Controleer de transaction hash voor de status. Ons systeem boekt je account na bevestiging. Dit duurt meestal een paar minuten. Bij hoog verkeer kan het langer duren. Gebruik een betrouwbare blockchain explorer. Verstuur dezelfde transactie niet opnieuw. Dit veroorzaakt dubbele credits of fouten. Plan je stortingen van tevoren voor ononderbroken service.
Vervaldatum proeftegoed
Proefkredieten vervallen na 7 dagen. Nieuwe accounts ontvangen $0.50. Dit stelt je in staat te testen zonder commitment. Het korte venster beperkt echter uitgebreide testing. Gebruik de proef om compatibiliteit te verifiëren. Controleer de base URL, model ID en streaming. Als het werkt, laad dan op met crypto. Proefkredieten zijn niet-terugbetaalbaar. Ze zijn ideaal voor snelle validatie. Verlaat ze niet voor langetermijnprojecten. Het verval is strikt. Plan je testschema dienovereenkomstig. Dit zorgt ervoor dat je geen tijd verspillt tijdens de proefperiode.
