Varför din bas-URL är viktig
Den basala URL:en är den vanligaste punkten för fel när du byter leverantör. De flesta OpenAI SDK:er är standardinställda på https://api.openai.com. Om du ändrar API-nyckeln men glömmer att uppdatera bas-URL:en, skickas dina begäranden till fel server. Detta leder till autentiseringsfel eller oväntad modelltillgänglighet. Kontrollera alltid leverantörens dokumentation för exakt slutpunkt. Till exempel kan en drop-in obegränsad API använda https://api.apirouteropen.com/v1. Att bara ändra bas-URL och nyckel gör att du kan behålla din befintliga kod. Detta säkerställer kompatibilitet med bibliotek som LangChain eller LlamaIndex. Kontrollera URL:en innan du skalar upp din användning.
Modell-ID-misuppfattningen
Utvecklare antar ofta att model ID:n motsvarar en leverantörs namn som gpt-4 eller claude-3. I verkligheten är modell-ID:t en specifik nyckel för styrning definierad av gatewayen. För vår obegränsade tjänst är ID:t enkelt uncensored. Skicka gpt-3.5-turbo kan misslyckas eller returnera en annan modell om gatewayen inte mappar den. Använd alltid exakt ID som anges i dokumentationen. Detta gäller alla LLM-proxys. Kontrollera GET /v1/models slutpunkt för att se tillgängliga alternativ. Felaktig identifiering av modell-ID:t leder omedelbart till begärandsfel. Det är inte en leverantörs produkt utan en konfigurationsparameter.
Överraskningar med begäransgräns
Begränsningsgränser är ofta per API-nyckel, inte per konto. Om du använder en enda nyckel för flera processer kan du nå gränsen snabbt. Vårt API tillåter 300 förfrågningar per minut och 8 parallella förfrågningar per nyckel. Att överskrida dessa gränser returnerar ett 429-fel. Detta är kritiskt för högvolymapplikationer. Använd separata nycklar för olika tjänster för att undvika störningar. Övervaka din användning via panelen. Begränsningsgränser skyddar serverstabilitet men kan störa automatiserade arbetsflöden. Planera din parallellitet noggrant. En enda nyckelersättning ogiltigförklarar den gamla nyckeln omedelbart. Detta förhindrar parallell användning av samma nyckel.
Förvirring mellan streaming och icke-streaming
Streaming-responder kräver specifik klienthantering. SDK:et måste konfigureras för att hantera server-sända händelser (SSE). Om du använder en icke-streaming-klient kommer du att vänta på hela svaret. Detta ökar latensen för långa utdata. Vårt API stöder streaming med tokenanvändning i den sista delen. Detta möjliggör realtidsvisning av text. Icke-streaming är bättre för batchbearbetning. Välj läge baserat på ditt användningsfall. Felaktig hantering kan leda till hängande anslutningar. Testa alltid streaming med en liten provmängd först. Se till att din klient stöder SSE för optimal prestanda.
Fel vid tokenräkning
Tokenräkning varierar mellan leverantörer. Vissa räknar mellanslag, andra gör det inte. Vårt API räknar prompt- och kompletteringstokens tillsammans. Kontextfönstret är 100,000 tokens. Max utmatning är 16,000 tokens per förfrågan. Om du överskrider detta misslyckas förfrågan. Anta inte att OpenAI:s tokenisering matchar vår. Använd leverantörens tokeniserare för noggrannhet. Fel vid tokenräkning leder till oväntade avgifter eller misslyckanden. Verifiera alltid tokenantal innan du skickar stora prompts. Detta är särskilt viktigt för applikationer med lång kontext. Felaktig räkning kan slösa kredit på avslagna förfrågningar.
Ignorerar funktionsanropningsbegränsningar
Funktionssamling kräver specifik JSON-formatering. SDK:t måste stödja response_format parameter. Vårt API stöder JSON-läge för strukturerade utdata. Om du ignorerar detta kan modellen returnera ogiltig JSON. Detta bryter automatisk parsing. Testa alltid funktionsanrop med ett enkelt schema först. Se till att din klient hanterar verktygsval korrekt. Funktionsanrop stöds inte i alla modeller. Kontrollera dokumentationen för vilka funktioner som stöds. Att ignorera dessa gränser leder till opålitlig automatisering. Verifiera att utdataformatet matchar dina förväntningar.
Fördröjningar vid kryptotopning
Kryptobetalningar kan ta tid att bekräfta. Vi accepterar USDT (TRC20) och USDC (Base). Betalningar från $20 till $500 stöds. Bonuskredit tillämpas vid $50, $100 och $200. Fördröjningar uppstår på grund av blockchain-trängsel. Kontrollera transaktionshashen för status. Vårt system krediterar ditt konto efter bekräftelse. Detta tar vanligtvis några minuter. Vid hög trafik kan det ta längre tid. Använd en pålitlig blockchain-explorer. Skicka inte om samma transaktion. Detta leder till dubbla krediter eller fel. Planera dina påfyllningar i förväg för oavbruten service.
Utgångstid för provkredit
Provbelopp löper ut efter 7 dagar. Nya konton får $0.50. Detta gör att du kan testa utan förpliktelser. Den korta tidsramen begränsar dock omfattande testning. Använd provet för att verifiera kompatibilitet. Kontrollera bas-URL, modell-ID och strömning. Om det fungerar, ladda upp saldo med krypto. Provbelopp är icke-återbetalningsbara. De är idealiska för snabb validering. Lita inte på dem för långsiktiga projekt. Utgångstiden är strikt. Planera ditt testschema därefter. Detta säkerställer att du inte slösar tid under provperioden.