sv ▾
ApiRouterOpen

Drop-in uncensored LLM API

Open Router: Vanliga misstag

Utvecklare har ofta svårt med LLM-gateways eftersom de antar att alla slutpunkter beter sig som standard OpenAI-tjänster. Felaktig konfiguration av bas-URL:er eller modell-ID:n bryter kompatibiliteten, medan ignorering av hastighetsbegränsningar och tokenräkningsregler leder till oväntade fel. Att förstå dessa nyanser säkerställer att dina automatiseringsscript körs pålitligt utan att slösa krediter på tysta fel.

Senast uppdaterad

Sammanfattning

  1. Verifiera alltid att din bas-URL matchar leverantören exakt, eftersom generiska OpenAI SDK:ar som standard pekar på openai.com.
  2. Modell-ID:t är inte ett leverantörsnamn utan en specifik routningsnyckel som måste matcha leverantörens konfiguration.
  3. Begränsningsnivåer tillämpas per API-nyckel, så samtidiga förfrågningar kan misslyckas om de överskrider den tillåtna tröskeln.
  4. Streaming-responder kräver specifik klienthantering för att undvika hängande anslutningar eller missad delvis data.

Varför din bas-URL är viktig

Den basala URL:en är den vanligaste punkten för fel när du byter leverantör. De flesta OpenAI SDK:er är standardinställda på https://api.openai.com. Om du ändrar API-nyckeln men glömmer att uppdatera bas-URL:en, skickas dina begäranden till fel server. Detta leder till autentiseringsfel eller oväntad modelltillgänglighet. Kontrollera alltid leverantörens dokumentation för exakt slutpunkt. Till exempel kan en drop-in obegränsad API använda https://api.apirouteropen.com/v1. Att bara ändra bas-URL och nyckel gör att du kan behålla din befintliga kod. Detta säkerställer kompatibilitet med bibliotek som LangChain eller LlamaIndex. Kontrollera URL:en innan du skalar upp din användning.

Modell-ID-misuppfattningen

Utvecklare antar ofta att model ID:n motsvarar en leverantörs namn som gpt-4 eller claude-3. I verkligheten är modell-ID:t en specifik nyckel för styrning definierad av gatewayen. För vår obegränsade tjänst är ID:t enkelt uncensored. Skicka gpt-3.5-turbo kan misslyckas eller returnera en annan modell om gatewayen inte mappar den. Använd alltid exakt ID som anges i dokumentationen. Detta gäller alla LLM-proxys. Kontrollera GET /v1/models slutpunkt för att se tillgängliga alternativ. Felaktig identifiering av modell-ID:t leder omedelbart till begärandsfel. Det är inte en leverantörs produkt utan en konfigurationsparameter.

Överraskningar med begäransgräns

Begränsningsgränser är ofta per API-nyckel, inte per konto. Om du använder en enda nyckel för flera processer kan du nå gränsen snabbt. Vårt API tillåter 300 förfrågningar per minut och 8 parallella förfrågningar per nyckel. Att överskrida dessa gränser returnerar ett 429-fel. Detta är kritiskt för högvolymapplikationer. Använd separata nycklar för olika tjänster för att undvika störningar. Övervaka din användning via panelen. Begränsningsgränser skyddar serverstabilitet men kan störa automatiserade arbetsflöden. Planera din parallellitet noggrant. En enda nyckelersättning ogiltigförklarar den gamla nyckeln omedelbart. Detta förhindrar parallell användning av samma nyckel.

Förvirring mellan streaming och icke-streaming

Streaming-responder kräver specifik klienthantering. SDK:et måste konfigureras för att hantera server-sända händelser (SSE). Om du använder en icke-streaming-klient kommer du att vänta på hela svaret. Detta ökar latensen för långa utdata. Vårt API stöder streaming med tokenanvändning i den sista delen. Detta möjliggör realtidsvisning av text. Icke-streaming är bättre för batchbearbetning. Välj läge baserat på ditt användningsfall. Felaktig hantering kan leda till hängande anslutningar. Testa alltid streaming med en liten provmängd först. Se till att din klient stöder SSE för optimal prestanda.

Fel vid tokenräkning

Tokenräkning varierar mellan leverantörer. Vissa räknar mellanslag, andra gör det inte. Vårt API räknar prompt- och kompletteringstokens tillsammans. Kontextfönstret är 100,000 tokens. Max utmatning är 16,000 tokens per förfrågan. Om du överskrider detta misslyckas förfrågan. Anta inte att OpenAI:s tokenisering matchar vår. Använd leverantörens tokeniserare för noggrannhet. Fel vid tokenräkning leder till oväntade avgifter eller misslyckanden. Verifiera alltid tokenantal innan du skickar stora prompts. Detta är särskilt viktigt för applikationer med lång kontext. Felaktig räkning kan slösa kredit på avslagna förfrågningar.

Ignorerar funktionsanropningsbegränsningar

Funktionssamling kräver specifik JSON-formatering. SDK:t måste stödja response_format parameter. Vårt API stöder JSON-läge för strukturerade utdata. Om du ignorerar detta kan modellen returnera ogiltig JSON. Detta bryter automatisk parsing. Testa alltid funktionsanrop med ett enkelt schema först. Se till att din klient hanterar verktygsval korrekt. Funktionsanrop stöds inte i alla modeller. Kontrollera dokumentationen för vilka funktioner som stöds. Att ignorera dessa gränser leder till opålitlig automatisering. Verifiera att utdataformatet matchar dina förväntningar.

Fördröjningar vid kryptotopning

Kryptobetalningar kan ta tid att bekräfta. Vi accepterar USDT (TRC20) och USDC (Base). Betalningar från $20 till $500 stöds. Bonuskredit tillämpas vid $50, $100 och $200. Fördröjningar uppstår på grund av blockchain-trängsel. Kontrollera transaktionshashen för status. Vårt system krediterar ditt konto efter bekräftelse. Detta tar vanligtvis några minuter. Vid hög trafik kan det ta längre tid. Använd en pålitlig blockchain-explorer. Skicka inte om samma transaktion. Detta leder till dubbla krediter eller fel. Planera dina påfyllningar i förväg för oavbruten service.

Utgångstid för provkredit

Provbelopp löper ut efter 7 dagar. Nya konton får $0.50. Detta gör att du kan testa utan förpliktelser. Den korta tidsramen begränsar dock omfattande testning. Använd provet för att verifiera kompatibilitet. Kontrollera bas-URL, modell-ID och strömning. Om det fungerar, ladda upp saldo med krypto. Provbelopp är icke-återbetalningsbara. De är idealiska för snabb validering. Lita inte på dem för långsiktiga projekt. Utgångstiden är strikt. Planera ditt testschema därefter. Detta säkerställer att du inte slösar tid under provperioden.

Vanliga frågor

Är detta det officiella OpenAI API:t?

Nej, detta är en oberoende tjänst som är OpenAI-kompatibel. Den använder samma slutpunktsstruktur men levererar en annan modell. Bas-URL:en är annorlunda, så du måste uppdatera din konfiguration. Den är inte en återförsäljare av OpenAI:s modeller.

Hur hanterar jag strömnings-svar?

Använd strömningsparametern i ditt SDK-anrop. Svaret skickas som server-sända händelser. Hantera varje chunk när den anländer. Detta minskar latensen för långa utdata. Se till att din klient stöder SSE för korrekt hantering.

Vad händer om jag överskrider hastighetsbegränsningen?

Du får ett 429-fel. Begäranden är begränsade till 300 per minut per nyckel. Samtidiga begäranden är begränsade till 8. Använd separata nycklar för olika processer för att undvika störningar. Övervaka din användning för att hålla dig inom gränserna.

Vilka betalningsmetoder accepterar ni?

Krypto endast: USDT på TRC20 eller USDC på Base, hela belopp från $20 till $500. Bonuskredit tillkommer från $50.

Få tillgång till din API-nyckel

Registrera dig, hämta din nyckel och uppdatera din bas-URL. Det är allt du behöver göra.

Skapa nycklar