Neden Base URL'iniz Önemlidir
Temel URL, sağlayıcı değiştirirken başarısızlığın en yaygın noktasıdır. Çoğu OpenAI SDK'sı varsayılan olarak https://api.openai.com. API anahtarını değiştirir ancak temel URL'yi güncellemeyi unutursanız, istekleriniz yanlış sunucuya gider. Bu, kimlik doğrulama hatalarına veya beklenmedik model kullanılabilirliğine neden olur. Doğru uç nokta için sağlayıcının belgelerine her zaman bakın. Örneğin, tak-çalıştır bir sansürsüz API https://api.apirouteropen.com/v1. Sadece temel URL ve anahtar değişikliği mevcut kodunuzu korumanızı sağlar. Bu, LangChain veya LlamaIndex gibi kütüphanelerle uyumluluğu garanti eder. Kullanımınızı ölçeklendirmeden önce URL'yi doğrulayın.
Model Kimliği Yanılgısı
Geliştiriciler genellikle model kimliğinin bir satıcının adıyla eşleştiğini varsayar gpt-4 ou claude-3. Gerçekte, model kimliği, ağ geçişi tarafından tanımlanan özel bir yönlendirme anahtarıdır. Sansürsüz hizmetimiz için kimlik uncensoredGönderme gpt-3.5-turbo geçiş noktası eşleştirmiyorsa başarısız olabilir veya farklı bir model döndürebilir. Dokümantasyonda sağlanan tam kimliği her zaman kullanın. Bu, tüm LLM proxy'leri için geçerlidir. Kontrol edin GET /v1/models mevcut seçenekleri görmek için uç nokta. Model kimliğinin yanlış tanımlanması, isteğin hemen başarısız olmasına neden olur. Bu bir satıcının ürünü değil, bir yapılandırma parametresidir.
Saniye Başına İstek Limiti Sürprizleri
Rate limitler genellikle API anahtarı bazındadır, hesap bazında değil. Tek bir anahtarı birden fazla işlem için kullanırsanız limite hızla ulaşabilirsiniz. API'miz her anahtar başına dakikada 300 istek ve 8 eş zamanlı istek sağlar. Bu limitleri aşmak 429 hatası döndürür. Bu, yüksek hacimli uygulamalar için kritiktir. Karşılıklı müdahaleyi önlemek için farklı hizmetler için ayrı anahtarlar kullanın. Kullanımınızı panodan izleyin. Rate limitler sunucu stabilitesini korur ancak otomatik iş akışlarını bozabilir. Eş zamanlılığı dikkatlice planlayın. Tek bir anahtar değişimi eski anahtarı hemen geçersiz kılar. Bu, aynı anahtarın eş zamanlı kullanımını engeller.
Akışlı ve Akışsız Karışıklık
Akış yanıtları spesifik istemci işleme gerektirir. SDK'nın sunucu gönderilen olayları (SSE) işleyecek şekilde yapılandırılması gerekir. Akış olmayan bir istemci kullanırsanız, tüm yanıt için beklersiniz. Bu, uzun çıktılar için gecikmeyi artırır. API'miz, son parçada belirteç kullanımı içeren akış desteği sunar. Bu, metzin gerçek zamanlı gösterilmesine olanak tanır. Toplu işleme için akış olmayan mod daha iyidir. Modu kullanım durumunuza göre seçin. Yanlış işleme, takılı bağlantılara yol açabilir. Her zaman akışı önce küçük bir örnekle test edin. Optimal performans için istemcinizin SSE'yi desteklediğinden emin olun.
Token Sayma Hataları
Sağlayıcılar arasında token sayımı farklılık gösterir. Bazıları boşlukları sayar, bazıları saymaz. API'miz prompt ve tamamlama tokenlarını birlikte sayar. Bağlam penceresi 100,000 token'dır. İstek başına maksimum çıktı 16,000 token'dır. Bunu aşarsanız istek başarısız olur. OpenAI'nin tokenizasyonunun bizimkine eş olduğunu varsaymayın. Doğruluk için sağlayıcının tokenlayıcısını kullanın. Token sayımı hataları beklenmedik ücretlere veya başarısızlıklara yol açar. Büyük promptlar göndermeden önce token sayılarını her zaman doğrulayın. Bu, özellikle uzun bağlam uygulamaları için önemlidir. Yanlış sayım, reddedilen istekler için kredileri boşa harcayabilir.
İşlev Çağırma Sınırlarını Yok Say
Fonksiyon çağırma belirli JSON biçimlendirmesi gerektirir. SDK'nın response_format parametre. API'miz yapılandırılmış çıktılar için JSON modunu destekler. Bunu yok sayarsanız model geçersiz JSON döndürebilir. Bu otomatik ayrışmayı bozar. İşlev çağırma işlemini önce basit bir şema ile test edin. İstemcinizin araç seçimlerini doğru şekilde işlediğinden emin olun. İşlev çağırma tüm modellerde desteklenmez. Desteklenen özellikler için belgelere bakın. Bu sınırları göz ardı etmek, güvenilir otomasyonu bozar. Çıktı formatının beklentilerinizle eşleştiğini doğrulayın.
Kripto ile Yükleme Gecikmeleri
Kripto ödemeler onay almak için zaman alabilir. USDT (TRC20) ve USDC (Base) kabul ediyoruz. $20 ile $500 arasındaki ödemeler desteklenir. Bonus kredi $50, $100 ve $200'de uygulanır. Gecikmeler blockchain yoğunluğundan kaynaklanır. Durum için işlem hash'ini kontrol edin. Sistemimiz onaydan sonra hesabınıza kredi yükler. Bu genellikle birkaç dakika sürer. Yüksek trafik sırasında daha uzun sürebilir. Güvenilir bir blockchain gezgini kullanın. Aynı işlemi yeniden göndermeyin. Bu, çift kredi yüklemelerine veya hatalara neden olur. Kesintisiz hizmet için yüklemelerinizi önceden planlayın.
Deneme Kredisi Son Kullanma Tarihi
Deneme kredileri 7 gün sonra sona erer. Yeni hesaplar $0.50 alır. Bu, taahhüt olmadan test imkanı sağlar. Ancak kısa süre, kapsamlı testleri sınırlar. Uyumluluğu doğrulamak için denemeyi kullanın. Temel URL'yi, model ID'sini ve akış özelliğini kontrol edin. Çalışırsa kripto ile yükleyin. Deneme kredileri iade edilmez. Hızlı doğrulama için idealdir. Uzun vadeli projeler için onlara güvenmeyin. Sona erme tarihi katıdır. Test planınızı buna göre yapın. Bu, deneme süresi boyunca zamanınızı boşa harcamamanızı sağlar.
