Mengapa Base URL Anda Penting
URL dasar adalah titik kegagalan paling umum saat beralih penyedia. Sebagian besar SDK OpenAI secara default mengarah ke https://api.openai.com. Jika Anda mengubah kunci API tetapi lupa memperbarui URL dasar, permintaan Anda akan dikirim ke server yang salah. Ini menghasilkan kesalahan autentikasi atau ketersediaan model yang tidak terduga. Selalu periksa dokumentasi penyedia untuk endpoint yang tepat. Sebagai contoh, API tanpa sensor drop-in mungkin menggunakan https://api.apirouteropen.com/v1. Mengubah hanya URL dasar dan kunci memungkinkan Anda mempertahankan kode yang ada. Ini memastikan kompatibilitas dengan pustaka seperti LangChain atau LlamaIndex. Verifikasi URL sebelum meningkatkan skala penggunaan Anda.
Mitos ID Model
Pengembang sering mengasumsikan bahwa ID model sesuai dengan nama vendor seperti gpt-4 atau claude-3. Pada kenyataannya, ID model adalah kunci routing spesifik yang ditentukan oleh gateway. Untuk layanan tanpa sensor kami, ID-nya adalah uncensored. Mengirim gpt-3.5-turbo mungkin gagal atau mengembalikan model lain jika gateway tidak memetakannya. Selalu gunakan ID tepat yang disediakan dalam dokumentasi. Ini berlaku untuk semua proxy LLM. Periksa GET /v1/models endpoint untuk melihat opsi yang tersedia. Mengidentifikasi ID model secara keliru menyebabkan kegagalan permintaan segera. Ini bukan produk vendor tetapi parameter konfigurasi.
Kejutan Batas Laju
Batas laju sering per kunci API, bukan per akun. Jika Anda menggunakan satu kunci untuk beberapa proses, Anda mungkin mencapai batas dengan cepat. API kami mengizinkan 300 permintaan per menit dan 8 permintaan konkurensi per kunci. Melebihi batas ini mengembalikan error 429. Ini sangat penting untuk aplikasi volume tinggi. Gunakan kunci terpisah untuk layanan yang berbeda untuk menghindari gangguan. Pantau penggunaan Anda melalui dasbor. Batas laju melindungi stabilitas server tetapi dapat mengganggu alur kerja otomatis. Rencanakan konkurensi Anda dengan hati-hati. Penggantian kunci tunggal membatalkan kunci lama secara langsung. Ini mencegah penggunaan konkurensi kunci yang sama.
Kebingungan Streaming vs Non-Streaming
Respons streaming memerlukan penanganan klien spesifik. SDK harus dikonfigurasi untuk menangani server-sent events (SSE). Jika Anda menggunakan klien non-streaming, Anda akan menunggu seluruh respons. Ini meningkatkan latensi untuk output panjang. API kami mendukung streaming dengan penggunaan token di bagian terakhir. Ini memungkinkan tampilan teks secara real-time. Non-streaming lebih baik untuk pemrosesan batch. Pilih mode berdasarkan kasus penggunaan Anda. Penanganan yang salah dapat menyebabkan koneksi menggantung. Selalu uji streaming dengan sampel kecil terlebih dahulu. Pastikan klien Anda mendukung SSE untuk kinerja optimal.
Kesalahan Penghitungan Token
Penghitungan token bervariasi antar penyedia. Beberapa menghitung spasi, yang lain tidak. API kami menghitung token prompt dan completion secara bersamaan. Jendela konteks adalah 100,000 token. Output maksimum adalah 16,000 token per permintaan. Jika Anda melebihi ini, permintaan akan gagal. Jangan mengasumsikan tokenisasi OpenAI sesuai dengan kami. Gunakan tokenizer penyedia untuk akurasi. Kesalahan penghitungan token menyebabkan biaya atau kegagalan yang tidak terduga. Selalu verifikasi jumlah token sebelum mengirim prompt besar. Ini sangat penting untuk aplikasi konteks panjang. Penghitungan yang salah dapat membuang kredit pada permintaan yang ditolak.
Mengabaikan Batas Panggilan Fungsi
Pemanggilan fungsi memerlukan format JSON tertentu. SDK harus mendukung response_format parameter. API kami mendukung mode JSON untuk output terstruktur. Jika Anda mengabaikannya, model mungkin mengembalikan JSON yang tidak valid. Ini merusak parsing otomatis. Selalu uji pemanggilan fungsi dengan skema sederhana terlebih dahulu. Pastikan klien Anda menangani pilihan alat dengan benar. Pemanggilan fungsi tidak didukung di semua model. Periksa dokumentasi untuk fitur yang didukung. Mengabaikan batas-batas ini menyebabkan otomatisasi yang tidak andal. Verifikasi format output sesuai dengan harapan Anda.
Penundaan Isi Ulang Crypto
Pembayaran kripto mungkin memerlukan waktu untuk dikonfirmasi. Kami menerima USDT (TRC20) dan USDC (Base). Pembayaran dari $20 hingga $500 didukung. Kredit bonus berlaku pada $50, $100, dan $200. Penundaan terjadi karena kemacetan blockchain. Periksa hash transaksi untuk status. Sistem kami mengkredit akun Anda setelah konfirmasi. Ini biasanya memakan waktu beberapa menit. Saat lalu lintas tinggi, mungkin memakan waktu lebih lama. Gunakan penjelajah blockchain yang andal. Jangan kirim ulang transaksi yang sama. Ini menyebabkan kredit ganda atau kesalahan. Rencanakan pengisian saldo Anda sebelumnya untuk layanan tanpa gangguan.
Kedaluwarsa Kredit Uji Coba
Kredit uji coba kedaluwarsa setelah 7 hari. Akun baru menerima $0.50. Ini memungkinkan pengujian tanpa komitmen. Namun, jendela waktu yang singkat membatasi pengujian ekstensif. Gunakan uji coba ini untuk memverifikasi kompatibilitas. Periksa URL dasar, ID model, dan streaming. Jika berhasil, isi ulang dengan kripto. Kredit uji coba tidak dapat dikembalikan. Kredit ini ideal untuk validasi cepat. Jangan mengandalkan kredit ini untuk proyek jangka panjang. Masa berlakunya ketat. Jadwalkan pengujian Anda dengan tepat. Ini memastikan Anda tidak membuang waktu selama periode uji coba.
