چرا Base URL شما مهم است
URL پایه رایج‌ترین نقطه شکست هنگام تغییر ارائه‌دهندگان است. اکثر SDKهای OpenAI به‌طور پیش‌فرض به https://api.openai.com. اگر کلید API را تغییر دهید اما URL پایه را فراموش کنید به‌روزرسانی کنید، درخواست‌های شما به سرور اشتباه می‌روند. این منجر به خطاهای احراز هویت یا در دسترس نبودن مدل‌های غیرمنتظره می‌شود. همیشه مستندات ارائه‌دهنده را برای نقطه پایانی دقیق بررسی کنید. برای مثال، یک API بدون سانسور جایگزین ممکن است از https://api.apirouteropen.com/v1. تغییر تنها URL پایه و کلید به شما اجازه می‌دهد کد موجود خود را حفظ کنید. این سازگاری با کتابخانه‌هایی مانند LangChain یا LlamaIndex را تضمین می‌کند. قبل از مقیاس‌بندی استفاده خود، URL را بررسی کنید.
اشتباه رایج درباره شناسه مدل
توسعه‌دهندگان اغلب فرض می‌کنند که شناسه مدل متناظر با نام یک فروشنده مانند gpt-4 یا claude-3. در واقعیت، شناسه مدل یک کلید مسیریابی خاص تعریف شده توسط دروازه است. برای سرویس بدون سانسور ما، شناسه به سادگی uncensored. ارسال gpt-3.5-turbo ممکن است شکست بخورد یا مدل متفاوتی را بازگرداند اگر دروازه آن را نگاشت نکند. همیشه از شناسه دقیق ارائه‌شده در مستندات استفاده کنید. این موضوع برای تمام پروکسی‌های LLM صدق می‌کند. بررسی GET /v1/models اندپوینت برای مشاهده گزینه‌های موجود. شناسایی نادرست شناسه مدل باعث شکست فوری درخواست‌ها می‌شود. این محصول یک فروشنده نیست بلکه یک پارامتر پیکربندی است.
غافلگیری‌های محدودیت نرخ
محدودیت‌های نرخ اغلب بر اساس کلید API هستند، نه حساب کاربری. اگر از یک کلید واحد برای چندین فرآیند استفاده کنید، ممکن است سریعاً به محدودیت برسید. API ما اجازه می‌دهد ۳۰۰ درخواست در دقیقه و ۸ درخواست همزمان به ازای هر کلید. تجاوز از این محدودیت‌ها خطای 429 را برمی‌گرداند. این موضوع برای برنامه‌های با حجم بالا حیاتی است. از کلیدهای جداگانه برای سرویس‌های مختلف استفاده کنید تا از تداخل جلوگیری شود. مصرف خود را از طریق داشبورد پایش کنید. محدودیت‌های نرخ پایداری سرور را محافظت می‌کنند اما می‌توانند جریان‌های کاری خودکار را مختل کنند. همزمانی خود را با دقت برنامه‌ریزی کنید. جایگزینی یک کلید واحد، کلید قدیمی را بلافاصله نامعتبر می‌کند. این از استفاده همزمان از همان کلید جلوگیری می‌کند.
اشتباه در استریم در مقابل غیر استریم
پاسخ‌های استریم‌شده نیاز به مدیریت خاص کلاینت دارند. SDK باید برای مدیریت رویدادهای ارسالی سرور (SSE) پیکربندی شود. اگر از یک کلاینت غیراستریم‌شده استفاده کنید، منتظر پاسخ کامل خواهید ماند. این تأخیر را برای خروجی‌های طولانی افزایش می‌دهد. API ما از استریم با مصرف توکن در قطعه‌ی آخر پشتیبانی می‌کند. این امکان نمایش بلادرست متن را فراهم می‌کند. حالت غیراستریم برای پردازش دسته‌ای بهتر است. حالت را بر اساس مورد استفاده خود انتخاب کنید. مدیریت نادرست می‌تواند منجر به گیر کردن اتصال‌ها شود. همیشه ابتدا استریم را با یک نمونه کوچک آزمایش کنید. مطمئن شوید کلاینت شما از SSE برای عملکرد بهینه پشتیبانی می‌کند.
خطاهای شمارش توکن
شمارش توکن‌ها بین ارائه‌دهندگان متفاوت است. برخی فاصله‌ها (whitespace) را می‌شمارند، برخی دیگر خیر. API ما توکن‌های پرامپت و تکمیل را با هم می‌شمارد. پنجره زمینه 100,000 توکن است. حداکثر خروجی 16,000 توکن در هر درخواست است. اگر از این مقدار تجاوز کنید، درخواست ناموفق خواهد بود. فرض نکنید که توکن‌بندی OpenAI با ما مطابقت دارد. برای دقت از توکن‌زن ارائه‌دهنده استفاده کنید. خطاهای شمارش توکن منجر به هزینه‌ها یا شکست‌های غیرمنتظره می‌شود. همیشه قبل از ارسال پرامپت‌های بزرگ، تعداد توکن‌ها را تأیید کنید. این به‌ویژه برای برنامه‌های زمینه طولانی مهم است. شمارش نادرست می‌تواند اعتبار را روی درخواست‌های رد شده هدر دهد.
نادیده گرفتن محدودیت‌های فراخوانی تابع
فراخوانی تابع نیاز به قالب‌بندی JSON خاص دارد. SDK باید از response_format پارامتر. API ما از حالت JSON برای خروجی‌های ساختاریافته پشتیبانی می‌کند. اگر این را نادیده بگیرید، مدل ممکن است JSON نامعتبر بازگرداند. این تجزیه خودکار را خراب می‌کند. همیشه فراخوانی تابع را با یک طرح‌واره ساده آزمایش کنید. مطمئن شوید که کلاینت شما انتخاب‌های ابزار را به درستی مدیریت می‌کند. فراخوانی تابع در همه مدل‌ها پشتیبانی نمی‌شود. مستندات را برای ویژگی‌های پشتیبانی شده بررسی کنید. نادیده گرفتن این محدودیت‌ها منجر به اتوماسیون غیرقابل اعتماد می‌شود. فرمت خروجی را بررسی کنید تا با انتظارات شما مطابقت داشته باشد.
تأخیر در شارژ با ارز دیجیتال
پرداخت‌های رمزارز ممکن است زمان‌بر باشند تا تأیید شوند. ما USDT (TRC20) و USDC (Base) را می‌پذیریم. پرداخت‌های از $20 تا $500 پشتیبانی می‌شوند. اعتبار پاداش در $50، $100 و $200 اعمال می‌شود. تأخیرها به دلیل شلوغی بلاک‌چین رخ می‌دهد. برای بررسی وضعیت، هش تراکنش را بررسی کنید. سیستم ما حساب شما را پس از تأیید اعتباربخشی می‌کند. این معمولاً چند دقیقه طول می‌کشد. در زمان ترافیک بالا، ممکن است طولانی‌تر شود. از یک اکسپلورر بلاک‌چین قابل اعتماد استفاده کنید. تراکنش همان را دوباره ارسال نکنید. این باعث اعتباردهی دوگانه یا خطا می‌شود. شارژهای خود را از قبل برنامه‌ریزی کنید تا خدمات بدون وقفه داشته باشید.
انقضای اعتبار آزمایشی
اعتبار آزمایشی پس از ۷ روز منقضی می‌شود. حساب‌های جدید $0.50 دریافت می‌کنند. این امکان آزمایش بدون تعهد را فراهم می‌کند. با این حال، پنجره کوتاه، آزمایش گسترده را محدود می‌کند. از آزمایش برای بررسی سازگاری استفاده کنید. URL پایه، شناسه مدل و پخش زنده را بررسی کنید. اگر کار کرد، با ارز دیجیتال شارژ کنید. اعتبار آزمایشی غیرقابل استرداد است. آن‌ها برای اعتبارسنجی سریع ایده‌آل هستند. برای پروژه‌های بلندمدت به آن‌ها تکیه نکنید. انقضا سخت‌گیرانه است. برنامه آزمایش خود را مطابق با آن تنظیم کنید. این تضمین می‌کند که در دوره آزمایشی وقت خود را هدر نمی‌دهید.
