ทำไม Base URL ของคุณจึงสำคัญ
URL พื้นฐานเป็นจุดล้มเหลวที่พบบ่อยที่สุดเมื่อเปลี่ยนผู้ให้บริการ OpenAI SDK ส่วนใหญ่จะตั้งค่าเริ่มต้นเป็น https://api.openai.com. หากคุณเปลี่ยนคีย์ API แต่ลืมอัปเดต URL พื้นฐาน คำขอของคุณจะไปยังเซิร์ฟเวอร์ผิด สิ่งนี้ทำให้เกิดข้อผิดพลาดการตรวจสอบสิทธิ์หรือความพร้อมใช้งานของโมเดลที่ไม่คาดคิด ตรวจสอบเอกสารของผู้ให้บริการเสมอสำหรับจุดปลายที่ถูกต้อง ตัวอย่างเช่น API แบบไร้เซนเซอร์แบบติดตั้งแทนที่ได้ใช้ https://api.apirouteropen.com/v1. การเปลี่ยนเพียง base URL และ key ทำให้คุณสามารถรักษาโค้ดเดิมของคุณได้ สิ่งนี้รับประกันความเข้ากันได้กับไลบรารีเช่น LangChain หรือ LlamaIndex ตรวจสอบ URL ก่อนขยายขนาดการใช้งานของคุณ
ความเข้าใจผิดเกี่ยวกับรหัสโมเดล
นักพัฒนาหลายคนมักคิดว่า ID ของโมเดลสอดคล้องกับชื่อผู้ขายเช่น gpt-4 หรือ claude-3. ในความเป็นจริง ID ของโมเดลเป็นคีย์การกำหนดเส้นทางเฉพาะที่กำหนดโดยเกทเวย์ สำหรับบริการไร้เซนเซอร์ของเรา ID คือ uncensored. การส่ง gpt-3.5-turbo might fail or return a different model if the gateway doesn't map it. Always use the exact ID provided in the documentation. This applies to all LLM proxies. Check the GET /v1/models เอนด์พอยต์เพื่อดูตัวเลือกที่มีอยู่ การระบุ ID ของโมเดลผิดจะทำให้คำขอล้มเหลวทันที ไม่ใช่ผลิตภัณฑ์ของผู้ขาย แต่เป็นพารามิเตอร์การกำหนดค่า
ความประหลาดใจจากอัตราจำกัด
อัตราจำกัดการเรียกใช้มักใช้ตามคีย์ API ไม่ใช่ตามบัญชี หากคุณใช้คีย์เดียวสำหรับกระบวนการหลายอย่าง คุณอาจถึงขีดจำกัดได้เร็ว API ของเราอนุญาตให้ 300 คำขอต่อนาทีและ 8 คำขอพร้อมกันต่อคีย์ การเกินขีดจำกัดเหล่านี้จะส่งกลับข้อผิดพลาด 429 ซึ่งสำคัญมากสำหรับแอปพลิเคชันปริมาณสูง ใช้คีย์แยกสำหรับบริการที่แตกต่างกันเพื่อหลีกเลี่ยงการรบกวน ติดตามการใช้งานของคุณผ่านแดชบอร์ด อัตราจำกัดการเรียกใช้ปกป้องความเสถียรของเซิร์ฟเวอร์แต่สามารถรบกวนเวิร์กโฟลว์อัตโนมัติได้ วางแผนความพร้อมเพรียงของคุณอย่างระมัดระวัง การแทนที่คีย์เดียวจะทำให้คีย์เก่าหมดอายุทันที ซึ่งป้องกันการใช้งานคีย์เดียวกันพร้อมกัน
ความสับสนระหว่างการสตรีมและไม่สตรีม
การตอบสนองแบบสตรีมต้องการการจัดการไคลเอนต์เฉพาะ SDK ต้องได้รับการกำหนดค่าให้จัดการเหตุการณ์ที่ส่งจากเซิร์ฟเวอร์ (SSE) หากคุณใช้ไคลเอนต์ที่ไม่รองรับการสตรีม คุณจะรอการตอบสนองทั้งหมด สิ่งนี้เพิ่มเวลาแฝงสำหรับผลลัพธ์ที่ยาวนาน API ของเรารองรับการสตรีมพร้อมการใช้งานโทเค็นในชิ้นส่วนสุดท้าย ซึ่งช่วยให้แสดงข้อความแบบเรียลไทม์ได้ การไม่สตรีมดีกว่าสำหรับการประมวลผลแบบกลุ่ม เลือกโหมดตามกรณีการใช้งานของคุณ การจัดการที่ไม่ถูกต้องอาจนำไปสู่การเชื่อมต่อค้างเสมอให้ทดสอบการสตรีมด้วยตัวอย่างขนาดเล็กก่อน ตรวจสอบให้แน่ใจว่าไคลเอนต์ของคุณรองรับ SSE เพื่อประสิทธิภาพที่เหมาะสม
ข้อผิดพลาดในการนับโทเค็น
การนับโทเค็นแตกต่างกันระหว่างผู้ให้บริการ บางรายนับช่องว่าง บางรายไม่นับ API ของเรานับโทเค็นพรอมต์และคอมพลีชันรวมกัน หน้าต่างบริบทคือ 100,000 โทเค็น เอาต์พุตสูงสุดคือ 16,000 โทเค็นต่อคำขอ หากคุณเกินขอบเขตนี้ คำขอจะล้มเหลว อย่าสมมติว่าการแบ่งคำของ OpenAI ตรงกับของเรา ใช้ตัวแบ่งคำของผู้ให้บริการเพื่อความแม่นยำ ข้อผิดพลาดในการนับโทเค็นนำไปสู่ค่าใช้จ่ายหรือความล้มเหลวที่ไม่คาดคิด ควรตรวจสอบจำนวนโทเค็นก่อนส่งพรอมต์ขนาดใหญ่ ซึ่งสำคัญเป็นพิเศษสำหรับแอปพลิเคชันที่ใช้บริบทยาว การนับผิดอาจทำให้เสียเครดิตไปกับคำขอที่ถูกปฏิเสธ
กำลังละเว้นขีดจำกัดการเรียกใช้ฟังก์ชัน
Function Calling ต้องการรูปแบบ JSON เฉพาะ SDK ต้องรองรับ response_format พารามิเตอร์ API ของเรารองรับโหมด JSON สำหรับเอาท์พุตที่มีโครงสร้าง หากคุณเพิกเฉยต่อสิ่งนี้ โมเดลอาจส่งคืน JSON ที่ไม่ถูกต้อง ซึ่งทำให้การแยกวิเคราะห์อัตโนมัติล้มเหลว ควรทดสอบการเรียกใช้ฟังก์ชันด้วยสคีมาง่ายๆ ก่อนเสมอ ตรวจสอบให้แน่ใจไคลเอนต์ของคุณจัดการตัวเลือกเครื่องมือได้อย่างถูกต้อง การเรียกใช้ฟังก์ชันไม่รองรับในโมเดลทั้งหมด ตรวจสอบเอกสารสำหรับฟีเจอร์ที่รองรับ การเพิกเฉยต่อขีดจำกัดเหล่านี้นำไปสู่การทำงานอัตโนมัติที่ไม่น่าเชื่อถือ ตรวจสอบรูปแบบเอาท์พุตให้ตรงกับความคาดหวังของคุณ
ความล่าช้าในการเติมเงินด้วยคริปโต
การชำระเงินด้วยคริปโตอาจใช้เวลาในการยืนยัน เรารับ USDT (TRC20) และ USDC (Base) รองรับชำระเงินตั้งแต่ $20 ถึง $500 เครดิตโบนัสใช้ได้ที่ $50, $100 และ $200 ความล่าช้าเกิดจากการแออัดของบล็อกเชน ตรวจสอบแฮชการทำธุรกรรมเพื่อดูสถานะ ระบบของเราจะเติมเครดิตเข้าบัญชีของคุณหลังจากยืนยันแล้ว ซึ่งโดยปกติใช้เวลาไม่กี่นาที ในช่วงที่มีการจราจรหนาแน่น อาจใช้เวลานานขึ้น ใช้บล็อกเชนเอ็กซ์พลอเรอร์ที่เชื่อถือได้ อย่าส่งการทำธุรกรรมเดียวกันซ้ำ ซึ่งจะทำให้เกิดเครดิตซ้ำหรือข้อผิดพลาด วางแผนการเติมเงินล่วงหน้าเพื่อรับบริการอย่างต่อเนื่อง
การหมดอายุของเครดิตทดลองใช้
เครดิตทดลองใช้หมดอายุหลังจาก 7 วัน บัญชีใหม่ได้รับ $0.50 ช่วยให้คุณทดสอบได้โดยไม่ต้องผูกมัด อย่างไรก็ตาม ช่วงเวลาสั้นๆ จำกัดการทดสอบที่กว้างขวาง ใช้เครดิตเพื่อตรวจสอบความเข้ากันได้ ตรวจสอบ base URL, model ID และการสตรีม หากใช้งานได้ ให้เติมเงินด้วยคริปโต เครดิตทดลองใช้ไม่สามารถขอคืนได้ เหมาะสำหรับการตรวจสอบอย่างรวดเร็ว อย่าพึ่งพาสำหรับโครงการระยะยาว การหมดอายุเป็นไปอย่างเคร่งครัด วางแผนตารางการทดสอบของคุณ accordingly เพื่อให้แน่ใจว่าคุณไม่ได้เสียเวลาในช่วงเครดิตทดลอง
