Por qué importa tu URL base
La URL base es el punto de falla más común al cambiar de proveedor. La mayoría de los SDK de OpenAI vienen configurados por defecto con https://api.openai.com. Si cambias la clave de API pero olvidas actualizar la URL base, tus solicitudes irán al servidor incorrecto. Esto resulta en errores de autenticación o disponibilidad de modelo inesperada. Revisa siempre la documentación del proveedor para el punto final exacto. Por ejemplo, una API sin censura integrada podría usar https://api.apirouteropen.com/v1. Cambiar solo la URL base y la clave te permite mantener tu código existente. Esto asegura compatibilidad con bibliotecas como LangChain o LlamaIndex. Verifica la URL antes de escalar tu uso.
La Falsa Idea del ID del Modelo
Los desarrolladores suelen asumir que el ID del modelo corresponde al nombre de un proveedor como gpt-4 o claude-3. En realidad, el ID del modelo es una clave de enrutamiento específica definida por la pasarela. Para nuestro servicio sin censura, el ID es simplemente uncensored. Enviando gpt-3.5-turbo puede fallar o devolver un modelo diferente si el gateway no lo mapea. Usa siempre el ID exacto proporcionado en la documentación. Esto se aplica a todos los proxies LLM. Comprueba el GET /v1/models endpoint para ver las opciones disponibles. Identificar incorrectamente el ID del modelo provoca fallos inmediatos en la solicitud. No es un producto de un proveedor, sino un parámetro de configuración.
Sorpresa con los Límites de Tasa
Los límites de velocidad suelen ser por clave de API, no por cuenta. Si usas una sola clave para múltiples procesos, podrías alcanzar el límite rápidamente. Nuestra API permite 300 solicitudes por minuto y 8 solicitudes concurrentes por clave. Exceder estos límites devuelve un error 429. Esto es crítico para aplicaciones de alto volumen. Usa claves separadas para diferentes servicios para evitar interferencias. Monitorea tu uso a través del panel. Los límites de velocidad protegen la estabilidad del servidor pero pueden interrumpir los flujos de trabajo automatizados. Planifica tu concurrencia cuidadosamente. Reemplazar una sola clave invalida la clave antigua inmediatamente. Esto evita el uso concurrente de la misma clave.
Confusión entre Streaming y No Streaming
Las respuestas en streaming requieren un manejo específico del cliente. El SDK debe configurarse para manejar eventos enviados por el servidor (SSE). Si usas un cliente que no admite streaming, esperarás a toda la respuesta. Esto aumenta la latencia para salidas largas. Nuestra API admite streaming con uso de tokens en el último fragmento. Esto permite la visualización en tiempo real del texto. El modo no streaming es mejor para el procesamiento por lotes. Elige el modo según tu caso de uso. Un manejo incorrecto puede provocar conexiones colgadas. Prueba siempre el streaming con una muestra pequeña primero. Asegúrate de que tu cliente admita SSE para un rendimiento óptimo.
Errores de Conteo de Tokens
El conteo de tokens varía entre proveedores. Algunos cuentan los espacios en blanco, otros no. Nuestra API cuenta los tokens de prompt y de completado juntos. La ventana de contexto es de 100,000 tokens. La salida máxima es de 16,000 tokens por solicitud. Si excedes este límite, la solicitud fallará. No asumas que la tokenización de OpenAI coincide con la nuestra. Utiliza el tokenizador del proveedor para mayor precisión. Los errores en el conteo de tokens generan cargos o fallos inesperados. Verifica siempre los conteos de tokens antes de enviar prompts grandes. Esto es especialmente importante para aplicaciones de contexto largo. Un conteo erróneo puede desperdiciar saldo en solicitudes rechazadas.
Ignorando límites de llamadas de funciones
La llamada de funciones requiere un formato JSON específico. El SDK debe admitir el response_format parámetro. Nuestra API admite el modo JSON para salidas estructuradas. Si ignoras esto, el modelo podría devolver JSON inválido. Esto rompe el análisis automatizado. Prueba siempre la llamada de funciones con un esquema simple primero. Asegúrate de que tu cliente gestione correctamente las elecciones de herramientas. La llamada de funciones no está soportada en todos los modelos. Consulta la documentación para ver las funciones soportadas. Ignorar estos límites conduce a automatización poco fiable. Verifica que el formato de salida coincida con tus expectativas.
Retardos en recargas con criptomonedas
Los pagos con criptomonedas pueden tardar en confirmarse. Aceptamos USDT (TRC20) y USDC (Base). Se admiten pagos desde $20 hasta $500. El crédito bonificado aplica en $50, $100 y $200. Los retrasos se deben a la congestión de la blockchain. Consulta el hash de la transacción para ver el estado. Nuestro sistema acredita tu cuenta tras la confirmación. Esto suele tardar unos minutos. Durante picos de tráfico, puede tardar más. Usa un explorador de blockchain fiable. No reenvíes la misma transacción. Esto causa créditos duplicados o errores. Planifica tus recargas con antelación para un servicio ininterrumpido.
Expiración del crédito de prueba
Los créditos de prueba vencen después de 7 días. Las cuentas nuevas reciben $0.50. Esto permite probar sin compromiso. Sin embargo, el breve plazo limita las pruebas extensas. Usa la prueba para verificar la compatibilidad. Comprueba la URL base, el ID del modelo y el streaming. Si funciona, recarga con criptomonedas. Los créditos de prueba no son reembolsables. Son ideales para una validación rápida. No confíes en ellos para proyectos a largo plazo. El vencimiento es estricto. Planifica tu calendario de pruebas en consecuencia. Esto asegura que no pierdas tiempo durante el período de prueba.