Почему важна ваша базовая URL-адрес
Базовый URL — самая частая точка отказа при смене провайдера. Большинство SDK OpenAI по умолчанию используют https://api.openai.com. Если вы измените API-ключ, но забудете обновить базовый URL, ваши запросы пойдут не на тот сервер. Это приводит к ошибкам аутентификации или неожиданной доступности модели. Всегда проверяйте документацию провайдера на предмет точного эндпоинта. Например, готовая к использованию API без цензуры может использовать https://api.apirouteropen.com/v1. Изменение только базового URL и ключа позволяет сохранить существующий код. Это обеспечивает совместимость с библиотеками вроде LangChain или LlamaIndex. Проверьте URL перед масштабированием использования.
Миф об идентификаторе модели
Разработчики часто полагают, что идентификатор модели соответствует имени вендора, например gpt-4 или claude-3. На самом деле, идентификатор модели — это конкретный ключ маршрутизации, определённый шлюзом. Для нашего сервиса без цензуры ID — это просто uncensored. Отправляя gpt-3.5-turbo Может не сработать или вернуть другую модель, если шлюз не отображает ее. Всегда используйте точный идентификатор, указанный в документации. Это относится ко всем прокси LLM. Проверьте GET /v1/models эндпоинт для просмотра доступных опций. Ошибка в определении идентификатора модели приводит к немедленному отказу в запросе. Это не продукт вендора, а параметр конфигурации.
Неожиданные ограничения лимитов
Лимиты запросов часто применяются к API-ключу, а не к аккаунту. Если вы используете один ключ для нескольких процессов, вы можете быстро достичь лимита. Наш API разрешает 300 запросов в минуту и 8 одновременных запросов на ключ. Превышение этих лимитов возвращает ошибку 429. Это критично для приложений с высоким объемом трафика. Используйте отдельные ключи для разных сервисов, чтобы избежать помех. Мониторьте свое использование через панель управления. Лимиты защищают стабильность серверов, но могут нарушить автоматизированные рабочие процессы. Тщательно планируйте параллелизм. Замена одного ключа немедленно инвалидирует старый ключ. Это предотвращает одновременное использование одного и того же ключа.
Непонимание потоковой и непотоковой передачи
Потоковые ответы требуют специфической обработки на стороне клиента. SDK должен быть настроен на обработку событий, отправляемых сервером (SSE). Если вы используете клиент без поддержки потоковой передачи, вы будете ждать весь ответ целиком. Это увеличивает задержку для длинных выводов. Наш API поддерживает потоковую передачу с использованием токенов в последнем фрагменте. Это позволяет отображать текст в реальном времени. Потоковая передача не подходит для пакетной обработки. Выберите режим в зависимости от вашего сценария. Неправильная обработка может привести к зависанию соединений. Всегда тестируйте потоковую передачу на небольшом образце. Убедитесь, что ваш клиент поддерживает SSE для оптимальной производительности.
Ошибки подсчета токенов
Подсчёт токенов варьируется между провайдерами. Некоторые считают пробелы, другие — нет. Наш API считает токены промпта и завершения вместе. Размер контекстного окна — 100,000 токенов. Максимальный вывод — 16,000 токенов на запрос. Если вы превысите этот лимит, запрос завершится ошибкой. Не предполагайте, что токенизация OpenAI совпадает с нашей. Используйте токенизатор провайдера для точности. Ошибки подсчёта токенов приводят к неожиданным расходам или сбоям. Всегда проверяйте количество токенов перед отправкой больших промптов. Это особенно важно для приложений с длинным контекстом. Ошибки в подсчёте могут привести к потере кредита на отклонённые запросы.
Игнорирование ограничений вызова функций
Вызов функций требует специфического форматирования JSON. SDK должен поддерживать response_format параметр. Наш API поддерживает режим JSON для структурированных выводов. Если вы проигнорируете это, модель может вернуть некорректный JSON. Это нарушит автоматический парсинг. Всегда тестируйте вызов функций с простой схемой сначала. Убедитесь, что ваш клиент правильно обрабатывает выбор инструментов. Вызов функций поддерживается не во всех моделях. Проверьте документацию на наличие поддерживаемых функций. Игнорирование этих ограничений приводит к ненадежной автоматизации. Проверьте, соответствует ли формат вывода вашим ожиданиям.
Задержки при пополнении криптой
Криптовалютные платежи могут занимать время на подтверждение. Мы принимаем USDT (TRC20) и USDC (Base). Поддерживаются платежи от $20 до $500. Бонусный кредит применяется при суммах $50, $100 и $200. Задержки возникают из-за перегрузки блокчейна. Проверьте хеш транзакции для статуса. Наша система зачисляет кредит на ваш счет после подтверждения. Обычно это занимает несколько минут. В периоды высокой нагрузки это может занять больше времени. Используйте надежный блокчейн-эксплорер. Не отправляйте одну и ту же транзакцию повторно. Это приводит к дублированию кредитов или ошибкам. Планируйте пополнения заранее для бесперебойного сервиса.
Истечение срока пробного кредита
Пробные кредиты истекают через 7 дней. Новые аккаунты получают $0.50. Это позволяет тестировать без обязательств. Однако короткий срок ограничивает всестороннее тестирование. Используйте пробный период для проверки совместимости. Проверьте базовый URL, ID модели и потоковую передачу. Если все работает, пополните счет криптовалютой. Пробные кредиты не подлежат возврату. Они идеальны для быстрой проверки. Не полагайтесь на них для долгосрочных проектов. Истечение срока строгое. Планируйте график тестирования accordingly. Это гарантирует, что вы не потратите зря время в период пробного кредита.
