Лучшие практики

Эти рекомендации помогают держать под контролем стоимость, скорость и надёжность при работе с API codexkey.

Выбирайте подходящую модель

Подбирайте модель под сложность задачи:

Для простых задач меньшая модель заметно снижает и стоимость, и задержку.

Используйте кэширование промптов

Когда один и тот же системный промпт уходит во многих запросах, включите кэширование: оно удешевляет входные токены.

Пометьте блок системного сообщения полем cache_control:

{
  "system": [
    {
      "type": "text",
      "text": "You are a helpful coding assistant...",
      "cache_control": { "type": "ephemeral" }
    }
  ]
}

Устанавливайте подходящий max_tokens

Ставьте max_tokens на минимально необходимое значение:

• Короткие ответы: 256–512
• Генерация кода: 2048–4096
• Длинный контент: 4096–8192

Меньшие значения снижают стоимость и порой уменьшают задержку.

Используйте стриминг для ответов в реальном времени

Включите стриминг: токены приходят по мере генерации, и ответ кажется пользователю быстрее:

curl https://api.codexkey.ru/v1/messages \
  -H "Content-Type: application/json" \
  -H "x-api-key: sk_cdx_YOUR_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-sonnet-5",
    "max_tokens": 1024,
    "stream": true,
    "messages": [
      {"role": "user", "content": "Hello!"}
    ]
  }'

Разделяйте ключи по окружениям

Заведите по ключу на каждое окружение: так расход не смешивается, а отладка проще:

• Продакшн: именованный ключ с подходящим каналом и сроком действия
• Разработка: отдельный ключ, чтобы учитывать тестовый расход
• CI/CD: выделенный ключ для автотестов

Так проще следить за расходами, менять ключи и отзывать доступ по каждому окружению.

Отслеживайте использование и настройте оповещения

В панели аналитики отслеживайте:

• Потребление токенов по ключам и моделям
• Тренды расходов
• Количество запросов по ключам
• Неожиданные всплески использования

Включите в Настройках оповещения о низком балансе, чтобы узнать о нём до того, как средства закончатся.