AI Kit

Маршрутизация AI-запросов через OpenAI, Anthropic, Google, Groq, Together AI и Ollama одним эндпоинтом. При сбое провайдера шлюз автоматически переключается на следующий в цепочке. Встроенные повторы, кеширование ответов и стриминг — ваши пользователи не увидят простоев.

Ваши пользователи могут создавать, организовывать и версионировать шаблоны промптов с переменными. Каждая правка создаёт новую версию с возможностью отката. Папки, теги, параметры модели на версию и импорт/экспорт между окружениями — dev → staging → production.

Создание AI-агентов, которые вызывают внешние инструменты. Регистрация встроенных JavaScript-функций, webhook-эндпоинтов или кастомного кода как инструментов. Комбинация модели, системного промпта и набора инструментов в переиспользуемых агентов для многоэтапных задач.

Автоматическая защита AI-пайплайна. Обнаружение PII, чёрные списки контента, regex-паттерны и ограничения длины работают в пайплайне шлюза на каждом запросе. Тестирование правил на примерах перед деплоем в продакшн.

Каждый AI-запрос логируется с количеством токенов, стоимостью, моделью и задержкой. Установка дневных или месячных бюджетов по организациям — шлюз отклоняет запросы при превышении. Дашборды показывают расходы по моделям, агрегированные по периодам, с поиском по логу запросов.

Обработка сотен AI-запросов за раз. Загрузка пакета CSV или JSON, система выполняет их асинхронно через фоновые задачи. Мониторинг прогресса в реальном времени, отмена запущенных задач и скачивание результатов.

Встроенная среда тестирования, где пользователи могут экспериментировать с моделями, промптами и инструментами. Создание сессий, сравнение ответов разных моделей бок о бок и обмен сессиями с коллегами через токены.

Заменяет базовый AI-чат Codapult полнофункциональным интерфейсом. Вызовы инструментов и результаты отображаются инлайн, каждое сообщение показывает количество токенов и стоимость, пользователи выбирают агента для общения, а история разговоров полностью доступна для поиска.