наблюдаемость

Трейсы · стоимость · качество · guardrails

Langfuse · self-hosted · хранение трейсов 30 дней · период: 7 дней

1 284

запросов / сутки

▲ 23% нед/нед

3.8 с

латентность p95

▼ 0.6 с после курса retrieval

61%

обращений закрыто без HR

▲ deflection, цель 65%

4.2 ₽

стоимость запроса

▼ 18% за счёт роутинга на Lite

4.6 / 5

оценка ответов

9 214 оценок

Трейс запроса

каждый шаг агента — отдельный spantrace a1f4-9c · 04.07 · 10:43:12

«Оформи отпуск 10–21 августа и предупреди Дмитрия»user: a.klepikov

00.7 с1.5 с2.2 с2.9 с

guardrails · вход

8 мс

router · GigaChat Lite

140 мс

retrieval · hybrid

210 мс

qdrant dense · top-20

120 мс

bm25 + rerank · top-6

90 мс

tool · draft_vacation_request

90 мс

tool · resolve_approver

110 мс

generate · GigaChat Max

2 340 мс

guardrails · выход

12 мс

токены: 1 250 out · 3 480 in · стоимость: 5.1 ₽итого: 2.91 с · статус: OK · подтверждено пользователем

Маршрутизация и токены

7 дней

GigaChat Maxгенерация, действия

58%

GigaChat Liteроутер, простые FAQ

35%

Eval-контурофлайн, синтетика

ПнВтСрЧтПтСбВс

входные токенывыходныеΣ 41.2M за неделю

Качество ответов

ночной eval · 400 вопросов

Faithfulness

0.94

Answer relevancy

0.93

Context precision

0.91

Context recall

0.88

12 регрессий выявлено на прошлой неделе — 0 после промпта v18. Каждый релиз промпта проходит eval-гейт до выкатки.

Guardrails · 7 дней

ПДн замаскированы в контексте

СНИЛС, паспорта, счета — редактируются до отправки в модель

214

Промпт-инъекции заблокированы

в т.ч. в загруженном DOCX: ignore previous instructions…

Действия с подтверждением человека

0 действий выполнено без явного подтверждения

100%

Инциденты и отказоустойчивость

30 июня · 02:14–02:19 · GigaChat API 429

Rate-limit основной модели ночью. Gateway перевёл трафик на GigaChat Lite по политике деградации. Потеряно запросов: 0. Алерт в Telegram-канал дежурного за 40 секунд.

SLO за 30 дней

Доступность ответа 99.7% · ошибка пайплайна индексации 0.6% · среднее время восстановления 4 мин.

стек: Langfuse · Qdrant · LiteLLM gateway · GigaChat APIданные синтетические · корпус «СберСинтез»обновлено: 04.07.2026 14:07