• Проектирование: сначала описываются цели и ограничения (железо, безопасность, ресурсы, сроки), и только затем переход к реализации.
• Связь метрик и поведения: приводятся примеры, как выбранная метрика (CTR, конверсия, time-to-first-value, лайки/дизлайки) влияет на длину диалога и глубину уточнений.
• Безопасность и данные: при жёстких требованиях упоминается внутренний сервинг (vLLM, SGLang); при работе с внешней LLM — маскирование персональных данных и пайплайн на регулярках; без ограничений — единая точка входа через OpenRouter.
• Нефункциональные требования: на примере задержки ответа рассматриваются режимы «до 1 минуты», «до 10 секунд» и «до 1 секунды» и компромисс между сложностью пайплайна и скоростью.
• Инструменты: перечислены LangChain (один агент), LangGraph (взаимодействие агентов), LiteLLM (LLM Gateway), LangSmith/Opik (трейсинг), G-eval (оценка), Chainlit (интерфейс), LLAMATOR (security-тесты).

Почему это важно: Материал показывает, что внедрение агентных систем упирается не только в выбор фреймворка, но и в наблюдаемость и оценку качества. В продакшене это превращается в набор инженерных компромиссов между скоростью, стоимостью и управляемостью поведения. Отдельно поднимаются темы комплаенса по персональным данным и внутреннего сервинга.

На что обратить внимание: В тексте много развилок, которые зависят от исходных требований: какая метрика считается успехом, какие допустимы данные, насколько ограничены вычислительные ресурсы и какая целевая задержка ответа. Отдельно описана потребность в контроле поведения (лимиты, ретраи, fallback-логика) и в инструментах, которые позволяют разбирать причины задержек и ошибок. В проектах с жёсткими ограничениями чаще всплывает вопрос утечек и маскирования текста при обращении к внешним моделям.