ИИ спотыкается не об ум, а об контекст: как генератор майндмап превратился в RAG по продукту

Коротко

  • Для точных названий к векторному поиску добавили обычный поиск по словам, а с одной страницы разрешено брать не более двух фрагментов.
  • После отказа система сама предлагает альтернативные формулировки запроса и повторяет поиск, но финальный ответ строит по исходному вопросу.
  • В регрессе отдельно проверяются вопросы с известным ответом, вопросы-обманки без ответа в базе и полностью посторонние запросы.
  • Источники опрашиваются последовательно: если ответ найден в вики, регрессионные чек-листы и Трекер уже не вызываются.
  • Автоматического разрешения противоречий и дедупликации пока нет; пользователю показываются ссылки на исходные документы для ручной проверки.

В «Синтеке» попытка автоматизировать подготовку тестовых майндмап выросла в RAG-систему по внутренним знаниям компании. Главная проблема оказалась не в возможностях модели, а в отсутствии у неё контекста о продуктах, ролях, регламентах и прошлых решениях.

В основу системы положили вики, регрессионные чек-листы и закрытые задачи из Яндекс Трекера. Markdown-документы режутся по заголовкам на фрагменты до 2000 символов с нахлёстом 200, превращаются моделью bge-m3 в 1024-мерные эмбеддинги и хранятся в PostgreSQL с pgvector. По запросу система сочетает семантический поиск с поиском по словам, выбирает до пяти фрагментов со схожестью от 0,45 и передаёт найденный контекст в Opus 5.

Чтобы уменьшить галлюцинации, модель обязана отвечать только по найденным данным, а результат дополнительно классифицируется как ответ или отказ. Одного порога схожести недостаточно: в тесте с шестью вопросами без ответа retrieval отсёк только два, но вся система корректно отказалась отвечать на все шесть. Качество проверяется регрессом из обычных, провокационных и посторонних вопросов, где ответы оценивает отдельная модель Claude Sonnet 4.6.

Когда источников стало несколько, параллельный поиск начал давать противоречивый контекст и замедлять ответы, поэтому их выстроили каскадом: сначала вики, затем чек-листы и только потом Трекер. Большинство запросов закрываются за 10–15 секунд уже на уровне вики, а самые сложные случаи с переформулировками и поиском в Трекере занимали две-три минуты. Система пока остаётся бета-решением без дедупликации и автоматического разрешения противоречий, но уже доступна как MCP-сервер с инструментами ask_wiki, ask_checklists и ask_tracker.

Читайте также

  1. Как ЮMoney учит ИИ отвечать на вопросы к базе данных и проверять собственные ошибки
  2. Наглядный пример, зачем нужны AI-агенты
  3. Нейросетями пользуются уже 55% россиян: Алиса AI опережает DeepSeek и GigaChat
  4. Практическое руководство по инжинирингу контекста для AI-ассистентов
  5. Hybrid RAG для бизнеса: умный поиск по документам без облака и утечки данных
Ключевые инсайты из новости (по версии ChatGPT)
  • RAG для внутренних продуктовых знаний: Если LLM знает предметную область, но не понимает внутренние названия, роли и регламенты компании, добавление инструкций в промпт обычно не решает проблему полностью. Практичнее сначала извлекать релевантный корпоративный контекст через RAG и разрешать модели отвечать только на основании найденных данных.
    [AI / RAG]
Для получения полного доступа оформите подписку PubMag PRO.
Зарегистрированные пользователи видят только два тезиса.
Зарегистрироваться
Инсайты автоматически генерируются с помощью искусственного интеллекта на основе текста статьи.
← Назад в лентуЧитать оригинал →
✈️ Подписывайтесь на мой Telegram-канал — там еще больше интересного про AdTech, MarTech, AI и многое другое!