Учим LM Studio ходить в интернет при ответах на вопросы

Автор показывает, как добавить «походы в интернет» для локально запущенных моделей в LM Studio без потери приватности, используя Model Context Protocol (MCP). Базовая проблема: LM Studio не умеет работать с вебом из коробки. Решение — связка собственного MCP-сервера для парсинга страниц и готового сервера Brave Search для поиска.

Шаг 1: создаётся минимальный FastMCP-сервер на Python (url-text-fetcher), который предоставляет две утилиты: fetch_url_text(url) (скачивает и чистит текст через BeautifulSoup) и fetch_page_links(url) (возвращает все ссылки с страницы). Проект оформляется через pyproject.toml, ставится локально (pip install -e .) и подключается в mcp.json. В интерфейсе LM Studio сервер активируется через раздел Integrations.

Шаг 2: подключается готовый MCP-сервер Brave Search на Node.js (@modelcontextprotocol/server-brave-search) через npx, с передачей BRAVE_API_KEY. Бесплатный ключ даёт до 2000 запросов в месяц и 1 запрос в секунду. Оба сервера («mcp/url-text-fetcher» и «mcp/brave-search») становятся доступными в нижней панели чата LM Studio.

  • Эффект: локальные модели получают актуальные данные из веба (поиск → загрузка → извлечение текста/ссылок), при этом логи не уходят в облако.
  • Практика: держать конфигурацию в mcp.json, версионировать сервер как пакет, учитывать лимиты Brave и добавить обработку ошибок/санитизацию URL.
Ключевые инсайты из новости (по версии ChatGPT)
  • LM Studio + MCP: локальный доступ к вебу для LLM без утечки данных: LM Studio поддерживает подключение MCP-серверов, которые дают моделям инструменты (поиск, парсинг) при полностью локальном инференсе. Это позволяет получать актуальные веб-данные без отправки диалогов и контента в облако, что важно для приватности и комплаенса.
    [Инструмент]
Для получения полного доступа оформите подписку PubMag PRO.
Зарегистрированные пользователи видят только два тезиса.
Зарегистрироваться
Инсайты автоматически генерируются с помощью искусственного интеллекта на основе текста статьи.
← Назад в лентуЧитать оригинал →
✈️ Подписывайтесь на мой Telegram-канал — там еще больше интересного про AdTech, MarTech, AI и многое другое!