На Хабре представлен pet-проект Telegram AI Companion — Telegram-бот на Rust, работающий с локальной языковой моделью через LocalAI. Решение полностью автономное: работает без OpenAI и облачных сервисов, разворачивается на собственном сервере или ПК. Цель — образовательный опыт для разработчиков: освоение Rust, асинхронности, Docker, Telegram API и интеграции с LLM-моделями.

• Бот принимает сообщения в Telegram, пересылает их в локальную LLM (например, Mistral 7B через LocalAI) и возвращает ответ пользователю.
• В основе стек: Rust (Actix Web), Docker, LocalAI с поддержкой моделей GGUF/LLaMa, REST API для подключения внешних UI.
• Проект открыт на GitHub, поддерживает быстрый старт (docker-compose), настраивается через .env, умеет работать с любыми LLM (локальными или OpenAI), поддерживает API-режим (без Telegram).
• Фокус — развитие навыков работы с современными LLM и самостоятельная разработка простых AI-компаньонов для Telegram.
• Планы: память диалогов, мульти-модельная поддержка, веб-интерфейс.