В статье подробно описан опыт создания и применения бота-модератора на базе ChatGPT для борьбы со спамом в Telegram-канале с православной тематикой (~4 тыс. участников). Изначально использовался бот на aiogram с фильтрами по ключевым словам, ссылкам, банковским картам и телефонам. Однако из-за разнообразия спама эффективность классического подхода оказалась ограниченной, и автор интегрировал ChatGPT (gpt-4o) через API для классификации сообщений.

Благодаря промптам и обработке в формате JSON, нейросеть эффективно определяет как явный, так и завуалированный спам, включая предложения работы и мошеннические сборы. Всего за 4 месяца бот удалил 555 спам-сообщений, показав точность 98,38% — зафиксировано всего 9 ложных срабатываний. Финальная версия бота использует гибридную архитектуру: сначала эвристики, затем — проверка сложных кейсов через ИИ, что позволяет экономить ресурсы (расходы ~1 доллар в месяц) и минимизировать нагрузку на OpenAI API.

Бот также умеет ограничивать количество сообщений от одного пользователя (через Redis), сравнивать изображения по перцептивному хэшу для отсечения повторных фото-спамов, блокировать голосовые и стикерные сообщения. Описываются специфические виды спама: мошеннические вакансии, сборы на лечение, религиозный и нелегальный контент, а также реклама других ботов. В статье подчеркивается, что гибридный подход с ИИ позволяет поддерживать высокий уровень модерации даже в условиях постоянной эволюции спама.