Антиспам с ИИ, который удаляет 99% спама

Как спасли от спама Telegram-чаты сервиса по иммиграции и сэкономили 500+ часов модерации

За полгода мы выявили и заблокировали более 15 тысяч спам-сообщений, сэкономив команде сервиса 62 рабочих дня! Но самое главное — сохранили живое общение в чатах, где люди получают действительно важную информацию по теме иммиграции.

Как нам удалось очистить чаты, не ограничивая свободу обсуждений? Наше решение — интеллектуальная система модерации, которая автоматически фильтрует спам и самообучается на новых примерах.

О заказчике

Сервис по поддержке иммигрантов в Германии с 5 тематическими Telegram-каналами (22 000+ пользователей): главный — о жизни в ФРГ, автотематика, иммиграционные вопросы, недвижимость и ипотека, страхование в Германии. У каждого канала есть подключенные чаты, где комментарии писать может любой желающий.

Проблема, которую нам предстояло решить

5 тематических Telegram-каналов сильно атаковал спам:

• Ссылки на сомнительные услуги и предложения
• Реклама финансовых пирамид и лохотронов
• Вбросы фейковых вакансий ("Ищу помощника, плачу 5000€/мес")
• Неуместные комментарии – бессмысленные или шаблонные сообщения от ботов
• Спам в именах пользователей (например, «Анна | Выведу продажи с нуля до 200%»)

Численность подписчиков каналов и чатов постоянно растёт, посты выходят ежедневно, обсуждение — днём и ночью. Ежедневно модераторы тратили 4-5 часов только на ручное удаление спама. За месяц набиралось около 150 часов — почти полный рабочий месяц одного сотрудника! А по-хорошему нужно было обеспечить 24/7 модерацию чата — это уже 3 работника по 8 часов, плюс подмена на выходные!

В общем, команде сервиса приходилось бросать силы на борьбу со спамом вместо развития проекта и помощи реальным и потенциальным клиентам.

Почему мы просто не взяли готового антиспам-бота

Когда клиент впервые обратился к нам с проблемой спама, логичным вопросом было: «Почему бы не взять готового антиспам-бота из каталога Telegram?». После глубокого анализа мы обнаружили 5 ключевых проблем сторонних готовых решений:

Вариант решения с закрытыми чатами

Рассматривали и другой вариант решения проблемы — с закрытыми чатами. Но он нам совершенно не подходил.

В миграционной тематике критически важны:

• Оперативность. Люди часто спрашивают об актуальных изменениях в законах, и лишнее ожидание одобрения сообщения только раздражает.
• Доверие. Участники должны видеть живые обсуждения, и хорошо, когда больше подписчиков могут сразу оставить комментарий.
• Взаимопомощь. 70% ценных советов поступают от других иммигрантов, а не модераторов.

Эти каналы — важный источник информации для иммигрантов. Закрытие чатов было бы чревато:

• - Потерей доверия аудитории
• - Ростом недовольства среди клиентов
• - А главное — увеличением нагрузки на поддержку — потребовался бы отдельный модератор, который 24 в сутки проверял бы новых пользователей и комментарии. То есть, проблема, из-за которой всё и завертелось, так бы и оставалась.

Каждый из нескольких тысяч подписчиков может сразу же что-то написать в ответ на свежий пост в канале, если захочет высказаться или задать вопрос по теме. И перед нами стояла задача не нарушить эту выстроенную годами ценную экосистему закрытием чатов. Поэтому пришлось придумать другой способ победить спамеров.

Как мы построили систему борьбы со спамом: детали реализации

Чтобы решить проблему спама раз и навсегда, мы разработали двухэтапную систему модерации, которая не просто фильтрует сообщения, а полностью меняет подход к управлению чатами.

Этап первый: автоматизация рутинной модерации

Мы интегрировали в ERP-систему клиента единую панель управления Telegram-чатами, которая позволяет:

Централизованно настраивать модерацию

• - Добавлять администраторов и модераторов
• - Создавать отдельные чаты для проверки подозрительных сообщений
• - Управлять списком чатов, где работает антиспам-фильтр

Вот как это работает наглядно — реальный пример, когда бот выловил сообщение, переслал в чат модераторов, где решается, спам это или нет:

Вести динамический словарь запрещённых слов и фраз

• - Постоянно пополняемая база спам-триггеров
• - Журнал удалённых сообщений (для анализа и донастройки)

Автоматизировать первичную проверку

Все новые сообщения проверяются на соответствие спам-словарю.

Если находят совпадение — отправляются в модераторский чат на ручное подтверждение.

После одобрения модератором:

• - Пользователь блокируется сразу во всех чатах компании (не нужно заходить в каждый вручную).
• - Все его сообщения удаляются (даже если он писал в нескольких местах).

Так выглядит удобная админка для управления антиспам-сервисом:

Результат за полгода

• 15 000+ спам сообщений удалено
• 15 000+ аккаунтов заблокировано
• 500+ часов работы модераторов сэкономлено

После внедрения нашего решения:

Один клик модератора — и спамер исчезает везде!

При этом неважно, сколько у компании чатов — один или пять.

Технические ограничения, с которыми мы столкнулись

Telegram накладывает строгие лимиты на:

• - Количество автоматических действий за определённый период (банов/удалений)
• - Частоту запросов к API

Наше решение

Мы разработали индивидуальный сервис, который:

• - Распределяет запросы во времени, чтобы не превышать лимиты Telegram
• - Автоматически обрабатывает ошибки (например, повторяет заблокированные запросы)

Этап второй: внедрение искусственного интеллекта для удаления спама

Добившись отличных результатов и сократив количество модераторов, мы решили полностью автоматизировать процесс, внедрив в него ИИ. Теперь искусственный интеллект определяет, является ли сообщение спамом, и модератору больше не нужно нажимать кнопки. Однако если ИИ не уверен, он предлагает модератору принять решение — такое происходит крайне редко: 99,9% спама теперь удаляется без участия человека.

Наглядный пример, как бот автоматически определил спам-сообщение и удаляет его — теперь уже без участия модератора:

Если ИИ сообщение пропустил, а модератор-человек вручную помечает его как спам:

• - Система выделяет новые спам-паттерны (слова, фразы, стиль письма)
• - Автоматически дополняет чёрный список

Также мы научили ИИ-бота распознавать рекламу в именах пользователей и описании профиля, например:

"Анна | Обучу всему что знаю за 1000€/месяц"

Почему наше решение лучше готовых

Созданный нами Telegram-бот находится полностью под контролем заказчика.

Вот как это можно сделать:

Итоговый эффект:

Это не просто «ещё один бот» — это инструмент для тех, кто ценит репутацию и безопасность.