Любая цифровизация предполагает использование цифровых каналов связи для коммуникации и передачи информации.

Однако, цифровизации угрожает, элементарно, внедрение ML/AI и автоматических алгоритмов для определения спама и блокировке таких сообщений.

ML и AI принимает решение о спаме в электронной почте
ML и AI принимает решение о спаме в электронной почте
Автоматические алгоритмы принимают решения о спам-звонках и нежелательных СМС
Автоматические алгоритмы принимают решения о спам-звонках и нежелательных СМС

Слабые модели ML/AI и упрощенные алгоритмы наносят серьезный удар по цифровизации. Под автоматическую блокировку спама попадают важные email и SMS-уведомления:

  • Получатели выбирают получать уведомления по электронной почте или в SMS.

  • Отправители обеспечивают отправку таких уведомлений по каналам связи.

  • Антиспам-боты ставят крест на коммуникациях и блокируют сообщения.

  • Реальные спамеры все равно находят способы обхода антиспама.

Пример:

  1. Для минимизации спама при отправке, все EMAIL имеют уникальную тему, текст и вложение. Однако, антиспам-система все равно считает их спамом и блокирует отправку. Только потому, что письма чем-то похожи, но они разные и важно получить каждое письмо.

    Если раньше письмо хотя бы можно было найти в папке "Спам", то теперь автоматически блокируется почтовый ящик отправителя. Коммуникации нарушаются

Не спам-письма по решению ML/AI автоматически блокируются для отправки
Не спам-письма по решению ML/AI автоматически блокируются для отправки
  1. Тоже самое происходит с SMS, которые через раз блокирутся с подозрением на спам. Только потому, что машина делает ежедневно несколько рейсов.

    Да, тексты могут быть похожими, но они разные и важно получить каждое СМС вовремя. Коммуникации нарушаются

Не спам-СМС по решению автоматических алгоритмов блокируются для отправки
Не спам-СМС по решению автоматических алгоритмов блокируются для отправки

Техподдержка разводит руками, ссылаясь на автоматические алгоритмы и машинной обучение. Неконтролируемые и неуправляемые ML/AI - это опасные системы.

Электронная почта и СМС, как средство коммуникации, не гарантируют отправку и доставку таких сообщений, даже когда эта информация нужна получателю.

Задачей цифровизации становится борьба с антиспам-системами, которые угрожают цифровизации. Раньше были бюрократические преграды, а теперь - цифровые, машинно-обученные.

Что делать? Как бороться с антиспам-системами?

Комментарии (17)


  1. CrazyElf
    08.11.2023 11:55

    Ну вообще-то спам-фильтры непрерывно совершенствуются. В том числе с помощью пользователей, когда вы заходите в папку Спам и отмечаете какие-то письма там как не-спам. И наоборот отмечаете спамом то, что просочилось в обычную почту. Да, фильтры не 100% работают, но с довольно большой всё-таки точностью. Опять же, при обучении моделей можно выбирать разный порог отсечения, решая, что вам важнее - чтобы никакой спам не просочился, или чтобы наоборот никакое нормальное письмо не попало в спам. Там много разных тонкостей и настроек.


    1. E_BEREZIN Автор
      08.11.2023 11:55
      +1

      спам-фильтры непрерывно совершенствуются.

      Это приводит к тому, что блокируются важные email и SMS, а спамеры все равно находят способы обхода блокировок. Email и SMS даже не доходят до получателя, чтобы извлечь из папки "Спам". Это проблема для сторон, которые хотят обмениваться письмами и смсками.


  1. MAXH0
    08.11.2023 11:55

    Все подсели на внешние сервисы, а теперь зависят от их алгоритмов? Т.е. то что коммерческая информация идет по открытым каналам вас не волнует, но то что это помечено как спам - обеспокоило. Причём вы-то не одни такие. Большинство СЛИШКОМ доверяют внешним сервисам.


    1. E_BEREZIN Автор
      08.11.2023 11:55
      +1

      Все подсели на внешние сервисы, а теперь зависят от их алгоритмов?

      Email и SMS уведомления - это распространенные каналы передачи информации между сторонами. Наличие своего почтового сервера или своего оператора сотовой связи также не гарантирует доставку информации получателям. Также мы не можем проложить интренет-кабели к каждому своему контрагенту, чтобы организовать "приватный" канал передачи данных.

      Беспокоит, скорее то, что нет понимания точных "правил", чтобы отправители и получатели гарантировано обменивались информацией, а не блокировались слабо или плохо обученными алгоритмами антиспам-систем.


      1. MAXH0
        08.11.2023 11:55

        Е-майл и СМС не предназначены для ГАРАНТИРОВАННОЙ доставки. Но я думаю приватный канал гарантирующий доставку, например через Push-уведомления в приложении, можно создать не прокладывая кабель каждому клиенту. По крайней мере если у клиентов нет проблем со связью. Если есть, то тогда и СМС не надежны.


        1. E_BEREZIN Автор
          08.11.2023 11:55
          +1

          Push-уведомления и уведомления в Telegram есть. Однако, пользователи сами выбирают, где им удобнее получать информацию - и не могут получить из-за необоснованных блокировок антиспамом.

          Другая сторона вопроса в том, что email-переписку мы считаем юридически значимой, а судебная практика принимает переписку по электронной почте, в случае разногласий.


        1. Zenitchik
          08.11.2023 11:55

          Вы смотрите push-уведомления? Я их закрываю не читая, и очень жалею, что нельзя полностью отключить на устройстве поддержку этой мерзости.


          1. E_BEREZIN Автор
            08.11.2023 11:55

            У нас они настраиваемые и отключаемые. Если те, кто не против push-уведомлений, например, при работе с личным кабинетом в браузере за ПК.


            1. Zenitchik
              08.11.2023 11:55

              Я так и не нашёл, где их можно глобально отключить. Наверно, я тупой.
              Отказываться при запросе от каждого сайта (на ПК) и отключать индивидуально для каждого приложения (на мобилке) - задолбало.


        1. freeExec
          08.11.2023 11:55

          Она должна быть гарантированное, если есть технический канал связи и тут нет проблем.


  1. lair
    08.11.2023 11:55

    ...а зачем вы приравниваете какую-то там "цифровизацию" и емейл/смс уведомления?

    Но вообще я просто не вижу описанной вами проблемы - я имею привычку проглядывать спам, и что-то полезное туда попадает исключительно редко. А вот нежелательной почты, от которой я не могу отписаться, я вижу больше, чем мне бы хотелось.


    1. E_BEREZIN Автор
      08.11.2023 11:55

      Связь цифровизации с каналами передачи информации написал в первом предложении.

      В данном случае, блокируется отправка писем и СМС, т.е. из нельзя найти в спаме, даже если очень нужно.

      Также, это не массовые рассылки или рекламные, а сервисные уведомления, которые нужны в первую очередь, получателю.


      1. lair
        08.11.2023 11:55

        Связь цифровизации с каналамит передачи информации написал в первом предложении.

        И почему вы ограничиваете эти каналы СМС (которые вообще устарели) и публичным емейлом?

        В данном случае, блокируется отправка писем и СМС, т.е. из нельзя найти в спаме, даже если очень нужно.

        Если у вас блокируется отправка, разбирайтесь с вашим провайдером, проблема на его стороне.

        Также, это не массовые рассылки или рекламные, а сервисные уведомления, которые нужны в первую очередь, получателю.

        Вот я и говорю: я получаю сервисные уведомления десятками, и не наблюдаю описанной вами проблемы.


        1. E_BEREZIN Автор
          08.11.2023 11:55

          Push-уведомления и уведомления в Telegram есть. Однако, пользователи сами выбирают, где им удобнее получать информацию.

          Провайдер разводит руками, ссылаясь на машинное обучение и автоматические алгоритмы, т.е точно не знает, почему произошла блокировка. Неуправляемый процесс, неконтролируемый.

          Мы наблюдаем, примеры привел свежие для наглядности. Если раньше письма могли попасть в спам, то теперь они даже не отправляются из-за блокировок, на мой взгляд, необоснованных.


          1. lair
            08.11.2023 11:55

            Push-уведомления и уведомления в Telegram есть.

            Я не про телеграм, я про, знаете ли, enterprise-grade-почту. Цифровизация - она в первую очередь про предприятия, нет?

            Однако, пользователи сами выбирают, где им удобнее получать информацию.

            Когда пользователь сам выбрал, он сам и принял ответственность за этот выбор.

            Провайдер разводит руками, ссылаясь на машинное обучение и автоматические алгоритмы

            Меняйте провайдера, вот и всё. Дело не в алгоритмах, дело в провайдере, который просто нашел себе удобную отговорку.


            1. E_BEREZIN Автор
              08.11.2023 11:55

              Цифровизация касается всех сфер жизнедеятельности, предприятия - это лишь отдельный сегмент.

              Пользователь выбрал удобный для него канал, но информация не доставляется. Это не про ответственность.

              Кора. почта Яндекс, раньше была Google. Тенденция передавать принятие решений алгоритмам ML, не всегда имеет положительную сторону, а скорее наоборот, слабую управляемость и множество ошибок там, где должно работать стабильно.


              1. lair
                08.11.2023 11:55

                Цифровизация касается всех сфер жизнедеятельности, предприятия - это лишь отдельный сегмент.

                А в других сферах жизнедеятельности есть другие регуляторы, к которым надо обращаться.

                Пользователь выбрал удобный для него канал, но информация не доставляется. Это не про ответственность.

                Да нет, это про ответственность. Если я выбрал удобным мне каналом телефон, но держу его выключенным - кто в этом виноват?

                Кора. почта Яндекс, раньше была Google. Тенденция передавать принятие решений алгоритмам ML, не всегда имеет положительную сторону, а скорее наоборот, слабую управляемость и множество ошибок там, где должно работать стабильно.

                "Меняйте провайдера", как я уже сказал. На тех, с кем вы можете вести нормальный диалог о том, как доставляется ваша почта. Вот это - ваша ответственность.

                Дело не в ML. Почта и до ML не ходила.