После многочисленных жалоб от своих потребителей, в Apple решили приостановить программу оценки качества голосового помощника Siri, предполагающую прослушку менее 1% обращений пользователей, сообщает агентство Bloomberg.

«На время тщательной проверки сервиса мы приостанавливаем систему оценки работы Siri по всему миру. Кроме того, будущее обновление для устройств позволит клиентам выбрать, хотят ли они участвовать в такой программе для оценки качества Siri или нет», — говорится в сообщении Apple.

Ранее в Apple утверждали, что эта проверка необходимо, чтобы понять, как работает Siri, уместны ли её ответы, правильно ли она распознаёт команды и так далее.

Объявление от Apple последовало после скандальной публикации в газете The Guardian, в которой были раскрыты пикантные детали от партнеров Apple (а уже они задействовали в этой программе специальных работников, знающих разные языки, в том числе французский и немецкий), что благодаря программе оценки качества голосового помощника Siri, они получают доступ к конфиденциальной информации пользователей, включая медицинскую (даже разговоры пользователя с врачом), их бытовым и даже не всегда законным разговорам.

Тем более, оказалось, что Siri может случайно запускаться и начинать записывать без информирования пользователя и что подобное часто происходит при использовании часов Apple Watch и «умной» колонки Apple HomePod. Даже были случаи, что Siri реагирует на застегивание молнии и может начать запись.

При этом Apple не стала комментировать, означает ли это, что компания больше не хранит голосовые записи пользователей на своих серверах.

Поэтому, отмена оценки работы Siri не означает, что записи голосов пользователей не будут использоваться сейчас и далее.

Что же написано в текущем iOS_Security_Guide на стр.69:





Записи голоса пользователя сохраняются в течение шести месяцев, чтобы система распознавания могла использовать их для лучшего понимания голоса пользователя.

Через шесть месяцев еще одна копия сохраняется без идентификатора для использования Apple при совершенствовании и разработке Siri на срок до двух лет.

Некоторый объем записей, транскриптов и связанных данных без идентификаторов может по-прежнему использоваться Apple для постоянного улучшения и обеспечения качества Siri в течение двух лет.


Так что, на простой вопрос: Siri, are you always listening?

Будет лукавый ответ: I only listen when you’re talking to me.

Apple не единственная компания, голосовой помощник которой оказывается под пристальным наблюдением, разработчиков других голосовых ассистентов ранее также уличали в прослушивании сообщений пользователей без их ведома.

Так, сотрудники Amazon делают это для улучшения работы Alexa, а в Google признали, что подрядчики компании изучают записи пользователей Assistant.

Комментарии (15)


  1. lonelywoolf
    03.08.2019 08:18
    +2

    Не новость, но по хамски сделано. Гугл хотя бы делает вид, что спрашивает разрешения на такие вещи…


  1. tvr
    03.08.2019 09:59
    +15

    Моя жена спросила меня, почему я так тихо разговариваю в доме.
    Я ответил ей, что боюсь, что Марк Цукерберг слушает меня.
    В ответ она засмеялась.
    И я тоже засмеялся.
    И Алиса засмеялась.
    И Сири засмеялась.
    Одна Алекса деликатно промолчала, потому что не поняла что здесь смешного.


    1. sstas
      03.08.2019 14:05
      +4

      Моя жена спросила меня, почему я так тихо разговариваю в доме.
      Я ответил ей, что боюсь, что Марк Цукерберг слушает меня.
      В ответ она засмеялась.
      И я тоже засмеялся.
      И смартфон засмеялся.
      И колонка засмеялась.
      И холодильник засмеялся.
      И кофеварка засмеялась.


      1. saboteur_kiev
        04.08.2019 01:58

        И Цукерберг ухмыльнулся.


  1. Pydeg
    03.08.2019 13:31
    -1

    Не совсем понимаю в чем проблема, если эти данные обезличены. Конечно это не очень приятно и лучше бы этого не было, но такова технология и процессы её разработки, я не могу представить как можно улучшать распознавание и релевантность ответов не анализируя работу такой системы. Большинство людей, видимо, вообще не представляют как эти ассистенты работают. Ждём «разоблачающую» статью про то, что оказывается голосовой ассистент не на телефоне живет, а на серверах компании.


    1. orion76
      03.08.2019 13:56
      +1

      Чтобы они были обезличены, надо еще немного «постараться».
      Вы думаете, стараются?


      1. Pydeg
        03.08.2019 15:40

        Ну к AppleID, судя по всему, они их точно не привязывают, иначе статья была бы гораздо интереснее. А какие конкретно действия вы имеете в виду под "стараются"?


    1. eugene08
      03.08.2019 14:52
      +3

      Не совсем понимаю в чем проблема, если эти данные обезличены

      1. Обманывали, когда говорили что сири реагирует только на 'Hey, Siri'.
      2. Включили запись без фразы вызова и явного согласия.


      1. Pydeg
        03.08.2019 15:16

        Но ведь в принципе невозможно абсолютно точно определять фразу активации, ASR же имеет вероятностный принцип работы. Тем более, если звук распознает слабенькая модель, которая работает на самом смартфоне, ложные срабатывания для этой технологии норма. Эпл при всем желании с этим ничего не может сделать и единственный вариант избежания таких ситуаций это отключения активации по фразе.


  1. ganzmavag
    03.08.2019 16:06
    +1

    «Прослушка для улучшения качества сервиса» — так и вижу, как она фиксирует, когда кто-то ругается во время пользования устройством, и отправляет баг-репорты.


  1. Andrey_Rogovsky
    03.08.2019 17:19

    Надо делать универсальную фразу которая отключает любого робота
    Предлагаю:
    Robot Stop


    По аналогии с robots.txt


    1. Lure_of_Chaos
      03.08.2019 17:56
      +2

      … и в Вашем Умном Доме гаснет электричество...


    1. OneType
      04.08.2019 00:18

      Для этого нужны локальные системы распознавания речи, а не серверные от третьих сторон.


      1. Bonio
        05.08.2019 09:01

        А такие есть?


        1. qw1
          05.08.2019 10:58

          В 90-х на компакт-дисках распространяли Dragon Dictate )))
          Сейчас, думаю, производители систем распознавания речи не заинтересованы предоставлять offline версии, если повсеместно доступна сеть.