Apple в постоянном режиме с помощью специального программного обеспечения проводит автоматический скрининг всего контента, загружаемого в облачный сервис iCloud пользователями. ПО анализирует данные на предмет сексуального насилия над несовершеннолетними. Об этом рассказала Джейн Хорват, старший директор Apple по вопросам конфиденциальности, на выставке CES 2020.

«Apple использует технологию сопоставления изображений, чтобы помочь найти и сообщить о материалах о сексуальном насилии над детьми. Подобно спам-фильтрам в электронной почте наши системы используют электронные подписи для поиска подозрительных изображений. Учетные записи, которые используются для хранения таких фотографий, нарушают наши условия обслуживания и подлежат незамедлительному удалению», — пояснила представитель компании.

Джейн Хорват не уточнила, как именно анализируется облачный контент пользователей в Apple. Многие IT-компании, например, Facebook, Twitter и Google, используют систему PhotoDNA от Microsoft, в которой части анализируемых изображений сравниваются с базой данных ранее идентифицированных изображений.


В самом конце 2019 года Apple внесла изменения в свою политику конфиденциальности, добавив, что может осуществлять предварительный просмотр или сканирование загруженного контента для выявления потенциально незаконного контента, в том числе контента с сексуальным насилием.

Ранее в августе 2019 года Apple приостановила программу оценки качества Siri, в которой речь пользователей прослушивали реальные люди.

Комментарии (117)


  1. lagranzh
    09.01.2020 19:36
    +9

    интересно, как они дата сет для обучения собирали. обычный человек за такую коллекцию фотографий в тюрьму уедет быстро и надолго.


    1. CrazyRoot
      09.01.2020 19:45
      +2

      И как они отличают карликов от детей?

      п.с.
      Хм… не удивлюсь, если в лицензионном соглашении в скором времени, будет приписано «что все что вы делаете с помощью продукции от Аппл является собственностью Аппл...»


      1. me21
        09.01.2020 20:18
        +1

        Самая распространенная причина карликовости — ахондроплазия — приводит к укорочению конечностей при нормальном размере туловища. Другие пропорции тела.


        1. balexa
          09.01.2020 23:10

          Т.е. в теории это исправляется аппаратом Илизарова?


          1. Meklon
            10.01.2020 09:05

            Не по всему скелету. Там и череп деформирован и позвоночник с грудной клеткой


      1. Popadanec
        09.01.2020 21:17

        По крайней мере на некоторых облачных дисках подобное в договоре указано. Или было указано, но их попросили.


        1. kAIST
          09.01.2020 23:00

          Нет, на «собственность» никто на облачных дисках не претендует. Там есть стандартные условия, которые в принципе логичны:
          -Загрузили фотографию, а сервис в веб интерфейсе хочет показать превьюшку. Вот тебе право на переработку (резайс, который делается автоматически).
          -Расшарил ты папку, подавай право на неограниченный показ и пр.


          1. vassabi
            09.01.2020 23:10

            «право на переработку» какбы шире права на «сделать превьюшку» (которое можно делать вообще на клиенте).
            Этак «право на переработку» будет требовать кеш жесткого диска. (А что, он же выборочно части файла может кешировать — вот вам и запрос на «я согласен на Х, не исключая У и предоставление уполномоченным органам по запросу Й»)


          1. Dvlbug
            10.01.2020 09:18

            Скорее всего речь шла про это. А там попытались претендовать


    1. Barbaresk
      09.01.2020 19:55
      +4

      «Доктор, а откуда у вас такие картинки?»


      1. upviqq
        09.01.2020 20:10
        +1

        Только вот этот вопрос будет задаваться вам (хотя чего уж там, даже спрашивать не будут).


  1. IvanBulb
    09.01.2020 20:42
    +3

    думаю они сканируют и классифицируют вообще все)))
    это ж автоматически и за ваши же деньги)))
    собственно как и все остальные)


  1. tmin10
    09.01.2020 20:57

    Всё, теперь родители, фотографирующие своих маленьких голых детей, получат заблокированные аккаунты.


    1. towin
      09.01.2020 21:02

      Наверняка там нейросеть помечает аккаунт и потом люди все просматривают вручную.
      И аккаунт педофила от аккаунта мамочки отличить, я думаю, можно легко.
      И кстати, зачем фотографировать голых детей? Я вот не фотографирую, потому как знаю, что если что-то попало в сеть, это навсегда.


      1. tmin10
        09.01.2020 21:04
        +1

        К сожелению, судя по инстаграмму, не все это понимают.


      1. unwrecker
        09.01.2020 21:36
        +6

        Фотографировать — это не обязательно значит выкладывать в сеть. Есть такие древние технологии из далёких дооблачных времён как хранение на локальном диске или в сетевой папке на домашнем сервере. :)

        Ну и, разумеется, синхронизация галереи в телефоне — это первое что нужно отключить в настройках.


        1. towin
          09.01.2020 21:48
          +1

          Поэтому я совершенно не удивлюсь, если Windows 10 или антивирус Касперского сканирует локальные файлы на предмет известных контрольных сумм, а также распознает сюжеты на еще неизвестных файлах.
          Но голых детей, своих или чужих, фотографировать все равно не нужно. Зачем?


          1. Goodkat
            09.01.2020 22:33
            +4

            А почему? Чувства верующих оскорбляются?


          1. mSnus
            09.01.2020 23:13
            +4

            Потому что они забавные, и у нормального человека дети не вызывают сексуального желания, ни голые, ни одетые. Тем более — свои дети. А фотографировать своих детей, пока они бегают голышом, совершенно нормально.


            1. towin
              10.01.2020 09:37

              До какого возраста можно фотографировать свою голую дочь? Допустим в 0 лет — можно, а в 7 наверное уже нельзя. Как определить этот возраст?
              А может лучше вообще НЕ фотографировать в голом виде?
              Вот у меня есть дочь. В голом виде она бывает только когда меняем памперс или купаемся. У нас тысячи разных её видео (не в сети!), но мы ни разу не фотографировали или снимали видео когда она без штанов (кроме первого плавания в 3 месяца). Во-первых, не считаю это забавным. Во-вторых, даже если фотки никуда не отправлять, они все равно могут попасть в сеть. Хакеры взломают, Windows 15 начнет все сливать без разбора, ноутбук украдут…

              И вы спросите себя, а захочет ли этого сама дочь, чтобы её фотографии в голом виде были в сети (ведь что в сеть попало, оно там остается навсегда)? А что если она станет влиятельным человеком? Как, например, Ангела Меркель, снимки которой в головом виде из молодости есть в интернете.
              Это цифровая гигиена. К тому же, стоит осознавать текущую реальность. habr.com/ru/news/t/483338/#comment_21108854
              Вами могут как минимум заинтересоваться и серьезно с вами поговорить. А в этой стране могут и дело белыми нитками вам начать шить, по созданию детской порнографии. Если уже за репост и лайк садят легко, то тут то все гораздо серьезнее.


              1. DS28
                10.01.2020 09:46
                +2

                А что если она станет влиятельным человеком? Как, например, Ангела Меркель, снимки которой в головом виде из молодости есть в интернете.
                И что? Как это ей мешает?

                И как должна помешать взрослой жизни фотография из детства в голом виде?

                До какого возраста можно фотографировать свою голую дочь? Допустим в 0 лет — можно, а в 7 наверное уже нельзя. Как определить этот возраст?
                А что если в 18 она начнёт делать фотографии самостоятельно? Или в 17? Или 16? Как определить возраст, когда человек может делать свои обнажённые фотографии?


                1. DrunkBear
                  10.01.2020 11:39

                  Закон определит и всевечно оскорбляющиеся.
                  Разогнали ж казаки выставку ню — фотохудожника в мск в прошлом году?
                  PS похоже, анекдот «фото голых детей возбудили даже уголовное дело» перестал быть анекдотом.


                1. towin
                  10.01.2020 16:32

                  Личность, персона может фотографировать себя в любом возрасте в любом виде. Но ваша задача как родителя и, тем более разбирающегося в IT, объяснить, что любая запись на вебку в чате, любые фотки отправленные только лучшему другу/подруге, любые фотки просто на телефоне, могут оказаться доступными всем её одноклассникам. Что эти фотки лучший друг может использовать как компромат, и может заставить её делать плохие вещи.

                  Также как родитель вам желательно объяснить заранее нормы морали, что лучше зарабатывать деньги не эскортом и проституцией, а дипломом о ВО и хорошей должностью.

                  Не знаю насколько Ангеле Меркель эти снимки повредили, но уж точно не помогли в карьере политика.


                  1. Umpiro
                    10.01.2020 16:43
                    +1

                    [ ] лучше зарабатывать деньги не эскортом и проституцией, а дипломом о ВО и хорошей должностью.
                    Я бы лучше как родитель объяснил, что не стоит полагаться на догматы, а поиск своего места в жизни — часть выживания.
                    Не знаю насколько Ангеле Меркель эти снимки повредили, но уж точно не помогли в карьере политика.
                    Точно помогли. Если у Ангелы есть детские фотографии, это подтвержает, что она не иноплнетный организм, а простой человек подобный мне, так что плюсик ей.


                  1. MTyrz
                    10.01.2020 19:47

                    «Нормы морали» по идее должны бы заключаться в том, что угрожая фотографией с голым задом, никого нельзя заставить делать хоть что-нибудь, не то, что «плохие вещи». Это просто фотография с голым задом, зад есть у всех, и выглядит у всех плюс-минус одинаково. Как ни рассматривай, бриллиантов не увидишь.

                    А вот когда вокруг голого зада начинаются ритуальные пляски, тогда и возникает предмет для шантажа, секретности, панических попыток запретить всем все… ровно для тех, кто в этих плясках участвует.


              1. mSnus
                10.01.2020 21:41

                Вы правы в плане текущих реалий в нашей стране — маразм крепчает, а посадить невинного — раз плюнуть, просто "во имя общего блага". Я о том, что так не должно быть в здоровом обществе.


                Здравый смысл подсказывает, что если ребенок бегает спокойно без трусов (и лифчика, если девочка), то в такой фотографии на самом деле нет ничего страшного. Если ваша дочь не бегает голышом — то и фото таких не будет, логично же? Да и меня как-то мало волнуют снимки Меркель в молодости, и мне кажется, что здорового человека и не должны волновать и интересовать....


                Кстати, ради цифровой гигиены вообще никакие снимки (кроме парадных из фото-студии) выкладывать нельзя. Ни с тусовок в студенческом возрасте, ни школьные (вдруг (анти)педофилов белый бант и форма возбудят?), ни с пляжа…


            1. vtolstov
              10.01.2020 15:26

              Странное понятие. А вы спросили разрешение ребенка? хочет ли он, чтобы потом кто-то видел его в таком виде? А если сейчас ваши снимки всплывут?


              1. Am0ralist
                10.01.2020 15:38
                +1

                А уж какой кошмар, если они всплывут после моей смерти, ужас просто!


              1. Umpiro
                10.01.2020 16:14

                А вы спросили разрешение ребенка?
                А это интересная мысль. Никто ведь не спрашивал у детей, может быть им, например, интересно общаться с педофилами? Да и письменное разрешение на зачятие не мешало бы брать.


                1. vtolstov
                  10.01.2020 17:49
                  -3

                  Ну если такие проблемы с головой, то думаю да, обсуждать нечего.


          1. vassabi
            09.01.2020 23:18
            +1

            вот смотрите, у моей мамы есть фотографии меня в 2 месяца. Еще черно-белые. Сделанные в СССР. (во что я там одет — сами понимаете)
            Как вы посоветуете мне их оцифровать? Или пусть гниют?


          1. innovaIT
            10.01.2020 00:28
            +2

            При СССР на море таких бегала куча. И я в том числе. Фото делали на мыльницу и в кадр могли попасть и дети в том числе. А вот это зачем появилось чуть позже. До этого это было нормой.


          1. DS28
            10.01.2020 09:49

            Как насчёт снимков с энциклопедической ценностью? Изучение анатомии/половых различий, например…
            Могу я иметь такие картинки на своём устройстве?


            1. vtolstov
              10.01.2020 18:44

              Да там как-бы не изображают фрагменты детей. Не вижу смысла в демагогии, майн кампф тоже есть в библиотеке, но за хранение + высказывания можно и сесть.


              1. DS28
                10.01.2020 19:05
                +1

                Да там как-бы не изображают фрагменты детей.

                Ну почему же? Особенности развития человека от младенца к взрослому; Как происходит половое созревание…
                майн кампф тоже есть в библиотеке, но за хранение + высказывания можно и сесть.
                Так разве цензура — это хорошо? По мне, так ваше высказывание скорее является критикой законов страны.


          1. LeToan
            10.01.2020 10:19

            А рисовать можно?
            Вот, например, Спящая девочка на красном одеяле официально представляла советское искусство на международной выставке. Есть еще аналогичная «Спящая девочка на синем одеяле»


            1. vtolstov
              10.01.2020 17:56
              -1

              Прочел википедию. Ну тетка продала свою дочь, в некотором смысле данного слова. Почему-то именно младшую. Видимо старшая была против и могла возразить? Ничего хорошего не вижу в данном конкретном случае.


              1. LeToan
                10.01.2020 18:12

                Историю дочери можете тоже прочесть, как она страдала от этого и ненавидела свою мать всю жизнь, она человек тоже известный, в википедию попала.
                А позировала Катя маме и в 1934 году, смотрите «Спящая обнаженная», уже совсем не ребенком. У Серебряковой этих «ню» вагон в этот период, и все очень похожи на её младшую дочь.


                1. vtolstov
                  10.01.2020 18:31

                  Не увидел ничего про страдания, но она почему-то не рисовала голых детей. Да и в целом чего-то не видно ничего про нее, кроме того что она всю свою жизнь отдала матери.


                  1. LeToan
                    10.01.2020 18:40

                    Вот и я об этом. А не рисовала ибо дизайнер по интерьерам и детей нет.
                    А мать её рисовала и одетой, она её всю жизнь рисовала, десятки картин.


      1. DrGluck07
        10.01.2020 13:29

        Наверняка там нейросеть помечает аккаунт и потом люди все просматривают вручную

        Ага, ведь это так прекрасно работает с ютубом


  1. towin
    09.01.2020 20:57
    -3

    Преступники не особо технически развитые люди, и не понимают, что они сейчас с помощью технологий засвечиваются по полной программе. И это хорошо, потому что так можно будет раскрыть преступления, о которых может быть полиция никогда бы и не узнала. Жертвы сексуального насилия редко обращаются в полицию. Жертвы убийц тоже.


    1. Barbaresk
      09.01.2020 21:03
      +10

      А ещё помогает бороться с педофилами и террористами. /s


      1. towin
        09.01.2020 21:08
        -2

        Например, у какого-то человека на телефоне появляются видео с отрезаными бошками. Логично что полиции стоит им заинтересоваться. Может он практикующий маньяк?
        Я даже подозреваю, что большая часть преступлений уже так и раскрывается, и террористические ячейки и педофилов так и накрывают.


        1. Error1024
          09.01.2020 21:33
          +1

          А может, сделал скриншот «ведьмака»


          1. towin
            09.01.2020 21:42
            -3

            Слушайте, ну я про серьезные вещи говорю. Это тяжкие и особо тяжкие преступления, это чьи-то жизни.


            1. Error1024
              09.01.2020 21:48
              +6

              Может быть этим должна полиция заниматься? А не компания Apple, которая теперь решила сливать iCloud, по первому подозрению.
              Кстати да, как я понимаю, Apple никуда ничего не будет сообщать, так что профита вообще 0, лишь кучу удаленных аккаунтов у пользователей.


              1. towin
                09.01.2020 21:56
                -3

                Полиция этим и будет заниматься, после того как Apple заявит о преступлении. И она обязана это сделать по закону.
                Есть такое понятие probable cause. Например, полицейский может подойти к вашему дому, но зайти во внутрь он не имеет права, если вы ему не разрешите.
                Однако, если он увидит в окно лужу крови на полу, то это будет probable cause.
                Тоже самое с отрезаными бошками. Это повод заглянуть к вам в дом, скорее всего даже по надуманному предлогу.


                1. Umpiro
                  10.01.2020 16:22

                  Полиция этим и будет заниматься, после того как Apple заявит о преступлении. И она обязана это сделать по закону.

                  Посредничество Apple здесь играет большую роль, вот в чем проблема. Раньше вы ей прощали баги на своем телефоне, а теперь, по вашим же словам, будете прощать чьи-то жизни.


        1. vassabi
          09.01.2020 23:15
          +3

          как выхотите сделать так, чтобы
          1) можно было узнать, что «у какого-то человека на телефоне появляются видео с отрезаными бошками»
          2) нельзя было узнать, что у него появились видео жены, бизнес партнера или своей кошки?


          1. RomanPyr
            10.01.2020 00:30
            -3

            например, для начала проводить ежегодный аудит кода и моделей нейронных сетей сторонней организацией.
            в сфере финансов вполне работает и помогает выявлять мошенников.
            (не вспоминать про Андерсон)


            1. vassabi
              10.01.2020 01:02
              +2

              О, замечательно, то есть давайте добавим еще и доступ от сторонней организации.

              Дело ведь не в том, что ваш код (нейронки, что угодно) откладывает в сторону «видео с отрезаными бошками»и рапортует об этом особым людям. Дело в том, что он «смотрит» все файлы (и не только видео. А то вдруг вы записали видео и переименовали в «теща.тхт»!). Вы не сможете «тут искать а там не искать».


              1. 0lom5zhdovdv
                10.01.2020 09:56

                А на айфоне разве так можно сделать?


                1. vassabi
                  10.01.2020 14:06

                  пока что — вроде бы нет. Но это пока что.


    1. towin
      10.01.2020 11:06
      -4

      Смотрю я вот на эти десятки минусов и честно говоря, не могу понять. Толи тут одни школьники глупые, толи инфантилы, живущие в своем уютной мирке и беспокоящиеся что их хентай и скриншоты ведьмака кому-то там понадобятся. Выходит так, что 90% людей не хотят видеть дальше собственного носа, не хотят анализировать информацию. Их беспокоит только их собственная «приватность», хотя в современном мире технологий давно уже ничего нет приватного, пора это было понять еще в 2000х. Не нравится — используйте старые технологии. Мне то зачем в карму гадить?! Я же не представитель компании Apple и не КГБшник. Какой смысл ваших действий портить другому человеку настроение и возможность общаться?!!!

      Краснодарский людоед был пойман потому что случайно потерял свой телефон с фотками отрезаной головы. Фотки можете посмотреть там.

      Академовские маньяки — два тупых школьника, которые были пойманы потому что забыли стереть видео из видеокамеры.

      Днепропетровские маньяки — их поймали после того как ролик с убийством случайно попал в сеть.

      Таких примеров очень много.
      Вас это не касается, вам важнее ваши скриншотики из ведьмака. А что вы скажете, когда такие вот малолетние дебилы убьют вашего родственника? Без мотива, просто случайно оказался не в то время не в том месте. Раскрывать такие преступления очень тяжело. Тем более не подумаешь на двух школьников.
      А вы не заметили, что регулярно появляются новости ФСБ предотвратила теракт. Это автобус, который не взорвался. дом, в котором жители не оказались под обломками, поезд, который не сошел с рельсов.
      Как вы думаете все это работает? Тотальная прослушка, граф социальных связей, внедренные агенты. Чтобы вы и близкие могли спокойно играть в своего ведьмака, а не лежать без головы в кустах крапивы.


      1. polearnik
        10.01.2020 11:30

        Это помогает от таких вот дебилов которые теряют незапароленные телефоны. Кто-то более серьезный общаются по шифрованным каналом и обязательно иносказательно. Речь будет идти о доставке, о подарках но никак не о бомбе, вирусах или тому подобному. А скорее всего обо всем договорятся при личной встрече а не по сети. Поэтому всеобщая прослушка не поможети. А все волнуются из-за нее потому что пойманных террористов будет 0 а вот отжатых бизнесов гораздо больше 0. И за небольшую сумму денег любой сможет получить доступ к содержимому вашего личного облака. Уже сейчас можно получить доступ к финансовой информации любого человека, к истории звонков итд. Поэтому при раскрытии террористов хорошо работает оперативно розыскные работы и внедрение агентов но никак не всеобщая прослушка. Да и согласно сегодняшним реалиям ФСБ сейчас все больше превращается в инструмент давления на бизнес.


        1. karl93rus
          10.01.2020 12:57

          Поэтому всеобщая прослушка не поможети. А все волнуются из-за нее потому что пойманных террористов будет 0 а вот отжатых бизнесов гораздо больше 0.

          А вы уверены в этом? Хотя я понимаю, что уверены, но на чем ваша уверенность строится? Кроме паранойи, конечно, и слухов из сомнительных сми без доказательств. И потом, вам действительно известно как работает прослушка у чекистов?
          Уже сейчас можно получить доступ к финансовой информации любого человека, к истории звонков итд.

          Это можно было делать всегда. Задолго до появления компьютеров. Достигалось передачей дензнаков из рук нуждающегося в руки обладающего.
          Да и согласно сегодняшним реалиям ФСБ сейчас все больше превращается в инструмент давления на бизнес.

          А можно подробнее?


          1. polearnik
            10.01.2020 14:48

            Координация теракта в париже происходила посредством обычных сотовых и смс. Они использовались на окончательной стадии поэтому времени среагировать у силовиков не было.
            Ну а насчет силовиков отжимающих бизнес я гуглил по фразе «фсб провело обыски для отжатия бизнеса». В результатх поиска была вот такая ссылка zen.yandex.ru/media/id/5abf45bb4bf161f67593c250/kak-otjimaiut-biznes-v-rossii-5ac373e72394df3f1c6798ea


            1. karl93rus
              10.01.2020 14:56
              -1

              Сэр, вы серьёзно делаете выводы по «статейкам» в этой помойке? Срочно перестаньте. Набросить каках на вентилятор и смотреть как потом пуканы полыхают — это вот там самое место для таких утех. Можете сами любую дичь написать там и наслаждаться обилием всех возможных настроений комментирующих. От «грязный ватник» до «узнаю где живёшь, спалю твой дом». Такое той аудитории заходит на ура.


          1. vmchaz
            10.01.2020 21:00

            habr.com/ru/news/t/393501
            habr.com/ru/post/396367
            Вот вам примеры того, как это будет использоваться.
            А начиналось под предлогом борьбы с террористами, наркоторговцами и педофилами, конечно же.


    1. DrGluck07
      10.01.2020 13:34

      А в итоге всё будет как анекдоте «евреи, нейросеть сказала своё мнение, а вы решайте как хотите». Нейросеть решит что ты делаешь что-то плохое, все об этом узнают, а ты потом доказывай что не верблюд. Может ложечки и найдутся, но потом мудрые Марьиванны и Петровны будут мудро рассуждать что дыма без огня не бывает.


    1. vmchaz
      10.01.2020 21:14

      techcrunch.com/2013/07/06/tools-for-treason

      If your algorithm doesn’t allow a pedophile to irreversibly scramble his drive and avoid prosecution, it can’t be used by freethinkers under ideological oppression to hide state-banned books. If your messaging app won’t let someone safely plan bombing the Super Bowl, it can’t be used by an activist to reveal human rights abuses. If your map doesn’t let poachers stalk rhinos without alerting rangers, it can’t be used by ethnic minorities to escape purges. The strength of the tool enables all of these things, and it is an old, old test we have taken many times before to see which we use it for. The answer, as always, will be “both.”


      Эта статья, кстати, была и на Хабре в переводе, вот тут: habr.com/ru/post/185916. Но её почему-то закрыли.
      Но вот тут: habr.com/ru/post/192896 есть этот же кусок:
      Если ваш алгоритм не позволяет педофилу необратимо испортить свой жесткий диск и избежать наказания, он не поможет людям, находящимся под идеологическим давлением, хранить запрещенные книги. Если ваше приложение-мессенджер не позволит спокойно спланировать теракт на Чемпионате Мира, то оно не поможет активисту рассказать о нарушениях прав человека. Если ваша карта не позволяет браконьерам отлавливать носорогов, не привлекая внимания природоохранных организаций, она не сможет использоваться нацменьшинствами для избегания «чисток». Мощь инструмента определяет саму возможность этих вещей, и это очень, очень давний вопрос о том, в каких целях этот инструмент будет использоваться. И ответом, как обычно, будет «и для тех, и для других».



  1. Error1024
    09.01.2020 21:40
    +14

    Т.е. Apple, которая официально заявляла о недопустимости доступа к личным данным пользователей, и отказалась взламывать iPhone террориста, теперь вот так просто позволяет некому «алгоритму», и сотрудникам просматривать ваш iCloud?
    Окей, особенно мне нравится «удаление аккаунта» в случае нарушений, алгоритмы/модераторы не совершенны, и за пачку скриншотов из игр/сериалов/мемов/и_вообще_не_их_дело Apple может удалить все данные, браво.
    И вообще причём тут Apple, может быть я что-то не понимаю, но им бы стоило баги iOS пофиксить, а не брать на себя функции полиции.


    1. syrslava
      09.01.2020 21:47
      +2

      Вам есть что скрывать?


      1. RomanKerimov
        10.01.2020 01:17
        +4

        Конечно. А вы не скрываете данные своей банковской карты вместе с трёхзначным номером на оборотной стороне?


        1. Art3
          10.01.2020 04:23
          +1

          У меня карта с четырехзначным номером на лицевой стороне. Просто, что бы вы знали.


    1. Goodkat
      09.01.2020 22:23

      отказалась взламывать iPhone террориста
      Данные из облака они сразу выдали, но там последняя синхронизация телефона с облаком была задолго до теракта.


      1. Error1024
        09.01.2020 22:24
        +5

        В любом случае Apple активно хайпилась на «сохранении вашей приватности»


    1. tzlom
      09.01.2020 23:49
      +1

      Им всего-то нужно оправдание почему они сканируют все фотографии, алгоритм же не только детей распознаёт.


  1. Caracat
    09.01.2020 22:50
    +1

    Интерпретация норм морали обществов имеет свойство меняться со временем. То, что приемлемо сейчас, люди без оглядки выкладывают на обозрение и в облачные хранилища, может лет так через 10-20 сыграть против них.


    1. vassabi
      09.01.2020 23:05
      +6

      ИМХО, фишка не в том, что там есть внутренняя фильтрация для борьбы с эксплуатацией детей, а в том что там есть фильтрация. Пока что — она публично используется для борьбы с эксплуатацией детей, для чего она используется непублично — это, как говорится, «оставим для фантазии читателей».

      А насчет «через лет 10-20», вон уже были истории, как припоминают твиты 5-7-10ти летней давности, но там хотя бы публичные слова, а теперь это будут еще и личные фото.
      PS: вы же в курсе самой новой интерпретации знака ОК пальцами, да?


      1. Caracat
        10.01.2020 00:38

        Тут человеческая натура — страсть выделиться из социума с некой группой, остальных сжечь на кострах. Видимо от эволюции — поведение в условиях ограничения ресурсов (большую часть времени так и было).


  1. alex6999
    09.01.2020 23:57

    Не советую ехать в США или Канаду, если у вас на носителях есть фото ваших маленьких детей в обнаженном виде, особенно в галерее.


    Нет, не посадят и не запретят въезд, но пара часов общения с недобрыми людьми вам гарантирована. Допрос третей степени называется.


    Вот там вы приведете свои аргументы и вас скорее всего попросят удалить фото.


    1. Goodkat
      10.01.2020 01:27

      48 тысяч фотографий в галерее — парой часов не отделаюсь :)


      1. alex6999
        11.01.2020 13:12

        смотрят от силы одну минуту, случайные фото.


    1. decomeron
      10.01.2020 03:29
      +1

      А как же быть профессиональным фотографам новорождённых? Например всемирно известной Анны Геддес и многих других? Они без работы останутся? Или профессионалам можно, а простых смертных в полицию?


      1. DrunkBear
        10.01.2020 11:42

        хм, сколько стоит лицензия "неподсудныйпрофессиональный фотограф"?
        И кто будет экспертом? /sarcasm
        И что делать, когда флюгер снова повернётся, как с чёрным (в прямом и переносном смысле) юмором середины 2000х в твиттере?


        1. alex6999
          11.01.2020 13:40

          Таможенный офицер является экспертом.


      1. alex6999
        11.01.2020 13:36

        погуглил, на её фото нет половых органов.
        а стоит погуглить «купание младенца» и раз, половые органы в наличии

        В США на таможне не действует конституция, даже декларация прав человека не соблюдается в полном объёме, права свободного перемещения нету. Полагаю все государства имеют подобные исключения для таможенного пространства. Нерезиденту можно просто запретить въезд по прихоти левой пятки таможенного офицера.

        Резиденты, не имеющие денег на адвокатов, не знают законы, что им можно, а что нельзя и за что их могут нахлобучить, сделают всё что их попросят, удалить, значит удалить.

        Спорить поручите адвокату, если у вас есть на него деньги. Это к вопросу о простых смертных.


  1. hp6812er
    10.01.2020 00:30
    +1

    Apple официально отменила приватность… ну это то было не новостью. Ждем когда гуглодиск и прочие начнут бороться с террористами и педофилами, или, точнее, сознаются, что давно этим занимаются и скоро достигнут успеха… скоро…


    1. innovaIT
      10.01.2020 00:35

      Так вроде была новость про гуглодиск. Они этим давно занимаются.


  1. C_21
    10.01.2020 01:07
    +4

    Как быть вот с такими фотографиями?

    Заголовок спойлера


    1. vassabi
      10.01.2020 01:13
      +4

      я вам не скажу за электронную, но моя биологическая нейронная сеть секунд 30 пыталась понять — что это!


      1. C_21
        10.01.2020 01:49
        +1

        Вот и я о том, человек не с первого раза может понять, куда там этим ботам.


      1. Zoolander
        10.01.2020 05:40
        +1

        первые 30 секунд моя нейросеть думала, что смотрит на какой-то любительский рендер SCP Foundation


        1. sim2q
          10.01.2020 08:49

          я не смог :(


        1. vassabi
          10.01.2020 14:09

          Ну, как только мозг понял, что «вот это, дада чуть левее» — голова, дальше было проще


  1. Maccimo
    10.01.2020 01:30
    +1

    Затем они запретят хранить в облаке сначала криптоконтейнеры, а потом и белый шум из далёких галактик.
    Чуть погодя подтянутся китайские производители и скажут, что они так делали всегда, а Apple всё у них украла. В докозательство покажут благодарственную грамоту от китайской разведки.


    1. Badimagination
      10.01.2020 08:09

      Забыли дописать: А затем запретят локальные хранилища


      1. 0lom5zhdovdv
        10.01.2020 10:02
        -1

        Они уже давно не локальные. Если Вы с локального NASа смотрите Ваши фото с W10 с подключением к Интернету, то можете уже не считать Ваше хранилище локальным, согласно EULA


  1. Daddy_Cool
    10.01.2020 01:50
    -2

    Из статьи по ссылке vassabi
    Джонатан Гринблатт, генеральный директор ADL, заявил, что старые символы, жесты и другие изображения быстро приобретают новые, ненавистные ассоциации, которые могут быть неясными для широкой публики.
    «Мы считаем, что правоохранительные органы и общественность должны быть информированы о значении этих изображений, которые могут служить первым предупреждающим знаком о присутствии ненавистников (haters) в обществе или школе», — сказал он.

    Прям какой-то Хаксли надвигается. Ждем нового мессию — мистера Дердена. Надо же как-то канализировать агрессию, ненависть, и т.п…
    А по поводу облаков — и прочих современных технологи. Хм… почему-то нынче стало очень просто запустить свой нос в чужие дела. Как пример — в контакте есть группа нашего района. И регулярно я там вижу фотки запощенные возмущенными гражданами по поводу неправильной парковки других граждан. С номерами авто разумеется. Я почему-то против этого. И да — также я против парковки на газонах, перед подъездами, и т.п… И оказывается у нас есть государство в лице ГИБДД в чьи компетенции входит контроль за соблюдением ПДД. К чему это я — я за то, чтобы каждый занимался своим делом. И Apple в том числе.


    1. mmMike
      10.01.2020 05:07
      +3

      Извините, но машина припаркованная поперек тротуара или на газоне — это "не запустить нос в чужие дела". Это общественное дело.


      1. karl93rus
        10.01.2020 07:23

        А тут видите ли вот какое дело. Когда это не касается конкретного человека, или когда это что-то для этого конкретного человека создаёт неудобства — это «общественное дело». Когда человек сам заезжает на газон, а его за это нагнуть хотят — та же самая ситуация, но с другой стороны — это резко становится его «личным делом, в которое никто не может свой нос совать». Так-то. Двойные стандарты-с.


        1. DrunkBear
          10.01.2020 11:48

          Давно же есть правило: «Ваши права и свободы остаются вашими, пока они не нарушают прав и свобод других людей».
          Почему никто не возмущается, что человек может ходить в туалет дома, но не может на красной площади? Аргументация «ну мне ж нужно, я спешу, все так делают» почему-то перестаёт работать? /irony


      1. Kordamon
        10.01.2020 09:12
        +1

        Верно. А залезть к Вам в телефон, чтобы поискать там фотки с машинами на газонах — это таки да, «запустить нос в чужие дела»


      1. Daddy_Cool
        10.01.2020 12:17

        А… я имел что — если припаркованное авто бдительные граждане сфоткали и отправили в ГИБДД — то ОК, а вот если выложили куда-то — то как-то уже не ОК.


        1. mmMike
          10.01.2020 12:36
          -1

          А я считаю, что это ОК.
          По нашим законам, фотка сделанная с телефона не является 100% доказательством и штраф по ней не будет. Да и ГИБДД (после сокращения) по такой мелочи не приезжает.


          А вот мне (лично мне) иногда полезно знать, что такой то чел — м..duck и в чем то с ним дел лучше не иметь.
          Народ должен знать своих героев. Тем более такие фотки никаких законов не нарушают.


          Это касается и парковки на газоне/на месте для инвалидов и езде по обочине и прочим подобным "мелочам".
          Причем в рамках разумного (если мы уж не о букве закона). Не слишком напряжет чья то парковка на заснеженном/заледеневшем газоне. Но грязные колеи в прибитом дерне на газоне — напряжет.


          Вам разве не знакомы фразы "да чо… я же никому не мешаю". Когда блокируешь какого нибудь duck на обочине, или спрашиваешь такого mduck нафига он поставил машину под запрещающий знак на проезде возле супермаркета, поленившись пройти 50 метров до кучи свободных мест на краю парковки.


          Фраза "я же никому не мешаю" или "мне надо" очень хорошо характеризует таких персонажей.


        1. DS28
          10.01.2020 14:56

          если припаркованное авто бдительные граждане сфоткали и отправили в ГИБДД — то ОК, а вот если выложили куда-то — то как-то уже не ОК.
          А что такого в фотографии авто выложенного куда-то? Оно ведь и так стоит на улице, ездит по городу… Мне правда интересно, может есть нюанс какой?


          1. vassabi
            10.01.2020 16:00

            там ньюанс в том, что авто уехало, а фото — осталось.
            А некоторые фото откапывают из фотоальбомов выпускников и потом размахивают ими «смотрите какой этот Н был негодник 30 лет тому назад — у него рука на однокласснице лежит ниже её талии!»


    1. lazy_plodozhor
      10.01.2020 13:38

      У нас в солнечной Латвии это решилось следующим образом: муниципальная полиция выпустила аппликацию для смартфонов, где можно зафоткать гения парковки и через 20 минут приехавший наряд ему кладет конверт с протоколом-штрафиком под дворники. Не надо никого никуда выкладывать, колоть шины и бить лобовухи.


      1. vmchaz
        10.01.2020 20:55

        Радует, что используется человеческий контроль (наряд полиции). Иначе, имея пропатченный андроид и эмулятор камеры, злоумышленник мог бы подставить под штраф любую неугодную машину (комбинируя картинку с двух камер — одной снять неположенное место для парковки, другой — саму машину)


        1. vassabi
          10.01.2020 20:56

          можно и без двух камер — дипфейки для изображений машин всяко легче генерировать, чем для людей


          1. mSnus
            10.01.2020 22:06

            достаточно подменить номерной знак, чтобы человек огрёб кучу неприятностей. Даже если у него маленькая серая Тойота, а не большой черный джип, как на фото на тротуаре, нервов потратит кучу.


        1. lazy_plodozhor
          11.01.2020 01:40

          Да даже проще — сфоткать отфотошопленную картинку :)
          Фишка именно в том, что вызывается «авторизованный агент» — который официально все фиксирует, без разглашения личных данных и морализаторства по соцсетям, и выписывает протокол. Нарушили — вот вам штраф, а какой у вас там мотив был — дело десятое.


  1. jevius
    10.01.2020 09:22
    +1

    А если подростки хранят фотографии друг друга у себя? У нас в РФ возраст согласия 16, но обычно взрослым человек признается в 18. А до — ребенок. Короче: в 17 можно хранить интим-фото своей несовершеннолетней девушки? И есть ли ограничения на ее возраст? Рекомендую сотрудникам Apple задуматься над этими вопросами.


    К слову, почему я не должен считать, что они ищут это для себя? Или на продажу?


    1. Am0ralist
      10.01.2020 10:15

      А если подростки хранят фотографии друг друга у себя?
      В США? Поздравляю: создание и распространение детской порнографии, очень интересная статья в истории человека…


    1. vassabi
      10.01.2020 14:15

      вы сейчас будете смеяться, но есть история, когда… хмхм… у человека женского пола школьного возраста обнаружились фотографии себя без достаточных признаков одежды на своем телефоне (вроде бы она «не в тот чат» их послала, или подобное).
      И в итоге этот человек был осужден за хранение и распространение таких фотографий.


  1. Opycbac
    10.01.2020 09:22
    +1

    Вот вам и ваша Apple. Под предлогом о защите детей следить будут за всеми. Да-да-да, мол, мы ж не такие, тра-ля-ля, мы слежкой не занимаемся. Кому надо тот всегда все узнает о вас. Нечего выпендриваться.


  1. ip1981
    10.01.2020 09:48

    наши системы используют электронные подписи для поиска подозрительных изображений

    До чего дошёл прогресс.


  1. Insurgent2018
    10.01.2020 09:59

    Еще в 2014 году сталкивался с таким «явлением» — Интерпол направлял запрос знакомым полицейским в один из регионов РФ, об установлении пользователя мобильного устройства, возможно причастного к «детской порнографии». Смысл в том, что неизвестный загружал свои фотки в облако Microsoft, Microsoft сама или через подрядчика — сканировала фотки пользователей на предмет противозаконного контента, позже уведомляла Интерпол в Европе, те в свою очередь Москву, а те уже по регионам рассылали.
    Так что, видимо уже можно сказать — «обычная практика» и обыденное явление.


    1. Am0ralist
      10.01.2020 10:17

      Ну так недавно был в латвии схожий случай (человек попытался послать другу какой-то мем с голым ребенком на пляже). Так мне тут на хабре доказывали что это всё ложь, п-ж и провокация, быть такого не может, что корпорации в полицию данные подобные сами посылали!


  1. Neuromantix
    10.01.2020 10:27

    Вначале они пришли за фотками с детьми, потом придут и за другими… Разумеется, ради очередного «светлого будущего». В 20 веке есть множество примеров построения подобного «светлого будущего» — в качестве фундамента всегда используются трупы.


  1. solariserj
    10.01.2020 10:35

    Ок, начинают с педофилов — неугодными мемами.
    Ну я никогда не верил в приватность, iCloud, но тут они прямым текстом говорят что сканят.


    1. solariserj
      10.01.2020 14:32

      • заканчивают(или не останавливаются за) неугодными мемами.


  1. Runis
    10.01.2020 21:26

    Вроде и благие намерения, но всё таки…

    Это как у нас, вроде и не к тебе ОМОН ворвался, но именно у тебя они что-то ищут.