ИДЕЯ
В нашей компании, как это бывает в IT, работают в основном люди молодые, семейные, и у многих из них уже есть маленькие дети. Занимаясь семейным фильтром в большом поиске, мы часто слышали просьбы от коллег и наших пользователей: мол, поиск — поиском, но если детей оставлять один-на-один с компьютером, они начинают тыкать в любые попадающиеся ссылки. И, естественно, находят такое… ТАКОЕ, КАРЛ!!! Думается, понятно, какое. Не говоря уж о том, что иногда от этого прекращает нормально работать и сам компьютер.
Понятно, что в наш век уже написаны сотни программ для родительского контроля и, возможно, ещё больше программ для фильтрации нежелательного контента. Как правило они реализованы либо в виде расширений, программ, контролирующих трафик, или DNS серверов. У каждого из этих решений есть свои плюсы и минусы, особенно для тех, кто уже пытался с ними работать. Объединяет их, как правило, одно — ими мало кто пользуется! Выяснилось, что таких родителей, кто пользовался расширениями, или вообще знает о существовании программ, фильтрующих контент, не просто меньшинство, их можно буквально пересчитать по пальцам.
ИССЛЕДОВАНИЕ
Чтобы проверить наши гипотезы и улучшить защитные механизмы наших сервисов, мы обратились к социологам фонда «Общественное мнение». В ходе исследования у родителей, чьи дети пользуются интернетом, спрашивали, что им в Сети кажется безопасным для ребёнка, а что — нет. И результаты показали, насколько наивны бывают взрослые в оценке своих детей. К примеру, родители младшеклассников (до 10 лет) думают, что их дети «в этих ваших интернетах» почти ничем, кроме развлечений, не занимаются. Что, в общем-то, почти соответствует правде. А вот родители детей постарше уверены, что в подростковом возрасте на первое место выходит… учёба. То есть, тинейджер 13-15 лет ночами за компьютером, по их мнению, рефераты пишет. При этом абсолютное большинство — 94% родителей — считают, что взрослые должны следить за тем, какие сайты посещают дети. 49% опрошенных объясняют это тем, что в интернете много вредной информации, не рассчитанной на детей. И при этом (мы добрались до самого главного) только 17% (!) используют какие-то программы, настройки и специальные режимы с целью обезопасить детей.
В общем, после исследования мы поняли, что ликбез и инструменты защиты нужны не только детям, но и их родителям. Тем более, что создать условия для безопасной работы в сети умеют очень немногие: лишь 12% (!) из опрошенных родителей применяют сетевые фильтры (firewall), 9% используют специальное ПО для родительского контроля, 5% включают семейный или детский режим поиска в Сети, 4% активируют специальный режим от интернет-провайдера. Хорошо хоть антивирус стоит на ПК в 63% семей. Но даже и эта цифра удручает, если честно.
Изучив все это, мы решили сделать какой-то очень простой механизм, простой и понятный для родителей, не требующий от них никаких дополнительных шагов. Всё чаще в СМИ говорят и пишут о концепции «цифровой гигиены», но она так и останется словами, пока средства для её обеспечения будут сложнее условной зубной щётки. И нам показалось вполне гармоничным перенести инструментарий по защите детского пребывания в сети непосредственно в браузер. Даже не так. Мы решили сделать его неотъемлемой частью браузера. Это оставляет возможность использовать и те технологии, что уже существуют, и даёт большое пространство для реализаций новых инструментов безопасности. Что ни говори, а именно браузер является той самой точкой, через которую ребёнок знакомится с интернетом.
ПЕРВЫЕ ШАГИ
Первые шаги для реализации идеи были вполне очевидными. Для начала мы решили сделать отдельными профили для взрослых и детей. Отдельный профиль для ребёнка вещь важная. Посадив себя на место ребёнка, мы поняли, что, как и в реальной жизни, надо подальше убрать от малышей спички, розетки и зажигалки. Поэтому в детском профиле пропали возможности поменять настройки, поставить новые расширения, перейти обратно в обычный режим.
Сделав отдельный детский профиль, тем самым мы создали для ребёнка отдельное пространство в браузере — «детскую площадку», которую теперь предстояло обставить и обезопасить от разного рода вредных и опасных вещей. Времени на обустройство «детской» было немного, поэтому в первую очередь мы решили воспользоваться наработками поиска. Там давно уже прописался семейный фильтр, переработавший и удаливший из поиска 2 млрд. страниц с опасным содержанием, и тематизировавший страницы по разным категориям — плохим и не очень. Поэтому нам показалось логичным, перенести сделанные наработки из поиска в браузер, и построить на них первый бастион безопасности. Но оказалось, — что нам показалось.
Подводных камней при переносе было слишком много. Но самая главная проблема заключалась в том, что у поиска и браузера — совершенно разные паттерны использования. Поиск знает только те документы, которые он скачивает и индексирует. А вот браузер — это как раз сродни выходу в открытый космос. Именно тут и кроется дьявол. Ребёнок, нажимая на ссылки, идёт туда, куда они его ведут. В итоге он посещает сайты вне зависимости от того, знаем мы данную страницу или нет, проверяли мы ее или нет, опасна она или нет.
Все это заставило нас пойти двумя путями: обкачивать плохие сайты, пополняя тем самым базу плохих сайтов, и запретить ребёнку посещать те страницы, которые мы ещё не успели проверить. Поиск — это своеобразное бутылочное горлышко, через которое, оказалось, проще всего контролировать и фильтровать выдачу результатов. Поэтому при переходе в Детский режим, ребёнок попадает на поисковик Спутник.дети, сфера поиска которого составляет коллекцию детских сайтов в сегменте .RU. Их ищут и находят автоматические поисковые роботы и анализаторы "Спутника". В базу входят также сайты, отобранные партнёрами проекта: Лабораторией Касперского, проектом Нетоскоп, Роскомнадзором и другими компаниями. Любой ресурс проходит проверку нашими асессорами поиска и системой безопасности. На старте в базе было больше 5 тысяч сайтов, половина из них — это порталы школ, остальные — развивающий и развлекательный контент. Да, сайтов пока мало, но мы постоянно пополняем их число. На самом деле принять участие в развитии сервиса может любой владелец или представитель интернет-проекта для детей — достаточно предложить свой сайт на добавление в область поиска. (Кстати, предлагайте свои варианты детских сайтов! спутник.дети/about). Мы решили, что лучше ребёнок не посетит какой-нибудь хороший сайт, но зато мы минимизируем возможность посмотреть на что-нибудь плохое. Надо признаться, что детских сайтов в Рунете действительно крайне мало, и следующей задачей в этом направлении является наполнение базы ресурсами, которые не являются конкретно детскими, но будут интересны и полезны детям.
РЕЛИЗ
Именно с этим инструментарием мы и вышли в релиз. В Детском режиме мы стараемся не допустить попадание ребёнка на сайты с плохим контентом, при этом пытаясь минимизировать количество ошибок на хороших. Не стоит забывать, что в Детском режиме также работает Рекламоотвод, в нем по умолчанию включён умеренный режим. Но при желании можно включить строгий. Как показывает практика, на детских сайтах немного рекламы, максимум 2-3 блока про похожие игры или сервисы. И при включённом строгом режиме они все будут заблокированы.
Мы понимаем, что по мере роста проекта будет расти ком сопутствующих проблем. У любой системы, работающей с большими данными, тематизаторами, качество увеличивается лишь со временем, накапливая пользовательский опыт для самообучения и совершенствования алгоритмов. Для более быстрого развития всегда нужно быстрое накопление опыта. Самый быстрый путь — это фидбек от пользователя. Конечно, есть риск, что негативный фидбек повлияет на репутацию продукта. Однако, мы решились пойти именно по этому пути, который поможет нам быстрее преодолеть проблемы роста, а родители смогут воспользоваться текущем уровнем защиты браузера и решениями, которые они использовали до этого. И с каждым полученным отзывов — плохим или хорошим — мы становимся лучше. На этом, пожалуй, все для начала. Обещаем не ограничиваться этой вводной статьёй, и постараемся сделать целую серию материалов о таких наших технологиях, как Рекламоотвод и Сталкер, о том как выстроена у нас работа с Big Data, как выстроен процесс DataMining, а также о нашем картографическом сервисе и наших мобильных продуктах.
Комментарии (36)
Suntechnic
01.02.2016 19:25+6Что мешает ребенку запустить другой браузер?
Что ему мешает воспользоваться интернетом в телефоне/планшете?
Ничего. Очевидно браузер место для решения проблемы фильтрации интернета место десятое и здесь нужны решения только для того чтобы показывать их на презентациях, при условии, что все остальные пути не закрыты.
С другой стороны — если все дома настроено правильно и все устройства ходят в сеть через прокси-фильтр, то как дополнительное средство, закрывающее то, что все же просочилось, идея неплоха. Впрочем с этим отлично справляются расширения на базе WOT и зачем это в браузере который доступен для десктопа только для одной системы, не очень-то понятно.
Кстати, можно ли в Windows как-то запретить использование IE пользователю? Я честно говоря не знаю, но если нельзя — тогда вообще не понятно зачем это было сделано…datacompboy
01.02.2016 19:36+4С момента, когда ребёнок научится обойти режим киоска (я надеюсь, его не выпилили), ему уже можно смотреть всё что угодно — он достаточно любопытен, и вместо препятствий ему пора объяснять.
putnik
01.02.2016 19:39+2> Что мешает ребенку запустить другой браузер?
А что мешает ребёнку настроить VPN? Если ребёнок в состоянии сознательно обойти «детский режим», то вероятно он уже не такой уж и ребёнок. Смысл подобных режимов в том, чтобы можно было оставить компьютер маленьким детям и не бояться, что они случайно попадут на взрослый сайт.Suntechnic
01.02.2016 19:57-7Интересное мнение, но я свою 10 летнюю дочь пока не пускаю… Додумается как обойти privoxy — флаг в руки. А пока нет.
jaguard
01.02.2016 20:12+20В школу тоже не пускаете? А то она там наслушается всякого «опасного контента» и насмотрится «опасного видео» с телефонов одноклассников.
Suntechnic
02.02.2016 18:39-2Вы меня хотите поучить ребенка воспитывать?
А вот ваши идейные друзья из телевизора, предлагают мне ровно противоположное — заблокировать все к черту и ребенку и мне.
Вы лучше определитесь за что вы — чтобы все заблокировать или чтобы все разрешить…
А я уж как нибудь сам разберусь что надо, а что не надо.
putnik
01.02.2016 20:33+1Ну, если не ставить себе цель настроить его так, что нельзя будет обойти, то это не так и сложно. А если поставить, то найдутся другие способы выхода в интернет. Годам к 12 появится интерес, и там уже ограничения станут бесполезны.
Borz
02.02.2016 00:29+5пояс верности одеваете? А к гинекологу на предмет сексуальной жизни раз в полгода не ходите ещё?
VenomBlood
02.02.2016 02:14+5Конечно не пускайте, пусть лучше пацаны постарше в подъезде покажут и расскажут что да как. Негоже ребенку в интернете неправильную информацию смотреть.
Isopropil
02.02.2016 12:11>> Кстати, можно ли в Windows как-то запретить использование IE пользователю?
Я всегда, если ставлю кому-то венду — физически удаляю iexplore.exe из program files и из рестора, а также забираю все NTFS-права на каталог, куда оно установлено. В XP и семерке прокатывало на ура, при обновлениях не восстанавливалось. Как в десятке — ХЗ, думаю всё очень плохо.
Nesvet
01.02.2016 23:54+3У вас ссылки в выдаче такого цвета — цвета посещённой ссылки. Глядя на выдачу складывается впечатление, что я там уже был (что false).
Пример: https://habrastorage.org/files/b21/721/496/b217214964964d2084dd47a2c8e21a27.png
VenomBlood
02.02.2016 02:18+4Детский режим? Да там же фильтрация контента по умолчанию по самые гланды. Вот только что зашел (результаты ничем не правил, все as-is, аккаунта на ростелекомах/спутниках и подобном — нету):
DoctorChaos
02.02.2016 05:00Среди них и наша команда, которая отвечает в проекте за Детский режим.
Отдельная команда для детского режима? оО
Денег куры не клюют? А есть команда, которая отвечает за внешний вид кнопки «Найти»? А команда, ответственная за цвет ссылок?
P.S.: Просто признайтесь уже, что спутник использует движок «Рублева».asm0dey
02.02.2016 08:42+2Это ростелек, бро. У них очень много денег, которое перетекает от министерства через них к подрядчикам и субподрядчикам.
BupycNet
02.02.2016 05:24+3Годжи? Отфильтровать
И еще — Милые кости не особо детский фильм
Или техасская резня бензипилой…
Или мне кажется что если походить по этим ссылкам можно на что нибудь наткнуться…
Вообще мне кажется админы сейчас читают историю поиска и ржут.
DanNsk
02.02.2016 07:09+2«Убить билла» дает много результатов на скачивание, а если закрыть мат звездочками, то и он пролазит, например извините "*уйня"
moigagoo
02.02.2016 10:00-7Удивляюсь, откуда столько негатива.
Мы, посетители Хабра, взрослые дяди. Мы вошли в интернеты сознательными людьми, пусть и молодыми. Тогда интернеты были не так повсеместно распространены, как сейчас. Аргумент «я сидел в интернете без фильтрации и ничего, вырос нормальным человеком» не работает — когда мы росли, интернет был другой. Тогда, чтобы посмотреть порнокартинку, надо было ее найти и скачать. Сейчас можно парой кликов попасть в порновидеочат за 100 рублей в минуту.
Я считаю, что фильтровать интернет детям надо. Вопрос в реализации. Не спорю, детский режим, сделанный в Спутнике, далек от идеала: дырявый, глупый, слишком строгий. Но это не значит, что концепция неверна.
Думаю, Спутник предлагает детям стремные ресурсы не потому, что РТ злодеи, а потому, что в России действительно нет нормальных ресурсов для детей. Только низкокачественные мультики и сайты про ВОВ. Предлагаю хабралюдям увидеть здесь возможность, а не брюзжать.
Как и везде, тут применимы три закона критики.i360u
02.02.2016 10:27+5А негатив оттуда, что лично я свои первые порнокартинки я увидел в те времена, когда интернета вообще не было, а были пионеры, Ленин, и съезд партии. И специально я ничего подобного не искал никогда, просто у нас был «двор» и вокруг жили простые люди со своими простыми интересами. Я это к тому, что идея сажать детей в «информационную клетку» не только не решает проблемы, но и создает новые, в виде вполне резонных вопросов, типа «почему родители от меня это скрывают?». Перекладывать ответственность за воспитание своего чада на Ростелеком — это как-то тупо, не находите?
VenomBlood
02.02.2016 10:41Картинок небыло — покупали диски, и там был иногда треш, причем треш который мало кто сейчас смотреть бы стал по своей воле. Но тогда выбора небыло — смотрели. И, как бы, выросли. Лет 10 назад интернет был распространен очень даже, резать начали пару лет назад — так что считать можно поколение выросло с этим порно в открытом доступе — и вроде как ничего, нормально живут.
lexore
А какая логика для сайтов за пределами рунета? Я про ресурсы на другом языке или сайты на доменах, отличных от .RU (.com. .net, .info и т.д.)
VenomBlood
Да у них нету вообще никакой логики. Они уже опозорились одним только этим. Т.е. результатов без цензуры они в принципе не показывает. С другой стороны, с таким подходом ими никто и никогда пользоваться не будет, разве что административно заставят.
moigagoo
Тут имеет место неудачный нейминг.
На самом деле, легкий фильтра значит 18+, т. е. без фильтрации. Умеренный, если не ошибаюсь, 16+, строгий — что-то вроде 12+. Написали бы так, не было бы никаких проблем с восприятием.
Я сейчас не могу проверить, но такие соответствия фильтров возрастным рейтингам, вроде, написаны где-то в интерфейсе браузера.
VenomBlood
Нет, это именно что фильтр. Я внизу привел результаты по запросу «порно» в «легком» фильтре.