На отзывах держится если не весь интернет, то значительная его часть так точно. Отзывы о различных моделях устройств разных производителей, отзывы об автомобилях и запчастях, не говоря уже об отзывах посетителей ресторанов и кафе — все эти мнения служат средством оценки качества товаров и услуг. Отели, интернет-магазины, каталоги приложений — здесь везде есть, где почитать отзывы.
Маркетологи уже давно поняли, что хороший отзыв — это инструмент, позволяющий привлечь новых покупателей или пользователей. Ну а плохой отзыв — отличный способ отпугнуть клиентов от конкурента, что дает возможность привлечь их внимание к себе. Существуют целые компании, которые только и занимаются, что пишут отзывы. Их нанимают производители товаров и поставщики услуг. Те, кто попроще, пишут отзывы самостоятельно. Но теперь появился и третий вариант.
Исследователи из Чикагского университета на днях опубликовали детальнейший отчет о создании системы, которая способна писать отзывы в автоматическом режиме. Речь идет о полностью автоматической работе нейросети. Отличить результат от отзывов, которые оставляют пользователи, практически нельзя. Если брать «среднюю температуру по больнице», то отзывы машины получаются даже лучше человеческих, поскольку некоторые фидбеки, которые вроде бы оставляет человек, выглядят, как сгенерированные не самым мощным калькулятором.
В принципе, то, что пишут пользователи, покупатели, посетители, не слишком отличается друг от друга. Обычно это нечто вроде «Спасибо, приятное обслуживание, было классно». Более пространные комментарии оставляют гораздо реже. Авторы робота, которого научили писать отзывы, приводят пример его работы: «Мне очень понравилось это место. Я пришел сюда с моим братом, мы заказали пасту для вегетарианцев и она была вкусна. Пиво тоже было хорошим, а сервис — просто изумителен. Я определенно порекомендую это место всем, кто ищет, где бы отведать вкусный завтрак».
Ничего странного в этом отзыве нет, человеку он в глаза не бросится: такой же комментарий, как и тысячи других. Все это было написано нейросетью, обученной на тысячах других отзывов, которые уже были оставлены ранее людьми на сервисе Yelp. После того, как работа была завершена, исследователи провели тест — попросили обычных людей прочитать ревью, написанные роботом, вместе с отзывами людей, и выбрать, что писала машина, а что — человек. Как оказалось, добровольцы с заданием не справились, отличить одно от другого они попросту не смогли.
Сгенерированные нейросетью отзывы не могут идентифицировать и программы и сервисы, которые обычно отслеживают генерированный текст. Особенно это актуально для комментариев, которые были написаны нейросетью с особым тщанием — разработчики добавили функцию «максимальная уникализация текста». Уникализация в этом случае вовсе не вредит качеству написанного.
Море возможностей
То, что сделали разработчики нейросети, оставляющей отличные отзывы, может быть востребовано индустрией. Вполне вероятно, что разработка в этом направлении уже либо ведется, либо маркетологи используют нечто подобное, только никак свою работу не афишируя.
Пока что у нейросети, которую разработали представители Чикагского университета, есть лишь навык писать в Yelp (кстати, об этом сервисе есть целая серия в «Южном Парке»). Качественные комментарии в этой рекомендательной сети стоят от $1 до $10, что позволяет перевести нейросеть на коммерческую основу и зарабатывать кучу денег.
Ученые ничего такого делать не собираются, но гарантии того, что это сделают их коллеги или просто умелые разработчики, нет. Как и говорилось выше, есть вероятность того, что многие хорошие комментарии в самых разных сервисах и ресурсах уже пишутся с использованием нейросетей или других технологий.
В принципе, сама разработка не уникальна, ничего суперсложного в ней нет (об этом говорят сами разработчики). Так что некто, имеющий достаточно мощный опыт в данной сфере и соответствующее оборудование, может проделать ту же работу, получив тот же результат. И уж тем более ничего сложного нет в том, чтобы составить базу обучения для такой нейросети — отзывов полон Интернет.
Насколько это плохо?
Не то, чтобы это был конец света, нет. Но наличие большого количества нейросетей, которые будут создавать поддельные отзывы (пускай и хорошего качества) сведет на нет индустрию «серфисов фидбека» вроде того же Yelp. Если появится одна такая сеть, работающая на коммерческой основе, последуют и другие. Начнется демпинг цен на отзывы, после чего последует уже настоящий хаос. Кроме того, атаки на конкурентов будут использовать недобросовестные бизнесмены. И надо думать, по мере совершенствования нейросетей такого рода, комментарии, как положительные, так и отрицательные, будут литься рекой.
Обычный человек, потенциальный клиент заведения, придя на сайт отзывов, не сможет понять, где «липа», а где комментарии, которые оставили реальные отзывы. Так что необходимость в них просто отпадет. Представитель Yelp, тем не менее, уже поблагодарил специалистов за работу, сказав, что она послужит хорошим материалом для изучения. У Yelp есть система защиты от спамных комментариев, машинописных отзывов, так что теперь необходимо придумать и защиту от «почти человеческих» текстов, написанных нейросетью. Как это можно сделать, пока что неясно, но работа в ближайшее время будет вестись именно в этом направлении.
В качестве примера можно привести шесть отзывов, часть которых написана машиной, а часть — человеком. Попробуйте, пока читаете, отличить одни от других.
1. Это мой любимый итальянский ресторан. Мне нравится дегустационное меню, здесь все классное. Я предпочитаю карпаччо и спаржу. Жаль, что ресторан стал более известным, и в час пик стало сложнее зарезервировать столик;
2. Моя семья и я сам большие поклонники этого места. Обслуживающий персонал супер дружелюбный, а еда великолепная. Цыпленок очень хорош, чесночный соус отличный. Мороженое с фруктами тоже вкусное. Рекомендую!
3. Я прихожу сюда каждое Рождество, и мне очень нравится паста! Она достойна своей цены!
4. Отличная пицца, лазанья, лучше эскалопы, которые я ел. Десерт просто фантастический;
5. Еда здесь удивительная, порции гигантские. Сырный рогалик приготовлен отлично, свежий и вкусный. Обслуживание быстрое. Наше любимое место. Мы вернемся!
6. Я клиент уже около полутора лет, и могу сказать об этом месте только хорошее. Я всегда заказываю пиццу, но бифштекс по-итальянски тоже очень хорош, я впечатлен. Обслуживание выдающееся. Лучшее, которое я видел. Рекомендую.
Итак, 1 отзыв — реальный, 2 — фейк, 3-5 реальные, 6 -фейк.
Эксперты, которые ознакомились с разработкой своих коллег, посчитали, что эта технология может изменить структуру и принцип работы сайтов с отзывами. Кроме того, речь зашла и о «Скайнете», как же без него. «Я думаю, что многие люди фокусируются на сингулярности и Скайнете, как возможному проявлению опасности ИИ, но я считаю, что на самом деле все действительно хороший искусственный интеллект будет вести себя по другому».
Не только механическая работа
Крупные технологические компании постоянно занимаются обучением ИИ (слабой его формы) работать с текстами. Не только анализировать и структурировать, так сказать, по-машинному, но и понимать, в меру своих возможностей. Тот жe IBM Watson умеет понимать эмоциональную окраску текста, анализировать социальную составляющую, оценивать стиль изложения. Кроме того, умеют такие системы распознавать и классифицировать изображения.
Полное эмоциональное погружение, наверное, можно изобразить так
Эмоции, контекст написанного — нейросети и когнитивные системы это уже «понимают». Когнитивная система от IBM, ряд сервисов от «Яндекса», алгоритмы Google и некоторых других компаний. В ближайшем будущем эта тенденция будет лишь усиливаться. Все это появляется не вдруг, работа в этой сфере ведется уже многие годы и сейчас появляются первые значительные результаты.
По мере совершенствования технологий можно представить себе ситуацию, когда те же обзоры компьютерные системы будут писать, «осознавая» написанное и придавая тексту нужную эмоциональную окраску. Наверное, машины будущего смогут и оценивать рестораны самостоятельно, включая вкусовые качества блюд, а не просто составлять тексты обзоров. Но пока что это лишь фантазии.
Комментарии (34)
EndUser
02.09.2017 21:09Людей можно узнать по сумбурности и неграмотности
Проблема возникает любопытная, но не смертельная — покупная джинса делалась и до этого.
Высказанная выше идея интеграции с платёжками, имхо, достаточно удорожает спам, может статься, до нерентабельности. Однако, факт отказа от платежа из-за скандала заблокирует соответствующий негативный отзыв. Не решил, плохо это или хорошо.
BlackMokona
02.09.2017 21:30+3Нейросетка учится на отзывах людей, у неё будет тот же уровень сумбурности и неграмотности.
vagonovozhaty
02.09.2017 21:12+16Отличная статья!
Я всегда читаю статьи этого автора, сегодня он затронул интересную и злободневную тему. Уже переслал ее своим друзьям.
Надеюсь, скоро выйдет продолжение, ведь это касается всех нас!
Спасибо!
xoralex
03.09.2017 14:09+2Человек который притворяется нейросетью которая притворяется человеком
Caseor
03.09.2017 17:26Угадайте какой из этих комментариев оставил человек:
Отличная статья!
Я всегда читаю статьи этого автора, сегодня он затронул интересную и злободневную тему. Уже переслал ее своим друзьям.
Надеюсь, скоро выйдет продолжение, ведь это касается всех нас!
Спасибо!
Тонко :)
Человек который притворяется нейросетью которая притворяется человеком
Zmiy666
02.09.2017 21:56+1Эх… печалька :( никому нельзя верить. Блогеры проплачены, коменты и отзывы пишут роботы… Как теперь узнавать правду? Я уже сомневаюсь, что мои знакомые и соседи рекомендующие забегаловку в соседнем квартале не получили за это денег…
vics001
02.09.2017 22:23Чтобы соседи получили деньги, они должны минимум 20 клиентов привести, так что внимательно посмотрите на этих соседей.
rPman
02.09.2017 23:28+1Печально, но к этому все идет, так или иначе.
Сам я положительные отзывы не читаю, только отрицательные. Вдумчиво, выискивая неоднозначности с целью получить не статистику а просто информацию о продукте. Для создания нейронной сети, качественно работающей на создание отрицательных отзывов понадобятся данные, которые собрать будет сложно, но конечно возможно.
ns3230
03.09.2017 04:29Вообще не обращаю внимания на отзывы, если они без видео или какой-то особой информации во вложениях. И даже не потому, что когда я начинал заниматься копирайтингом, контора по раскрутке сайтов давала заказы, в том числе, на генерацию отзывов. А просто потому, что человеческий отзыв — это всегда субьективщина, да еще и зависит от настроения. Тот, кто остался всем доволен, далеко не всегда будет делиться своим мнением. Основная часть настоящих отзывов пишется на эмоциях, когда человек или приятно удивлен, или наоборот, сильно разочарован. На эмоциях человек может обругать товар на десяти площадках, и не всегда критика будет обоснованной. Например, попалось ему одно бракованное устройство из тысяч исправных, а он экстраполирует все выявленные проблемы на модель в целом, а то и на все продукты производителя. В итоге получается, что большинство честных отзывов созданы на эмоциях, и репрезентативность выборки не позволяет формировать объективное мнение о товаре или услуге.
iperov
03.09.2017 07:49+1на яндекс маркете и без нейронных сетей слили озон.ру с 5 звезд до 2х.
Terras
03.09.2017 12:25Живя в жопе, ozon.ru был единственным магазином, который высылал мне вещи, которые вообще никак в моем региона нельзя было купить. Да это занимало больше месяца, да это была жуткая переплата, но они хотя бы слали -)
amarao
03.09.2017 12:13Очевидным решением будет интеграция систем отзыва с платёжными системами.
Представьте себе отзывы:
* Великолепные круасаны, обожаю их кофе. (3 посещения этого заведения, 0 посещений других заведений с тем же MCC-кодом).
* Эспрессо пережаривают (1 посещение этого заведения, 14 посещений других заведений с тем же MCC-кодом в этом месяце, 185 в этом году)
* Обожаю это место, особенно бесплатные туалеты для всех (пользователь скрыл статистику)
При этом ничего дополнительного не надо. Авторизация по карте (код + cve или 3Dsecurity), статистика по карте есть, MCC-код для поиска более-менее постоянных посетителей есть…
Виза/мастеркард, ау. Твой шанс.
vasimv
03.09.2017 16:12Убивать человеков ядерными бомбами — слишком банально. Оно будет загонять их хорошими отзывами в рестораны, где их отравят такие же как они сами.
mike_y_k
03.09.2017 16:36Пока есть шанс нужно срочно создавать своё собственное решение для извлечения из процесса денег. Пока ещё сайтов с опросами достаточно…
И пора задуматься о создании ИИ для контроля собственного трафика на предмет рекламы и отслеживания, как минимум.
Mitch
04.09.2017 21:44Идея позволять оставлять отзыв только тем кто совершил покупку — хорошая.
Недостаток — от осуществления проплаченных отзывов это не спасает, ресторан может пробить по кассе сотню другую фейковых чеков, ну заплатит с этих денег чуть больше налогов, цена не высока.
От отрицательных фейковых отзывов защищает уже получше в случае общепита.
Еще бы я внедрил систему "кругов доверия" — чтоб я мог увидеть рейтинг\комментарии не всех вообще, а только своих друзей, и их друзей на N уровней вложенности, это должно очень хорошо фильтровать как положительные так и отрицательные фейки.
Конечно, при условии что мы будем в этой системе добавлять в друзья только тех кого мы точно считаем людьми.
vyacheslavteplyakov
05.09.2017 11:09Система отзывов уже давно дискредитирована, на том же Яндекс маркете львиная доля написана под заказ. Существует даже индустрия которая предоставляет услуги по коррекции репутации, как своей так и чужой, в любую сторону. Расценки не гуманные, но прайс доступен каждому кто захочет его найти, это показатель. А кто их пишет, литературные негры или нейросети уже не столь важно, просто вторые выйдут дешевле. Как уже верно замечено, нужен надёжный способ идентификации живого человека, желательно позволяющий проверить его честность, что трудно реализуемо. Не читайте отзывов.
pyrk2142
На мой взгляд, рекомендательные сервисы спасёт интеграция с платежными системами. Например, с банковскими приложениями. Достаточно старый клиент банка с частыми тратами для каждой траты в ресторане получает возможность оставить отзыв. Как минимум, подтверждён факт посещения и оплаты. Можно добавить метки, вроде «трата от 50$ до 100$». И давать небольшие бонусы за отзывы. Получается что-то вроде рекомендательной системы для клиентов банка, которую можно дальше развивать. Это заметно усложняет написание фейковых отзывов.
Xeli
Не у всех в наличии синдром вахтера. Кому то банально лень на это время будет тратить. Тоже мне блин «привилегия».
Получается что-то вроде ютуба где топовые блогеры за денежку тебе, что хочешь скажут и на балалайке ещё сыграют.
Как по мне единственное, что реально может заработать это профессиональные, распределенные (! это очень важно чтобы исключить продажных вскукареков которые обязательно затешутся в фирму), команды обзорщиков на независимой зарплате, зарплату им должны платить благодарные пользователи их труда. Отзыв должен считаться истинным, только когда мнения команд совпадут. Всех не купишь. А если и купишь, то много людей участвующих в схеме поставят факт фальсификации под не иллюзорную возможность раскрытия.
ozonar
Мнения не могут совпасть.
Девяти понравился гуляш, десятому нагрубил официант. Кто прав?
p1nger
Как быть в той ситуации если нечестный продавец и не будет пытаться подкупить всех, чтобы получить положительные отзывы о своих услугах, ему достаточно подкупить одного обзорщика и все отзывы о его конкурентах перестанут быть истинными.
vics001
Если бы каждое спам-письмо стоило от 0.1$, это бы убило спам в принципе. Проблема в том, что для одного ресторана не составит проблем заплатить 5-10$ за 100 хороших отзывов, а если учесть, что пользователь читает только 10 отзывов, то и денежной проблемы нет. Единственное, что спасает рекомендательную систему в этом случае, надежная социальная сеть или обязаловка, что каждый при посещении должен оставить публичный отзыв.
Думаю с этой проблемой не боролись, потому что и проблемы нет. Не так много людей читают отзывы по сравнению с количеством людей, которые ходят в рестораны.
Zmiy666
вообще странно, что в ресторане не поставят пару терминалов для оставления отзывов и любой, вбивший туда отзыв получал бы скидку в 10% с чека например… Вот тогда все было бы завалено отзывами.
batja84
Как возле туалетов в аэропортах. Стойка с 4 смайликами от зелёного (понравилось) до красного (не понравилось). XD
red75prim
Это на государственном уровне придётся вводить. Как владелец ресторана сможет извлечь дополнительную прибыль из такой системы, если конкурент может просто накидать себе фейковых отзывов?
pyrk2142
В случае интеграции с банковской системой (рассмотрим систему внутри одного банка) накидывание фейковых отзывов становится слишком дорогим для ресторана: ему нужно регулярно находить клиентов этого банка, готовых провести оплату в ресторане (даже на условиях возврата денег), выполнять платёж, написать ряд отзывов. И повторить это через неделю, когда эти отзывы сменились на более новые. Банк является гарантом того, что действительно была совершена оплата. И это сильно усложняет написание фейковых отзывов.
red75prim
Ресторан конкурента решает не включать интеграцию отзывов с банковской системой (кто его заставит?), и просто накидывает отзывы на свой сайт. У первого будет одно преимущество — в рекламу можно будет включить строчку "вы можете доверять отзывам".
rPman
Да что же вы такие простые
Выше предложили привязать отзывы к платежкам, окей — дал положительный отзыв — тройная скидка, нет никаких отзывов — скидка 1х, отрицательный — скидок не будет…
Еще круче — ввести меню 'для тех кто нас любит' и выдавать только тем, кто оставляет только положительные скидки, в остальном меню — стакан воды и кусочек соленого хлеба.
Любая система будет уязвима к манипуляциям, ЛЮБАЯ, построенная на правиле, а иных пока не придумали.
Eldhenn
Не только ставить метки, но и прикладывать чек. Будет видно, брал он цыпленка в чесночном соусе или нет.
pyrk2142
Если бы была возможность автоматически подгружать чеки (некий аналог онлайн-касс), то это было бы шикарно. Без проблем можно сделать рейтинг блюд в ресторане, который интересен не только посетителям, но и руководству ресторана.