Патент RU_2676949_C2 со скромным названием «Система и способ определения дохода пользователя мобильного устройства» компании ООО ЯНДЕКС (RU) действует с пятого апреля 2017 года. А вместе с патентом RU 2 637 431 C2 «Способ и система определения оптимального значения параметра аукциона для цифрового объекта» это дает возможность для персонального, ситуационного и точечного ценообразования, например на услуги такси. Не документальное ли это подтверждение возможности компании для топ-менеджера с последним iPhone ставить ценник дороже, чем для дизайнера с Xiaomi на идентичный по гео и времени заказ? «Вот тебе, бабушка, и Юзер и Экспирианс!»?
В дебри патента окунаться не будем, а поговорим об алгоритмах скрывающихся под обличием термина User Experience (ох, не тому ведь вас учили, юная леди, на на курсе Яндекс.Практике по UI/UX). Во-первых, это «душное» чтиво. Во-вторых они все одинаковые: одни знают сколько мы зарабатываем, другие (Tinder) — с кем мы спим, третьи увеличивают вовлеченность (EA), четвертые повышают микротранзакции (Ubisoft).
Я их все прочел и для простоты резюмирую: в основе всех патентов и технологий лежит теория множеств, мат. аппарат теории Графов, что то типа алгоритмов Elo для системы подбора и десяток серверов тензорными ядрами на 3958 терафлопс. Вы ведь не думали, что Хуанг их продает для генерации картинок или GPT?!)
Предлагаю читателю познакомится с тем, как нежно и волшебно пишет об этом зарубежная пресса и исследования, в моем «правильном» переводе лит.обзора на тему Algorithmic Experience (AX), за авторством Diem-Trang Vo и редакцией Duy Dang-Pham. Все нужные слова выделены жирным.
Введение
ИИ «бла-бла-бла» неотъемлемой «бла-бла-бла» повседневной жизни. Спектр реализаций: рекомендательные системы э-коммерции, рекомендации фильмов, специализированные службы агрегации контента или навигационные системы.
Да. Внедрение технологий может улучшить работу пользователей и спектр услуг, но, не очевидно, как пользователи воспринимают такие рекомендательные системы: какие факторы влияют на нашу удовлетворенность и принятие этих рекомендательных систем алгоритмов? И как мы можем улучшить алгоритмический опыт пользователей?
Проблема ИИ: с точки зрения пользователей
Проанализировав 35 448 отзывов пользователей Facebook, Netflix и Google Maps, Einband и др. (2019) выяснилось что не только точность, но и взаимодействие между пользователями и системами также влияет на опыт пользователей.
С одной стороны, исследование предполагает, что есть общими проблемами этих систем — алгоритмические, такие как: предвзятая модерация контента Facebook, несоответствие между рекомендациями и интересами Netflix, неточный пункт назначения Google Maps, являются
С другой, пользователи могут чувствовать раздражение, когда они имеют ограниченный контроль над тем, как работают системы. Например, пользователи могут быть разочарованы, когда Google Maps продолжает перезаписывать выбранные вручную маршруты, не сообщая им об этом.
Кроме того, важно, как системы взаимодействуют с отзывами пользователей. С бинарной системой рейтинга (нравится/не нравится) пользователям может быть сложно предоставить значимую обратную связь для Netflix, что, в свою очередь, влияет на актуальность рекомендаций.
Учитывая эти проблемы, ориентированные на человека, все больше исследований начинают изучать «алгоритмический опыт» или «AX» (1) — всеобъемлющий взгляд на взаимодействие пользователя с интеллектуальными системами. Это понятие включает (но не определяется) действия по усилению пользовательского контроля над алгоритмами принятия решений, прозрачности в том, как работает система, и преднамеренной активации или деактивации алгоритмического влияния.
AX и нежные чувства пользователей
Человеческая деятельность и контроль за системой — одна из новых тем. Позволяя пользователям подтверждать, управлять и сохранять контроль над алгоритмом, система может дать пользователям возможность почувствовать себя способными управлять тем, что система думает о них (1) (5).
Согласно опросу, 56% пользователей хотели бы, чтобы у них была возможность управлять новостной лентой Facebook и самостоятельно фильтровать контент, включая, например, включение/выключение/настройку функции «Люди, которых вы можете знать» (1).
Исследователи предполагают участие людей в процессе разработки систем ИИ. Вовлечение конечных пользователей в процесс разработки может улучшить восприятие пользователями справедливости и доверия, повысить осведомленность об алгоритмах и понимание алгоритмов принятия решений, что приведет к более чуткой позиции (6).
AX и прозрачность
Исследования по внедрению алгоритмов и алгоритмическим бихевиористики опираются на воспринимаемую прозрачность и справедливость для объяснения отношения пользователей, фактического использования, уровня принятия, удовлетворенности и намерения продолжать (8) (9).
Прозрачность относится к тому, как система делает видимыми то, что алгоритм знает о пользователе, и объясняет, почему алгоритм представляет результаты на основе этого профилирования (1), что, в свою очередь, улучшает работу алгоритма.
Шин’овская «петля доверия и обратной связи» (9) также предполагает, что воспринимаемая прозрачность и точность гарантируют доверие, что, в свою очередь, способствует удовлетворению.
AX и осведомленность: польза объяснения
Другие работы направлены на то, чтобы помочь пользователям разобраться в интеллектуальных системах, например, посредством объяснений.
Некоторые авторы согласны с тем, что объяснение положительно влияет на восприятие прозрачности (3). Другие утверждают, что эффективность объяснения зависит от механизмов прозрачности (отчетность и интерпретируемость), а также от того, как система объясняет (7). Например, различия в стилях объяснения (влияние исходных данных, чувствительность, на основе конкретных случаев или демографические данные), методах и модальностях уведомлений по-разному влияют на восприятие справедливости пользователями (2).
В заключение…
Алгоритмы «бла-бла-бла» частью «бла-бла-бла» подход ориентированный на человека. Создание ИИ с точки зрения того, что удовлетворяет потребности человека и общества, гораздо важнее, чем продвижение того, что технически возможно.
В недавних исследованиях изучались различные способы повышения удовлетворенности пользователей и принятия ими ИИ, включая расширение участия пользователей, повышение прозрачности, справедливости или использование объяснений.
Однако все еще существует ограниченное понимание возможных решений, которые требуют дальнейшего изучения и внимания. Благодаря пониманию восприятия пользователя будущая работа может быть посвящена разработке инклюзивных алгоритмов, ориентированных на человека.
P.S.
Ага, прям таки вижу как Яндекс Такси, перед очередным заказом уведомляет: «Мы знаем, что вы зарабатываете 25к рублей, поэтому хотели сделать вам скидку в 3 процента, но вы получили материнский капитал, поэтому только 1%»
Список литературы
Alvarado, O & Waern, A 2018, ‘Towards algorithmic experience: Initial efforts for social media contexts’, in Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems, pp. 1-12.
Binns, R, Van Kleek, M, Veale, M, Lyngs, U, Zhao, J & Shadbolt, N 2018, ‘‘It’s Reducing a Human Being to a Percentage’ Perceptions of Justice in Algorithmic Decisions’, in Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems, pp. 1-14.
Brunk, J, Mattern, J & Riehle, DM 2019, ‘Effect of Transparency and Trust on Acceptance of Automatic Online Comment Moderation Systems’, in 2019 IEEE 21st Conference on Business Informatics (CBI), vol. 1, pp. 429-35.
Eiband, M, Völkel, ST, Buschek, D, Cook, S & Hussmann, H 2019, ‘When people and algorithms meet: user-reported problems in intelligent everyday applications’, in Proceedings of the 24th International Conference on Intelligent User Interfaces, pp. 96-106.
Kumar, A, Braud, T, Tarkoma, S & Hui, P 2020, ‘Trustworthy AI in the Age of Pervasive Computing and Big Data’, arXiv preprint arXiv:2002.05657.
Lee, MK, Kusbit, D, Kahng, A, Kim, JT, Yuan, X, Chan, A, See, D, Noothigattu, R, Lee, S & Psomas, A 2019, ‘WeBuildAI: Participatory framework for algorithmic governance’, Proceedings of the ACM on Human-Computer Interaction, vol. 3, no. CSCW, pp. 1-35.
Rader, E, Cotter, K & Cho, J 2018, ‘Explanations as mechanisms for supporting algorithmic transparency’, in Proceedings of the 2018 CHI conference on human factors in computing systems, pp. 1-13.
Shin, D 2020, ‘How do users interact with algorithm recommender systems? The interaction of users, algorithms, and performance’, Computers in Human Behavior, p. 106344.
Shin, D, Zhong, B & Biocca, FA 2020, ‘Beyond user experience: What constitutes algorithmic experiences?’, International Journal of Information Management, vol. 52, p. 102061.
Комментарии (40)
larasage
27.07.2023 01:00+3С одной стороны, исследование предполагает, что есть общими проблемами этих систем — алгоритмические, такие как: предвзятая модерация контента Facebook, несоответствие между рекомендациями и интересами Netflix, неточный пункт назначения Google Maps, являются
Все слова понятны и даже смысл проглядывает, но как-то согласовать в этом длинном предложении слова можно? Или разбить на несколько простых предложений...
AndrewYaremko Автор
27.07.2023 01:00-1Ваша правда. Сегодня пишу на кураже без своего любимого редактора.
ErshoffPeter
27.07.2023 01:00+2Тема интересная, но подана немного эмоционально - можно было бы и поконкретнее немного.
Не всё понятно, например, "есть общими проблемами этих систем" - это как? FinishedMGIMO + Google Translate. ????
AndrewYaremko Автор
27.07.2023 01:00Yes так точно)))) Уточните, что именно вас заинтересовало. А то я тут и по патенту Яндекса прошелся и по общей концепции подобных изобретений и по трактовке UX через призму AX. У меня есть более ранние публикации в которых я много дискутирую на тему UX определяя его как Manageble Experience ссылаясь на все те же алгоритмы и патенты.
А тему Патентов я подробно разбираю в статьях про Tinder, тк нахожу их на голову изобретательней чем патенты того же Яндекса или EA. Если есть публикация на ваш запрос, поделюсь ссылочкой, если нет, то подумаю над новой статьей.
TakeshiDev
27.07.2023 01:00+2А то я тут и по патенту Яндекса прошелся и по общей концепции подобных изобретений и по трактовке UX через призму AX
В этом сущностная проблема данного текста. Начали о Яндексе, после второго абзаца на него забили, пошли рассуждать о UX, перешли на AX и вспомнили уже в постскриптуме про Яндекс. Блуждание разума какое-то. А сократить можно до двух предложений: "Яндекс зарегистрировал новый патент, который не соответствует идее прозрачности рекомендательных алгоритмов для UX. Мне это не нравится."
AndrewYaremko Автор
27.07.2023 01:00А правильно сократить будет так «UX — это не про интерфейсы и удобство пользователей, а про алгоритмы работающие на увеличение прибыли.» Представьте себе ситуацию, что каждый раз перед покупкой продуктов в пятерочке или на рнке, вас бы спрашивали — а сколько вы зарабатываете или покажи телефон, и в зависимости от этого выставляли ценник. Полагаю, это никому бы не понравилось.
А еще в статье запрятана рекомендация — я нынче заказываю такси с Гэлакси А 13 купленного за 8 к специально для этих целей
vis_inet
27.07.2023 01:00+2Он у вас уже окупился?
AndrewYaremko Автор
27.07.2023 01:00Он мне очень понравился, так что я про iPhone совсем забыл, лежит пылится. Думаю еще нет, я сильно обленился и стал работать дома.
SuperTEHb
27.07.2023 01:00Раньше ещё на цену влиял уровень заряда батареи. Тоже присоединюсь к вопросу: разница видна?
AndrewYaremko Автор
27.07.2023 01:00говорят что видна. собственно это и стало стимулом знакомства с патентами яндекса. Была мысль корректные исследования провести, но на каждую идею как это делать по 3 возражения как это обходится. Так что доказательной базы , так чтобы все четенько и не подкопаться у меня нет, зато есть текст патента. Я более чем уверен, что компании используют свои патенты.
TakeshiDev
27.07.2023 01:00А правильно сократить будет так «UX — это не про интерфейсы и удобство пользователей, а про алгоритмы работающие на увеличение прибыли.»
Вообще не уловил этого посыла в посте, безусловно что-то такое проскальзывало где-то в середине, но с заголовком текста и вводной частью это вообще никак не соотносится, будто две разные статьи сшили.
AndrewYaremko Автор
27.07.2023 01:00Так и есть, про Ux читаю только дизайнеры, а им мои тексты про патенты и алгоритмы не интересны или сложны. Через менеджмент и управление проектами тоже пробывал, тот же результат, а чего еще от PO ждать. Вот третий подход, блин комом, но читаю. Спасибо за комментарии внятные, они помогают корректировать последущие публикации.
ErshoffPeter
27.07.2023 01:00Сама тема AX очень интересна - о ней вскользь упоминают на моей памяти уже лет двадцать, но реальных воплощений, кроме рекомендация по расстановке товаров на полках толком и не видно. С маркетплейсами AX шагнул в массы, но по сути - та же расстановка предметов на полках в своей массе. В то же времяо уже начались у того же Яндекса попытки выставлять индивидуальные цены на товары, что более-менее легко обходится так или иначе.
Интересно пофантазировать - что же будет дальше?
AndrewYaremko Автор
27.07.2023 01:00https://habr.com/ru/articles/695740/ — это вот ссылочка на обзор патента Тиндера, и его алгоритма, моя третья статья на тему и самая вкусная. В ней нам прям говорят с кем встречаться с кем и когда спать. А дольше пофантозировать можно на использование ии в RTB не только на участке формирования ценника, о чем второй упомянутый патент. Но, и с новыми мощностями на момент формирования производства. Заходишь в Яндекс Директ и говоришь, буду продавать картошку есть 6 гиктар, а тебе Яндекс и говорит, мол вспахай только 2 томучо больше чем с 2х гиктар кортошки я уже не продам по тому ценнику по которому тебе выгодно будет землю окучивать, ткпросто рекламных мест больше нет, все выкуплено твоими коллегами, и у населения тоже денег больше нет, я ведь за каждым слежу и знаю кто сколько зарабатывает и кто сколько ест.
А если уж фермеров не будет хватать, то алгоритм распределения спрогнозирует и пересчитает количество новых студентов на потоках Фермерства и дизайна — побольше в пту, поменьше в вуз. ибо дизайнеров уже столько не надо, не трудоустроить их будет по тому ценнику по которому они прожить смогут и от голода не загнуться. — примерно об этом статья от инженеров Google на TheVerge
https://www.theverge.com/2018/5/17/17344250/google-x-selfish-ledger-video-data-privacy
gohrytt
27.07.2023 01:00Про яндекс сплит автор видимо не слышал
AndrewYaremko Автор
27.07.2023 01:00Уточните пожалуйста вашу позицию. Может я не корректно указал даты патентования, ошибся в вопросах авторского права, не корректно перевел лит.обзор (исключая опечатки)? Каким боком Яндекс Сплит связан с темой публикации?
gohrytt
27.07.2023 01:00+5Статья начинается с "ЯНДЕКС?! — а чё тебе так интересно, сколько я зарабатываю?" и заканчивается на "но вы получили материнский капитал, поэтому только 1%".
Таким образом вы автоматически подразумеваете злой умысел, что с точки зрения журналистики некорректно. Я просто привожу пример обьясняющий необходимость указанных в статье патентов.AndrewYaremko Автор
27.07.2023 01:00+1В этом ключе — да, все корректно. Любой Яндексовский продукт что Сплит, что доставка, будут работать по той же схеме для определения заработка, но не для плавающего ценника. С Я. Сплитом я и правда не сталкивался, спасибо за рекомендацию, может еще что интересное попадется на глаза.
DarthVictor
27.07.2023 01:00+5Мне Яндекс в рекламе предлагает инвестиции в недвижимость в ОАЭ от $1млн. и успокоители качки для яхт. Возможно их модель слегка завышает.
AndrewYaremko Автор
27.07.2023 01:00ох товарищ, на интересные рассуждения вы подталкиваете. Вопрос в соответствии с этим звучит так – а может ли цифровая история (поисковые запросы и история серфинка) влиять на стоимость услуг такси?
В патенте речь только про мобильных пользователей без упоминания связки с бигдатушкой рекламной площадки.
могу предположить что пока они не связанны. тк рекламная платформа яндекса не совершенна. Мало ли что и кто пишет в поиск. Может журналист гуглит особнячки для статейки про Димона? Пока что, подчеркиваю, пока-что это еще не влияет на оценку стоимости услуг. Гугл заикался о такой возможности в 2017 году со своем проектом Selfish Ledger. Если интересно на TheVerge сохранилась публикация.
Shklo
27.07.2023 01:00т.е. если скоро можно будет вбивать в поиск "мивина по акции" и "лучшие секонды" чтобы немного сэкономить)))
AndrewYaremko Автор
27.07.2023 01:00вопрос не в «будет», вопрос — а работает ли уже? тк технически это возможно. поставить (перекрестился) яндекс браузер, лазить на авито по копеячным предложениям, яндексить ваши запросы)
AndrewYaremko Автор
27.07.2023 01:00а серьезный вопрос звучит так, влияет ли на стоимость и качества автомобилей статус нищебро, если всегда заказывать только эконом. Только по опыту могу сказать, что на аккаунте при переходе с базнеса на эконом - ситуация плачевная. все сделано чтобы никогда больше экономом не ездить. На аккаунте только эконом, машинки приезжают в состоянии и с водителями поприятнее чем в бизнесе.
Shklo
27.07.2023 01:00+2У меня только один вопрос, как вы разобрались в том, что написано в патентах?
Я, например, когда читаю патенты гугла у меня еноты на банджо в голове играют, и приходится перечитывать раз 15 одно и тожеvis_inet
27.07.2023 01:00Да, патентный язык и способ формирования предложений там весьма своеобразные.
AndrewYaremko Автор
27.07.2023 01:00+1Я начал читать медицинские исследования на английском. Очень этот навык сидения со словарем и перечитывания по 100 раз каждый абзац сейчас пригодился. Хороший патент — как код ДаВинчи от лучших копирайтеров, со временем автоматически подмечаешь выражения, чуешь какие термины можно по быстрому поискать. Самое главное к чему я пришел — если что то не понятно и не очевидно, и кажется можно пропустить, то это самое важное.
acsent1
27.07.2023 01:00+1Определение цены для каждого конкретного человека - этой практике несколько тысяч лет. Опытные продавцы на рынке годами оттачивают такой навык.
А вот как раз практике фикс цены для всех - совсем не много летAndrewYaremko Автор
27.07.2023 01:00Миллионов если быть точным, надеюсь ваше высказывание про несколько тысяч — не содержит рассовых предрассудков. А если по делу, то вы правы про ловких продаванов, и суть научить бездушную машину так же ловко манипулировать человеком как делают это цыгане (в обще культурном понимании). А фикс цен — это товарищ про социализм. Фикс цен не равен фикс марже доже для моего любимого бургер кинга - а Домодедово вы не найдете чизбургер за 70 рублей, его просто не будет в меню)
Wesha
Если б они только знали, как меня зае...ли эти "люди, которых вы можете знать". Нет, я, конечно, могу — но совершенно не хочу знать жену/любовницу/бабушку/дедушку/брата папы дедушки по двоюродной сестре того парня, с которым, да, мы в детстве во дворе в войнушку играли, а потом он со своими родителями в другой город переехал. И это ещё я — а кому-то в настоящее время, может, придётся уже и не играть...
AndrewYaremko Автор
Будте уверены, они это знают))) в этом вся соль влажных мечт об UX и реального положения дел.
TiesP
У меня вообще последнее время показывают какую-то порно-ленту) ... вместо тех, на кого подписывался. Вот думаю, если месяц не заходить, что-то изменится или уже нужно удаляться нафиг оттуда.
AndrewYaremko Автор
Не буду гадать про какую соц сеть или сервис вы говорите, но в целом большинство алгоритмов не предполагают кардинального изменения без больших апдейтов. Если вы попали в поведенческую выборку / «множество» куртизанок, то это на долго, если не чистить всеми силами свой цифровой профиль. У меня подобная история с Шортсами на ютьюб прключилась, я как экспериментатор сразу ринулся глубины просматривать, так что теперь кроме «let my body dance 4 u» ничего и нет, не смотря на подписки веритасиума, теда, химии это просто и макара светлого.
Тут один только совет, ведите себя как «паинька»-ботаник, общайтесь только с «хорошими» девочками, говорите о собаках и выборах, демократических ценностях, желательно с очень верующими людьми, подпишитесь на соответствующие группы и прокомментируйте там постики. как то так
TiesP
Я то про фейсбук. Не, у них явно поменялся алгоритм, причем довольно резко и в худшую сторону. До этого то лет 10 всё работало) А вот на youtube у меня всё нормально (тьфу-тьфу). Причем там есть возможность вручную убрать из ленты рекомендаций. И она довольно гибко подстраивается. Здесь же либо создавать 'porno-block' типа 'ad-block', только для ленты, либо просто не трогать их и пускай развлекаются.
TiesP
... возможно связано с переездами между странами. Помню, они в РФ сначала вообще отключили всю рекламу в ленте. И была нормальная лента
AndrewYaremko Автор
А вот интересно, вы женалы или проживаете со спутницей? если нет, то переезд или командировка очень даже могла повлиять на ситуацию с рекомендациями)
asch2022
В ютубе полностью избавился от шортсов в ленте, пронажимав на штуках тридцати "мне не интересно". Отрицательная обратная связь там работает
JediPhilosopher
Про это очень хорошо пошутили VLDL. Просто алгоритмы лучше вас знают, что вам надо, хехе
https://www.youtube.com/watch?v=acRKY2BNusc
AndrewYaremko Автор
А это уже работа PR служб. Главное чтобы в общественном сознании было мнение - что алгоритмы «тупенькие» и работую как то не так, а соль в том, что все работает именно так, как максимально выгодно компаниям. Вот и весь литобзор про то же. мол пользователям надо. и было бы хорошо сделать. а сторону выгодоприобретателей они не рассматривают. Вы почитайте био автора оригинальной статьи, то еще рукапожатное лицо
ganzmavag
Проблема этой функции в том, что выборка "люди, которых вы знаете, но не добавили в друзья" очень быстро начинает выдавать список тех, кого ты специально и не добавляешь.