В современном интернете мы сталкиваемся с несколькими проблемами:
Информационный шум и сложность фильтрации контента. Каждый день публикуются миллионы статей, постов и комментариев. Как найти действительно ценное содержание?
Недоверие к публичным рейтингам. Существующие системы рейтингов часто подвергаются накруткам, манипуляциям и спаму. Мы все чаще сомневаемся в подлинности оценок и отзывов.
Отсутствие персонализации с учетом социальных связей. Мы больше доверяем рекомендациям друзей и коллег, но существующие платформы редко учитывают это эффективно.
Представляем концепцию "Кругов доверия" – системы персонализированных рейтингов, основанной на социальных связях пользователей.
Основные принципы
Каждый пользователь создает свой круг доверенных контактов, добавляя людей через различные идентификаторы (email, telegram, facebook и др.).
Система учитывает оценки и комментарии не только прямых контактов, но и контактов второго и третьего уровня (друзья друзей).
При просмотре любой веб-страницы пользователь видит персонализированный рейтинг, основанный на оценках людей из его кругов доверия.
Вес оценки уменьшается с увеличением социальной дистанции, что позволяет создать более релевантные рекомендации.
Преимущества подхода
Устойчивость к накруткам (требуется создание реальных социальных связей)
Персонализация на основе доверенных источников
Прозрачность механизма формирования оценок
Возможность расширения социального круга через доверенные связи
Прототип
Для реализации концепции разрабатывается браузерное расширение со следующим функционалом:
Панель управления для добавления контактов
Отображение рейтинга и комментариев на любой веб-странице
Возможность выставления собственных оценок и комментариев
Бизнес-модель
Предлагается два варианта монетизации:
Показ релевантных рекламных баннеров при просмотре статей
Подписка Premium ($10/месяц)
Участие
Проект находится на стадии концепции и прототипирования. Ищу единомышленников для развития идеи и создания первой версии продукта.
Вопросы к сообществу:
Насколько актуальна для вас проблема доверия к онлайн-рейтингам?
Какие функции вы хотели бы видеть в подобной системе?
Готовы ли вы участвовать в тестировании первых версий расширения?
Комментарии (37)
sshikov
18.01.2025 17:42Ну ок, я доверяю своим кругам. В смысле, они мне не врут (хотя я бы не был так уверен относительно всех своих знакомых). Но я не знаю (и не смогу узнать простыми средствами), каков уровень компетенции у моих знакомых. Т.е. они не врут - но прекрасно могут добросовестно заблуждаться, рекомендуя мне какие-то источники.
Хабр прекрасный пример того, что совершенно пустые статьи зачастую набирают много плюсов. И даже более того - они реально могут быть полезны тем, кто ставит эти плюсы, но например не мне. Нужно ли мне доверять тем, кто поставил плюсы статье, если я не знаю их уровень подготовки? Их интересов? Ну и так далее.
jasiejames
18.01.2025 17:42Хабр прекрасный пример того, что совершенно пустые статьи зачастую набирают много плюсов
Выгорание и всякая прокрастинация)))
А, более менее технарские или научпоп материалы набирают по десятке в лучшем случае.
Mitch Автор
18.01.2025 17:42Вы наверняка имеете знакомых суждения которых считаете адекватными. Также это могут быть не только личные знакомые, но и публичные люди, вроде Панчина, мнению которых вы доверяете.
Конечно, это не страхует вас от того, что они не добавят к себе неадекватна в друзья в моей системе.
И даже не страхует от того, что к их друзьям добавится и они проапруаят рекламного бота.
Но все же, если вы адекватно выбрали людей в первой линии, во всех 3х кругах доверия будут в основном как минимум люди.
Сейчас же, на любом маркетплейсе если вы видите 100 отзывов вы не можете быть уверены, что там не 90% ботов
jasiejames
18.01.2025 17:42Вы наверняка имеете знакомых
Вы и в комментариях ИИ пользуетесь?
Также это могут быть не только личные знакомые
Серьёзно? Не только личные знакомые? Кто тебя русскому языку учил?
публичные люди, вроде Панчина
Кто это? И почему мы все на Хабре должны его знать? Потому что у него есть блог в ютубе?
x012
18.01.2025 17:42Ну как минимум пока критика хабра не карается ацким кармомётом в минуса, хабр не является совсем уж грустным примером.
x012
18.01.2025 17:42Автору, спасибо что поднял вопрос.
Но по поводу реализации есть сомнения.
Пользователь sshikov сделал отличное замечание. По поводу уровня компетентности кругов.
Добавлю еще в более обостренно:
Разделение лжи на два типа:
1)Лживо врать (это когда человек явно знает что несет дезу)
2)Честно врать (это когда человек свято уверен в той дезе которую передаёт)Как предполагаемая модель предлагает бороться с враньём-2 ?
В результате подобной модели которая уже работает (соцсети вполне пример) юзер фильтрует входящий поток инфы (да и механизмы соцсетей в этом помогают) которая согласуется с его картиной мира ДАЖЕ если эта картина не бьется с реальностью.Итого люди живут все больше в изолированных информационных пузырях.
И кажется, что эти пузыри имеют тенденцию к все больше самоизоляции, взаимо-противопоставлению и все дальше от реальности.Mitch Автор
18.01.2025 17:42Нет, я думал о явной лжи, вариает1.
В мире где 99.99% всех постов и коментов будут сделаны рекламными ИИ ботами станет очень актуально. А мы скоро окажемся в таком мире.
x012
18.01.2025 17:42Но проблема Лжи-2 чудовищна по масштабам.
Mitch Автор
18.01.2025 17:42Ее предлагаемая тут система никак не исправит.
Для этого надо совсем другую штуку делать, а потом их конечно можно и совместить.Например если сделать систему, где будет записано 100500 популярных убеждений, и
пользователи накликают ответы в формате
"полностью согласен"\ скорее согласен\ незнаю \ скорее несогласен \ полностью согласен
То можно будет сделать автоматическую сверку, и выделить пользователей убеждения которых например нп 90% совпадают с вашими. И отображать мнения\коменты\отзывы\рейтинги только таких пользователей вам.
Качественно вам сделать инфо пузырь.
Зачатки такой системы у меня есть кстати, можно свою картину мира сверить с любым другии пользователем телеглам бота https://t.me/mental_map_bot
Но, этого не достаточно. Тк можно сделать 100500 тыщь промо ботов, которые выскажут на 100% такие же убеждения как надо, чтобы вы видели их коменты и рейтинги.
И вот чтоб отделить ботов от реальных людей, нужна система кругов доверия.
Мож быть кстати надо сделать лимит, меньше числа донабара, например 100 человек можно добавить. Чтобы повысить вероятность что люди добавят именно личных знакомых и немного топ инфлов, а не всех подряд как они добавляют в соцсетях.x012
18.01.2025 17:42Качественно вам сделать инфо пузырь.
Спасибо за ссылку на бота, но решать проблему пожара керосином - это не совсем то про что имел ввиду.
Как бы уменьшить отрезанность людей в пузырях от реальности.
Mitch Автор
18.01.2025 17:42Задумайтесь глубже, действительно ли вы хотите потреблять контент без пузыря?
Пузырь это и тематика, и люди его составляющие.
Без пузыря, это был бы рандомный контент, от рандомного автора.
И представте недалекое будущее, где ИИ агентов которые пишут посты и коменты гораздо больше чем людей, потому что внимание людей это ценный ресурс.
У нас тут на хабре айтишно-научный пузырь, и это прекрасно.
Тут редко встречаются истинно верующие и мало школьников.
Ботов тож пока наверное мало, но будте уверены, подвезут, и у них будет очень хорошая карма.
И вот уютный хабр с людьми станет бототусовкой, где 99% коментов написаны ботами.
А я хочу остаться пузыре, вот как он сейчас тут есть примерно, не видеть коменты от ботов а только от людей. Ну хотяб чуток отфильтровать, часть ботов все равно просочится.
vasiliev-s
18.01.2025 17:42Основная идея у автора - срубить бабла, а не сделать мир лучше. Упоминание о платных подписках на сервис тому подтверждение.
Mitch Автор
18.01.2025 17:42Я реалист. С чего то же надо серваки оплачивать.
Децентрализованая модель у меня тут не сложилась, слишком тяжелый бы клиент получался.
3 круга друзей, если по 300 в круге это 9м людей надо ослеживать чтоб индивидуальный рейтинг строить одному пользователю.
Много sql запросов, если один сервер потянет 10к активных пользователей, эт уже неплохо.
Делать продукт не понимая как его потом масштабировать совершенно не хочется.
RoasterToaster
18.01.2025 17:42Последний бастион доверия был мой домовой чат, но и там в итоге оказались мошенники.
Все эти круги взломают, как только они станут частым явлением.
x012
18.01.2025 17:42Последний бастион доверия был...
...Bastyon. Но уже нет.
А если без шуток - то ситуация с масштабом и разнообразием дезы - жесть.
LavaLava
18.01.2025 17:42⚠️Мошенники воруют ТГ-аккаунты россиян с помощью «домовых чатов».
Они расклеивают в подъездах листовки, в которых предлагается перейти по QR-коду и вступить в новый чат соседей. Если перейти по ссылке, то можно потерять аккаунт. Будьте осторожны.
ganzmavag
18.01.2025 17:42Кажется примерно что-то такое в Твиттере реализовано, когда на ленту заметно влияют лайки тех, на кого ты подписан.
Mitch Автор
18.01.2025 17:42Ага.
Но это ограничено твиттером, и сама система непрозрачна по алгоритму.А мне хочется сделать систему, где можно оставлять отзывы и рейтинги всем сайтам\статьям и сами эти сайты никак не смогут эти отзывы модерировать.
Ну тк все сильно персонализировано, эти отзывы как бы не вполне публичны даже.
Структурно напоминает личный блог каждого человека, а те кто добавил его в друзья на него подписались.
funca
18.01.2025 17:42У меня в соцсетях полно людей, которые часто имеют противоположное моему мнение и жизненную позицию. Это бывшие одногрупники, сослуживцы, коллеги, случайные знакомые. Мне порой любопытны миры, которые отличаются от моего. Но это ни разу не про обшие интересы или доверие.
Плюс, если мы с кем-то контрибьютим в один и тот же опенсорс проект, это совершенно не означает, что мне будет интересна реклама сигарет, собачьего корма или средств от облысения.
Mitch Автор
18.01.2025 17:42Да это так. И если это люди - это нормально.
Но вот если вы заходите на сайт, и там под статьей 100 коментов, 98 из которых написали промо боты, с целью рекламы или влияния на мнения по желаниб заказчика, то это уже немного другая ситуация. И это именно та ситуация о которой я думал, когда придумывал эту модель.
a_belova
18.01.2025 17:42Если вы хотите бороться с распространением агентов влияния (будь то автоматизированные боты или живые люди), то более эффективным подходом будет распознавание и фильтрация самих агентов влияния и транслируемого ими контента. nlp давно показывают высокие результаты в распознавании фейков и ботов.
В дополнение к комментариям выше, кажется, стоит отметить, что люди, как правило, оставляют отзывы по собственной инициативе в двух случаях: когда они сильно довольны или просто недовольны. В ситуациях, когда «всё нормально» или «просто хорошо», большинство пользователей отзыв не напишут, и тем более, вряд ли станут покупать подписку ради этой функции.
Простым мысленным экспериментом можно представить ситуацию, когда большинство пользователей читают комментарии/отзывы, но лишь меньшинство их пишет. В таком случае, предложенная система может превратиться в информационный пузырь, внутри которого всё равно будут присутствовать агенты влияния (как идейные, так и работающие за деньги). Учет "социальной дистанции" тоже не решит проблему фейковых аккаунтов, так как заинтересованные лица могут создавать целые сети взаимосвязанных фейков из ИИ-агентов и живых людей, имитируя близкие социальные связи.
По иронии, в попытке уменьшить влияние фейков, мы получим инфопузырь, с потенциально усиленным влиянием фейков. Получается, что предложенная система не только не решает исходную проблему манипуляции мнением, но и потенциально усугубляет её, создавая иллюзию достоверности и одновременно усиливая воздействие дезинформации.
Другими словами: рекомендую посмотреть в сторону распознавания раньше, чем в сторону ранжирования.
Mitch Автор
18.01.2025 17:42Что имеется ввиду под nlp?
Что бы это ни было.. тест тьюринга ИИ давно пройден.
Если рейтинг общий для всей системы - то да, сети ботов рулят.
И они рулят прямо сейчас. Накрутить так алгоритмы кармы хабра например можно.
Но вот если рейтинг личный, через ваши личные социальные связи, то ботоферма в 100к аккаунтов крутящая друг другу рейтинг, на вас не влияет, если люди из ваших кругов общения не добавили сами их к себе в доверенные.
Ну а если кто то добавил, то тоже не так страшно, влияние будет но не такое тотальное как в системе с единым рейтингом.
pqbd
18.01.2025 17:42Допустим, что система реализована и набрала достаточную аудиторию для корректной (с точки зрения правил системы) работы.
Первое: мнения ботов я не вижу, это я понял.
Второе: мнение контакта А по вопросу X мне инетересно, но его мнение по вопросу Y (в силу его компетенции) меня уже не сильно интересует (можно сказать вес менения человека А меняется в пределах от 0 до 1 в зависимости от темы X) - без этого концепция "кругов" видится мне очень фрагментарной.
Третье: в случае утечки информации, злоумышленик получает контакты и "круги" доврия для построения наиболее эффективного вектора атаки.
Итого: при серьёзных рисках, система прелагает только фильтрацию от ботов с относительно быстрым построением нужного для этого "круга авторитетных мнений". И, мне кажется, сильно пеувеличивается возможность такой системы: какова вероятность, что на каком-то конкретном ресурсе по какому-то конкретному вопросу окажется мнение (хотя бы одно) человека из (хотя бы 3-его) моего круга?
a_belova
18.01.2025 17:42Вот, да, нужны расчёты и моделирование. Без них бизнес -модель (утрируя и забыв обо всех вопросах к логике системы) воспринимается как: пользователи разметят весь интернет в Х вариантах и заплатят за это деньгами или просмотром рекламы
Mitch Автор
18.01.2025 17:42>>Второе
- в кругах доверия эта задача никак не решается, тут нужнен другой, дополнительный инструмент, в котором люди выскажут свою точку зрения по куче вопросов.
>>Третье
- конечно, можно втерется в доверие, и агента влияния кто то добавит, и он станет на его круги влиять. Но сейчато то можно сразу влиять, хоть какой то но фильтр.
Эффективность сильно будет зависеть разовьется ли культура - прилагать усилия чтобы в 1м круге были проверенные люди. И удалять из него тех, кто такой культуры не имеет.
>>какова вероятность, что на каком-то конкретном ресурсе по какому-то конкретному вопросу окажется мнение (хотя бы одно) человека из (хотя бы 3-его) моего круга
- Мне тоже интересен этот вопрос.
У меня то даже нет статистики, как часто люди пишут коменты, чтоб какую то модель строить.
NeoCode
18.01.2025 17:42Тема интересная, нечто подобное я предлагал для децентрализованной пиринговой соцсети. А вот будет ли это работать для насквозь коммерциализированного собственнического "обычного интернета" - вопрос открытый. Вот даже автор статьи начал за здравие, а кончил за монетизацию.
И конечно, самый сложный вопрос - правильные алгоритмы. Здесь нужно очень хорошо подумать, как сделать так чтобы избавиться от всевозможных накруток и "поисковой оптимизации", как разделить мнения людей по разным вопросам (такое зачастую бывает что в одних вопросах человек профи а в других профан), и т.д. А если рассматривать децентрализованные архитектуры, то сложность возрастает еще на несколько порядков, накладывается нетривиальная криптография и т.п. Это реально непростая задача.
jasiejames
Мы уже это проходили в середине двухтысячных.
Mitch Автор
Где именно такая идея была реализована?
jasiejames
В myspace как минимум, остальные лень вспоминать.
Mitch Автор
К сожалению, никогда им не пользовался.
Вроде как это была изначально специализированная система под артистов, судя по википедии.
Сейчас там не вижу ничего похожего, лайки просто общие отображаются как везде.
Там была система персонализированного рейтинга которая строилась не глобально по всем лайкам, а по друзьям друзей?
Mitch Автор
Спросил claude "знаешь ли ты проекты которые уже пытались реализовать что то похожее на круги доверия?"
Вот что ИИ знает по теме:
Да, было несколько похожих проектов и концепций:
Web of Trust (WOT)
Самый известный похожий проект
Существовал с 2005 года
Браузерное расширение для оценки репутации сайтов
В 2016 был скандал с продажей пользовательских данных
Основное отличие: использовал общий рейтинг, а не персональные круги доверия
Google's Social Search (2009-2012)
Интегрировал результаты поиска с социальными связями из Google+
Показывал контент, которым делились ваши контакты
Закрыт вместе с Google+
Отличие: работал только внутри экосистемы Google
Metacert Protocol
Блокчейн-проект для верификации контента
Использовал концепцию "кругов доверия" для определения достоверности информации
Больше focused на борьбу с фейковыми новостями
Отличие: централизованная система верификаторов
TrustNet
Академический проект Стэнфордского университета
Исследовал концепцию "сети доверия" для оценки контента
Остался на уровне исследования
Похожая идея персональных связей
Stack Overflow's Reputation System
Хотя это не браузерное расширение, но использует похожую концепцию
Репутация пользователей влияет на вес их голосов
Отличие: замкнутая система внутри одной платформы
Основные причины, почему эти проекты не достигли массового успеха:
Сложность достижения критической массы пользователей
Проблемы с приватностью и безопасностью
Зависимость от конкретных платформ или экосистем
Сложность в поддержании актуальности данных
Проблемы с монетизацией
Ключевые отличия нашего проекта:
Фокус на персональных связях вместо общего рейтинга
Прозрачный механизм формирования оценок
Независимость от конкретных платформ
Чёткая модель монетизации
Современные технические возможности для реализации
Из опыта этих проектов можно извлечь важные уроки:
Необходимость простого и понятного UX
Важность защиты персональных данных
Необходимость быстрого набора критической массы пользователей
Важность независимости от конкретных платформ
Необходимость четкой модели монетизации с самого начала
jasiejames
А когда у нас ИИ стал авторитетным источником информации? Ну кроме Бендера, разумеется)))
Mitch Автор
ИИ весьма неплохой стартовый источник, чтоб найти что гуглить дальше.
jasiejames
Вообще ни разу.
IVNSTN
единомышленники ближе, чем кажутся
https://habr.com/ru/articles/802419/
Mitch Автор
Они пытаются эту же задачу решить другим методом, не используя социальные связи, а создавая глобальный рейтинг фактов.
В итоге или там сибилы смогут захватить власть, или произойдет централизация на источник который администрация выберет как авторитетный.
Ну и сам алгоритм они не раскрывают пока, не куда им показать - вот тут дыкра.