Сейчас много людей говорят о том, что пузырь нейросетей вот-вот лопнет, что это чуть ли не самое бесполезное изобретение человечества, которое ни на что не способно.

Я считаю иначе. Все эти заявления разбиваются о простые рассуждения и примеры, которые почему-то часто игнорируют. Я даже не боюсь тотальной замены людей нейросетями: настолько сильный рост экономической эффективности может подарить нам колоссальное количество свободного времени и новых возможностей.

(Статья написана мной и была орфографически проверена, стилизована, с добавлением источников через DeepSeek, если потребуется изначальный текст - скину)

Дисклеймер

Конечно, объять необъятное невозможно. Наши мысли можно представить в виде множества векторов в n-мерном пространстве. Каждая наша попытка вербализовать мысль — это своего рода KNN исходного замысла среди похожих слов. Рано или поздно идея упрощается настолько, что становится примитивной и даже неверной . Поэтому я не буду претендовать на истину в последней инстанции, а лишь предложу только несколько тезисов к размышлению, чтобы не упростить свою позицию до карикатуры. Тем более, как мы знаем из психологии (эффект «иллюзии истины»), красивое объяснение, многократно повторенное, начинает казаться правдой даже его автору.

Проблема оценки: кому мы верим?

Парадокс современного этапа развития ИИ в том, что всё внимание приковано к генерации ответов «здесь и сейчас». Мы требуем от моделей абсолютной точности, хотя от человека таких гарантий не ждем. Если GPT пишет статью с полезной информацией, его/её труд легко обесценить только потому, что автор — машина. Но если мне даст ответ случайный прохожий и DeepSeek, я скорее поверю последнему: он статистически ошибается гораздо реже.

Но где мы можем проверить эту объективность? На Хабре или Reddit — есть механизмы обратной связи. Проблема в том, что в большинстве мест автор может удалить негативный комментарий или просто отключить их (вспомните отключение дизлайков на YouTube). Это создает искаженную картину реальности. Представьте блогера, который утверждает, что членистоногие произошли от плоских червей(а не от кольчатых или круглых, что научно обоснованно, я видел два варианта, но кольчатые вероятнее). Без механизма коррекции люди будут получать и распространять неверные данные. И это — корень проблем.

ИИ загнали в угол (и это наша вина)

Ирония в том, что развитие ИИ пошло по тому же пути. Мы создали формат «чат: человек — нейросеть», где человек заведомо не знает ответа (иначе зачем спрашивать?), получает ошибку, называет это «галлюцинацией» и теряет доверие. Хотя живой интеллект ошибается ничуть не реже.

Вместо того чтобы дать нейросетям возможность писать на платформах с честной оценкой (как тот же Хабр), мы загнали их в поисковики. И здесь ситуация только ухудшается. Если вы искали значение слова, то замечали: Google теперь генерирует свой ответ на базе Оксфордского словаря, а саму ссылку на словарь прячет. Это как спросить совета у случайного прохожего, причем даже не самого умного. Модель не борется с петлей обратной связи, а усугубляет её.

Историческая слепота поисковиков

Мы все знаем о маккартизме, но почти ничего — о том, что вытворяла Великобритании или, например, ФБР при Эдгаре Гувере. Я имею в виду программу COINTELPRO . Это было не просто нарушение прав. Агенты ФБР устанавливали прослушку и собирали досье на каждого, кто боролся за права чернокожих, поддерживал "левые" идеи или просто слушал "тяжелую" музыку. Они ломали жизни, дезинформировали людей, разрушая любые профсоюзы, прослушка была даже в больнице Хемингуэя, а Мартину Лютеру Кингу писали письма с угрозами, напрямую говоря, чтобы он совершил суицид.

Эта программа длилась с 50-х до середины 70-х годов, пока группа активистов не совершила налет на офис ФБР в Медиа, штат Пенсильвания, и не рассекретила документы . И что вы думаете? Виновных посадили? Нет. Но попробуйте найти об этом подробную информацию. Даже на английском её мало, на YouTube — почти ничего, а "ИИ-ответы" Google предлагают пару поверхностных источников. Яндекс про это тоже почти не знает. Интернет провалил этот тест на память. Документы Сноудена стали для многих шоком(хотя это странно), но сейчас мы забыли и про них.

Но нам и этого мало…

Вместо общей бесплатной платформы для обмена знаниями мы получили Telegram-каналы. Для отдельного автора это удобно, но для экосистемы в целом — катастрофа. Старые сайты закрываются, Telegram не индексируется поисковиками, информация умирает в "уютных чатиках". Сегодня YouTube и Хабра остаются, пожалуй, последним оплотом относительно открытого и качественного контента. Люди при этом продолжают слепо доверять книгам просто потому что они "печатные", которые могли устареть морально и качественно.

Решение, которое почему-то игнорируют.

Очевидно, что в обозримом будущем любой источник будет ошибаться. Секрет не в поиске непогрешимого автора, а в перекрестной проверке. Но для этого нужна платформа, где и люди, и нейросети смогут создавать контент, а другие участники — оценивать его. Идея не в том, чтобы вырезать всё "нечеловеческое", а в том, чтобы создать среду, где ценность информации определяется её качеством, рейтингом, комментариями, а не происхождением. Человек, кстати, ошибается гораздо чаще. Здесь я говорю только о информации, которая в первую очередь не носит развлекательный характер.

Хабр близок к этому идеалу, но он ограничен русскоязычным сегментом. Очень хочется верить, что скоро появится глобальное пространство, где и люди, и алгоритмы смогут работать на равных, создавая действительно достоверную и живую среду. Как я и говорил в начале, перечислить все проблемы невозможно. Я затронул лишь те, что были давно в голове. Буду рад вашим комментариям, если Вы согласны или не согласны. Именно для этого Хабр и существует.

Финансовый вопрос

В комментариях он часто поднимался: Так есть, например, реклама, авторы каналов на YouTube деньги получают, если они не из России, да и Гугл за счет этого и существует. Я даже больше скажу - авторы большинства личных блогов на своих сайтах почти всегда в более плохом положении и по деньгам, и по просмотрам, и по известности.

И, нет, ссылки на Telegram-канал не будет — не хочу участвовать в загнивании интернета.

https://github.com/LanskoyKirill

https://youtube.com/@lanskoyg?si=fPNU-xC-hIIkMe9C

Всем удачи!

Если хотите - переведите статью на английский и выложите на Reddit, X и т.д. с указанием авторства. На втором мне нет смысла писать, а на первом у меня site-wide shadowban из-за российского IP сразу при регистрации. Я пытаюсь снять его уже 1,5 года, так что можете написать: здесь или здесь(мой ник - Lanskoy_Kir)