Нобелевский лауреат Джеффри Хинтон, которого часто называют «крёстным отцом ИИ» за его гигантский вклад в технологию искусственных нейронных сетей, питающую современный ИИ, в последнее время обрушился с гневной тирадой на Big Tech. От обвинений в корпоративной жадности до подчёркивания опасностей ИИ, он, подобно Пандоре, отчаянно пытается запихнуть судьбы обратно в ящик. Но в недавнем интервью для Bloomberg он выкрутил громкость на одиннадцать, поставив под сомнение саму экономическую жизнеспособность ИИ.
На вопрос Bloomberg, окупятся ли когда-нибудь головокружительные инвестиции в ИИ, Хинтон ответил: «Я считаю, что не смогут», и уточнил: «Я считаю, что для того, чтобы заработать деньги, вам придётся заменить человеческий труд».
Конечно, Хинтон, который также верит, что изобрёл компьютерного бога, сосредоточен на колоссальном негативном влиянии массовой замены человеческого труда искусственным интеллектом. Это, по сути, превращает многотриллионную ставку на ИИ в проигрышную ситуацию. В конце концов, если инвестиции окупятся, экономика будет разрушена, что сделает любые вложения бессмысленными.
Но Хинтон упустил из виду один вопрос: «А может ли ИИ заменить труд?»
Хинтон, похоже, не желает осквернять пропаганду, подпирающую его цифрового монстра Франкенштейна, но, к счастью, у меня таких сомнений нет. И вот почему ИИ не сможет вас заменить, и почему это означает, что он обречён на провал.
Если верить хайпу, ИИ определённо скоро заменит рабочую силу. Например, исследование от AI Resume Builder показало, что 30% компаний планируют заменить HR-специалистов на ИИ в 2026 году, а босс британской компании Buy It Direct заявил, что ИИ заменит две трети его сотрудников. Звучит довольно страшно, не так ли? Но у AI Resume Builder есть огромный интерес в том, чтобы ИИ окупился, и это исследование совершенно ненадёжно. Точно так же, этот мерзавец-начальник открыто использует ИИ как угрозу против нового британского закона о прожиточном минимуме - предположительно, потому что он знает, что платить людям достаточно денег для жизни урежет его бюджет на суперъяхту, - и поэтому решил уволить своих сотрудников ради ИИ, если не сможет загнать их в нищету. Какой милый парень…
В реальном мире критического мышления данные рисуют совершенно иную картину.
Возьмите теперь уже печально известный отчёт MIT, на который мои читатели, вероятно, устали от моих ссылок. Он показал, что 95% пилотных проектов с ИИ вообще не увеличили прибыль или производительность компаний. Фактически, многие компании увидели отрицательный эффект. Имейте в виду, эти проекты не предназначены для автоматизации работников; они предназначены для их дополнения. Если ИИ не может даже помочь нам лучше выполнять нашу работу, как мы можем ожидать, что он будет выполнять эту работу сам?
А как насчёт другого отчёта, от которого также устали мои читатели? Отчёт METR показал, что ИИ-инструменты для кодирования на самом деле значительно замедляют разработчиков. Оказывается, ИИ не так уж и точен и постоянно ошибается. Эти сбои были блестяще преподнесены пиарщиками как галлюцинации, чтобы очеловечить холодную машину для плагиата. Но когда точность важна, например, когда ИИ выполняет любую относительно важную задачу, но особенно когда его просят создать код, это огромная проблема. Это означает, что ИИ постоянно пишет бессмысленные баги, и поскольку программист не писал код сам, ему требуется целая вечность, чтобы найти и исправить ошибки. Таким образом, любой разработчик даже с небольшим опытом потратит больше времени на отладку кода ИИ, чем изначально сэкономил, заставив ИИ написать код. А ведь кодирование должно было стать одной из основных отраслей, где ИИ полностью заменит труд. Но опять же, он не может даже дополнить работников, не говоря уже об их автоматизации.
Однако эта проблема не ограничивается только кодированием. Недавний опрос Harvard Business Review показал, что 40% работников за последний месяц сталкивались с «рабочим шлаком» (workslop), который они определяют как «сгенерированный ИИ рабочий контент, который маскируется под хорошую работу, но не имеет содержания для значимого продвижения данной задачи». Они обнаружили, что эта проблема «рабочего шлака», порождаемая галлюцинациями и врождённой неспособностью ИИ интегрироваться в рабочую среду - из-за того, что он преувеличивает невежество человека, нарушает коммуникацию между экспертами и лицами, принимающими решения, неточен при выполнении задач и создаёт раздувание задач из-за необходимости управлять ИИ, - на самом деле серьёзно влияет на общую производительность во многих отраслях.
Итак, снова: если ИИ снижает производительность из-за своей неточности и врождённой структуры при использовании для дополнения, как, чёрт возьми, его можно использовать для автоматизации рабочих мест?
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Хорошо, но эти генерирующие «рабочий шлак» ИИ и инструменты для кодирования - это всего лишь LLM. Настоящая угроза для труда - это агентный ИИ, который может выполнять задачи самостоятельно. Что ж, по правде говоря, никакого агентного ИИ не существует, так как его на самом деле нельзя создать по множеству причин. Его нужно обучать не только на словах, изображениях и картинках. Его нужно обучать на человеческих действиях, которые гораздо более разнообразны и сложны, и ИИ-модели значительно с этим не справляются. Это приводит к фатальным проблемам, таким как экспоненциально большие и дорогие модели, нехватка пригодных для использования обучающих данных, раздувание объёма задач и постоянные проблемы с крайними случаями.
Вместо этого, агентные ИИ, разрабатываемые и впариваемые сегодня, - это просто LLM, переупакованные в плохую обёртку, и, неудивительно, они отстой. Университет Карнеги-Меллона провёл исследование для количественной оценки производительности лучших агентных ИИ и обнаружил, что они полностью проваливали поставленную им задачу в 70% случаев!
Эти задачи были широкими и довольно простыми, включая рутинные офисные функции, такие как анализ наборов данных, написание отчётов о производительности и базовое решение проблем. Другими словами, ИИ настолько неэффективен, что может автоматизировать только базовые низкоквалифицированные задачи с плачевным показателем успеха в 30%. Так что нет, агентный ИИ не может автоматизировать даже простые рабочие места.
Затем возникают психологические проблемы, связанные с попыткой заменить работников ИИ - не для травмированных работников, хотя это было бы серьёзной проблемой, а для тех, кто остался управлять ИИ-работниками. Позвольте мне объяснить.
Исследование от Microsoft и Университета Карнеги-Меллона обнаружило астрономически сильную отрицательную корреляцию между использованием инструментов ИИ и критическим мышлением. В общем, чем больше вы взаимодействуете с этими инструментами ИИ, тем больше вы занимаетесь когнитивной разгрузкой и тем меньше задействуете критическое мышление. Но критическое мышление - это как мышца. Её нужно тренировать, иначе она атрофируется. Так что чем дольше и чаще вы используете инструменты ИИ, тем больше навыков критического мышления вы теряете.
Затем есть исследование MIT Sloan, которое показало, что, хотя менее опытные работники могут извлечь выгоду из генеративного ИИ, у опытных работников, использующих эти инструменты, наблюдалось притупление их экспертизы. В контексте исследования Microsoft и Карнеги-Меллона, выгода менее опытных работников от ИИ - это тревожный вывод, поскольку для того, чтобы стать опытным профессионалом, необходимо развивать навыки критического мышления, что говорит о том, что генеративный ИИ мешает работникам приобретать опыт, необходимый для карьерного роста. Но и последний вывод о потере экспертизы опытными работниками тоже не удивителен. Как и критическое мышление, экспертиза требует постоянного использования, чтобы оставаться свежей, актуальной и полезной. Эти инструменты ИИ заставляют работников когнитивно разгружаться, учитывая, что в этом и заключается суть дополнения ИИ: снижение когнитивной нагрузки и прекращение использования работниками своей экспертизы, что означает, что они со временем её потеряют.
Учитывая эти два исследования, представьте себе менеджера, наблюдающего за небольшой армией ИИ-ботов, которые автоматизировали весь его отдел. В корпоративном мире уже существует огромный разрыв, когда руководство не осведомлено о работе, требованиях и реальности работников под ними, что означает, что они не могут их подталкивать, привлекать к ответственности или проверять качество их работы, что в конечном итоге приводит к значительному напряжению для всех. Но с рабочей силой из ИИ эта проблема усугубится, поскольку руководство станет ещё более невежественным из-за взаимодействия исключительно с ИИ, одновременно теряя собственную экспертизу и навыки критического мышления. С этим постепенным снижением способностей, как эти менеджеры могут проверять результаты работы ИИ-работников? Как им контролировать эту цифровую толпу, если сам акт взаимодействия с ними лишает их когнитивных навыков и знаний, необходимых для понимания их работы?
Всё просто, они не могут. Так что, даже если бы ИИ был достаточно эффективен, чтобы хотя бы попытаться автоматизировать рабочие места, чего он абсолютно не может, нет смысла заменять им огромные части рабочей силы. Мы психологически не приспособлены управлять такой рабочей силой, мы потеряем над ней контроль, поскольку потеряем навыки, необходимые для её сдерживания, и это может привести только к катастрофе.
Говоря об огромном разрыве, который в настоящее время мучает менеджеров и их работников, если ИИ так очевидно плох, почему так много людей думают, что он заменит работников? Конечно, столько людей не могут ошибаться. Что ж, могут, благодаря нашему старому доброму другу, эффекту Даннинга-Крюгера.
Возьмите недавний опрос Upwork, который показал, что 96% топ-менеджеров утверждают, что они ожидают, что использование инструментов ИИ увеличит общую производительность их компании, в то время как 77% сотрудников в опросе говорят, что инструменты ИИ на самом деле снизили их производительность и добавили им работы по причинам, идентичным исследованию Гарварда о «рабочем шлаке». Единственная причина существования этого разрыва заключается в том, что руководители и высшее руководство настолько далеки от реальной работы, выполняемой под ними, что они прочно зацементировались в эффекте Даннинга-Крюгера и считают себя, на самом деле, экспертами в работе, а не тем, кем они на самом деле являются, то есть экспертами в управлении. Таким образом, они не могут заметить галлюцинации и ошибки ИИ и поэтому воспринимают неверный словесный салат, который делает ИИ, как сопоставимый или лучший, чем реальные экспертные советы их работников. Логично, что, для них, ИИ более чем способны заменить человеческих работников.
Эта проблема является одновременно симптомом сломанной иерархии в современных корпорациях, где менеджеры считаются более авторитетными, чем эксперты-работники, вместо того чтобы они работали совместно как равные, и отчаянной пропаганды, продвигаемой Big Tech. Вот почему данные, исследования и реальность так далеки от риторики и инвестиций.
Тем не менее, есть исследования, которые действительно показывают, что ИИ может повысить производительность, например, это от Гарварда. Однако все они либо слишком ограничены и не отражают реального использования ИИ, либо слишком малы по масштабу, либо имеют серьёзные недостатки, такие как самоотчёт о достижениях, либо просто не проверяют, действительно ли ИИ выполнил работу достаточно хорошо, чтобы это можно было считать повышением производительности. Более того, общий консенсус в настоящее время сильно смещён в сторону того, что ИИ не повышает производительность, поэтому эти исследования находятся в меньшинстве. Всё это вместе означает, что они имеют гораздо меньший вес.
Тем не менее, таково состояние ИИ прямо сейчас. Триллионы долларов, вливаемые в ИИ, пока мы говорим, сделают его намного лучше в ближайшем будущем, сделав все эти выводы устаревшими. Верно?
Что ж, нет.
Во-первых, существует граница эффективных вычислений, о которой я писал ранее. Этот принцип описывает, как обучение ИИ испытывает убывающую отдачу, требуя экспоненциально больше вычислительной мощности, и, в свою очередь, экспоненциально больше инвестиций, чтобы продолжать улучшаться линейными темпами. Хотя инвестиции в ИИ в этом году огромны по сравнению с прошлым годом, их далеко не достаточно, чтобы добиться какого-либо линейного улучшения. Фактически, мы так глубоко увязли в этой убывающей отдаче, что последние модели, которые на порядки больше своих предшественников, улучшены настолько незначительно, что большинство людей не могут заметить разницы. В результате, даже с этими огромными затратами, ИИ, вероятно, уже достиг своего пика.
Затем есть гипотеза Флориди, которая использует математический анализ систем, лежащих в основе ИИ, чтобы постулировать, что ИИ может иметь либо узкий охват и надёжные результаты, либо широкий охват и ненадёжные результаты, независимо от размера модели. Другими словами, LLM и весь генеративный ИИ имеют слишком широкий охват, чтобы когда-либо быть надёжными, независимо от того, сколько инвестиций, данных и вычислительной мощности вы в них вложите.
Фактически, последняя исследовательская работа OpenAI подтверждает это. Они обнаружили, что увеличение вычислительной мощности за этими моделями или запихивание в них большего количества данных не может снизить галлюцинации ИИ с их текущего уровня. Фактически, они обнаружили, что нет жизнеспособного способа уменьшить галлюцинации ИИ, что означает, что эти модели обречены оставаться такими же ненадёжными, как и сейчас.
Так что Джеффри не о чем беспокоиться. Технология ИИ достигла своих врождённых пределов и не станет даже немного лучше, не говоря уже о гигантском скачке вперёд. Конечно, злодейские корпорации будут пытаться заменить работников ИИ, но это не приведёт к массовому вытеснению труда.
Однако Джеффри был прав в том, что для того, чтобы ИИ хотя бы вышел в ноль по своим текущим инвестициям, ему необходимо быстро заменить труд. Как я писал в предыдущей статье, недавний отчёт показал, что индустрии ИИ потребуется генерировать 2 триллиона долларов годового дохода только для того, чтобы оплатить дата-центры, которые они планируют построить к 2030 году. Этот отчёт использовал очень оптимистичные прогнозы доходов, основанные на том, что внедрение ИИ и доходы от ИИ будут расти из года в год, несмотря на то, что оба показателя упали в 2025 году по сравнению с 2024 годом, чтобы оценить, что к 2030 году индустрии ИИ будет не хватать 800 миллиардов долларов для выхода в ноль!
Как я писал в другой статье, индустрия ИИ не может заполнить этот пробел в доходах с помощью ИИ-браузеров, ИИ-приложений и ИИ-по*но, которые были её основными попытками до сих пор. Эти рынки просто слишком малы. Джеффри был прав, когда сказал, что для того, чтобы заполнить эту гигантскую дыру в их бухгалтерских книгах, компании ИИ должны заменить труд в больших масштабах и скоро. Но, как мы сегодня рассмотрели, они просто не могут.
Так заменит ли ИИ человеческий труд и ввергнет ли весь мир в экономическую яму?
Чёрта с два!
Эта линия мышления - большая фантазия, чем D&D, в которую я собираюсь играть сегодня вечером. Но это повредит нашей экономике по-другому. Инвесторы и банки влили столько капитала и долгов в пузырь ИИ, что он подпирает всю западную экономику и связывает здоровье каждого финансового учреждения с тем, что эта гигантская ставка в конечном итоге окупится (подробнее читайте здесь). Другими словами, они поставили всю западную экономику на заведомую ложь, которая гарантированно обернётся провалом. Так что, хотя моя фантазия вызовет слёзы радости и смеха, когда наша идиотская партия снова упадёт лицом в грязь, эта фантазия поставит мир на колени не из-за замены труда или создания ИИ-повелителей, а из-за чистого невежественного безрассудства.
А теперь ваша очередь
Сталкивались ли вы с этим на своей работе? Как думаете, ваш ИИ-помощник - это действительно прорыв или просто генератор «рабочего шлака»?
И в чём, по-вашему, главная угроза ИИ: массовая безработица, о которой говорит Хинтон, или гигантский экономический пузырь, готовый лопнуть и утянуть за собой всех нас?
Поделитесь своим мнением в комментариях ниже! Спасибо за прочтение!
Комментарии (139)
myswordishatred
22.11.2025 10:10Это намеренная такая ирония?
Скрытый текст
inakrin
22.11.2025 10:10Сталкивались ли вы с этим на своей работе? Как думаете, ваш ИИ-помощник - это действительно прорыв или просто генератор «рабочего шлака»?
Прорыв, если правильно использовать. Правило шлак на входе - шлак на выходе никуда не делось.
И в чём, по-вашему, главная угроза ИИ: массовая безработица, о которой говорит Хинтон, или гигантский экономический пузырь, готовый лопнуть и утянуть за собой всех нас?
Вопрос, где предлагается выбрать "главную угрозу" только из двух вариантов, во-первых неявно подразумевает существование этой самой угрозы, что, возможно, и не так, во-вторых, даже в случае существования некой главной угрозы, выбор из двух вариантов может и не иметь правильного ответа, а в третьих, является отличным примером того, как можно получить шлак на выходе LLM вместо полезного ответа.
ASBT_F
22.11.2025 10:10Мое интуитивное мнение. ИИ займет свое место в ряду внедрения и ускорений автоматизированных процессов, но не так в сфере производственной деятельности, а прежде всего в обработке информации. Он ускорит процесс получения учёными знаний и, соответственно открытий. Открытий неглобального, ,,неоракульского,, масштаба. Тот кто вкладывает в него деньги, возможно получит автоматизацию открытий. Не больше. Как ещё человечество распорядится этими знаниями и открытиями. Человеческая жизнь хрупка. И эпидемия ковида (?рукотворного) это в очередной раз показала. Если в каждой лаборатории , на коленке будет возможно создавать опасный вирус, так нужен ли этот прогресс. И не вернее ли остановить прогресс. Вернуться к инквизиции.
NeriaLab
22.11.2025 10:10"Вернуться к инквизиции"
То есть сжечь всех еретиков-питонистов на Святом костре ИТ-инквизиции, ибо они отвернулись от Cвященного писания "The Art of Assembly Language"?!
ASBT_F
22.11.2025 10:10Нужно ли запрещать писарю писать на каком-то языке? Нет. По сути современный программист аналог средневекового писаря. На ступень выше. Но работа ИИ (да и вообще учёных) в сфере изучения организма человека, медицины, болезней должна быть под международным контролем везде. Хватит одного риска атомной войны. Возможно утопично мыслю. Если изучают к примеру инфекционные болезни, то вольно-невольно начинают получать сведения о том, как они распространяются, что их усиливает.
SergiiKol
22.11.2025 10:10Если изучают к примеру инфекционные болезни, то вольно-невольно начинают получать сведения о том, как они распространяются, что их усиливает.
Всё верно многих евангелистов это серьёзно беспокоит.
Но беспокойство в основном сконцентрировалось на Китайской программе.
Не вижу вариантов международного контроля в данной ситуации бешенной гонки...
Между США и Китаем.
И к тому же правители на старушке Терре полностью сумашедшие и похожи на правителей Торманса из Ефремова.
Foror
22.11.2025 10:10> Если в каждой лаборатории , на коленке будет возможно создавать опасный вирус
Значит в тысячи других лабораториях можно будет в рекордные сроки создать антивирус. А также регенераций, омоложений и прочих крутых штук. Если это действительно станет доступно на коленке.
MxMaks
22.11.2025 10:10В последние десятилетия сотни миллионов людей уходили из производственной сферы как раз в сферу обработки информации. Им куда теперь идти. С другой стороны строительство офисных центров идет опережающими темпами над строительством ЦОД по крайней мере у нас в стране.
tester37
22.11.2025 10:10Отпустите уже людей, придумайте им смыслы общения о высоком. Ну блин, дворяне же раньше не работали, читали книги, на балах там танцевали, физкультурой занимались, конным спортом, флиртовали (батлы устраивали со смертельным исходом, но этотоже можно пофиксить). Почему не рыть в сторону, что ИИ освободит человека от рабства вынужденного труда? Почему всю разработку не направлять именно туда? На роботов уборщиков туалетов, слесарей, электриков, санитарок, меняющих судна. Такое впечатление что борьба идет за то, чтобы максимальное число людей за счет ИИ наоборот заставить конкурировать между собой за право мыть унитазы и получать за это еду. Зла не хватает, если вся ИИ-ка для этого
checkpoint
22.11.2025 10:10У Бигтеха не стоит задачи сделать нам помошника по дому, бизнесу или на произвостве. Все, что касается материальных сущностей вообще дико затратно и несет массу рисков, а производство за пределами Китая - страшно убыточно. Их задача впарить нам полностью виртуальную сущность за которую мы будем должны платить всю оставшуюся жизнь. А когда отойдем в мир иной за нас будут платить наши дети. Вот их единственная цель и ИИ здесь идеальный механизм на роль этой сущности. Что касается всяких там роботов, автоматизации производства и т.д., это всё уже есть в той или иной мере. Этим давно занимаются, но совсем другие люди. И прогресс там тоже есть, только он те так очевидный, и хайпа на нем не выстроить. Бигтех это раковая опухоль на теле цивилизации которую надо как можно скорее удалить, иначе ж@па.
Поиски такой виртуальной сущности идут давно: поисковик Google, музыка iTunes, почта Gmail, подписка на Youtube и Netflix-е... но все это было как-то сильно затратно, требовало вложений в поставщиков контента, отчислений за авторские права и т.д. А тут вот нате,
LLMИИ - полностью самодостаточная виртуальная сущность для конвертирования электроэнергии в доллары, и привыкание вызывает не хуже герыча. А гавное - порог вхождения очень и очень высокий.
Wesha
22.11.2025 10:10У Бигтеха не стоит задачи сделать нам помошника по дому, бизнесу или на произвостве.
По‑моему, все обещалки про «наш ИИ сделает вам рай на семи холмах» разбиваются об один вопрос — «если ваш ИИ так всемогущ и всезнающ, как вы нам грузите, то почему вы ещё не задали ему вопрос „как сделаться самым‑самым богатым“?»
(Но даже там есть нюансы.)
Boneyan
22.11.2025 10:10А. Вы уверены что средний человек способен конструктивно проводить переизбыток свободного времени? Потому что если нет, то он просто будет сидеть на антидепрессантах или каком-нибудь другом наркотике, весь день смотреть ТВ/ютуб и в целом быть несчастным.
Б. Для человека, как для любого другого животного, труд это нормально. Мы эволюцировали для того чтобы преодолевать трудности по жизни. Если у человека это отнять, то он начнёт потихоньку сходить с ума (возвращаемся к пункту А).
В. Аристократы не просто отдыхали пожизненно, они вообще-то служили монарху, в том числе они были обязаны служить в армии или на чиновьичей должности. Так что у них были и обязанности, не только привилегии.Г. Почему вы считаете весь ручной труд чем-то унизительным? Не поверите, есть куча слесарей, электриков и так далее, которые гордятся своей работой, которым приятно делать что-то руками (вместо того чтобы просиживать штаны в офисе).
Да, давайте отберём у дяди Васи смысл его жизни и скажем "вот, теперь вы свободный человек!".
FurySeer
22.11.2025 10:10А. А вы уверены, что не способен? Не в нынешних условиях, когда после изнурительного, далеко не всегда интересного, и зачастую не слишком хорошо оплачиваемого труда, остается несколько часов для себя, а в ситуации финансовой свободы. Речь не про выигравших в лотерею в 45+ (те, известно, обычно плохо кончают), а о поколениях "средних" человеков. Родившиеся в век, когда "ИИ освободит человека от рабства вынужденного труда", наверняка будут воспитаны несколько иначе и жить в иных условиях окружающего мира - вы и им пророчите несчастье? Что переходный период будет сопряжен с кризисами самого разного рода - спора нет, но разговор о долгосрочной перспективе.
Б. Мы эволюционируем для выживания. Во всяком случае, никак не для того, " чтобы преодолевать трудности по жизни" - существам приходится их преодолевать, чтобы обеспечить свое выживание, но само по себе преодоление целью никогда не являлось. От отсутствия трудностей еще никто с ума не сошел - от безделья мб возникают разные состояния, но это совсем другой вопрос. Бездельничать никто не принуждает.
Г. "есть куча слесарей, электриков и так далее, которые гордятся своей работой" - это тяжелый физический труд, часто подрывающий здоровье, и менее часто высокооплачиваемый. Писал выше - успешному электрику в 45+, гордящемуся своей работой, возможно, даже при наличии безусловного дохода, будет сложно, когда роботы заменят его. Кризис в переходном периоде неизбежен.
"давайте отберём у дяди Васи смысл его жизни и скажем "вот, теперь вы свободный человек!"." - вы как-то лихо дяде Васе записали профессиональную деятельность (еще раз - зачастую изнурительную, сказывающуюся на здоровье, нередко - плохо оплачиваемую) в смысл жизни.
locoRiply
22.11.2025 10:10А. Просто представьте, что живете в многоэтажке. Эта многоэтажка полна людей, обычных семей. И никто в ней не работает. И не 2 недели раз в году, а всегда 24/7/54. Что они делают? Представьте, что каждый дом, что вы видите из окна, полон людей которые не работают. Вообще. Что эти люди делают?
Для меня это горизонт событий
И если ваш ответ "Что-нибудь придумают", то и для вас
a1111exe
22.11.2025 10:10Вы уверены что средний человек способен конструктивно проводить переизбыток свободного времени?
У меня есть подозрение, что те, кто не способен, и так в среднем занимаются такой работой, от которой не помешают антидепрессанты.
Мы эволюцировали для того чтобы преодолевать трудности по жизни.
Эволюция уже произвела для нас Souls-like, всякие Civ на максимальной сложности и кучу хардкорной литературы на любую тему от философии до математики и физики. Спортивные нагрузки тоже никто не отменял. Имхо, вопрос с преодолеванием трудностей можно считать закрытым.
Почему вы считаете весь ручной труд чем-то унизительным?
Вопрос не ко мне, но хочется прокомментировать. Главное достоинство человека, делающее его доминирующим видом на планете, это голова. Руки с помощью головы позволяют
печатать десятипальцевым методомтворить в материальном мире. Но есть много работ, где работаешь руками, но не творишь. Разные конвейеры, скажем. Уборки офисов - в своё время много общался с этими работниками, не встречал тех, кто гордился бы этой работой, или наслаждался ей. Тяжёлый, грязный, нудный, выматывающий - в том числе и психически - труд. Я бы не назвал его унизительным - у всех свои обстоятельства, и любой труд необходим и его надо уважать. Однако, если те знакомые могли получить те же деньги без этого труда (напр., безусловный базовый доход), они бы нашли вещи куда интереснее (голова), чтобы ими заниматься.
eandr_67
22.11.2025 10:10Он ускорит процесс получения учёными знаний и, соответственно открытий.
Нет, не ускорит. ИИ - не инструмент генерации знаний, а всего лишь эвристика, генерирующая примерно правильный ответ на базе заданного набора правильных ответов (обучающей выборки). И как всякая эвристика, ИИ не может не ошибаться.
Алгоритмизируемая обработка данных не требует ИИ: прямая реализация алгоритма (дающего правильный ответ в 100% случаев) требует для своей работы на порядки меньше вычислительных ресурсов, чем нейросеть, в результате обучения примерно правильно имитирующая этот алгоритм.
А для нетривиальной неалгоритмизируемой обработки ИИ гарантировано будет выдавать мешанину из правильных результатов и откровенного бреда, внешне похожего на правильные результаты. И на отделение одного от другого понадобится куда больше сил и времени, чем на обработку данных без использования ИИ.
ASBT_F
22.11.2025 10:10Хорошо. Но может быть с помощью ИИ можно обработать большую область для поиска ответа, пускай не совсем точного? Если у Вас и на этот вопрос будет отрицательный ответ, тогда почему действительно на него не жалеют денег? Ваше мнение?
eandr_67
22.11.2025 10:10Если в области, площадь которую сократили с помощью ИИ, содержится ответ - ну потратим в несколько раз больше сил и времени на ручную перепроверку тех участков полученной области, в которых ответа нет и быть не может. В конце-концов ответ всё же найдем.
Но ведь регулярно будут возникать ситуации, когда ответ есть, но он находится вне определённой ИИ области. В результате существующий ответ не будет найден.
почему действительно на него не жалеют денег?
Об этом, в том числе, рассказывает статья, которую вы комментируете. И я полностью согласен с её автором.
ASBT_F
22.11.2025 10:10Взял небольшую паузу. Поискал информацию о строительстве дата центров в США. В октябре 2025 ВВС США дали в аренду под строительство дата центров земли в 8ми авиабазах. А в 2024 году (в другой статье на этом же сайте) сообщалось, что военные США апробировали успешно управление ИИ одним военным самолётом. К 2028 планируют дать в управление ИИ уже 1000 самолетов. Значит, не все так плохо с применением ИИ. Хотя бы в военной сфере. Если не лукавит и не позиционируют себя в лучшем свете.
Кроме этого, прочел первоисточник, который цитирует автор комментируемой нами публикации. Обратил внимание на один абзац, где Уилл Локетт говорит, что возможно идут на заведомо убыточный проект с ИИ, чтобы гарантировать первенство США в этой сфере. Этот момент подчеркиваю, но не хочу ей уязвить автора на Хабре (логику статьи он строит на многочисленных свидетельствах скорее с экономической точки прибыли-убыточности).
eandr_67
22.11.2025 10:10Строительство дата-центров говорит только о том, что эти дата-центры приносят доход своим владельцам. И не важно, работает технология, или нет. Главное - создать у клиентов иллюзию того, что технология работает. Те, кто несут свои деньги астрологам или гадалкам, тоже уверены, что получат правильный ответ на свой вопрос.
ASBT_F
22.11.2025 10:10Я сознательно ухожу в конспирологическую версию: Все видимо неокупаемое - потребно военным.
select26
22.11.2025 10:10К 2028 планируют дать в управление ИИ уже 1000 самолетов. Значит, не все так плохо с применением ИИ.
Эта система не имеет никакого отношения к LLM.
А что такое "ИИ" - знают только маркетологи или их жертвы.
alexandr93
22.11.2025 10:10Но ещё нужно учитывать то, что неясно что брать за истину. До ИИ и так был большой процент научных работ, которые нельзя проверить ввиду слишком большого их объёма. А с ИИ таких сгенерированных работ станет ещё больше. И как это повлияет на науку мы ещё увидим. Ведь все очень многие "ученые" гонятся за цифрами публикаций, цитирования. И ИИ может им в этом помочь, сильно осложнив исследования остальным.
anshdo
22.11.2025 10:10всего лишь эвристика, генерирующая примерно правильный ответ на базе заданного набора правильных ответов
Нет, на базе всех имеющихся в сети ответов, и это одна и главных проблем.
select26
22.11.2025 10:10Алгоритмизируемая обработка данных не требует ИИ: прямая реализация алгоритма (дающего правильный ответ в 100% случаев) требует для своей работы на порядки меньше вычислительных ресурсов, чем нейросеть, в результате обучения примерно правильно имитирующая этот алгоритм.
Блин, как же мало людей это понимают!
И даже не нужно для этого быть футурологом - достаточно профильного образования. Ну и не пинать, конечно, во время учебы всякое разное.tester37
22.11.2025 10:10Ну также те, кто не пинал, видят динамику и понимают, что как бы не хейтили LLM и дополнения к ней направленные на расширение контекстного окна при уменьшении вычислительных ресурсов, на умение в фокусировку и коллективную работу. Как бы не плевались сегодня профессионалы от кодинга, все идет к тому - что вот эту алгоритмизируемую обработку, дающую 100% правильный ответ - скоро LLM-ИИшка будет реально генерировать с экономической эффективностью на порядки большие, чем бы это делал человек. Зачем с этим спорить?
VladimirFarshatov
22.11.2025 10:10Ну .. факты пока не подтверждают эту оптимистическую версию. Скорее наоборот, из моего личного опыта. А вот использовать как огромный справочник по функциям, правилам, пакетам и напиленным решениям - самое оно, дабы не изобретать лисапеды на каждый чих. Но .. для этого гигантские ЛЛМ не требуются. Экономически эффективнее, кмк, будет узкая специализация н конкретных группах задач. И даже локально, а не в облаке.
tester37
22.11.2025 10:10Все просто. Сформулируйте, что такого есть в человеческом мозге (для решения задач) что невозможно реализовать через неживой аппарат, работающий на двоичной логике? Возможен ответ, что - ничего такого нет, но энергетические затраты будут у аппарата больше, потому что человек никогда не сможет сделать какие то процессы эффективнее, чем природа за миллиарды лет эволюции. И это будет неправильный ответ. Так, как эти аппараты - это как раз и есть продолжение этой эволюции, её вершина на сегодняшней стадии.
VladimirFarshatov
22.11.2025 10:10количество и многомерность нейронных связей дает качественный скачок к не бинарной вычислительной среде. Это первое. И второе - нейрон как "вычислитель" в мозге имеет по оценкам эквивалент 300мегабайт "встроенной памяти" конекстов (оценка дендридной сети как хранилища). Извините, но у вас все совокупные датацентры столько не имеют сколько в каждом мозге находится у одного человека. И третье: мозг это "параллельный однотактовый" вычислитель по сути (как понимал статьи Института Мозга в 2005-м). Ну и чтобы два раза не вставать, вспоминаем труды Бехтеревой, которая считала что мозг вообще .. приемо-передатчик, а не "вычислитель". )
Volutar
22.11.2025 10:10А можно ссылки на выкладки и формулы каким образом один нейрон в 300мб контекста оказался переложенным?
Про Бехтереву в этом контексте лучше не вспоминать, обесценивает все вышесказанное.
select26
22.11.2025 10:10Все еще проще: это уже сформулировано давным-давно. Посмотрите отличия детерминированных систем и недетерменированных. И сферы их применения.
Ну и заодно про экспертные системы. Это из середины прошлого столетия. К вопросу про образовании, кстати.
А из практики: я помню что в прошлом столении программисты были выдающимися образованными людьми с глубокими познаниями математики и физики процессов, над которыми работали.
Просто сейчас вернемся к этому же самому: LLM может применить готовые решения и билиотеки разработанные людьми. Просто кодеры (люди, которые переводят алгоритм с языка людей на язык машин) не нужны для этого. А программисты (составители алгоритмов и моделей) - нужны. Посмотрите, например, на прорыв последнего десятилетия в кодировании потокового видео, архивации. Авторы алгоритмов - люди и коллективы. Почему то не LLM этим блеснул.
eandr_67
22.11.2025 10:10Мечты, мечты... С треском разбивающиеся о раздел математики под названием "теория алгоритмов".
Верить вы можете во что угодно, но реальные возможности ИИ определяются не религиозной верой, а математическими правилами, по которым построены все существующие на Земле цифровые компьютеры.
SwingoPingo
22.11.2025 10:10Для прямой реализации алгоритма входящий материал должен соответствовать параметрам этого алгоритма, на подгонке материала этому соответствию и тратятся средства. Условный конвейер конечно грандиозно выгоден, но на конвейер кладутся стандартизированные комплектующие. ЛЛМ же позволяет работать с нечетко поставленными задачами и он конечно же не конвейер и конечно же не гарантирует. Собственно как и область его применения это не точнейшие результаты, а приблизительные и вот эта сфера очень широка - дизайнеры подтвердят.
pavlushk0
22.11.2025 10:10"30% компаний планируют заменить HR-специалистов на ИИ в 2026 году" - оставлю этот коммент, через год проверим
VADemon
22.11.2025 10:10Мне кажется забавной динамика. Кандидаты никуда не денутся. Значит продолжат рассылать резюме. То есть вместо 1n резюме сто лет назад, 10n резюме десять лет назад, тоже будут 80% из них использовать ЛЛМ и слать 100n резюме сегодня. Пусть хоть зафильтруются на принимающей стороне, а поток вырастет.
PS: А так как кол-во кандидатов в экспоненте, то получаем нехилый ддос рынка в виде n^k резюме.
Farongy
22.11.2025 10:10Заменить людей на ИИ, чтобы окупить инвестиции?! Может хоть немного почитать как экономика работает?
Инструмент не создаёт стоимость, он лишь перекладывает часть своей стоимости в новый продукт, стоимость создаёт только человек. Экономика это взаимоотношения людей и обмен стоимостями между людьми.
Если я потратил день, чтобы сделать сапоги, а Василий потратил день, чтобы выпечь 10 буханок хлеба - мы можем обменять сапоги на 10 буханок. Если я сделал сапоги, а Василий хлеб не выпек - мы не сможем обменяться, потому что обменивать будет нечего.
tester37
22.11.2025 10:10ну не так же. Вообще пофигу что из себя представляет трудовой ресурс. То, что по выходным этот ресурс ещё и затраты потраченные на него перекладывает в оплату других продуктов, сгенерированных другими ресурсами - вовсе не связыват эти процессы намертво вместе. Коммунизм раньше не получился по простой причине - нет конкуренции, нет мотивации на то, чтобы делать хорошо. ИИ-ке не нужна эта мотивация, ей задачу хорошо делать можно просто поставить и она будет делать хорошо. Начнутся проблемы с качеством постановки задач кожанными? Не начнутся. Не хочешь ставить задачи ИИ-ке, иди занимайся конным спортом. И все.... А те, кто хочет ставить задачи - найдутся и будут между собой конкурировать как сейчас конкурируют между собой разработчики в опенсорсе
Vytian
22.11.2025 10:10Зачем ИИ делать хорошо? Какая мотивация, так сказать. Его задача делать оптимально по ресурсам, то есть минимально допустимо, чтобы прокатило. Чем более высокоуровневый контроль, тем в большей степени ИИ будет профанировать.
unv_unv
22.11.2025 10:10По поводу коммунизма поспорю. Потому что страна с шестого — седьмого места в мире вырвалась на второе. И в области оборонки всегда поддерживалась конкуренция между КБ. Проблема была в ширпотребе — в нём всё по остаточному принципу делалось. Но это проблема уже хрущёвских преобразований. Он захотел огосударствления всей экономики, что было уже весьма деструктивно. У Сталина как раз частная инициатива сохранялась, даже для ВПК часть подрядов делали артели.
MEGA_Nexus
22.11.2025 10:10Экономика это взаимоотношения людей и обмен стоимостями между людьми.
Вот, это кстати, правильное замечание. Если уволить 30% людей, то они перестанут получать зарплату, а значит не смогут участвовать в экономической деятельности, т.к. денег не будет, т.е. количество покупателей товаров компании сократится, а значит и прибыль не вырастет.
Чтобы всё работало, как мечтают капиталисты, сокращения персонала должны быть растянуты по времени, а также это должно компенсироваться появлением новых рабочих мест. Тогда всё будет работать. Если же на улицу сразу будет выкинуто много людей, то наступит спад в экономике. + придётся ещё государству тратить деньги на пособия для этих людей.
Nansch
22.11.2025 10:10А у государства откуда деньги? Правильно, оно часть печатает на правах регулятора, а другую часть изымает из оборота силой. Так что деньги государства - это изначально деньги людей. Тратить их на пособия, то есть перераспределять - это нормально. Если, конечно, государство у вас не на другой планете, родной.
pl_by
22.11.2025 10:10Может хоть немного почитать как экономика работает?
Инструмент не создаёт стоимость, он лишь перекладывает часть своей стоимости в новый продукт, стоимость создаёт только человек.
Похороните уже Маркса с его теорией. При всём уважении, она в большей части устарела.
Объясните коренное отличие достаточно продвинутого инструмента от человека, почему первый не производит стоимость, а второй производит?
Farongy
22.11.2025 10:10Потому что экономика - это обмен стоимостями, экономика стремится к выравниванию стоимостей. Например, если для изготовления пары сапог требуется 1 день и для изготовления 10 буханок хлеба требуется 1 день, они обмениваются по равной стоимости. И в деньгах будут иметь равную цену, скажем 10 у.е. Если свои сапоги по какой то причине я могу продать только за 5 у.е., значит происходит неравный обмен и мне больше нет смысла производить сапоги, необходимо капитал направить в производство хлеба. Как только капитал перенаправляется на хлеб, его цена снижается, а стоимость сапог повышается и стоимости выравниваются.
Если цена инструмента 100 у.е., значит в него вложено стоимости на 100 у.е. и при эксплуатации инструмент будет перекладывать эту стоимость на новый продукт. Для наглядности представим чудо-робота с ценой 100 у.е., который производит товаров на 200 у.е. Во-первых, это выглядит странно - зачем продавать такого робота?! Это ж буквально деньги из воздуха. Во-вторых, бизнес с роботами быстро закончится, ибо очевидно, что использовать их гораздо выгоднее чем производить.
Artem_Omny
22.11.2025 10:10Помимо сапожника и пекаря, у вас там есть ещё банкир, который эти 10 у.е. нарисовал на бумаге. Но только 10 у.е. сапожнику и пекарю всегда не хватало, и он им стал еще рисовать, но уже под процент выдавать...
BlackMokona
22.11.2025 10:10Рабочие часы одного человека не равны по стоимости рабочим часам другого человека. Один сапожник может сделать 10 пар сапог в сутки, второй только пять, а третий одни но супер качественные.
Поэтому привязка у рабочим часам не имеет смысла , а цена определяется исключительно спросом и предложением
Farongy
22.11.2025 10:10Экономика это система, а не отдельный человек. Если в среднем по экономике пара сапог делается за час, качественная пара делается за день, но кто-то тратит день и неделю соответственно - то этот кто-то просто работает неэффективно, тратит время впустую и будет разорён или уволен.
Экономика стремится к выравниванию цен и стоимостей. Если появляется бизнес, в котором по каким-то причинам цена превышает стоимость, капитал начинает перетекать в этот бизнес. Очевидно, что лучше поработать день и заработать 10 у.е., чем поработать день и заработать 5 у.е. На каком то этапе товаров в этом бизнесе становится в избытке и цена снижается.
BlackMokona
22.11.2025 10:10Конечно лучше получить 10, а не 5. Поэтому все работают исключительно политиками, актёрами, бизнесменами.
EvilTeacher
22.11.2025 10:10Если поверить логике Ваших рассуждений - то место Теоремы Пифагора уже давно на свалке истории, как и Законов Ньютона... Или Вы уже освоили умение питаться цифрами и носить цифровую одежду? Адам Смит и Карл Маркс аплодируют лёжа....
GidraVydra
22.11.2025 10:10Инструмент не создаёт стоимость, он лишь перекладывает часть своей стоимости в новый продукт, стоимость создаёт только человек.
По вашей логике, если Вася вручную за смену точит 10 гаек, а Петя на станке с ЧПУ за смену точит 100 ровно таких же гаек, то эти гайки будут иметь разную стоимость?
Заканчивайте уже копаться в марксистской помойке и тыкать людем в лицо найденным ьам мусором, почитайте как на самом деле работает экономика.
Farongy
22.11.2025 10:10По вашей логике, если Вася вручную за смену точит 10 гаек, а Петя на станке с ЧПУ за смену точит 100 ровно таких же гаек, то эти гайки будут иметь разную стоимость?
Разумеется. Но это даже как-то неприлично объяснять. Ещё в школе рассказывают, что бизнесмен стремится внедрять технологии, чтобы снизить стоимость и получить больше прибыли.
fakedup
22.11.2025 10:10Вы имеете ввиду цену.
Марксисты вам говорят о себестоимости.
Пожелаем им удачи продать вручную обточенные гайки.
MewMe222
22.11.2025 10:10A вы экономику вообще изучали? Стоимость и цена это абсолютно два разных понятия, человек вам обьяснял формирование стоимости и как это влияет на конечную цену, но немного из сильного далёка начал. Экономика это вам не пифагоровы штаны всё-таки. Кстати теории Маркса и Адама Смита никуда не делись, они просто ушли глубоко в фундамент, и их с 6го этажа не видать... Если в кратце про сапоги и буханки, то в случае 100% замены роботы, ИИ, АГИ и прочие им подобные, будут производить и то и другое для хозяина, который продавать товары будет за деньги, а Пете и Васе нужны будут деньги чтобы обуться и пожрать, а им негде их будет заработать, то у них шансоф выжить не остаётся, а ухозяина ИИ исчезнет спрос, роботы, как известно хлебом же не питаются, вот круг и замкнулся. Ну а тут, самое время вспомнить о базовых выплатах который по версии шапочек из фольги должны этот круг разомкнуть.
VladimirFarshatov
22.11.2025 10:10И так и не совсем так. Над подвалом есть ещё первый этаж - производство средств производства и второй - производство запчастей для роботов. Экономика просто переключится на поддержание, развитие и расширение поддержки и производства ИИ и запчастей к ним. А голодный и безработный Вася ну да, помрет от безработицы, т.к. его бунтарский характер будет уничтожаться .. всё тем же ИИ, в полицейской форме. 1992год. "Теория золотого миллиарда" в действии с приложением к развитому ИИ. Полно было снято фильмов на эту тему и о полном контроле через ИИ и о восстаниях машин.
logran
22.11.2025 10:10производство средств производства и второй - производство запчастей для роботов.
Которые будут делать всё те же роботы т.к производить детали с помощью машин (в т.ч и для этих машин) гораздо дешевле и эффективнее, чем с помощью людей.
Если уж мы заменяем работу людей машинами - то заменяем тогда уж ВСЮ работу. И приходим к моменту, когда результат этой работы придется раздавать песплатно т.к он ничего не стоит (производство то удешевили) и платить за него нечем (денег то никому не платится)VladimirFarshatov
22.11.2025 10:10Кмк, как раз тут и происходит ошибочная подмена: да, и первый и второй этаж производить будут те же самые роботы. Но .. кто сказал что "бесплатно"? Одним роботам нужна замена, другим ремонт, третьим обслуживание (и тоже роботами!).. Можно начать с базы - добычи сырьевых ресурсов, но и тут роботы, которые ломаются точно также. То есть .. имеют стоимость, которая переносится на результат труда .. роботов. Нет? Пачиму? )
Кмк, "экономика" никуда не денется, как и деньги, просто это станет экономикой роботов. А покупать бедному Васе будет не на что, ибо безработный? Ну так и производить для бедного и безработного Васи .. зачем? Найдите в Сети выступление Чубайса от 2013года. "В первой половине, до 20250года требуется сократить население планеты на 50%" .. как-то так было. Прямо на каком-то форуме публично. "это беспрецендентная задача".. оттуда же. Достаточно сложить 2+2, чтобы понять всю эту "убыточную гонку ИИ".
logran
22.11.2025 10:10Вот только один вопорос: а зачем Это - людям? Толку человеку (собственнику производства) с экономики, расчитанной роботамит и для роботов? Он в неё лишний. Ему доход не придет, или он будет единственым покупателем сам у себя. Тогда зачем ему вообще всё это делать?
logran
22.11.2025 10:10если Вася вручную за смену точит 10 гаек, а Петя на станке с ЧПУ за смену точит 100 ровно таких же гаек, то эти гайки будут иметь разную стоимость?
Как бы вам так наглядно показть на примере... Ну например стоимость одной вручную отлитой/отпечатанной и покрашенной аниме-фигурки примерно в 3-6 раз (зависит от размеров и сложности) выше чем у массово производимой заводской.
tba
22.11.2025 10:10Старая байка начала 70х, когда в автопроме пытались заменить людей на сборочных роботов. На демонстрации директор завода (Chrysler?), кивая на роботов, говорит с подначкой профсоюзному боссу: "Попробуй уговорить их выйти на забастовку", на что тот отвечает "Попробуй продать им автомобиль".
Заменили людей только на сборке двигателей - она практически полностью автоматизирована уже больше 40 лет без использования ИИ.
myswordishatred
22.11.2025 10:10И в чём, по-вашему, главная угроза ИИ: массовая безработица, о которой говорит Хинтон, или гигантский экономический пузырь, готовый лопнуть и утянуть за собой всех нас?
Если резюмировать, то проблема вот в чём.
Первое. Современные, прости господи, ИИ не могут делать достаточно сложные вещи. Не сгенерировал пока никто какую-нибудь ААА-игру, например. Может быть теоретически это возможно, но пока нам не хватает, эээ, ресурсов. В широком смысле.
Но то, что они не могут справиться со сложными вещами не означает, что они не могут справиться вообще ни с чем. Они пишут простые программы, сносные тексты, картинки рисуют, видео генерируют.
Второе. Обучение строится от простого к сложному. Сначала мы учимся складывать палочки, потом решаем дифуры. Нет возможности пропустить лёгкое и сразу приступить к сложному, знания и навыки появляются от простых к сложным.
Вместе с тем маленькие люди (некоторые называют их "детьми") демонстрируют вполне рациональное (с их точки зрения) поведение: если можно переложить свою работу на кого-то другого, а результатом воспользоваться самостоятельно, то они будут это делать. Соответственно, значительная часть маленьких людей не овладеет какими-то базовыми вещами, необходимыми чтобы освоить вещи посложнее.
Третье. Для того чтобы делать сложные вещи нужно быть достаточно умным (читай "освоить до этого вещи попроще и набить на них руку"). Это утверждение, надеюсь, можно оставить без доказательств.
Четвёртое. Можно из любого (ну, почти) сделать средней руки специалиста в чём угодно. Но выдающихся результатов в любой области деятельности добиваются считанные проценты. Чем больше людей деятельностью занимаются, тем больше (количественно) выдающихся людей в ней появится.
Из этих четырёх пунктов я делаю вывод о том, что с использованием ИИ мы (как человечество) будет порождать меньше талантливых людей. То есть их-то может и столько же будет, то развивать свой потенциал будет гораздо меньшее их число. Потому что с момента обретения речи (писать уметь совершенно не обязательно чтобы пользоваться ИИ) у них будет сильный, СИЛЬНЕЙШИЙ соблазн свалить рутинные задачи на кремниевого раба, а самому заняться чем-то поинтереснее. А раз так, то и до более сложных задач, справиться с которыми ИИ уже не способны, добираться будет меньшее число людей.
Мне кажется, что это плохо.
rivo
22.11.2025 10:10Люди как биологический организм стремятся к комфорту.
Если верить эволюции, то всё что не требуется для выживания отмирает.
Возможно, думать не поребуется для выживания, будем плавать по 1000 лет в аквариумах, как амебы. ИИ будет сделить за средой, подкармливать и впрыскивать дозы дофамина.myswordishatred
22.11.2025 10:10Слушайте, возможно. Вон как у Грега Игана все переедут вообще в цифровую форму, а в реальном мире только какие-то бомжи контркультурные останутся.
Но, опять же, всё-таки специализация человека (в смысле биологии) это как раз голова, которая дадена чтобы думать. Мы не самые быстрые, и не самые сильные, и много ещё чего не самые, зато самые умные. Ну и вот так вот с кондачка взять да отказываться от этого преимущества как-то глупо.
verls
22.11.2025 10:10Возможно, думать не поребуется для выживания, будем плавать по 1000 лет в аквариумах, как амебы. ИИ будет сделить за средой, подкармливать и впрыскивать дозы дофамина.
Клетка для орхидей. Герберт В. Франке
a1111exe
22.11.2025 10:10А раз так, то и до более сложных задач, справиться с которыми ИИ уже не способны, добираться будет меньшее число людей.
Есть причины сомневаться, что так будет. Задолго до хайпа LLM у человечества уже была тьма тьмущая автоматизаций задач, которые раньше решались человеком вручную. Взять инженерный калькулятор, как пример. Ещё в детстве слышал (в школе, наверное) - "не будете считать в уме, отупеете, деградируете, ничего из вас не получится".
Но по сей день наука развивается, технологии развиваются, создаются успешные стартапы.
Человек, которому интересно решать интеллектуальные задачи, найдёт их и будет их решать, LLM или нет.
Возможно, что избавление от задач, которые по плечу LLM, как раз позволит людям быстрее добираться до (более интересных) задач, которые LLM уже не по плечу.
BlackMokona
22.11.2025 10:10Хорошо что люди уже тысячи назад нашли решение описанной вами проблемы. Решение называется обучение
VADemon
22.11.2025 10:10вывод о том, что с использованием ИИ мы (как человечество) будет порождать меньше талантливых людей.
Можно я разведу это до более глобального "рождаются люди талантливые", потом "только исчежающе малый процент сможет талантам дать воплощение" по множеству причин, а затем свести до "сейчас алкоголь/наркотики/тиктоко-игрозависимость дальше уменьшает этот процент"? И чем тогда ЛЛМ отличаются, если становятся просто ещё одним фактором?
Но я вижу тут еще вопрос целеполагания. Если использовать ЛЛМ как решалку задач без понимания процесса, то, вероятно, станет хуже. Даже если продуктивнее. Если же гонять её для самообучения и пояснения, так что станет лучше? Условный пример: Миша в школе не понимает математику, объяснить момент некому. ЛЛМка объясняет получше учителя и имеющегося учебника. Миша теперь снова вошел в колею по преподаваемой теме, вместо того, чтобы продолжать отставание от школьной программы.
Мне греет до сих пор душу давний коммент на Хабре: школьник до ЕГЭ никак не мог понять и потянуть математику. Перепробовали многих разных репетиторов. Пока последний репетитор (автор комментария) за год слишним безустанных попыток не нашел подход и общий язык, что и математику объяснил и школьник с высоким баллом ЕГЭ сдал.
Так вот, сколько мы теряем сносных работников, которые не смогли сами по себе (вопреки методу обучения) понять ту же школьную программу, закрыв перед собой перспективы? Это системная проблема, которая где-то там на горизонте выливается в экономическое преимущество (или отставание).
VladimirFarshatov
22.11.2025 10:10Так вот как деградировали и вымерли Боги, создав людей по своему образу и подобию.. интересная версия, однако.
Arty_Fact
22.11.2025 10:10ИИ не могут делать достаточно сложные вещи. Не сгенерировал пока никто какую-нибудь ААА-игру, например.
Там уже люди-то разучились делать ААА игры, что уж от нейросеток ждать
atues
22.11.2025 10:10А раз так, то и до более сложных задач, справиться с которыми ИИ уже не способны, добираться будет меньшее число людей.
Ну, т.е. человечество будет просто деградировать. Впрочем, почему "будет"? Уже.
Мне кажется, что это плохо.
Это страшно. В сущности, это самоуничтожение
myswordishatred
22.11.2025 10:10Я бы не стал прямо настолько краски сгущать. Да, это действительно печально, это в каком-то смысле неообскурантизм, который наверняка будет иметь последствия, боюсь, для целых поколений. Но люди всё же не клоны и думают по разному. И страны, надо сказать, тоже разные. Может пока в богатой стране А всем мозги заменяет перемножитель матриц в бедной стране Б, где в школу ходят на лыжах двадцать километров в одну сторону как раз сейчас и куётся будущая интеллектуальная элита человечества.
tester37
22.11.2025 10:10Оставьте интеллект. Сознание - не равно интеллект. Очень много человечческих категорий вне интеллекта. Доброта, Любовь, Страсть, ощущение жизни! чувство прекрасного. Это можно развивать и в этом нет конкуренции, если робот научится любить, да и пусть. Главное чтобы ИИ-ка не переубивала людей, это да - риск есть. А интеллект (тем более эмоциональный) не обязательно развивать на работе. Интеллект - можно отдать роботам, если они с его помощью обеспечат людям жизнь со всем спектром эмоций, но с уменьшением эмоций страданий (не до нуля конечно, главное чтобы они (машины) стоп-слово умели распознавать)
myswordishatred
22.11.2025 10:10В целом я даже, наверное, склонен согласиться. С другой стороны я не вполне представляю себе, что за объект такой "Человек минус интеллект".
Вот чтобы стихи писать он нужен? Кажется да, надо же анапест он амфибрахия отличать как-то. Или в картинах там сечение золотое считать (или чем там художники занимаются).
Другими словами, непонятно, что выйдет, если существенную часть человеческой сущности протезировать ИИ.
tester37
22.11.2025 10:10Ну почему минус. То что гепард бегает быстрее человека, не превращает же человека в "человек минус умение бегать" ?
myswordishatred
22.11.2025 10:10Я просто понял
Интеллект - можно отдать роботам
Как призыв отдать вообще все интеллектуальные задачи им.
NeriaLab
22.11.2025 10:10Тогда это перестанет быть просто "спором о технологиях". Это быстро превратится в экзистенциальный выбор: захотим ли мы быть "эффективными автоматами" или стать "несовершенными людьми"?
myswordishatred
22.11.2025 10:10Так любая достаточно развитая технология (в широком смысле)
неотличима от магиименяет общество. Телевидение, арифметика, порох, антибиотики, севооборот, рабство -- всё это и многое другое заставляло людей жить иначе, чем они жили прежде. Ну вот мы в очередной такой точке истории.
GidraVydra
22.11.2025 10:10Оставьте влажные фантазии, бедные страны как раз в первую очередь подсаживаются на нейросети. У условного голодного негритянского мальчика может не быть еды, одежды, медпомощи - но смартфон с доступом к дипсику у него есть.
Visualynx
22.11.2025 10:10Вот когда увидим плато развития llm можно будет сделать выводы. Пока же условная нана банана про ставновится ощутимо лучше первой версии и, например, профессия визуализатора интерьеров (узко беру) уже считай, сдохла.
VADemon
22.11.2025 10:10Не сдохнет. Сколько не пытались очеловечить языки программированиея менеджмент не стал сам себе на коленке кодить. Этот же человек будет сидеть на зарплате, только генерировать не одну визуализацию от руки, а сто. Возможно визуализаторов станет меньше, а может это нивелируется возросшим стандартом (например, больше компаний могут себе заказать визуализацию -- она стала дешевле -- для стимуляции продаж).
Visualynx
22.11.2025 10:10Мне, например, уже не нужны визуализаторы, все делаю сам и за пару минут. Где-то, конечно, останутся, но в массе сдохнут.
NeriaLab
Всё хорошо расписано и полностью согласен со всем вышеперечисленным. А если бы термин "ИИ" заменить на термин "LLM" - вообще было бы идеально
FurySeer
Нет уж, четвертый год из каждого утюга, от СЕО ИИ (не LLM) стартапов до последнего писаки с хабра только и слышишь "ИИ, AI, AGI, ИИ-ИИ, AGI-AI" - пусть и здесь будет ИИ.
Некорректное употребление понятия? Еще какое! Но что поделать, так рыночек порешал - LLM сложно и неблагозвучно, зато как звучит ИИ... Прям чувствуется, как люди начали заменяться. Не будем же мы уподобляться неолуддитам и грести против рынка, сказано ИИ - значит, ИИ.
А то хорошо устроились - как деньги грести, так ИИ, как не оправдался ИИ, так сразу ЛЛМ
DmitryOlkhovoi
На самом деле одно из определений ИИ звучит как - набор задач, в которых компьютер может принимать решения. И это верно так как Интеллект — это способность решать проблемы.
Сознание — это способность чувствовать. Ум — это совокупность мыслительных процессов, в то время как сознание — это опыт осознания этих процессов.
Для того, что многие себе фантазируют под "настоящим" ИИ, есть термин AGI.
Очень интересно тема сознания раскрыта в Ложной слепоте.
NeriaLab
И в этом заключается главная ирония сегодняшнего дня. "Классический" символизм шел к AGI (и то, в 60-х годах прошлого века, он так не назывался) "сверху вниз" - через логику и представление знаний, но уперся в "проблему приобретения знаний" (действительно долго обучать. Но даже эта проблема скоро будет решена). А современный коннекционизм, который унаследовал эти "амбиции", идет "снизу вверх" - через статистику и паттерны, и сейчас уперся в проблему "последовательной логики и рассуждений", откуда он уже не выберется, благодаря катастрофической нехватке ресурсов.
Так что, возможно, дело не в том, кто громче о нём кричит, а в том, чьи методы в данный исторический момент оказываются ближе к созданию систем, которые не просто угадывают паттерны, а способны на планирование и рассуждения. Пока одни кричат о сроках появления AGI, другие - как раз на стыке подходов, "тихо" делают системы, которые на конкретных задачах демонстрируют именно такое, осмысленное поведение.
rivo
Судя по текстам 60-х, АИ создавали опираясь на логику и алгоритмы. Как такового обучения небыло, создавали детерминированные системы для вывода логических заключений. Обучение споставления с образцом использовалось для классификации информациию.
LLM успешно обучают логическому мышлению, но она не может запоминать выводы за пределами контекста. То что подразумевают под AGI,
в моем понимании, включает дообучение на основе собственных ответов или на основе новой информации из внешних источников.
NeriaLab
Но я бы уточнил ключевой момент: LLM не обучают логическому мышлению, а только правдоподобной симуляции логического мышления. Это принципиально разные вещи. Они не выводят заключения, а угадывают следующее слово в "логической" последовательности.
И тем более, надо учитывать, что много лет прошло, на дворе уже конец 2025 года. Давно появились современные версии как когнитивно-символьных систем так и их гибридов (например, логико-когнитивно-символьные и др.). Эти системы активно используют все наработки прошлых десятилетий, включая инкрементальное обучение, что принципиально отличает их от LLM, которые неспособны к обучению на лету за пределами заданного контекста и требуют дорогостоящего переобучения. У LLM до сих пор нет LTM, так как это не предусмотрено архитектурой. У ни одного LLM проекта нет полноценного этического кодекса, ни на бумаге, ни архитектурно.
Опять же, Вы "случайно" забыли (как и любой другой коннекционист), про неэффективность работы самой системы. Как написано в статье: "...экспоненциально больше вычислительной мощности, и, в свою очередь, экспоненциально больше инвестиций..." - как будто этого нет.
rivo
Ну вот есть система
Boolean satisfiability problemи есть правила, как конвертировать сложную логическую задачу к простым операциям над битами. Доказали что это NP-complete, т.е совершенно не гарантируется, что есть решение и вычисления не займут вечность. Теоретически, ничего не мешает LLM формировать запросы к такому движку, не обладая истиным логическим мышление. Это даже будет плюсом, можно будет остановить зависшее логическое вычисление и переформулировать вопрос или условия.DmitryOlkhovoi
вы слишком много текста пишите, что это все за системы такие? Есть пример их работы? Что с ними можно делать?
NeriaLab
Я здесь отвечал на подобный вопрос
DmitryOlkhovoi
Симуляция воздушного боя, обучения алгебре, социальный анализ... это все хорошо.
Но, вы говорите они лучше LLM, я могу написать агентную систему с ними? Нет? О чем тогда холивар этот весь лол. Эффективность, трушность..., есть конкретные задачи, LLM с ними справляется. Модели позволяют компьютеру решать задачи. Что и есть ИИ.
NeriaLab
Агентную систему? Нет не сможете, так как данные системы - это уже агенты. Вы можете только дописывать модули, расширяющие их возможности, Например Вы можете научить их по настоящему программировать на любом ЯП и они действительно это будут делать и без ошибок
DmitryOlkhovoi
Где я могу это сделать? Я могу как-то развернуть их локально или использовать какое-то API?
NeriaLab
Всё уже давно существует в открытом доступе. Доступны исходные коды гражданских версий архитектур вроде Soar, ACT-R, CLARION, и др.. Есть множество публичных форков и реализаций - можно выбрать "на любой вкус". К некоторым прилагаются открытые "Базы Знаний", подробная документация и даже полностью проработанные этические принципы.
Есть документация по интеграции когнитивно-символьных архитектур и LLM (гибриды). Примеры: LLM-ACTR и LLM-Soar
DmitryOlkhovoi
Вы почитайте последнии новости из мира LLM за 2025,
все уперлось в контекст.
Штуки, что вы упоминаете похоже сами не способны дать, то, что делает "тупая" LLM. Выступают чисто в виде MCP под специфичный домен. Или продвинутый ризонинг скорее всего
Ну круто, классно. Только я до сих пор не понимаю, как этим всем реально пользоваться вне научных постов и повседневно с пользой.
Покажите хоть промт какой-то, ввод/вывод
kostoms
Так вы бы статью оформили чё нам с этими нейросимволическими ИИ делать - как обучать их под свой домен, на чём обучать, на чём потом использовать.
NeriaLab
Сейчас я планирую выпустить другой материал - "Главные заблуждения о когнитивно-символьных системах и гибридах", так как на Хабре, к сожалению, встречается слишком много мифов и заблуждений, вроде таких: "когнитивно-символьные системы - это когнитивные нейронные сети" или "...просто старые экспертные системы...". Хочется сначала прояснить базовые понятия и только потом браться за полноценную статью о нейро-символьных системах.
kostoms
Не взлетит. Вон посмотрите выше и ниже разные люди просят Вас показать примеры. Покажите примеры, желательно примеры которые людям понятно как использовать. Без этого "развенчивать мифы" можно долго и безрезультатно.
И да, я тоже хочу примеров. Сейчас вот на скорую руку надыбал какой-то проект вроде бы на эту тему - но что-то не заработал там чат у меня.
NeriaLab
Идея в том, что для работы с когнитивно-символьными системами или гибридами требуется не просто чтобы "заработал чат", так как - это не "коробочные" решения для широкого потребителя, а инструменты для инженеров и исследователей. Если Вы исследователь, то Вам не составит труда подключить любой интерфейс для взаимодействия с системой.
Тем не менее, я дам GitHub-репозиторий и две ссылки для самостоятельного изучения:
DeepProbLog - вероятностное логическое программирование (GitHub);
"Символьный ИИ - ключ к мыслящим машинам" - статья;
"Neuro-Symbolic Artificial Intelligence: The State of the Art" - эл. книга.
kostoms
Самостоятельно изучать некогда :) В том же Nucleoid, на который я ссылался, как раз вроде чатик реализован - судя по картинкам там и тут. Только не работает :)
NeriaLab
Так напишите разработчикам + у них дискорд есть. Судя по коммитам - репа вчера была обновлёна и 2 дня назад - проект "живой". Здесь я уже ничем не могу Вам помочь
kostoms
Я ещё не понял нужно ли мне это, а Вы уже призываете меня к каким-то активным действиям - то талмуды почитать, то кому-то написать. Это так не работает. LLM-ки взлетели, когда люди увидели от них пользу. А вот эта новая тема с символьным ИИ - для GPU он не оптимизирован, каких ресурсов он потребует о CPU при реальном использовании - одному Богу ведомо, и даже непонятно в каких случаях он лучше прямого программирования: например в их примере можно поставить малюсенькую LLM-ку для разговоров с юзером, а интерфейс к объектам типа Человек дать той же LLM-ке через тулзу или MCP. И ответы смертен ли Сократ сразу станут детерминированными.
Moog_Prodigy
И они есть такие, которые понимают человеческий язык и переводят его в код? Примеры нужны.
И скорее всего примеров не будет, или такое, что очередной интерпретатор.
Wesha
Только не "слово", а токен.
simon_logic
ИИ отличный термин, если читать его как Имитация Интеллекта.
Wesha
Искусственный Идиот.