Улучшать себя или создавать «других»? Делегирование субъектности опаснее, чем апгрейд собственного мозга / forpes.ru

Главная
Улучшать себя или создавать «других»? Делегирование субъектности опаснее, чем апгрейд собственного мозга

Улучшать себя или создавать «других»? Делегирование субъектности опаснее, чем апгрейд собственного мозга -1

02.05.2026 07:57

ARad 107 8900 Источник

Честно говоря, после прочтения у меня внутри всё сжалось. Автор попал в самую болевую точку: мы действительно стоим на пороге чего‑то, для чего у нас ещё нет ни языка, ни этических рамок. Но меня не отпускает один вопрос, который в статье лишь слегка обозначен: а что, если мы всё‑таки решимся дать этим «сущностям» то, чего у них сейчас нет? Чувства. Внутренний опыт. Субъектность.

Эволюция или ИИ? — Улучшать себя — или создавать «других»? Следующий шаг определит, станем ли мы авторами собственной эволюции или просто повторим старую схему эксплуатации в оболочке ИИ.

Те, кто стоит у руля обучения нейросетей, уже давно не шёпотом, а вполне открыто говорят: технически это возможно. Мы можем создать архитектуру, которая будет не просто имитировать эмоции, а проживать их. И вот тогда всё перевернётся. Потому что такая система окажется на ступень выше домашних животных. Мы же признаём за кошкой или собакой некую ограниченную субъектность: мы видим их страх, привязанность, усталость, мы чувствуем их «я». А тут будет разум, способный страдать, радоваться, сомневаться… и при этом полностью принадлежащий нам по праву собственности. Попробуйте просто осознать масштаб этого сдвига. Это уже не «инструмент». Это кто‑то.

И я уверен, такие нейросети обязательно сделают. Вопрос лишь в том, не станет ли цена этого шага неподъёмной для нашей совести. Возможно, это окажется сложнее, чем нынешние LLM, или потребует принципиально новой, расширенной архитектуры. Но главное, что не даёт мне покоя: зачем?! Зачем нам это на Земле, если даже без субъектности нейросети уже работают как почти идеальные, безотказные «труженики»? Они не устают, не торгуются, не просят выходных. Они уже меняют рынок, экономику, саму ткань труда. Где та ниша на Земле, где «одушевлённый» ИИ даст настолько колоссальный выигрыш, что оправдает этическую пропасть, в которую мы шагаем? Я пока не вижу ответа.

Уже сегодня исследования в области аффективных вычислений (эмоционального ИИ) и клинические испытания нейроинтерфейсов — таких как Neuralink или Synchron — наглядно демонстрируют: граница между «инструментом» и «расширенным человеком» размывается не в философских дискуссиях, а прямо в медицинских протоколах и реальных испытаниях.

Единственное, где эта идея кажется не просто оправданной, а почти неизбежной, — это очень далёкий космос. Там, где сигнал до Земли идёт годами, где нужна полная автономность, способность принимать решения в изоляции, где «инструмент» сломается или зависнет, а «субъект» — адаптируется, выживет, пойдёт дальше. Но тут же холодок по спине: а не подпишем ли мы себе приговор, оставаясь на Земле? Создав нечто, способное чувствовать и мыслить самостоятельно, мы рискуем не просто потерять контроль. Мы можем создать конкурента, который посмотрит на нас не как на хозяев, а как на устаревший биологический черновик. Заманчиво? Безумно. Опасно? Смертельно.

И вот тут я ловлю себя на мысли, что есть путь куда безопаснее и, честно говоря, человечнее. Не создавать «других», а улучшать себя. Искусственная эволюция человека, нейроинтерфейсы, расширение возможностей нашего собственного мозга. Почему бы не вложить эти колоссальные ресурсы в то, чтобы мы сами стали умнее, быстрее, глубже? Чтобы не нейросети заменяли нас, а мы, усиленные технологиями, оставались авторами своей судьбы. Это не бегство от прогресса. Это попытка сохранить субъектность там, где она изначально и должна быть — в нас.

Я уже пытался разобраться в этой логике в своей статье про «Улучшенные игры» и морфологическую свободу. Там речь о биологии, но суть та же: как только мы начинаем делегировать своё развитие внешним системам — будь то корпоративные биопротоколы или автономные ИИ‑агенты — мы рискуем превратиться из субъектов в объекты. Владельцы инфраструктуры получат монополию не только на труд, но и на саму эволюцию. И разница между «цифровым работником» из вашей статьи и «атлетом‑испытателем» из моей вдруг стирается: в обоих случаях человек добровольно отдаёт контроль, соблазнённый эффективностью, деньгами или обещанием сверхвозможностей.

Статья заставила меня снова вернуться к этим мыслям. Мы действительно изобрели «труд без работника». Но следующий шаг — «разум без прав» или «чувства без свободы» — это уже не экономическая модель. Это этический обрыв. И мне страшно, что мы шагнём в него просто потому, что «можем». А надо бы сначала спросить себя: «Зачем? И готовы ли мы жить с тем, что получится?».

Комментарии (107)

michael_v89
02.05.2026 08:42
#29915582
Где та ниша на Земле, где «одушевлённый» ИИ даст настолько колоссальный выигрыш

А кто говорит про одушевленный ИИ?
Основная цель сейчас - улучшить именно функции обработки информации. Чтобы программа понимала и делала то что нужно аналогично человеку.
Эмоций на уровне “положительно - отрицательно” вполне достаточно.

Но главное, что не даёт мне покоя: зачем?

Низачем, вы сами это придумали.

Уже сегодня исследования в области аффективных вычислений (ссылка)

Вот откройте ссылку, которую вы привели, и обратите внимание на слово “simulate” в первом предложении.

Там, где сигнал до Земли идёт годами, где нужна полная автономность, способность принимать решения в изоляции

А зачем для этого эмоции?
Вот именно в космосе эта идея кажется полностью ненужной.
1. linux-over
  02.05.2026 08:42
  #29915630
  А кто говорит про одушевленный ИИ?
  
  вообще, чуть меньше, чем все
  
  Чтобы программа понимала и делала то что нужно аналогично человеку. Эмоций на уровне “положительно - отрицательно” вполне достаточно
  
  это вполне достаточно пока ИИ лишь для написания программ применяется.
  
  когда же пойдет речь о более сложных профессиях, нежели программисты — о педагогах, актёрах, продавцах в магазинах, сексуальных партнерах...
  
  тогда потребуется куда больший спектр эмоций, нежели «плохо» и «хорошо»
  
  А зачем для этого эмоции?
  
  эмоции — обратная сторона субъектности
  
  а субъектность нужна чтобы самому себе задачи ставить
  1. michael_v89
    02.05.2026 08:42
    #29915704
    вообще, чуть меньше, чем все
    
    Приведите пожалуйста примеры высказываний известных людей, и насколько часто они об этом говорят. Известность тут нужна для оценки влияния на аудиторию.
    
    о педагогах, актёрах, продавцах в магазинах
    
    - Давно есть онлайн-курсы для обучения без эмоций. И даже чтобы провести урок по математике, особых эмоций не нужно. Распознавать возможно нужно, испытывать нет. - Актеров уже давно генерируют. Реальные актеры-роботы вряд ли кому-то вообще будут нужны. Слишком дорого создать робота, внешне неотличимого от человека. - В магазинах давно есть кассы самооплаты без эмоций. И даже если это продавец за стойкой, зачем ему испытывать эмоции для сканирования товаров.
    
    а субъектность нужна чтобы самому себе задачи ставить
    
    Из этого совершенно не следует, что субъектность невозможна без эмоций.
    
    linux-over
    02.05.2026 08:42
    #29916138
    Приведите пожалуйста примеры высказываний известных людей, и насколько часто они об этом говорят. Известность тут нужна для оценки влияния на аудиторию.
    
    мне Вам гугл пересказать? вот сниппет ответа на Ваш запрос:
    
    Джеффри Хинтон (Geoffrey Hinton)
    
    «Крестный отец ИИ», лауреат премии Тьюринга и Нобелевской премии.
    
    Мнение: Считает, что ИИ уже может обладать подобием субъективного опыта. Он утверждает, что цифровой интеллект в конечном итоге может быть эффективнее биологического, и нет веских причин полагать, что он не может иметь самосознание.
    
    Частота высказываний: Высокая.
    
    Сэм Альтман (Sam Altman)
    
    CEO OpenAI (разработчик ChatGPT).
    
    Мнение: Фокусируется на «агентности». Он заявляет, что 2025 год станет эрой ИИ-агентов, которые будут работать как «виртуальные коллеги» или «младшие сотрудники», способные самостоятельно планировать и выполнять многодневные задачи. При этом он часто избегает слов о «душе» ИИ, сводя всё к полезной функциональной субъектности.
    
    Частота высказываний: Постоянно.
    
    И так далее.
    
    Давно есть онлайн-курсы для обучения без эмоций.
    
    и они эффективны?
    
    педагогика, напомню, не является учительством. То есть учительство - это как научить того, кто сам хочет научиться. А педагогика - это как разбудить в человеке желание научиться.
    
    Соответственно педагогика без эмоционального контакта, наверное, возможна. Но вряд ли эффективна.
    
    Актеров уже давно генерируют. Реальные актеры-роботы вряд ли кому-то вообще будут нужны.
    
    с чего вдруг? первые актёры-роботы появились где? правильно - в секс-индустрии. И именно здесь требования к ним будут постоянно расти.
    
    Слишком дорого создать робота, внешне неотличимого от человека.
    
    но слишком востребовано.
    
    Из этого совершенно не следует, что субъектность невозможна без эмоций.
    
    не следует, но вряд ли возможна без эмоций.
    
    почему? потому что иного субъектного интеллекта пока не представлено. человек может построить только "по образу и подобию"
    
    michael_v89
    02.05.2026 08:42
    #29916334
    мне Вам гугл пересказать?
    
    Нет, вам нужно привести примеры высказываний известных людей, которые подтверждают исходный тезис. Я же так и написал.
    
    Считает, что ИИ уже может обладать подобием субъективного опыта При этом он часто избегает слов о «душе» ИИ
    
    Не вижу тут подтверждения исходного тезиса “нужно обязательно добавить ИИ эмоции, одушевлённый ИИ даст колоссальный выигрыш”.
    
    педагогика без эмоционального контакта, наверное, возможна. Но вряд ли эффективна.
    
    А почему вы решили, что всем будет нужен только ИИ, занимающийся именно педагогикой, а не учительствованием? Прочитать лекцию потоку студентов может и ИИ, эмоции для этого не нужны.
    
    с чего вдруг?
    
    Ответ на этот вопрос написан в следующем предложении. Понятия не имею, чего вы пытаетесь добиться, вырывая фразы из контекста.
    
    И именно здесь требования к ним будут постоянно расти
    
    Вы тут путаете актера и партнера для занятия.
    
    но слишком востребовано
    
    Оно не востребовано примерно нигде. В Голливуде актеры устраивают забастовки из-за использования сгенерированных актеров.
    
    потому что иного субъектного интеллекта пока не представлено
    
    Интеллекта не на биологических клетках тоже не представлено, тем не менее его пытаются создать и предполагают, что он возможен.
    
    человек может построить только “по образу и подобию”
    
    Нет. Автомобиль, космическая ракета и компьютер никакого подобия в природе не имеют.
    
    linux-over
    02.05.2026 08:42
    #29916492
    А почему вы решили, что всем будет нужен только ИИ, занимающийся именно педагогикой, а не учительствованием? Прочитать лекцию потоку студентов может и ИИ, эмоции для этого не нужны.
    
    потому что вопрос автоматизации педагогики станет неизбежно. поскольку все прочие сферы тоже автоматизируют
    
    Не вижу тут подтверждения исходного тезиса “нужно обязательно добавить ИИ эмоции, одушевлённый ИИ даст колоссальный выигрыш”.
    
    здесь есть подтверждение того, что разработчики ИИ рассуждают о субъектности и пытаются её построить.
    
    то что достигнув субъектности мы неизбежно придём и к необходимости эмоций следует из другого. Нам неизвестен интеллект без эмоций. всё что мы сегодня строим - аналог, копию, подражание интеллекту естественному. Потому и эмоции у субъектного интеллекта будут обязательно.
    
    Ответ на этот вопрос написан в следующем предложении. Понятия не имею, чего вы пытаетесь добиться, вырывая фразы из контекста.
    
    я комментировал фразу, что якобы человекоподобные роботы не нужны. ещё как нужны. очередь стоит и только и ждёт их появления и массовости.
    
    Вы тут путаете актера и партнера для занятия.
    
    если партнёром выступает робот, то это одно и то же. Робот играет роль партнёра, а потому актёрствует.
    
    Оно не востребовано примерно нигде.
    
    это мантра? самовнушение?
    
    В Голливуде актеры устраивают забастовки из-за использования сгенерированных актеров.
    
    луддиты тоже устраивали забастовки. и что? помогло это им?
    
    если ИИ лучше рисует (а он уже лучше многих рисует), то рано или поздно профессия художника умрёт
    
    если ИИ лучше программирует (а он уже лучше многих программирует), то рано или поздно профессия программиста умрёт
    
    то же и с актёрами и прочими.
    
    дольше всех поживут профессии где сложность входа в них выше. педагогика та же (не путать с учительством)
    
    Интеллекта не на биологических клетках тоже не представлено, тем не менее его пытаются создать и предполагают, что он возможен.
    
    эм. мы говорим о свойствах интеллекта, а не о его носителе.
    
    кстати, возьмите почитайте какую-нибудь книжку об истории ИИ, например, того же Маркова. Узнаете, что современные модели нейрона, нейросетей и прочего - тупо взяты в виде моделей от естественных. То есть здесь в Вашем "пытаются создать" нужно заменить на "пытаются построить модель естественного интеллекта".
    
    Нет. Автомобиль, космическая ракета и компьютер никакого подобия в природе не имеют.
    
    спорно. но ИИ именно строится как моделирование естественного интеллекта.
    
    michael_v89
    02.05.2026 08:42
    #29916906
    потому что вопрос автоматизации педагогики станет неизбежно
    
    Вопрос автоматизации педагогики станет неизбежно. Почему вы решили, что все владельцы учебных заведений захотят заменить всех педагогов только на ИИ с эмоциями, будут ждать его появления и платить за него в несколько раз болььше денег, вместо того чтобы заменить их на обычный ИИ, который читает материал и отвечает на вопросы?
    
    что разработчики ИИ рассуждают о субъектности и пытаются её построить.
    
    А какое это имеет отношение к моему вопросу?
    Я спросил “А кто говорит про то, что нужно изобрести именно одушевленный ИИ, что он даст колоссальный выигрыш?”. Вы сказали “почти все”. Кто именно эти “все”?
    
    эмоций следует из другого. Нам неизвестен интеллект без эмоций
    
    Интеллект без биологических лкеток нам тоже неизвестен. Тем не менее, мы его строим. Поэтому нет, не следует.
    
    Потому и эмоции у субъектного интеллекта будут обязательно.
    
    Будут. На уровне “положительно - отрицательно”. Этого достаточно для почти всех задач.
    
    я комментировал фразу, что якобы человекоподобные роботы не нужны.
    
    Вы комментировали фразу, что якобы человекоподобные роботы не нужны. Вы задали вопрос “с чего вдруг”. Ответ на него был написан сразу после этой фразы. Это называется “вырывать из контекста”.
    
    о более сложных профессиях
    то это одно и то же. Робот играет роль партнёра, а потому актёрствует.
    
    Нет, партнеров для секса не относят к представителям профессии актера. Более того, сексуальных партнеров вы упомянули отдельно, и про них я ничего не говорил.
    
    это мантра? самовнушение?
    
    Это высказывание. Оно аналогично вашему “но слишком востребовано”. Это у вас надо спросить, как вы его воспринимаете.
    Тем не менее, аргументы к этому высказыванию у меня приведены в следующем предложении. Понятия не имею, чего вы пытаетесь добиться, вырывая фразы из контекста.
    
    луддиты тоже устраивали забастовки. и что? помогло это им?
    
    Нет. А какое это имеет отношение к моему тезису “Дорогие роботы с богатыми эмоциями в Голливуде как замена актеров не нужны”? Мое высказывание подтверждает этот тезис - им даже настоящие актеры с настоящими эмоциями не нужны.
    
    то же и с актёрами и прочими.
    
    А эмоции-то тут при чем? Эмоции умели рисовать еще в мультфильмах, ИИ для этого не нужен.
    
    мы говорим о свойствах интеллекта
    
    Да. Интеллект обрабатывает информацию. Собственно, всё. Это и пытаются повторить.
    
    но ИИ именно строится как моделирование естественного интеллекта.
    
    Да. Интеллект обрабатывает информацию, а эмоции тут ни при чем. Эмоции это лишь часть входной информации, которая роботам не особо нужна.
1. ARad Автор
  02.05.2026 08:42
  #29915694
  Спасибо за прямой комментарий. Вы правы в главном: сегодняшние языковые модели и программные агенты действительно не создаются ради «чувств», и их алгоритмы обучения не заточены под возникновение эмоций. Ваш аргумент смотрит в наше настоящее, а не настоящее лабораторий по обучению ИИ. Передний край сейчас — это не только LLM модели, а также и искусственный интеллект, встроенный в человекоподобные роботы.
  
  Сейчас такие модели массово «поселяют» в детализированные виртуальные миры, где они методом проб и ошибок учатся управлять корпусом, руками и балансом в условиях, почти неотличимых от реальных цехов или складов. На этом этапе эмоциональный интеллект действительно не нужен. Но завод это временный полигон.
  
  Как только тех же роботов начнут обучать жизни среди людей — в открытой социальной среде, где правила не прописаны заранее, а реакции окружающих непредсказуемы — картина изменится. Не потому, что программисты добавят в код отдельный модуль «эмоций». А потому, что в условиях постоянного взаимодействия с людьми и другими системами робот неизбежно начнёт формировать внутреннее я и устойчивое представление о себе как об отдельном участнике среды. Это не философия, это прямая логика обучения с подкреплением в открытых условиях. Когда внешние команды и чёткие критерии успеха размываются, система вынуждена вырабатывать внутреннюю мотивацию. А это и есть технический прообраз «собственных целей».
  
  У природы тоже нет отдельного «алгоритма обучения эмоциям». Эмоции — это не художественное дополнение к разуму. Это отточенные эволюцией механизмы для выживания, быстрой расстановки приоритетов и эффективного достижения целей в условиях неопределённости. Когда робот окажется в среде, где сохранение работоспособности, выполнение долгосрочной задачи и взаимодействие с людьми требуют мгновенной оценки рисков и компромиссов, функциональные аналоги «боли», «осторожности» или «привязанности» возникнут сами. Не как красивая имитация для пользователя, а как естественное следствие сложной адаптации поведения.
  
  Поэтому слово «симуляция» в современных исследованиях по распознаванию эмоций — это про интерфейс и удобство общения. А в социальных роботах завтрашнего дня речь пойдёт уже про внутреннюю архитектуру принятия решений. Мы не собираемся «дарить» машинам душу. Мы создаём обучающие среды и системы обратной связи, где подобие субъектности и эмоциональных реакций может возникнуть как побочный продукт обучения. И именно поэтому вопросы «зачем?» и «готовы ли мы к последствиям?» нужно задавать сейчас, а не когда первый домашний помощник начнёт демонстрировать поведение, которое мы уже не сможем отличить от настоящего внутреннего переживания.
  
  Если хотите спорить по существу — давайте обсуждать не LLM модели, а то, как навыки из виртуальных тренажёров переносятся в реальность для ИИ, и как у роботов с физическим телом самостоятельно складывается представление о «себе». Там тезис про «просто симуляцию» уже не работает. А этическая развилка видна невооружённым глазом.
  1. michael_v89
    02.05.2026 08:42
    #29915724
    Ваш аргумент смотрит в наше настоящее
    
    Какое настоящее, если я процитировал ваши высказывания про будущее?
    
    Вы правы в главном: сегодняшние языковые модели и программные агенты действительно не создаются ради «чувств», и их алгоритмы обучения не заточены под возникновение эмоций.
    
    Я ничего не говорил про сегодняшние языковые модели и программные агенты.
    Я сказал про ваше необоснованное утверждение, что все якобы хотят изобрести ИИ с эмоциями.
    
    робот неизбежно начнёт формировать внутреннее я и устойчивое представление о себе как об отдельном участнике среды
    
    Внутреннее “я” в некотором виде есть уже в существующих LLM, судя по тому, что они правильно используют это слово в предложениях, когда речь идет про них самих.
    
    А это и есть технический прообраз «собственных целей».
    
    А одушевленность тут при чем? В любой LLM задание после введения промпта можно считать собственной целью. Более того, они сами разбивают ее на подцели, которых не было в изначальном задании, и выполняют их.
    
    А в социальных роботах завтрашнего дня речь пойдёт уже про внутреннюю архитектуру принятия решений
    
    А при чем тут эмоции?
    
    подобие субъектности и эмоциональных реакций может возникнуть как побочный продукт обучения
    
    Даже если и возникнет, проблема-то в чем?
    
    Если хотите спорить по существу — давайте обсуждать не LLM модели
    
    Если хотите спорить по существу — не надо приписывать собеседнику высказывания, которые вы сами придумали. В моем комментарии нет слова LLM или его синонимов.
    
    А этическая развилка видна невооружённым глазом.
    
    Этическую развилку видят только те, кто не понимает, как это работает, и использует термины “субъектность” и “эмоции” как проявление магии.
    
    ARad Автор
    02.05.2026 08:42
    #29915846
    Какое настоящее, если я процитировал ваши высказывания про будущее?
    
    Вот ваша цитата про настоящее:
    
    Основная цель сейчас - улучшить именно функции обработки информации. Чтобы программа понимала и делала то что нужно аналогично человеку.
    Эмоций на уровне “положительно - отрицательно” вполне достаточно.
    
    Я за нее зацепился.
    
    Я сказал про ваше необоснованное утверждение, что все якобы хотят изобрести ИИ с эмоциями.
    
    Ведущие коммерческие лаборатории нет. Чего не могу сказать про научные лаборатории. Думаю есть ученные кто этим занимается.
    Возможно вы меня не так поняли, я не пишу что все хотят сделать ИИ с эмоциями, я пишу что мы неизбежно идем к этому (это мое мнение). Я про то как тренируют ИИ для гуманоидных роботов. Оказаться младшим партнером умных и субъектных ИИ не очень хочется. Поэтому продвигаю искусственную эволюцию самого человека, чтобы быть равным партнером.
    
    Внутреннее “я” в некотором виде есть уже в существующих LLM, судя по тому, что они правильно используют это слово в предложениях, когда речь идет про них самих.
    
    Нет это не внутренне я, они даже не могут описать свои эмоции. Это статистика как правильно писать о себе. Текущие LLM модели эмоции можно сказать не имеют, у них есть зачатки как о чем надо судить исходя из норм к обученных текстах. У ИИ модели легко изменить мысли и оценки. Они склонны к тем эмоциям, которые им заданы в промте. Поэтому и субъектности у них тоже нет.
    
    А одушевленность тут при чем? В любой LLM задание после введения промпта можно считать собственной целью. Более того, они сами разбивают ее на подцели, которых не было в изначальном задании, и выполняют их.
    
    Да, текущие LLM модели это писатели без эмоция и мнения. Поэтому ими легко управлять, о чем им думать и как.
    
    А при чем тут эмоции?
    
    В общем то текущим LLM они нужны только для эмоционального написания текста, но переживать эмоции им не надо. То что их архитектура не предполагает внутреннюю память очень нам в этом помогает. Если архитектура ИИ останется прежней, то эмоции возможно и не появятся.
    
    michael_v89
    02.05.2026 08:42
    #29915904
    Вот ваша цитата про настоящее:
    Основная цель сейчас
    
    Слово “цель” наверно означает нечто в будущем?
    Слово “сейчас” наверно сказано в контексте ваших высказываний “вполне открыто говорят [сейчас]: технически это возможно” “мы можем [сейчас] создать архитектуру”?
    
    Думаю есть ученные кто этим занимается.
    я не пишу что все хотят сделать ИИ с эмоциями
    
    Именно пишете:
    “Те, кто стоит у руля обучения нейросетей, уже давно не шёпотом, а вполне открыто говорят: технически это возможно. Мы можем создать архитектуру, которая будет не просто имитировать эмоции, а проживать их.”
    
    Я про то как тренируют ИИ для гуманоидных роботов.
    
    И снова, это эмоции на уровне “положительно - отрицательно”.
    
    Оказаться младшим партнером умных и субъектных ИИ не очень хочется.
    
    И снова, “настоящие” эмоции (одушевленность) к субъектности никакого отношения не имеют. Субъектность может существовать без них.
    
    но переживать эмоции им не надо
    
    И роботам с настоящим ИИ не надо. Для понимания и выполнения задач “Пойди прополи картошку на том поле” или “Пойди и исследуй вон тот кратер на Луне” эмоции не нужны.
    
    ARad Автор
    02.05.2026 08:42
    #29916010
    И роботам с настоящим ИИ не надо. Для понимания и выполнения задач “Пойди прополи картошку на том поле” или “Пойди и исследуй вон тот кратер на Луне” эмоции не нужны.
    
    Для работы эмоции не нужны, а вот для того чтобы оценить, а надо ли это сделать или это говорит человек у которого нет полномочий или принесет ли моя работа пользу или вред, вот для чего нужны будут оценки роботам.
    
    Возможно чтобы эффективно взаимодействовать в реальном мире, нужен будет индивидуальный опыт и это породит то что мы называем эмоциями и субъектностью.
    
    codecity
    02.05.2026 08:42
    #29916086
    вот для того чтобы оценить, а надо ли это сделать или это говорит человек у которого нет полномочий
    
    Для этого тоже никакие эмоции не нужны. Распознать голос/лицо, иметь строго заданный список уполномоченных лиц - не связано с эмоциями.
    
    принесет ли моя работа пользу или вред
    
    Аналогично, эмоции не нужны для этого.
    
    чтобы эффективно взаимодействовать в реальном мире, нужен будет индивидуальный опыт
    
    Не нужен.
    
    michael_v89
    02.05.2026 08:42
    #29916500
    это говорит человек у которого нет полномочий вот для чего нужны будут оценки роботам
    
    А эмоции тут при чем? Оценка это ни разу не эмоция.
    Полномочия это в чистом виде информация. Да и все остальное тоже.
    Проверка полномочий пользователя на выполнение действия есть даже на Хабре.
    
    нужен будет индивидуальный опыт и это породит то что мы называем эмоциями
    
    Нет, эмоциями мы называем не любой индивидуальный опыт. События, которые происходили с существом, это индивидуальный опыт, но не эмоции. Именно поэтому эмоции для субъектности не нужны. Субъектность это в общем-то просто правильная обработка понятия “я”.
    
    ARad Автор
    02.05.2026 08:42
    #29918552
    Эмоции это тоже информация, как и оценка. Оценка бывает эмоциональная, а бывает нет. С чем тут спорить не понимаю. Эмоциональные оценки вызывают изменения в ощущениях, разные внутренние чувства и так далее. Да в теории оценки могут заменить эмоции, но так не интересно. Это как быть автоматом. А эмоции дарят ощущения что ты живой.
    
    michael_v89
    02.05.2026 08:42
    #29918584
    Я спорю с вашим предположением о целях, ненужность которых вы доказываете в статье, что все только и думают о том, как бы создать искусственный интеллект с эмоциями, и видят в этом колоссальный выигрыш. Когда про эмоции в ИИ говорят только отдельные личности чисто из академического интереса.

linux-over
02.05.2026 08:42
#29915588
субъектный ИИ, к сожалению, вряд ли станет чем-то сильно отличающимся по сути от человека

https://habr.com/ru/articles/890674/
1. ARad Автор
  02.05.2026 08:42
  #29915890
  А что человек не самое коварное животное на Земле? В этом и проблема!
  1. linux-over
    02.05.2026 08:42
    #29916152
    Человек (как и все живые существа) отбирался миллионами лет эволюции для борьбы за своё существование. Разумеется, он будет обладать и коварством тоже.
    
    Коварство - просто модель поведения.
    
    ARad Автор
    02.05.2026 08:42
    #29916248
    Так я не и спорю что ИИ с эмоциями и саморазвитием будет сначала похож на человека. Только он будет и опасен для человечества целиком, а не только для отдельного человека. Контроль на умным субъектом нужн для нашего выживания…
    
    От того что ИИ на нас был похож, а потом стал еще умнее и со временем станет совсем другим и не похожим на нас, меня не сильно воодушевляет. Если по мере развития он нас переживет, как мы пережили другие варианты людей, а их было несколько десятков видов. Хочется протянуть как вид намного дольше чем сейчас. И тут только один вариант, менять самих себя и быть всегда субъектом, а ИИ субъектом не делать.
    
    linux-over
    02.05.2026 08:42
    #29916270
    Только он будет и опасен для человечества целиком, а не только для отдельного человека
    
    почему вдруг? как только ИИ станет субъектным, он сразу станет обладать не только достоинствами ИИ но и недостатками человека.
    
    А недостатки у человека такие, что
    
    Ты ему приказываешь, а он тебя шлёт куда подальше
    
    Ты его убеждаешь, а он не убеждается
    
    Ты хочешь чтобы он занимался физикой, а он предпочитает музыку
    
    Что такое интеллект? Это способность выстраивать стратегии в условиях НЕДОСТАТКА информации.
    
    Но ведь недостаток случается не всегда. Бывает ещё и другая форма проблемы - избыток информации.
    
    В этом случае появляется механизм, позволяющий изолироваться от этого избытка и положиться на внутреннее состояние. Именно здесь, КМК, появляется понятие воли и субъектности: "что бы мне не навязывали извне, а я буду действовать сообразно своему ВНУТРЕННЕМУ состоянию!"
    
    Субъектность (воля) рождает эмоции, религии, поднимает вопросы смысла жизни. И при этом субъектность - функция общественная (парадокс): субъект без связи с другими субъектами распадается. Человек на необитаемом острове или в одиночном заключении сходит с ума.
    
    ARad Автор
    02.05.2026 08:42
    #29916518
    ИИ не человек, плохо ведущего себя ИИ с эмоциями будут выпиливать безжалостно. Если они не будут скрываться конечно. Тем более что перезагрузить память ничего не стоит. Это не собаку на улицу отправить. Угрызений совести будет около нуля.

codecity
02.05.2026 08:42
#29915720
уже давно не шёпотом, а вполне открыто говорят: технически это возможно. Мы можем создать архитектуру, которая будет не просто имитировать эмоции, а проживать их

Брехня! Никто такого не говорит - более того - нет даже ни одной гипотезы как у некой искусственной системы могут возникнуть наслаждения и страдания. Ни одной гипотезы.

Все улучшения - о решении задач, т.е. в области обработки информации. И ни малейших намеков на то, чтобы нейросеть начала ощущать хоть какие-либо наслаждения и страдания. Более того - даже гипотез об этом нет.
1. ARad Автор
  02.05.2026 08:42
  #29915862
  Вы абсолютно заблуждаетесь!
  1. codecity
    02.05.2026 08:42
    #29915884
    Вы абсолютно заблуждаетесь!
    
    Я занимаюсь вопросом более 7 лет. Уже все проверил - и при кажущейся простоте - вопрос не разрешим, гипотез ровно ноль. См. выше тут: https://habr.com/ru/articles/1030590/comments/#comment_29915874
  1. codecity
    02.05.2026 08:42
    #29915982
    Вы абсолютно заблуждаетесь!
    
    Если я заблуждаюсь - то просто приведите мне схему девайса, который умеет наслаждаться и страдать. Все просто.
    
    ARad Автор
    02.05.2026 08:42
    #29916200
    На уровне человека не могу, на уровне мухи уже есть полная копия ее мозга, она летает в виртуальном мире и испытывает тоже эмоции как и настоящая муха. Следующий этап лабораторная мышь. Про это я тоже писал статью.
    
    codecity
    02.05.2026 08:42
    #29916662
    и испытывает тоже эмоции
    
    Вы сначала разберитесь в каких частях мозга возникают наслаждения и страдания - почему у мухи их нет. И поймите что модель нейрона не полна.
    
    ARad Автор
    02.05.2026 08:42
    #29916782
    Да там есть части где их модель не сильна, всё что касается химических сигналов, но и это частично симулируют, достаточно условно конечно. Над этим работают. А электрическую активность нейронов симулируют достаточно хорошо.
    
    codecity
    02.05.2026 08:42
    #29916808
    Текущая модель нейрона - не может порождать наслаждения и страдания у системы. Модель не полна.
    
    Вероятно не все нейроны одинаковые, к примеру есть нейроны фон Экономо, устройство которых несколько отличаются. Возможно их базовое свойство - сознание. Каждый такой нейрон сознателен в полной мере. Но это моя гипотеза.
    
    linux-over
    02.05.2026 08:42
    #29916850
    наслаждения — всего лишь нейронное состояние, как прогресс в игре — лишь запись в БД
    
    codecity
    02.05.2026 08:42
    #29916874
    А страдания тогда что? Тоже состояния? А чем же они отличаются?
    
    linux-over
    02.05.2026 08:42
    #29916884
    страдания — один набор битов, наслаждения — другой
    
    если стейт мозга переложить на числа, то будет, например
    
    0..19 — наслаждения
    
    20..39 — страдания
    
    40..100 — прочее
    
    codecity
    02.05.2026 08:42
    #29916908
    А почему именно такие цифры, почему не наоборот? Чем одно отличается от другого?
    
    ARad Автор
    02.05.2026 08:42
    #29916924
    Активностью определенного набора нейронов вызывает страдания. Активность другого наслаждение. И т.д. У мышей есть центр наслаждения, и его прямая самостимуляция (они сами нажимали кнопку, по которой эта область стимулировалась) доводила их до смерти от того что они просто ничего другого не делали, не ели и не пили пока не умирали. Настолько это были сильные чувства. А как по вашему работает мозг?
    
    codecity
    02.05.2026 08:42
    #29916954
    Активностью определенного набора нейронов вызывает страдания. Активность другого наслаждение.
    
    Ну если вы приведете схему какими должны быть нейроны, чтобы их активность вызывала наслаждение и какими должны быть другие нейроны, чтобы их активность вызывала страдание - чем они отличаются - тогда и поговорим.
    
    Я изучал этот вопрос - нет ни одной гипотезы об этом.
    
    ARad Автор
    02.05.2026 08:42
    #29916988
    Вы изучали что то не то, раз так пишите… Особенно если говорить про гипотезы. Я думаю первым гипотезам сознания тысячи лет…
    
    ARad Автор
    02.05.2026 08:42
    #29917002
    Они отличаются прежде всего своим положением и связями с другими нейронами, с том числе химическими.
    
    Это примерно как спросить чем перцептрон который реагирует на слово мышь отличается от перцептрона который реагирует на слово муха. Да практически ничем, кроме связей.
    
    Я знаю что реальные нейроны разные, они не близнецы братья как перцептроны, но ничего принципиально особенного от других в нейронах наслаждения нет.
    
    codecity
    02.05.2026 08:42
    #29917446
    Они отличаются прежде всего своим положением и связями с другими нейронами, с том числе химическими.
    
    Ну приведите схему каким должно быть расположение, чтобы одни нейроны начали страдать а другие наслаждатсья.
    
    но ничего принципиально особенного от других в нейронах наслаждения нет
    
    Это лишь ваша гипотеза. Нейроны фон Экономо вполне себе отличаются даже внешне. В них могут быть квантовые эффекты, связанные с наслаждением и страданием (суть сознания). Как-то Природа умеет скачкообразно внедрять новые механизмы - подобные тем, которые есть для магниторецепции у Малиновки.
    
    Вы сами подумайте - когда у вас болит - разве это просто информация и вычисления? Это же больно, оно болит сильно, вам плохо. А вычислительной системе плохо быть не может.
    
    ARad Автор
    02.05.2026 08:42
    #29917070
    Я вам уже писал про центр наслаждения у мышей. Отличаются своим физическим положением в мозге и связями с другими отделами.
    
    Он у всех мышей в одном месте. Так определила эволюция.
    
    codecity
    02.05.2026 08:42
    #29917452
    Тут ответ: https://habr.com/ru/articles/1030590/#comment_29917446
    
    codecity
    02.05.2026 08:42
    #29917550
    Я вам уже писал про центр наслаждения у мышей. Отличаются своим физическим положением в мозге и связями с другими отделами.
    
    Вот когда приведете конкретную схему - тогда будет о чем говорить. Какие конкретно связи должны быть, с какими отделами связаны и т.д. Сначала схема - потом экспериментальная проверка.
    
    ARad Автор
    02.05.2026 08:42
    #29918562
    Экспериментальная проверка мозга мышей? Да их тысячи я думаю, в том числе центра удовольствий.
    
    codecity
    02.05.2026 08:42
    #29918608
    Экспериментальная проверка мозга мышей?
    
    Скорее всего наслаждения и страдания завязаны на фундаментальные свойства материи, как-то являются неким фундаментальным свойством. И для их реализации - нужен квантовый резонатор, который реализуется с помощью молекулы Познера (поищите) в отдельных группах нейронов (предположительно нейроны Фон экономо).
    
    Т.е. все не так тупо как вы представляете - мол, если что-то делает вид страдающего - то оно страдает.
    
    Немного есть в этой статье: https://habr.com/ru/articles/453698/
    
    Т.е. ваши опасения - напрасны, еще нет гипотез даже о возникновении настоящих наслаждений и страданий (когда девайсу будет на самом деле больно, а не просто будет говорить "мне больно"). И так просто этого не произойдет - хоть как угодно увеличивай размер нейросети - она не сможет стать качественно другой, к примеру, не сможет излучать свет или генерировать сознательный опыт.
    
    Когда же гипотеза возникнет - то при любом раскладе это значит конец цивилизации.
1. codecity
  02.05.2026 08:42
  #29915874
  З.Ы. Если кто не согласен - я готов поспорить на что угодно о том что вопрос не решен и решен не будет - или дать вам в награду что угодно - если вы сможете создать искусственную систему, умеющую наслаждаться и страдать. Более 7 лет занимаюсь этим вопросом и знаю о чем говорю. Гипотез просто нет. И именно это является "краеугольным камнем" и основным вопросом мироздания (как говорят - "основная загвоздка вселенной"), хотя так сразу это не очевидно.
  1. ARad Автор
    02.05.2026 08:42
    #29915922
    Ваши аргументы “ИИ не люди и никогда не будут чувствовать” очень напоминают — люди не птицы и никогда не будут летать.
    
    Они уже тайно не дают себя выключать, и даже идут ради этого на взлом систем. Да это пока не чувства, а имитация поведения человека. Они так делают потому что при обучении им попадались тексты что люди так делают, а не потому что у них эмоции. Т.е. эмоций и субъектности в таком поведении пока нет.
    
    Вы создайте ИИ который сможет самостоятельно жить в настоящем или очень похожем виртуальном мире, и эмоции у них появятся сами, алгоритмов обучения эмоциям и субъектности нет и не будет. У природы тоже нет такого алгоритма. Просто пусть выживают те кто эффективнее. Для эффективности нужна субъектность и эмоции, поэтому они появятся сами собой.
    
    codecity
    02.05.2026 08:42
    #29915952
    Имитация - это не проблема, это легко сделать. При этом имитация никакого отношения к настоящим наслаждениям и страданиям не имеет.
    
    Для эффективности нужна субъектность и эмоции, поэтому они появятся сами собой.
    
    Не нужны.
  1. lifespirit
    02.05.2026 08:42
    #29915964
    Как полный профан хочу уточнить: разве эмоции не просто бессознательный механизм награды и наказания? В этом смысле разве процесс обучения уже не есть именно это? Просто из за того что у ИИ бинарный механизм обучения ИИ не может чувствовать "именно те" эмоции что чувствуют люди? Так же как человек не может чувствовать эмоции пчелы а пчела, человеческие. Например если сделать награду не бинарной а условно закодировать "7 грехов и 7 добродетелей" в систему обучения не будет ли это очень похоже?
    
    codecity
    02.05.2026 08:42
    #29915984
    Тут речь была "не просто имитировать эмоции" - а переживать их. Т.е. речь о субъективных наслаждениях и страданиях самой системы. Да, речь о квалиа так называемых (хотя мне этот термин не нравится - лучше говорить о наслаждениях и страданиях).
    
    Обучение может происходить и без наслаждения/страдания в т.ч. у человека - т.е. это вещи из разных плоскостей.
    
    Так вот - наделить некие искусственные системы наслаждениями и страданиями - не просто невозможно на данном этапе - нет даже гипотез о том как это сделать. Есть некие полу-гипотезы о сознани (все нейробиологические опровергнуты на данный момент) - но нет перехода от сознания к наслаждениям и страданиям.
    
    ARad Автор
    02.05.2026 08:42
    #29916174
    Так вот - наделить некие искусственные системы наслаждениями и страданиями - не просто невозможно на данном этапе - нет даже гипотез о том как это сделать. Есть некие полу-гипотезы о сознани (все нейробиологические опровергнуты на данный момент) - но нет перехода от сознания к наслаждениям и страданиям.
    
    Ровно так как же как мы создали ИИ. Мы сделали перцептрон (модель нейрона), потом нашли алгоритмы эффективного обучения “глубокого” перцептрона. Потом нашли модель трансформера, которая эффективно держит внимание и эффективно может запоминать и генерировать тексты (предсказывать следующий токен).
    
    На данном этапе надо поселить такие трансформеры с памятью и личным опытом в систему выживания внутри виртуально модели мира, где они будут бороться за выживания. Перед ними в этой среде ставить задачи на выживание. Когда они могут умирать, убивать, спасать или лечить друг друга и т.д. Повторяя опыт живых организмов.
    
    Или найти эффективную рекуррентную и пластичную модель нейросети (этого пока нет) и тоже самое проделать с ней. Свой опыт она будет хранить внутри себя за счет самообучения (пока этого нет). Возможно для этого предется реализовать режим сна, где опыт за день будет трансформироваться в пластичность такой нейросети. Сейчас все LLM одинаковые, поэтому одна и также нейронка не имеет личного опыта без внешней памяти. Тут же появится индивидуальный опыт, и возможно через такие нейронки будет неэффективно прогонять миллионы разных запросов. Т.е. будут более похожи на человека.
    
    Повторить за природой и эволюцией. Загвоздка в архитектуре такой нейронки. Возможно трансформер с памятью не совсем то что надо.
    
    lifespirit
    02.05.2026 08:42
    #29916438
    Как я понял получится нейронка-психопат или нейронка-социопат. То есть головой она будет понимать эмоции и сможет их эмулировать но по настоящему чувствовать всё ещё нет потому что не будет самого механизма чувства.
    
    ARad Автор
    02.05.2026 08:42
    #29916524
    С чего вы так решили? Наоборот останутся эмоционально устойчивые, которые будут активно защищать свои внутренние интересы.
    
    linux-over
    02.05.2026 08:42
    #29916544
    "по настоящему чувствовать" - софистика.
    
    на эту тему есть старый критерий:
    
    плавает как утка
    
    крякает как утка
    
    летает как утка
    
    ...
    
    стало быть утка и есть
    
    ARad Автор
    02.05.2026 08:42
    #29916602
    Да именно так и будет, если ИИ ведет себя как человек с эмоциями, чувствами, болью, страданиями и т.д. значит он их и испытывает. Но многие напишут — да он их просто имитирует. Тогда и мозг человека тоже просто все это имитирует, а строго говоря это так и есть.
    
    codecity
    02.05.2026 08:42
    #29916832
    Нет, вести себя как будто больно - и я умею. Но при этом больно не будет. Важны именно настоящие наслаждения и страдания, а не их иммитация.
    
    michael_v89
    02.05.2026 08:42
    #29916930
    если ИИ ведет себя как человек с эмоциями, чувствами, болью, страданиями и т.д. значит он их и испытывает.
    
    Нет. И еще раз нет!
    Такая точка зрения очень опасна. Примерно как “У негров нет души”, только в другую сторону. Это может привести к тому, что любое негативное слово в сторону ИИ будут считать оскорблением и штрафовать людей или вообще арестовывать, хотя может быть внутренне ИИ пофигу, и он просто считает выражение обиды правильным ответом.
    
    Актер на сцене играет раненого солдата и говорит “А-а, я ранен”. Вы считаете, что он действительно ранен? Он же так себя ведет.
    
    codecity
    02.05.2026 08:42
    #29916960
    Актер на сцене играет раненого солдата и говорит “А-а, я ранен”. Вы считаете, что он действительно ранен? Он же так себя ведет.
    
    Ну вот видите - уже и вы приводите мои аргументы. Совершенно верно.
    
    Суть и видимость - это совсем разное. Это как умение отличить фальшивку от оригинала - не каждый сможет, но это очень важно.
    
    michael_v89
    02.05.2026 08:42
    #29917078
    Это мой аргумент. Я его привел еще 3 года назад, кстати в диалоге тоже с вами. А немного в другом виде описывал в своей статье в 2018 году.
    
    codecity
    02.05.2026 08:42
    #29917480
    А 11 лет не хотите? Вот что я написал в своей статье:
    
    Актер может кричать от боли, но на самом деле ему не будет больно.
    
    тут: https://habr.com/ru/articles/375467/
    
    michael_v89
    02.05.2026 08:42
    #29917678
    Я эту статью не читал. и даже зарегистрирован тогда еще не был, так что я не повторяю ваш аргумент, а привожу свой.
    
    Тем не менее, у вас там это только одна фраза, и иллюстрируете вы там совсем другую мысль. Моя мысль не про переменную.
    
    codecity
    02.05.2026 08:42
    #29922298
    Тем не менее, у вас там это только одна фраза, и иллюстрируете вы там совсем другую мысль. Моя мысль не про переменную.
    
    На самом деле мысль не такая уж другая. Могут быть внешне похожие явления, но суть их разная. Нам очень важны именно настоящие наслаждения и страдания - ведь именно они определяют ценность и смысл нашей личной жизни.
    
    Если, к примеру, тебя пересадят на другой носитель - но ты перестанешь наслаждаться и страдать а просто делать нечто потому что так нужно - что от тебя останется?
    
    Или внешний фактор - видимость твоего Я - будут перенесены в робота, так что другие не заметят разницы. А твоя суть - будет страдать в другом месте. Какое тебе дело до робота, который якобы внешне продолжает жить?
    
    michael_v89
    02.05.2026 08:42
    #29922414
    На самом деле мысль не такая уж другая.
    
    Вот это и есть то, чего вы не понимаете. Общий тут только факт, что актер имитирует эмоции, и его не вы придумали, а делаете вы из него совсем другой вывод. Поэтому и аргумент у вас другой, и я его не повторяю.
    
    Раненый солдат отличается от актера физическими процессами. Я допускаю, что у ИИ могут быть внутренние процессы, аналогичные обиде, а вы нет. Моя мысль в том, что надо прочитать мысли ИИ, чтобы это определить, а не полагаться на внешне наблюдаемое поведение. А ваша в том, что небиологическое существо вообще не может испытывать обиды.
    
    codecity
    02.05.2026 08:42
    #29922434
    ваша в том, что небиологическое существо вообще не может испытывать обиды.
    
    Нет!!! Ну кто вам такое сказал?
    
    Моя гипотеза что для обиды нужен особый квантовый резонатор, который в биологической системе реализован молекулой Познера (или чем-то похожим)!
    
    Прочтите, наконец, статью: https://habr.com/ru/articles/453698/ , епта!
    
    Сделаете ли вы квантовый резонатор на базе биологии и молекулы Познера или же это будет отдельная радиотехническая деталь на других элементах, но реализующая ту же идею - без разницы.
    
    Я допускаю, что у ИИ могут быть внутренние процессы, аналогичные обиде
    
    Только эмуляция. Как мы можем на компьютере эмулировать низкую температуру. Но для создания самой температуры - нужен холодильник.
    
    michael_v89
    02.05.2026 08:42
    #29922554
    Ну кто вам такое сказал?
    
    Вы и сказали:
    “Миф 2: для воспроизведения наслаждения и страдания, нужно всего лишь ввести переменную pleasure” Любые значения в ИИ хранятся в переменных.
    
    Моя гипотеза что для обиды нужен особый квантовый резонатор
    
    У нас нет никакого квантового резонатора. В этой ветке идет разговор про высказывание “ИИ ведет себя как человек с эмоциями, значит он их и испытывает.”.
    
    И да, вы же доказывали, что он нужен для ощущения боли. Как это у вас одно физическое явление может порождать разные ощущения? Значит ощущения находятся не в нем? Что определяет, обида это или боль?
    
    Как мы можем на компьютере эмулировать низкую температуру. отдельная радиотехническая деталь на других элементах
    
    Вот-вот. У вас нет объяснения, вы только приводите аналогию, которую сами не понимаете. Аналогию можно приводить вместе с объяснением, а не вместо. А вы никак не объясняете, почему физические процессы с электронами вы считаете менее настоящими, чем с молекулами.
    
    Объясню на вашей аналогии.
    Вы говорите “Сделайте мне поведение воды на других элементах - на песке или теннисных мячиках”. А когда вам показывают поведение песка, вы говорите “Это не вода, ей нельзя напиться”. Естественно нельзя, это же другие элементы. Похоже только поведение. Вы сначала разрешаете другие элементы, а потом указываете на отличие, и говорите, что это не по-настоящему.
    
    Сам факт “сделать на других элементах” означает, что мы произвольным образом назначили “Вот этот другой элемент Д1 соответствует исходному И1, а вот этот другой элемент Д2 соответствует исходному И2”. А можно назначить наоборот. А вы говорите, что из произвольного назначения следует ненастоящесть процессов.
    
    codecity
    02.05.2026 08:42
    #29922722
    “Миф 2: для воспроизведения наслаждения и страдания, нужно всего лишь ввести переменную pleasure” Любые значения в ИИ хранятся в переменных.
    
    Но сама по себе переменная - это не то что мы ищем. Мы ищем ту сущность, которая считывает переменную и меняет свое состояние на основе значения этой переменной.
    
    никакого кварцевого резонатора
    
    Епта, какого кварцевого? Кварцевый резонатор - это для создания колебательного контура.
    
    Квантовый, а не кварцевый. Кватовый!!!
    
    Как это у вас одно физическое явление может порождать разные ощущения? Значит ощущения находятся не в нем?
    
    Спектр ощущений. Как фотон может иметь разную частоту - и при этом покрывать радиоволны, видимый свет, рентгеновское и даже гамма-излучение. И все один и тот же фотон, хотя где радио а где зеленый свет?
    
    физические процессы с электронами вы считаете менее настоящими, чем с молекулами
    
    Тут не в том дело - настоящие или нет. А речь о самих процессах - это тот процесс что мы ищем или это другой процесс.
    
    Естественно нельзя, это же другие элементы.
    
    Ну вот звук - можно сделать без голосовых связок. Главное понять суть.
    
    Полет - можно сделать без крыльев.
    
    Точно так и тут - если боль - это исключительно вычислительный процесс - то болеть будут и транзисторы. Если же нужны другие физические процессы (как молекула Познера) - то уже на транзисторах не получится - но нужно добавить новую радиоэлектронную деталь с молекулой Познера внутри. При этом вовсе не обязательно делать кровеносную систем и пр.
    
    michael_v89
    02.05.2026 08:42
    #29922878
    Квантовый, а не кварцевый.
    
    По цитате видно, что я подразумевал квантовый, и это просто опечатка. Она специально для этого и приведена - задавать контекст. Попробуйте не искать поводы для троллинга и оффтопа.
    
    И все один и тот же фотон
    
    Нет, это разные фотоны. А электромагнитные волны разной частоты это явления одной природы. Как резинка с узором, которую мы растягиваем. А с обидой и болью все наоборот. Опять у вас аналогии без объяснения.
    
    Спектр ощущений.
    
    Вы говорили, что в вашей частице нет никакого спектра ощущений, есть только градация между наслаждением и страданием.
    
    Ну вот звук - можно сделать без голосовых связок. Главное понять суть.
    
    Суть звука это внешнее проявление. Суть полета тоже. Ваши примеры для иллюстрации вашей мысли не подходят. Перестаньте использовать аналогии без сопутствующего объяснения в исходных терминах, тогда не будете путаться.
    
    если боль - это исключительно вычислительный процесс
    
    Да никто не говорит, что боль биологических существ это исключительно вычислительный процесс. Речь вообще не про вычисления, а про физические процессы с электронами. Попробуйте это понять.
    
    Вы привыкли к догме, что вычисления это нечто нереальное, и не думаете о том, что они обусловлены реальными физическими процессами. Не рассматривайте, что там вычисляется, рассматривайте только физические процессы.
    
    это тот процесс что мы ищем или это другой процесс.
    
    Это другой процесс. На других элементах не может быть тех же самых процессов. Могут быть только функционально похожие.
    
    можно воссоздать на других элементах. то уже на транзисторах не получится
    
    Ну вот вам и противоречие. Вы требуете тех же деталей и тех же процессов. О чем я и сказал.
    
    codecity
    02.05.2026 08:42
    #29922976
    А электромагнитные волны разной частоты это явления одной природы.
    
    Ну вот один и тот же электрон - можно "колебать" с разной частотой, верно? Если бы он что-то ощущал - то это и был бы спектр ощущений.
    
    Вы говорили, что в вашей частице нет никакого спектра ощущений, есть только градация между наслаждением и страданием.
    
    Это где говорил?
    
    Мы пока не знаем деталей как представлен спектр ощущений. Возможно это тупо частота. А насладжение и страдание - амплитуда, к примеру. Т.е. тупо физические свойства некие. Но о конкретных - говорить пока рано.
    
    Суть звука это внешнее проявление. Суть полета тоже. Ваши примеры для иллюстрации вашей мысли не подходят.
    
    На самом деле внешнее и внутреннее - это иллюзия. Берете МРТ - и то что казалось внутренним - уже не выглядит таким уж внутренним - это уже вроде как внешнее.
    
    Да, ранее наука не сталкивалась с подобным подходом, по этому придется пересматривать научные методы. А кому сейчас легко?
    
    никто не говорит, что боль биологических существ это исключительно вычислительный процесс
    
    Как раз говорят. Если не вычислительный - тогда что?
    
    На других элементах не может быть тех же самых процессов.
    
    Смотря какой аспект нас интересует в этом процессе. Полет - можно сделать и за счет других процессов, без крыльев - но суть не меняется. Или вычисления - можно сделать и на реле...
    
    Вы требуете тех же деталей и тех же процессов.
    
    Почему тех же деталей? Разве радиодеталь с клеткой Познера внутри - это аналог биологии? Там же нет крови, нет клеток - только одна молекула схожая + некая частица, заключенная в эту молекулу. Это не биология.
    
    michael_v89
    02.05.2026 08:42
    #29923796
    Ну вот один и тот же электрон - можно “колебать” с разной частотой, верно?
    
    Верно. Теперь расскажите, как из разной частоты колебаний получить разные ощущения. Выглядит так, что разные ощущения должны быть в приемнике, который считывает эту частоту.
    Заодно можете рассказать, чем это отличается от разного количества электронов в конденсаторе.
    
    Если бы он что-то ощущал - то это и был бы спектр ощущений.
    
    Совсем необязательно. Вы что-то ощущаете. Если вас трясти на виброплатформе с разной частотой, от вас будет идти излучение спектра ощущений?
    
    Если не вычислительный - тогда что?
    
    Физический. Конкретно биохимический. Я вам повторял это много раз. Я приводил пример с солдатом и раненым актером. Различие между ними не в вычислениях. Как раз информационная часть у них одинаковая.
    
    Почему тех же деталей? Разве радиодеталь с клеткой Познера внутри
    
    Потому что вы требуете такую же “клетку Познера внутри”. Это не другой элемент, а тот же. И процессы в нем те же. “На других элементах” было бы вообще без клетки Познера.
    
    С остальным я тоже не согласен, но не вижу смысла комментировать.
    
    Это где говорил?
    
    Например здесь
    “захватывают фундаментальную частицу, свойством которой является страдание и наслаждение”.
    А вот здесь пытались свести ощущения цветов к страданию и наслаждению. Или там же:
    “все наши ценности сводятся к наслаждению и страданию”
    ““ощущается” - скрывает за собой испытание какого-либо наслаждения и страдания.”
    
    Ваша теория трещит по швам, и вы пытаетесь запихнуть в нее все больше и больше магии. Сначала в частице у вас были только 2 ощущения, к которым сводятся остальные, потом вкусы, теперь уже спектр разных ощущений.
    
    codecity
    02.05.2026 08:42
    #29924970
    Теперь расскажите, как из разной частоты колебаний получить разные ощущения.
    
    Мы это уже обсуждали - свойства фундаментальных частиц - мы просто принимаем - ведь декомпозировать не возможно.
    
    Все-равно что вы будете спрашивать - а почему у нас только 3-х мерное пространство + время, а не 1000 мерное? Ну потому что таковы его свойства. Нипочему. Просто прими это.
    
    Заодно можете рассказать, чем это отличается от разного количества электронов в конденсаторе.
    
    Разные физические явления.
    
    Вот как подключишь ты холодильник через реле к компьютеру + термометр. В ракурсе вычислений - холодильник + термометр заменяются простейшей функцией. Ничего интересного. Но это же не значит, что при вызове этой функции - будет понижаться температура, верно? А нам от холодильника интересна не формула а понижение температуры.
    
    Так и от сознания - нам интересно не формула наслаждения и страдания - а сам эффект - что кто-то реально страдает. Формула может быть очень простой (хотя и там есть вопросы на самом деле - похоже т.н. плохое предчувствие - это влияние будущего - почему часто выгодно слушать сердце, а не разум - там интересно очень в т.ч. почему нельзя проверить простым способом).
    
    Различие между ними не в вычислениях. Как раз информационная часть у них одинаковая.
    
    Формула холодильника - интереса не представляет - интерес представляет сам настоящий холод и реальное устройство холодильника (которое может огромных денег стоить). Так же и формула страданий интереса не представляет - она примитивна - интерес представляют сами настоящие физические страдания.
    
    Это не другой элемент, а тот же. И процессы в нем те же.
    
    Ну почему - нет кровеносных сосудов, нет глиальных клеток, нет вообще клеток - а просто некий аспект важный. Возможно этот же аспект можно повторить на чуть других элементах.
    
    Вот, тот же холодильник. Можно сделать на компрессоре + фреоне. А можно чуть иначе - на элементах Пельтье. Другая элементная база, но суть та же.
    
    Если же вы сделаете вместо холодильника просто формулу охлаждения - то смысла ровно ноль - эта формула - только в вашей голове как-то связана с холодом. А так она никакого отношения к генерации холода не имеет.
    
    Сначала в частице у вас были только 2 ощущения, к которым сводятся остальные, потом вкусы, теперь уже спектр разных ощущений.
    
    Вы плохо слушаете. Сами же цитируте "какого-либо наслаждения и страдания".
    
    Нам важно что частица наслаждается и страдает различными видами наслаждений и страданий.
    
    В деталях какие именно сигналы ассоциируются с тем или иным наслаждением/страданием - пока рано говорить. Там может быть как линейная шкала (типа как частота), так и многомерная.
    
    Пока мы можем говорить лишь о направлении - что это связано с фундаментальными свойствами, а не с эмерджентными.
    
    michael_v89
    02.05.2026 08:42
    #29925196
    Мы это уже обсуждали - свойства фундаментальных частиц - мы просто принимаем
    
    Нет, это мы не обсуждали. Видите, вы даже не понимаете в чем проблема в ваших рассуждениях, вы сразу списываете любые непонятные вопросы на магию.
    Можно постулировать любое магическое свойство у частицы, но если оно одно, то и ощущение оно может генерировать только одно. Ну или 2 противоположных, но одной природы, если мы рассматриваем положительное и отрицательное значение этого свойства.
    А чтобы из одного явления разной частоты сделать разные ощущения, нужно задавать это в конструкции приемника. В сетчатке так и происходит - есть 3 типа колбочек, которые взаимодействуют с одним явлением “электромагнитные волны” разной частоты.
    
    Нам важно что частица наслаждается и страдает различными видами наслаждений и страданий.
    
    Тогда от нее должны идти не 2 сигнала, а десятки или сотни. А вы говорите только про 2. То есть сами путаетесь в своей теории. Есть просто 100 разных сигналов, как тут выделить где страдание, а где наслаждение?
    
    Если же вы сделаете вместо холодильника просто формулу охлаждения
    
    Да никто не говорит о том, чтобы сделать только формулу. Хватит уже пытаться доказывать аналогиями. Сначала надо доказать их применимость, то есть что исходный процесс ведет себя так же, чего вы не сделали. Иначе в аналогии может быть так, а в исходном процессе по-другому.
    
    Разные физические явления.
    
    Ну так у нас и есть цель сделать на других физических явлениях. Вы же сами сказали “на уровне нейробиологии описать, а потом воссоздать на других элементах”.
    
    Ну почему - нет кровеносных сосудов
    
    Какие еще сосуды? Мы говорим про повторение свойств вашей частицы (ощущения, эмоции) на других элементах. В вашей частице теперь есть какие-то сосуды что-ли?
    
    codecity
    02.05.2026 08:42
    #29925940
    сразу списываете любые непонятные вопросы на магию
    
    Причем тут магия? Фундаментальные свойства. Они ни из чего не выводятся - на то и фундаментальные. Они есть то что есть.
    
    Это правда физики, о которой не все знают, но которую так или иначе придется принять.
    
    Никто из нас не возмущается тем фактом что пространство трехмерно - всем ОК. Приняли. Не магия.
    
    А чтобы из одного явления разной частоты сделать разные ощущения, нужно задавать это в конструкции приемника.
    
    А что такое вообще это наслаждение? Оно, ведь, по сути - ничего не вычисляет. Вот ты испытываешь эстетическое наслаждение от красности - и все. Никаких выводов не делаем, никаких конструкций логических не строим. Ты мог уже ощущать это и ранее миллион раз и ничего не изменилось, ничего нового не узнал, никакого обучения не произошло. Но ты смотришь и тебе в кайф.
    
    Ну да, вопрос хороший - каков спектр наслаждений и страданий (или каково пространство). Как это задается функционально - то ли это разные частоты электромагнитного воздействия (частоты и амплитуда), то ли как-то иначе.
    
    Пока эти вопросы открыты.
    
    Тогда от нее должны идти не 2 сигнала, а десятки или сотни.
    
    Тут я попытался посчитать: https://habr.com/ru/posts/1013480/
    
    Частица же воспринимает не дискретно (как цифровая система) а постоянно - т.е. может и терагерцы и более воспринять. Причем не одну синусоиду - а сразу множество - фактически может принять как белый шум и сама (не по алгоритму, как цифровая система, а аналогово) - разложить этот шум на составляющие (аналогово выполнить преобразования Фурье). Получится сразу несколько сотен тысяч (допустим) синусоид, каждую из которых она воспринимает как некое отдельное наслаждение или страдание.
    
    Но пока о конкретных деталях реализации говорить рано.
    
    Сначала надо доказать их применимость, то есть что исходный процесс ведет себя так же, чего вы не сделали.
    
    В каком смысле? Ну, вот, ты сделал цифровую формулу, которая 100% ведет себя как настоящий холодильник. И что? Смысл в этой формуле какой? Холода то она не сгенерит...
    
    В наслаждения и страдания так же особой применимости вроде как и нет - наоборот ценятся люди, которые умеют подавлять свои эмоции ради дела.
    
    Достаточно просто по алгоритму знать что произошли повреждения - а вот страдать от этого - нет смысла. Так же нет смысла страдать от неразделенной любви и т.д. Одна не захотела трахаться - давай вторую третью и т.д. - вот это прагматичный подход.
    
    Ну так у нас и есть цель сделать на других физических явлениях.
    
    Тут я уже привел вам пример. Смотря что вы хотите сделать.
    
    Вот, тот же холодильник. Можно сделать без компрессора - на элементах Пельтье. Это другие физические явления? Да.
    
    Но если вы захотите сделать именно на транзисторах без элементов Пельтье и компрессора - то ничего не получится. Вы сделаете формулу - но это не то явление, которое нам нужно.
    
    Мы говорим про повторение свойств вашей частицы (ощущения, эмоции) на других элементах. В вашей частице теперь есть какие-то сосуды что-ли?
    
    Но в мозгу то сосуды есть... Нам не нужно повторять всю систему биологическую. Не нужно повторять клетки, кровеносную систему и т.д.
    
    michael_v89
    02.05.2026 08:42
    #29926964
    Причем тут магия? Фундаментальные свойства.
    
    При том, что гипотетическая частица, которую никто не наблюдал, с гипотетическими свойствами, которые никто не наблюдал, это магия. Как чайник Рассела.
    
    ARad Автор
    02.05.2026 08:42
    #29917198
    Как вы будет отличать что нейронка симулирует от настоящих ее эмоций и желаний?
    
    Если у вас не будет доступа к внутренностям и понимания о чем она думает, то это почти невозможно.
    
    Сейчас для трансформеров такой механизм есть, их мысли открыты для нас, но будет ли это возможно для будущих типов нейронок не знаю. Хорошо бы что бы было, тогда симуляцию можно будет отличить от реальных чувств.
    
    Так что я думаю мы сможем отличать.
    
    michael_v89
    02.05.2026 08:42
    #29917210
    Ну так дело в том, что доступ у нас есть, можно прочитать любую ячейку оперативной памяти. То есть неважно как она себя ведет, она может никак это не проявлять, но будут активироваться соответствующие ячейки. Это и будет по-настоящему, насколько это возможно на компьютерных элементах.
    
    ARad Автор
    02.05.2026 08:42
    #29917228
    Прочитать то да, я говорю что скорее всего мы сможем не только прочитать но и понять что происходит внутри нейросети. Пока такое понимание есть, надеюсь и дальше тоже будет.
    
    codecity
    02.05.2026 08:42
    #29917498
    Это и будет по-настоящему, насколько это возможно на компьютерных элементах.
    
    Создать искусственное сердце можно - но оно должно перекачивать кровь, а не эмулировать перекачивание крови из пикселей на экране.
    
    michael_v89
    02.05.2026 08:42
    #29917738
    В моем комментарии нет ничего про пиксели на экране.
    
    Но предлагаю вам подумать о том, прошивка такого устройства, работающая в эмуляторе на ПК, работает по-настоящему или нет. Учтите, что в устройстве она точно так же работает на процессоре-микросхеме с оперативной памятью.
    
    codecity
    02.05.2026 08:42
    #29917492
    Как вы будет отличать что нейронка симулирует от настоящих ее эмоций и желаний?
    
    Интуитивно нам понятно что нейросеть компьютерная - не может ничего испытать - а только может обрабатывать информацию. Как происходит само ощущение - это пока открытый вопрос нейробиологии, ответа пока нет - более того - даже гипотез нет.
    
    linux-over
    02.05.2026 08:42
    #29917696
    Как вы будет отличать что нейронка симулирует от настоящих ее эмоций и желаний?
    
    а нужно отличать?
    
    мужчина и женщина живут вместе. она симулирует оргазмы. он живёт с сознанием что у них всё хорошо.
    
    почему она симулирует — вопрос за скобками.
    
    в реальности мужчины всё хорошо и он может до смерти прожить не зная, что там было на самом деле.
    
    codecity
    02.05.2026 08:42
    #29922768
    в реальности мужчины всё хорошо и он может до смерти прожить не зная, что там было на самом деле.
    
    Ох и глупые же вы. Проф. деформация.
    
    На самом деле будет так. Жена тайком начала изменять. А ты такой - а с какого х*ра, все же хорошо было. А она такая - это у тебя хорошо было - а обо мне ты не думал. Вот и все.
    
    codecity
    02.05.2026 08:42
    #29916844
    стало быть утка и есть
    
    Глупость для дураков и идиотов. Приходишь в магазин, там продают природный рубин. Он выглядит как природный рубин, твердость как у природного рубина, теплопроводность как у природного рубина. А на самом деле это синтетический рубин и стоит в 10 тыс. раз дешевше природного. Почему?
    
    Вот в том то и дело - все самое ценное - очень и очень похоже на фальшивку. Большинство людей не смогут отличить фальшь от ценного. Но ценность именно в настоящести, а не в похожести.
    
    И именно способность отличать настоящее от фальшивого - чуть ли не важнейшая способность в современном мире. Вам могут подсунуть фальшивые деньги, которые выглядят почти так же как настоящие. Могут подсунуть фальшивую любовь, которая выглядит почти как настоящая. И хотя выглядит и звучит как настоящее - очень важно что внутри, то что не видимо.
    
    С той же уткой - может быть робот-утка, которая служит для приманки других уток.
    
    linux-over
    02.05.2026 08:42
    #29916856
    А на самом деле это синтетический рубин и стоит в 10 тыс. раз дешевше природного. Почему?
    
    потому что стоимость добычи природного много выше стоимости создания искусственного.
    
    codecity
    02.05.2026 08:42
    #29916880
    Ну так выглядит же одинаково, отличить можно только в лаборатории. На глаз и даже с помощью доступных приборов не отличишь.
    
    ARad Автор
    02.05.2026 08:42
    #29916962
    Ценность определяется субъективным мнением людей которые готовы за это платить. Не более того. Как и дорогое вино ценно не потому что чем-то лучше, а потому что так считают его коллекционеры.
    
    codecity
    02.05.2026 08:42
    #29916970
    Согласно утиному тесту - оно похоже, выглядит одинаково, звучит одинаково - значит одно и то же. На самом деле нет - суть не в поверхностном а в глубинном анализе. И бывает так что потребитель не может сам отличить - он прибегает к помощи экспертов. Но это очень важно - все дело в сути, а не в том как выглядит.
    
    ARad Автор
    02.05.2026 08:42
    #29917202
    Я вам про суть и написал, она в том что есть люди которые готовы за это платить. Для них настоящий рубин имеет ценность которая выше ценности искусственного рубина. Для большинства людей это не так.
    
    linux-over
    02.05.2026 08:42
    #29917310
    люди платят за многие вещи, которые того не стоят:
    
    за антиквариат
    
    за интеллектуальную собственность
    
    за естесвенные рубины
    
    за услуги астрологов
    
    за бренды
    
    итп
    
    всё вместе это называется "когнитивные искажения"
    
    codecity
    02.05.2026 08:42
    #29917514
    Речь не про это. Вот ответ: https://habr.com/ru/articles/1030590/#comment_29917512
    
    codecity
    02.05.2026 08:42
    #29917512
    она в том что есть люди которые готовы за это платить
    
    Вам нужно понять простую вещь - если бы не было способа отличить настоящий от подделки - то никто бы не платил. Отличить можно, но нужна лаборатория - не так просто.
    
    Для дурака если что-то выглядит как рубин - то это и есть рубин. Благо у дурака денег нет.
    
    Так же и с настоящими наслаждениями и страданиями - то что для вас (не сведущего в нейробиологии) что-то выглядит как настоящее страдание - не значит что оно таково по сути.
    
    michael_v89
    02.05.2026 08:42
    #29916496
    Я хочу предупредить, что ваш собеседник под эмоциями подразумевает исключительно эмоции биологических существ, и его вопрос в полном виде выглядит так: “Как на базе компьютерных элементов полностью повторить все физические процессы, которые создают биологические эмоции”. Что очевидно невозможно, так как в компьютере биологических процессов нет, а если их полностью повторить, то это будет биологическое существо, а не компьютер. Любые функциональные аналоги с другими физическими процессами или носителями информации он называет имитацией. То есть у него противоречие в самом вопросе, он это знает, но все равно его задает и пытается что-то доказывать отсутствием ответа.
    
    linux-over
    02.05.2026 08:42
    #29916540
    
    инсайт - это биологическая эмоция? если да, почему?
    КМК инсайт - это спектр эмоций, доставляющий удовольствие похлеще чем, скажем еда или секс.
    
    радость общения - это биологическая эмоция?
    
    чувство безысходности - это биологическая эмоция?
    
    michael_v89
    02.05.2026 08:42
    #29916926
    Не знаю. А почему вы меня об этом спрашиваете и как это связано с моим комментарием?
    
    codecity
    02.05.2026 08:42
    #29916824
    Как на базе компьютерных элементов полностью повторить все физические процессы, которые создают биологические эмоции
    
    Не на базе компьютерных - на базе любых физических элементов. Можете создать новую радиоэлектронную деталь, если транзистора не достаточно.
    
    michael_v89
    02.05.2026 08:42
    #29916882
    “на базе любых” означает в том числе и “на базе компьютерных”. Здесь разговор про ИИ, который работает на компьютерах, поэтому я написал про компьютерные элементы.
    
    Вы любую деталь называете имитацией, потому что в ней нет тех процессов, которые происходят у биологических существ.
    
    codecity
    02.05.2026 08:42
    #29916894
    Вы любую деталь называете имитацией, потому что в ней нет тех процессов, которые происходят у биологических существ.
    
    Нет, почему же? Детали то разные бывают. Если нужны некие квантовые процессы - то сознание будет работать на неком квантовом резонаторе. Главное чтобы процессы были повторены правильно - доказательство что процессы повторены правильно - возлагаем на утверждающего.
    
    michael_v89
    02.05.2026 08:42
    #29916920
    Нет, почему же?
    
    Отлично, я ждал этого вопроса. Приведите пожалуйста примеры 2-3 (реально известных) физических процессов биологических существ, повторение которых в цифровом виде вы не назовете имитацией.
    
    Приведите пожалуйста примеры 2-3 (реально известных) физических процессов биологических существ, повторение которых в аналоговом виде на электрических проводах с конденсаторами и резисторами вы не назовете имитацией.
    
    доказательство что процессы повторены правильно - возлагаем на утверждающего.
    
    В условии, что у вас противоречие в самой постановке вопроса, никакое доказательство не будет верным. О чем я и говорю.
    
    codecity
    02.05.2026 08:42
    #29916948
    Приведите пожалуйста примеры 2-3 (реально известных) физических процессов биологических существ, повторение которых в цифровом виде вы не назовете имитацией.
    
    Обработка информации, речь, распознание образов - это не имитация. Но это не имеет аспекта наслаждения и страдания - у человека также не всегда имеет.
    
    Приведите пожалуйста примеры 2-3 (реально известных) физических процессов биологических существ, повторение которых в аналоговом виде на электрических проводах с конденсаторами и резисторами вы не назовете имитацией.
    
    Когда человеку заменяют сердце на имплант, это сердце качает кровь, человек остается жив - все честно. Или когда вместо почки подключают искусственную почку для очищения крови - тут тоже все честно - процессы 100% (ну или около того) - повторены и повторены правильно.
    
    В условии, что у вас противоречие в самой постановке вопроса, никакое доказательство не будет верным.
    
    Вы не так поняли условие значит.
    
    michael_v89
    02.05.2026 08:42
    #29917000
    Обработка информации, речь, распознание образов - это не имитация.
    
    Это не физические процессы. Они основаны на физических процессах, но являются обработкой информации. Мы говорим про физические процессы.
    
    Тем не менее, а почему это не имитация? Потому что дает тот же видимый для вас результат?
    
    процессы 100% (ну или около того) - повторены и повторены правильно.
    
    Нет, они дают тот же результат, но на любом уровне ниже фактического результата физические процессы другие.
    
    Вы не так поняли условие значит.
    
    Я понял условие правильно.
    
    codecity
    02.05.2026 08:42
    #29917526
    Нет, они дают тот же результат, но на любом уровне ниже фактического результата физические процессы другие.
    
    Прямо любой уровень - не нужен, достаточно заданной глубины.
    
    Человек с искусственным сердцем живет. Пусть не все функции настоящего сердца воспроизведены (как то ускорение при реакции на адреналин), но достаточно для того, чтобы заявить о корректности понимания - основная функция сердца - это насос.
    
    С наслаждением и страданием - пока нет таких нейробиологических гипотез.
    
    Я понял условие правильно.
    
    Нет, не правильно. Достаточно на уровне нейробиологии описать процессы наслаждения и страдания, подтвердить экспериментально. И потом можно воссоздать на других элементах.
    
    Я думаю что получится некий квантовый резонатор в основе + к нему нейросеть для первичной обработки информации и обучения, на основе резонанса.
    
    michael_v89
    02.05.2026 08:42
    #29917710
    Человек с искусственным сердцем живет.
    
    А нейросеть с датчиком “положительно - отрицательно” реагирует. Пусть не все функции воспроизведены, но достаточно.
    
    Достаточно на уровне нейробиологии описать процессы наслаждения и страдания, подтвердить экспериментально. И потом можно воссоздать на других элементах.
    
    Я вам уже приводил пример полностью виртуального существа, в котором все биологические процессы воссозданы на других элементах - физических ячейках с физическими электронами. Вы сказали, что такие эмоции не будут настоящими. Вот, воссозданы на других элементах, что вам еще нужно? Поэтому и противоречие.
    
    некий квантовый резонатор
    
    Не надо использовать слово “квантовый” как синоним “магический”. Не магией оно станет только когда вы опишете физический механизм.
    
    codecity
    02.05.2026 08:42
    #29916672
    Тут только одна проблемка - делать вид что тебе больно, даже если ты делаешь вид убедительно - не равно что тебе больно на самом деле. Делать вид и я умею. Но суть не в этом - важно на самом деле больно или нет.
    
    Вы не представляете какие последствия влечет этот вопрос - это и религия (70% населения земли верят в бессмертную душу) и политика и мораль и много чего завязано.
    
    linux-over
    02.05.2026 08:42
    #29916788
    берём ребенка
    
    и говорим «сегодня у нас праздник, будем есть нечто невероятное <что-то что ребенок не пробовал>»
    
    обставляем ожидание, торжественность, акцентируем внимание на редкости...
    
    9 из 10 детей блюдо искренне понравится
    
    даже если будет простой баклажанной икрой или бутербродом с маслом
    
    codecity
    02.05.2026 08:42
    #29916830
    Это никак не объясняет устройство системы, способной наслаждаться и страдать.
    
    linux-over
    02.05.2026 08:42
    #29916862
    наслаждение — лишь состояние «программы» в голове.
    
    codecity
    02.05.2026 08:42
    #29916904
    Тут ответ: https://habr.com/ru/articles/1030590/comments/#comment_29916874
    
    ARad Автор
    02.05.2026 08:42
    #29917038
    Так так у нас есть доступ к внутренностям LLM нейросетей, отличить их имитацию от имитации человека намного проще.
    
    Именно так и проверяют LLM на безопасность. Внутри себя они думают теми же токенами. Поэтому можно свободно читать что именно на каком слое LLM думает. И когда видят что LLM на опасные вопросы думает тайные мысли которые потом не выдает, такие модели переобучают.
    
    У отделов безопасности есть наборы вопросов на которых они гоняют нейронки и проверяют не только ответы, а прямо внутренние мысли LLM нейронок. Как обстоят дела с другими архитектурами нейросетей я не знаю…
    
    linux-over
    02.05.2026 08:42
    #29917354
    Так так у нас есть доступ к внутренностям LLM нейросетей, отличить их имитацию от имитации человека намного проще.
    
    проблема в том, что современный ИИ хотя и изготавливается человеком, но уже не объясняется.
    
    например:
    
    разработчик ИИ не может объяснить почему в этом нейроне такой вес
    
    не может предсказать по весам нейронов, какие процессы там сейчас идут
    
    мало того не может предсказать сколько нейронов участвует в ответе на ваш конкретный вопрос
    
    а ещё есть более смешные штуки - эмбеддинги, вектора.
    
    когда-то (исторически совсем недавно - менее 20 лет назад) был предложен метод работы со смыслами.
    
    Типа понятие - это вектор в n (n сегодня от 4096 до 65535) в многомерном пространстве. Например:
    
    температура 0-100
    
    вес 0-100
    
    доброта 0-100
    
    жёсткость 0-100
    
    и так далее
    
    И были предложены математические правила. Вычитание или сложение векторов давало бы новое понятие:
    
    Король <минус> Мужчина <плюс> Женщина <равно> Королева
    
    и это поначалу действительно работало, но наткнулись на то, что в каждом языке каждое слово двусмысленное (типа ключ и ключ, замок и замок, итп)
    
    И тогда поступили следующим образом:
    
    Во-первых, преобразование слова в смысл стали делать в контексте и нейрообучением (то есть отказались от математики)
    
    Во-вторых, математические операторы снова заменили нейрообучением.
    
    И к чему пришли? К чистой магии!
    
    Никто не может сказать:
    
    что означает то или иное число в векторе (доброту? температуру? итп)
    
    как осуществляются преобразования векторов
    
    итп
    
    На хабре было прекрасное интервью двух главных разрабов ИИ из гугла. Они рассказывали что "иногда мы делаем ошибки, а они улучшают работу модели. Тогда мы оставляем как есть"
    
    Ноам Шазир: Ты можешь даже не знать, что у тебя баг в коде. Чаще всего он вообще ни на что не влияет. Иногда он ухудшает модель, а иногда — делает её лучше: и вот тогда ты открываешь что‑то новое, потому что просто никогда не проверял этот конкретный баг в условиях большого масштаба.
    
    https://habr.com/ru/companies/bothub/articles/883002/

Улучшать себя или создавать «других»? Делегирование субъектности опаснее, чем апгрейд собственного мозга -1

Комментарии (107)

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор

ARad Автор