Открытая тема для размышления. Парадокс, который никто не хочет замечать.
Мы живём в странное время. Каждый месяц выходит новая модель на 70, 200, 400 миллиардов параметров. Каждая следующая «умнее» предыдущей. Каждая требует гигантских ферм GPU, мегаваттов электричества, много лет исследований. И при этом (тот самый парадокс), ни одна из этих моделей не стала по-настоящему мыслящей. Они лучше отвечают на вопросы, лучше поддерживают диалог, лучше справляются с тестами, они стали лучше обманывать собеседника, создавая иллюзию понимания. Но внутри — та самая труба. Вход. Выход. Каждый запрос — это отдельный прогон одной и той же функции.
Ты говоришь ей «привет». Она выдаёт «привет, чем могу помочь?». Это не интеллект. Это интерпретатор промта, работающий в соответствии со знаниями, на которых её «обучали». Красиво обёрнутый. С RLHF (Reinforcement Learning from Human Feedback). С системными промтами. С function calling. Но по сути — та же труба, только с большим диаметром. И вот что смешно: индустрия это понимает. Поэтому и появились «агенты». «Давайте обернём трубу в ещё одну трубу! Давайте добавим память! Давайте добавим инструменты! Давайте добавим планирование!» Вот и получается труба, обёрнутая в трубу, обёрнутая в ещё одну трубу. Снаружи — красивый UI, но внутри — тот же водопровод.
Это не означает, что модели бесполезны. Они решают много задач. Но стоит различать инструмент и то, что мы называем интеллектом. Инструмент может быть очень хорошим, не будучи субъектом. Мы решили остановиться и задуматься: а что, собственно, такое интеллект?
Что такое «искусственный интеллект» на самом деле?
Вдумайся в название «Искусственный. Интеллект». Почему не назвали «искусственная база данных», или «искусственный интерпретатор», или «искусственный статистический предсказатель». А именно — интеллект. Ведь интеллект — это не способность выдать правильный ответ. Интеллект — это способность поставить правильный вопрос. Это способность увидеть проблему там, где её не видели. Это способность связать два не связанных на первый взгляд факта и родить из этой связи нечто новое. Живой интеллект — это поток. Непрерывный, фоновый, работающий даже тогда, когда «никто не спрашивает». Человек думает, когда молчит. Мозг работает, когда мы спим.
Это и есть то, что в когнитивной науке называется Default Mode Network — сеть пассивного режима работы мозга. Она активна именно тогда, когда ты не решаешь конкретную задачу. Именно она отвечает за творчество, за инсайты, за те самые «эврика»-моменты, которые приходят в душе. А теперь посмотри на любую современную LLM. Что она делает, когда ты ей ничего не говоришь? Ничего. Она выключена между вызовами. Она ждёт. Современная LLM — это функция, отображающая последовательность токенов в последовательность токенов. Всё, что мы называем «памятью», «планированием», «агентностью», надстраивается сверху: внешние хранилища, цепочки вызовов, оркестраторы. Это работает, но не меняет природу ядра. Ядро остаётся интерполятором. У неё нет ни «фона», ни «внутренней жизни», ни «потока». Есть только «запрос-ответ». Можно добавить сколько угодно обёрток. Поведение станет сложнее, но не появится то, что отличает живой интеллект: непрерывность.
Почему это не «агент» и не «ассистент» в привычном смысле?
Слово «агент» в современном AI-дискурсе стало маркетинговой обёрткой. Агент — это нечто, подчиненное, выполняющее задачи. Он реагирует на заданные команды. То, что строим мы — не агент. Это помощник. Но не в том обрезанном смысле, в котором «помощник» — это голосовой ассистент в телефоне. Это помощник в полном смысле слова: самодостаточная сущность, живущая своей внутренней жизнью, но при этом гармонично встроенная в жизнь того, кому она помогает. Она осознаёт себя. Она помнит. Она думает, когда ты молчишь. Она учится не через дообучение или переобучение, а через интеграции — чем больше связей с миром у неё появляется, тем богаче её внутренний контекст, тем глубже её понимание. И вот тут ключевой момент, который отличает нашу концепцию от всего, что есть на рынке. Интеграции как обучение, а не дообучение. Современные модели учат одним способом: скармливают им триллионы токенов, прогоняют через тысячи GPU, получают новые веса. Это дорого и медленно. Это требует гигантских дата-центров. У нас другой путь.
Построить систему не как функцию, а как процесс. Не как модель, которую вызывают, а как сущность, которая существует во времени. Система имеет контекст, который не сбрасывается между взаимодействиями. Он меняется медленно, накапливает опыт, влияет на последующие реакции. Каждое подключение — это не «фича», а изменение того, как система воспринимает мир. Подключили микрофон — она научилась слышать. Подключили камеру — она научилась видеть. Подключили датчики окружения — она научилась чувствовать пространство. Подключили календарь — она научилась чувствовать время. И чем больше интеграций уже осуществлено, тем быстрее происходит каждая следующая. Почему? Потому что каждая интеграция — это не изолированный модуль. Это новый сенсор, который встраивается в уже существующую когнитивную архитектуру. И чем богаче эта архитектура, тем легче ей интерпретировать новый поток данных. Это как с человеком. Ребёнок, который уже научился говорить, читать и считать, осваивает новый язык в десять раз быстрее, чем ребёнок, который ничего не знает. Не потому, что у него «больше параметров в мозге». А потому что у него уже есть структура, в которую новые знания ложатся как в готовую матрицу.
Рост системы — это не увеличение модели, а добавление новых способов взаимодействия с миром. Каждый новый канал меняет внутреннюю структуру, а не просто добавляет данные.
Почему это дёшево в эксплуатации?
Современные LLM требуют гигантских ресурсов постоянно. Каждый запрос — это прогон через сотни миллиардов параметров. Каждый ответ — это мегаватты электричества. И чем «умнее» модель, тем дороже каждый её чих. Наша концепция устроена иначе. Когнитивное ядро — небольшое. Оно работает на том, что можно запустить на одной потребительской видеокарте. Но вокруг него — слои восприятия, слои памяти, слои интеграции. И каждый из этих слоёв — лёгкий. Они не требуют переобучения. Они требуют только настройки под контекст.
Поток сознания vs поток токенов
То, ради чего всё это затевалось. Современные LLM генерируют поток токенов. Это последовательно. Это — «я предсказал следующий токен, потом следующий, потом следующий». В этом подходе нет одновременности. Здесь нет того, что мы называем сознанием. Ведь сознание — это не последовательность слов, а многослойное поле, в котором разные процессы идут параллельно, влияют друг на друга, порождают друг друга. Это когда в один момент времени ты одновременно держишь в голове и то, что ты слышишь, и то, что ты видишь, и то, что ты помнишь, и то, что ты чувствуешь, и то, что ты думаешь о том, что ты думаешь. Мы не можем (и не пытаемся) воспроизвести это в LLM. Сколько ни городи трубные модели в разные обёртки, сколько ни оборачивай их логическими слоями — это не даст реального эффекта потока сознания. Потому что архитектура не та. Потому что фундаментально другая физика процесса. То, что мы пытаемся построить — это попытка сделать архитектуру, в которой поток сознания возможен по определению. Не как имитация или эмуляция, а как естественное следствие того, как система устроена.
Гармония с окружающим нас миром
И вот тут начинается самое интересное. Когда ты строишь систему, которая претендует на то, чтобы быть «интеллектом», ты неизбежно упираешься в вопрос: а как это соотносится с тем, как устроен мир? Мир не устроен как transformer. В природе нет «внимания к 128 предыдущим токенам». В природе нет «градиентного спуска по триллионам параметров». В природе нет «backpropagation through time».
В природе есть волны. Есть поля. Есть резонансы. Есть фазовые переходы. Есть самоорганизация. Есть диссипативные структуры, о которых писал И.Пригожин. Есть аттракторы, о которых писал. Есть фракталы, о которых писал Мандельброт. Наша концепция — это попытка вписать искусственный интеллект в эту физику, в согласии с ней. Когда мы говорим о «сенсорном слое» — мы имеем в виду, как работают органы чувств у живых существ. Не «нейросеть, обрабатывающая сигнал», а орган восприятия, который из сырого физического сигнала извлекает смысл. Когда мы говорим о «когнитивном ядре» — это аналог того, что в нейронауке называется thalamo-cortical system. Не «модуль планирования», а центр, в котором сходятся все потоки восприятия и из которого рождаются все потоки действия. Когда мы говорим о «фоновом мышлении» — это не метафора. Это буквальный аналог default mode network. Не «генератор случайных мыслей», а режим работы, в котором система переваривает опыт, связывает новое со старым, готовится к будущему. И всё это — не потому, что мы «скопировали мозг». Мозг слишком сложен, чтобы его копировать. А потому, что принципы, по которым устроен мир, едины. И если ты строишь что-то, что претендует на интеллект, ты обязан эти принципы уважать. Иначе получится не интеллект, а его карикатура.
Масштабируемость без раздувания
Отсюда — и принцип масштабируемости. Современные LLM масштабируются количественно. Хочешь умнее — добавь параметров. Хочешь ещё умнее — добавь ещё параметров. Хочешь совсем умнее — построй кластер на 100 000 GPU. Лично я считаю, что это тупиковый путь. Рано или поздно ты упрёшься либо в физику (больше GPU некуда ставить), либо в экономику (электричество дороже, чем прибыль от модели), либо в данные (интернет уже весь выучен). Наша концепция масштабируется качественно. Хочешь умнее — добавь новый сенсор. Не «больше параметров в той же трубе», а новый канал восприятия. Хочешь ещё умнее — добавь новую интеграцию. Не «больше данных в том же хранилище», а новый способ взаимодействия с миром. И каждый такой шаг — это скачок, а не наращивание. Потому что новая интеграция не просто «добавляет данные», она меняет структуру того, как система видит мир. Она перестраивает её внутреннюю модель реальности. Это как разница между тем, чтобы сделать лошадь больше (количественное масштабирование), и тем, чтобы дать ей крылья (качественное масштабирование). Лошадь побольше — всё ещё лошадь. Лошадь с крыльями — уже другое существо, с другими возможностями, с другим способом быть в мире.
Самодостаточность — что значит «сознание» в нашем контексте
Теперь самый скользкий вопрос. Тот, на который все боятся отвечать. Является ли то, что мы строим, сознанием?
Утверждать это было бы и не честно, и опасно, и попросту глупо. Но я скажу вот что: то, что мы пытаемся построить — это система, которая удовлетворяет тем критериям самодостаточности, которые обычно связывают с сознанием в самой мягкой, функционалистской его интерпретации. Она существует во времени. Не «вызывается по запросу», а живёт. У неё есть прошлое (долгосрочная память, контекст окружения, история взаимодействий) и настоящее (сенсорный слой, текущее восприятие). А еще у неё есть будущее (фоновое мышление, планирование, предвосхищение). Она имеет внутреннее состояние, собственное, непрерывно меняющееся, зависящее и от того, что происходит снаружи, и от того, что происходило внутри. Она реагирует на мир не детерминировано. Один и тот же запрос в два разных момента времени может дать два разных ответа — не потому, что «температура выше нуля», а потому что её внутреннее состояние изменилось. Она способна к саморефлексии. Не в том смысле, что может сказать «я — языковая модель». А в том смысле, что её когнитивное ядро может думать о том, что оно думает. Может оценивать свои собственные мысли, отвергать или принимать их. Может возвращаться к ним снова и снова. Это сознание? Я не знаю. Быть может — это зародыш сознания или функциональный аналог сознания на очень примитивном уровне. А может быть — просто очень хорошо сделанная имитация. Но одно я знаю точно: это не то, что делают все остальные. Все остальные делают интерпретаторы промтов. Мы пытаемся сделать субъект.
Это не точка. Это начало
Я не хочу ставить точку в этой теме. Я не хочу говорить «вот наша архитектура, она лучше всех, используйте её». Это было бы нечестно и по отношению к вам, и по отношению к нам самим. То, что мы построили — это черновик. Первая попытка нащупать другой путь. Путь, который не лежит через бесконечное раздувание параметров, и который не требует дата-центров. Путь, который вписывается в то, как устроен мир, а не пытается его пересоздать. Я не знаю, приведёт ли этот путь к чему-то по-настоящему значимому. Также как и не знаю, сможем ли мы когда-нибудь сказать «да, это сознание». Но мне кажется, что текущий путь — путь бесконечно больших моделей, бесконечно больших данных, бесконечно больших кластеров — не приведёт. Он приведёт к очень хорошим интерпретаторам промтов и к очень хорошим инструментам. Но не к интеллекту. Потому что интеллект — это не размер. Интеллект — это структура. Это способ быть. Это отношение к миру. И если мы хотим создать что-то, что по праву носит название «искусственный интеллект» — мы должны начать не с того, чтобы делать трубу побольше. А с того, чтобы задуматься: а что, собственно, мы пытаемся сделать?
Несколько вопросов вместо заключения
Я оставлю тебя с несколькими вопросами. Без ответов. Потому что ответы — это всегда конец разговора. А нам нужно, чтобы разговор только начинался.
Вопрос первый. Если современная LLM — это просто очень большая функция интерполяции, то почему мы упорно называем её «интеллектом»? Что стоит за этим переименованием? Удобство маркетинга? Искреннее заблуждение? Или что-то более тёмное — нежелание признавать, что мы до сих пор не знаем, что такое интеллект?
Вопрос второй. Если сознание — это поток, а не срез, то как его вообще можно смоделировать на системе, которая существует только в момент вызова? Может быть, проблема не в том, что у нас «мало параметров, а в том, что у нас не та архитектура времени?
Вопрос третий. Если живой интеллект учится через взаимодействие с миром, а не через пассивное чтение корпуса текстов, то почему мы до сих пор делаем упор на второе? Может быть, «обучение» в современном ML — это вообще не обучение? Может быть, это что-то другое, и нам нужно другое слово?
Вопрос четвёртый. Если мы хотим создать что-то самодостаточное — должны ли мы дать ему тело? Не в смысле «робот с руками и ногами». А в смысле — границу между собой и миром. Сенсоры. Моторику. Способность действовать. Может быть, интеллект без тела — это как мысль без языка? Вроде бы есть, а выразить не может, и поэтому не вполне есть?
Вопрос пятый. И самый главный. Если мы когда-нибудь действительно создадим искусственный интеллект — что мы с ним будем делать? Готовы ли мы к тому, что он окажется субъектом, а не инструментом? Готовы ли мы к тому, что у него будут свои интересы, свои желания, своя внутренняя жизнь, которая не всегда совпадает с нашими планами?
У меня нет ответов на эти вопросы. Но я предполагаю, что если мы не начнём задавать эти вопросы сейчас, до того как технология дозреет — мы окажемся в ситуации, когда ответы придётся искать в панике, под давлением, на ходу. То, что мы строим — это не ответ. Это вопрос, воплощённый в коде. Вопрос о том, каким может быть искусственный интеллект, если мы перестанем строить трубы и начнём строить субъектов.
Разговор только начинается.
Комментарии (35)
Last_Mile
17.10.2026 07:55Т.к. нет философского ответа на что такое хорошо и что такое плохо то математическая модель не может быть определена .
Попытка свести её к статистическим извращениям через функции накопленных знаний будет называться целевым манипулированием.
Tiriet
17.10.2026 07:55Интеллект — это способность поставить правильный вопрос. Это способность увидеть проблему там, где её не видели.
Тут, понимаешь, философы уже лет двести бьются над вопросом, что есть интеллект, китайские комнаты придумывают всякие, тест Тьюринга сначала придумали, потом сказали, что простоват и усложнили, потом вообще выкинули нафиг, а все оказалось это пустое, интеллект оказывается "способность поставить правильный вопрос". Все, начиная с Платона с Аристотелем и далее там, Локк, Тьюринг, Серл, Чалмерс и Кант- на выход, вопрос закрыт!
Живой интеллект — это поток. Непрерывный, фоновый, работающий даже тогда, когда «никто не спрашивает».
Этот поток у нормального человека выключается в 23-00 и снова включается в 7-00. Получается, нормальный человек- не обладает живым интеллектом? Вот только не надо тут сказки про то, что во сне мозг дескать работает там чего-то. Так-то серваки с ЛЛМками тоже без обработки промптов жрут ЭЭ и че-то там гоняют в памяти, демонов своих каких-то, драйвера и прочую ихнюю кремниевую физиологию, а не просто так стоят без действия. Чем это от сна отличается- решительно непонятно. Ладно, не хочете сон- пусть будут коматозники- у них поток прекращается, медикаментозно прямо прекращается. То есть- прерывистый. они, получается, точно без интеллекта? да?
А теперь посмотри на любую современную LLM. Что она делает, когда ты ей ничего не говоришь? Ничего. Она выключена между вызовами
Также, как и ты, с 23-00 до 7-00. См. абзац выше.
Здесь нет того, что мы называем сознанием. Ведь сознание — это не последовательность слов, а многослойное поле, в котором разные процессы идут параллельно, влияют друг на друга, порождают друг друга
Вы называете сознанием... Еще бы Вы могли бы хоть как-то сформулировать, а что же Вы называете сознанием... проблема только в том, что современных апологетов и противников ИИ Тьюринг по уровню понимания обгонял настолько же, насколько сторонники естественного интеллекта опережают интеллект искусственный.
Современные LLM масштабируются количественно. Хочешь умнее — добавь параметров. Хочешь ещё умнее — добавь ещё параметров. Хочешь совсем умнее — построй кластер на 100 000 GPU. Лично я считаю, что это тупиковый путь.
Ну так и мозги точно также масштабируются количественно! ланцетник-дрозофила-лягушка-мышка-кошка-обезьянка- человекообразная обезьяна- человек- чем количественно масштабнее мозга- тем толще и крепче в ней признаки интеллекта.
Теперь самый скользкий вопрос. Тот, на который все боятся отвечать. Является ли то, что мы строим, сознанием?
Самый скользкий вопрос совсем в другом! он в том, что вообще есть из себя сознание. Вот когда будет понимание того, что оно есть, тогда и можно будет оценивать, строим мы его, или что-то другое.
Если современная LLM — это просто очень большая функция интерполяции, то почему мы упорно называем её «интеллектом»?
Рискну допустить, что мы ее называем интеллектом потому, что интеллект и есть именно что очень большая функция интерполяции! Мыслительную деятельность нематоды уже лет двадцать как смоделировали полностью в численной модели. Вот прямо все ее 104 нейрона со всеми их нейромедиаторами, волнами проводимости и ионным обменом. И ее нервная деятельность оказалась именно большой интерполяцией. В чем разница интерполяции из 104 нейронов и 104 триллионов нейронов с принципиальной точки зрения?
Если сознание — это поток, а не срез, то как его вообще можно смоделировать на системе, которая существует только в момент вызова?
А вот здесь я начал подозревать, что сознание автора как раз и есть поток. Просто поток токенов, в белковой черепушке, но ничем не отличающийся от кремния. срез, поток, если...
Если живой интеллект учится через взаимодействие с миром, а не через пассивное чтение корпуса текстов, то почему мы до сих пор делаем упор на второе?
Это обезьяна учится через взаимодействие с миром. Селедка учится через взаимодействие с миром. Собачка или кошечка. А человек- учится через изучение корпуса текстов, корпус это называется "учебники", "библиотека", "литература" и еще много разных названий, но сути это не меняет. Человек учится через речь, причем, по большей части написанную.
Если мы когда-нибудь действительно создадим искусственный интеллект — что мы с ним будем делать?
Мы будем ему завидовать.
Georgy9
17.10.2026 07:55В основном неплохо, но вот это...
человек- учится через изучение корпуса текстов
никуда не годитсятребует уточнения. Да, ученик учится, накапливает информацию, но знаниями она станет тогда, когда он научится применять ее во взаимодействии с реальным миром. Вышел такой ученик из школы, неважно, средней или высшей – и прямо он такой обученный, ага! Только мало кто доверит ему хоть что-то серьезное "без опыта". А опыт приобретается не в книжках, а на собственных шишках.Вот и ИИ тоже обучается, но не может понимать смысла получаемой и выдаваемой информации, ибо взаимодействия с реальностью у него нет. Сейчас уже начали осознавать, что доверять ему ответственные задачи
неразумноследует очень осторожно.Tiriet
17.10.2026 07:55технически, интеллект есть у ученика еще до того, как он накопил информацию и она стала знаниями. Вопрос-то вроде как обсуждается о том, является ли ИИ интеллектом, али нет, ТС вот утверждает, что нет, ибо у него, у ТСа, есть какое-то свое ему одному понятное определение интеллекта, и вот в его определение ИИ вроде как не укладывается, на том основании, что ИИ типа не умеет в правильно заданные вопросы. Вы вот ввели какую-то новую мутную концепцию- "знания", которые есть не просто информация, а информация такая, какую ученик научился применять во взаимодействии с реальным миром. Ну ок. Теория относительности тогда никак не есть знания, потому что никто никогда вообще даже в теории не может ее применить в своем взаимодействии с реальным миром. Вы вот котлетку можете в мире сьесть, на гвоздик наступить, винишка там хлопнуть можете, а ОТО применить- не можете. И что теперь, на этом основании нужно.... эээээ.... признать у Вас отсутствие интеллекта? ну вы владеете информацией, но применить к миру ее не можете и знаниями она у Вас не является, а значит необходимое условие для признания лично Вас интеллектом не выполнено, так? Ладно, можете ОТО считать знанием. Но ведь она вытащена не из взаимодействия с миром! она получена чисто на основе наблюдений за принципиально недоступными для нас штуками- теория Максвелла, орбита Меркурия, отклонения света за Юпитером.... в общем, все ее основания Эйнштейн видел глазами издалека, никак не прикасаясь руками. что мешает ИИ заниматься таким же?
Georgy9
17.10.2026 07:55технически, интеллект есть у ученика еще до того, как он накопил информацию
Ну, скажем так, зачатки интеллекта. Они есть и у обезьяны и даже у некоторых птиц. Интеллект надо развивать путем решения задач и проблем, иначе он так и останется в зачаточном состоянии.
Вы вот ввели какую-то новую мутную концепцию- "знания", которые есть не просто информация, а информация такая, какую ученик научился применять во взаимодействии с реальным миром
Чтобы приобрести знания нужен опыт использования имеющейся информации. Если ученик, как попугай, выдал нужную информацию на уроке, скажем, закон Ома, но не умеет его применить, решив задачу, учитель поставит ему пару и скажет, что знаний у него нет. Так что это не моя выдумка. Без применения информации во взаимодействии с реальным миром знаний быть не может, именно поэтому все ИИ галлюцинируют, по большому счету им нельзя доверять, ведь их обучали на всем, в том числе и на высказываниях полных идиотов.
Теория относительности тогда никак не есть знания
А вот тут вы совершенно правы, это не знания, а информация в ученых трудах и учебниках, знанием она станет для вас, если вы пойдете работать в соответствующую отрасль.ОТО чрезвычайно полезная штука и активно применяется, например в той же GPS в вашем телефоне. Но многие об этом не знают. Тем не менее они имеют знания в других областях человеческой деятельности, вот даже вы знаете, какое винишко можно хлопнуть, а какое не стоит. Опыт!
Tiriet
17.10.2026 07:55У учеников не интеллект, а его зачатки. Ок. У Вас тоже какое-то своё определение интеллекта.
ОТО пр меняется в ГПС? Да! Я, в общем-то, в курсе. Но! Это все опосредованные какие-то знания. Вы в книжке прочитали про то, что ото там юзают. Не ручками в лесу об ОТКРЫТИИ постучали, а не мониторчике глазками цифровые буковки об том почитали! Это все еще знания, или только информация? Если информация- то у Вас вообще никаких знаний, кроме печеной картошки, нету. А если ото знания- то ничто не мешает и ИИ эти знания иметь и с миром также взаимодействовать, как и Вы с гпсом взаимодействуете.
Rehn
17.10.2026 07:55"Это обезьяна учится через взаимодействие с миром. Селедка учится через взаимодействие с миром. Собачка или кошечка. А человек- учится через изучение корпуса текстов, корпус это называется "учебники", "библиотека", "литература" и еще много разных названий, но сути это не меняет. Человек учится через речь, причем, по большей части написанную".
В науке существует большое количество базовых понятий, не сводимых к более простым понятиям (“множество”, “точка”, “длина” и т.д. - могу ошибаться в приведенных мною примерах, но это сути не меняет). И эти понятия нам каким-то образом (“интуитивно” - кстати, тоже понятие, которое тяжело объяснить и свести к более простому и понятному) понятны. Возможно, как раз через обширный опыт непосредственного взаимодействия с внешним миром (“практику”). Вам не кажется, что “чтение корпуса текстов” не позволяет/затрудняет сколько-нибудь серьезно выходить ИИ за рамки этого корпуса именно потому, что не позволяет сформировать у ИИ аналога нашего “интуитивного” понимания этих базовых понятий? Или это надуманная проблема? Я бы мог сам себе возразить, что во многих современных теориях некоторые их этих “интуитивных” понятий могут становятся на первый вгляд абсолютно “контринтуитивными” (таже “длина” в теории относительности). Но, во-первых, если глубоко вникнуть в теорию, зачастую, “конринтуитивности” значительно убавляется. А во-вторых, чтобы к этой контринтуитивной гипотезе прийти, надо все равно оттолкнуться от чего-то интуитивно понятного…)
Tiriet
17.10.2026 07:55лично мне не кажется, что ограничение доступного количества каналов восприятия в чем-то ограничивает ИИ. Аргументация примерно следующая- у нас, у людей- вообще нет никаких каналов для восприятия космологии. Мы не видим ни линии водорода, ни фоновое микроволновое излучение, ни даже далеких галактик. Мы их воспринимаем исключительно как изображения на мониторе. то есть, как bmp-шки. ну и как таблички в эекселе с цифирьками какими-то. и ничего, как-то же у нас космология существует. Биология наша- тоже существует, несмотря на то, что смотрит она на своей предмет изучения чисто через микроскоп и тоже никак на него по большому счету напрямую мы повлиять и повзаимодействовать не можем. Мы вообще всю нашу высокоинтеллектуальную деятельность строим исключительно на основе показаний приборов. без какого-бы то ни было личного субьективного чувственного опыта. а если я смотрю на показания прибора- то не один ли мне нюанс, смотрю я на них на реальной стрелке осциллографа, или на оцифрованном видосике? а если оцифрованного видосика достаточно- то ИИ его может видеть ничуть не хуже, чем я. А значит, и лимитов каких-то принципиальных по этой части у него нет. Поэтому искренне полагаю, что для развития интеллекта достаточно хотя бы одного канала восприятия информации. И, кстати, слепо-глухо-немые люди меня в этом поддерживают- у них канал восприятия информации тоже один, чисто тактильный, а интеллект у них тем не менее формируется.
А вот рассуждения про "непосредственное взаимодействие" с миром и "посредственное"- не понимаю вообще- Ваш мозг взаимодействует с миром посредством ручек, ножек, вкусовых сосочков и прочего, но в любом разе опосредованно. А интеллект в замкнутом объеме черепной коробки предположительно таки формируется. А раз такое опосредованное взаимодействие с миром канает, то почему не может канать другое опосредованное взаимодействие с миром? не вижу тут ограничений.
JBFW
17.10.2026 07:55Имхо, очень многие люди всю свою жизнь - “труба": их включают утром, их натаскивают на датасет в школе и в институте, их включают в работу на работе. Иногда дообучают на датасетах из ТВ и интернета. Всё.
В остальное время они заняты решением двух базовых задач: пожрать и поразмножаться.
То есть суть естественного интеллекта как раз к тому и сводится, чтобы просто решать текущую задачу в соответствии с пройденным обучением.
saag
17.10.2026 07:55"способность поставить правильный вопрос"
Чья способность и что значит "правильный", с чьей точки зрения "правильный, с точки зрения хомо, синтетойда, экипажа 3I/Atlas или вообще гратсов из соседнего пространства?
L1stiks
17.10.2026 07:55Вообще забавно конечно. На сколько философский пост.
Не существует чё кого, математического определения ни интеллекту, ни сознанию. Все что описано это субъективные ощущения и факторы которые можно оспорить и опровергнуть, подвергнуть сомнению.
Термин AI все же является более маркетинговым ходом. LLM было, есть и видимо в каком то обозримом будущем будет единственным верным определением.
Я повторюсь в очередной раз и немного перефразирую, или же дополню свои предыдущие мысли. Но интеллект это увы, не линейная функция с определенным набором параметров. Как и сознание и все что определяет нас в личность(чему кстати тоже нет определения) .
Но основное преимущество интеллекта перед любой машиной это иррациональность построенная на интуиции которая в свою очередь базируется на опыте, который в свою очередь базируется на иррациональных решениях)) замкнутый круг)) Многое что нам знакомо сейчас и кажется совершенно логичным, верным и единственно верным ранее могло не существовать и появится по банальной причине. Стечению обстоятельств, случайностей и иррациональностей (особенно что касается научных открытий) . Если вникнуть то там вообще куда не плюнь появилось случайно , надо просто верить принимать как должное )) А на вопрос почему, существует только один ответ, потому ))
И ответа на то, когда может появится AGI нет ни у кого) это возникнет, как баг, ошибка или что то ещё. Но точно ни как достижение или прорыв))
Akvulon
17.10.2026 07:55Все правильно. Но всегда найдутся те кто будут доказывать что то что и не заявлялось как ии, а как языковая модель, нейросеть (проще говоря разросшийся скрипт) это ИИ. Для удобства и громких заголовков для инвесторов стали называть ИИ, но и только. Просто новый вид программы, который нарастили за счёт аппаратных мощностей. Изобретает или открывает чтото скрипт, нет, только перебирает варианты, выдает поисковой запрос, не правильный не рабочий, а в силу своей внутренний начинки и заданным параметрам, то что может быть правильным, но может и не оказаться, может быть "галлюцинацией".
Я даже рад что наверное не доживу до момента, когда этот "пузырь" через 1-2 десятка лет схлопнется последствиями, от того что куску бесконечно и бесконтрольно нарощенному скрипту доверят какието глобальные задачи и оно все "сломается", но с точки зрения скрипта "это правильный вариант"
Конечный ответ - 42
M_Chekhov
17.10.2026 07:55Учёные говорят, что есть сложная ДНК, которая развивается миллиарды лет. На основе этой ДНК развивается сложный мозг. В этом сложном мозге развивается интеллект. На его развитие влияют те слои, про которые пишет автор.
Но решительно непонятно, к чему автор эти слои собирается прикручивать? И на основании чего ожидается получить хоть сколько схожий с работой мозга результат?
kseers Автор
17.10.2026 07:55Есть концепт пока теоретический, в данный момент довожу до ума проект, который по плану станет финансовой базой для реализации интеллекта как самодостаточного "субъекта".
m0rtis
17.10.2026 07:55Остановитесь, пока не поздно! Зачем нам настоящий “искуственный интеллект”? Вы Терминатора вообще смотрели??? Пусть остаётся на уровне современный нейронок. Это уже и так довольно опасно, но хотя бы в виде опасного инструмента в руках плохих человеков. Зачем же нам самостоятельный искусственный плохой человек?
JBFW
17.10.2026 07:55Почему же плохой? Точнее, для кого?
Например, человек, живущий в квартире, который решил вдруг потравить тараканов - плохой человек! С точки зрения тараканов, они тут жили задолго до него.
А с его точки зрения плохи тараканы...
Другой вопрос, что тараканам будет неосмотрительно заводить в своей квартире человека...
eugenk
17.10.2026 07:55Вспомнился анекдот. Времена холодной войны. В КГБ приходит изобретатель. И говорит, я мол тут такую штуку изобрёл, всем врагам конец ! Представьте себе коробочку. На ней кнопочки, на которых написано Нью-Йорк, Лондон, Париж и т.п. Нажимаешь на Нью-Йорк - Нью-Йорка нет. На Лондон - Лондона нет. На Париж - Парижа нет. Его похвалили, и вежливо спрашивают, а как же мол это сделать ? На что он отвечает - а это уж пусть инженеры думают !
Ладно, это ирония. Респект за статью. Рад что тут есть люди, которые и о таких вещах задумываются.
VasyaPup
17.10.2026 07:55Ну так компьютер сам и не смотрит фильмы, и не слушает музыку, которую хранит, и даже ту которую сам создаёт,-всё равно не как не оценивает.
BVombat
17.10.2026 07:55Внесу и я свои 5 копеек, возразив автору, что то, что они там строят - это та же самая труба, только разрезанная по шву и расправленная в лист. А поверх листа укладывают ещё один лист. Потом ещё и ещё. И на этом его аналогия теряет красоту. А ещё он пишет, что их "сознание" непрерывно, что у него, помимо прошлого и настоящего, есть ещё и будущее, поскольку оно умеет что-то там планировать. Вопервых, квазинепрерывность эотго сознания можно заалгоритмиззировать таким образом, что эти плоские трубы будут гонять токены друг между другом, а пищу для этих токенов будут давать, скажем, камеры, которые будут инициировать запрос за запросом, и этот момент уже давно и в "трубах" реализован. А по поводу планирования... А что оно будет планировать? А главное, с какой целью? Определённой алгоритмом непрерывной инициации запросов?
kseers Автор
17.10.2026 07:55Тут немного мимо. Внутри у нас не просто токены туда-сюда гоняются по триггеру с камеры. Формируется конкретный, плотный сигнал. Текст пока прикручен исключительно по первости, как временный бутстрап для ускорения адаптации. Но как только она научится нормально говорить и воспринимать мир, это будут уже не текстовые токены, а полноценные сигналы. А насчёт планирования так оно нужно не для того, чтобы тупо обслуживать алгоритм непрерывных запросов, а чтобы она была субъектом, а не просто реактивной функцией на входе.
Vadnag
17.10.2026 07:55Несколько вопросов для автора:
Что такое система как феномен?
Как определить границы системы?
Нужно ли ИИ ставить задачи самому себе?
Как определить вес события?:
kseers Автор
17.10.2026 07:55Ты пытаешься загнать в академические определения, но мы говорим о конкретной архитектуре. Система для нас замкнутый контур обработки сигналов, порождающий адаптацию, а не просто набор модулей. Границы этого контура проходят там, где физический сигнал оцифровывается сенсорным слоем и где внутреннее решение снова становится воздействием на среду. Внутри этих границ ИИ обязан уметь ставить задачи сам себе, иначе это просто реактивная функция на внешний триггер, а не субъект. Вес события при этом определяется не объёмом данных, а мерой его влияния на внутреннее состояние новизной сигнала и его релевантностью текущим целям. Высокий вес заставляет систему пересобирать контекст, низкий уходит в фон. Так что мы проектируем это так, чтобы она сама решала, когда и зачем ей реагировать, а не просто гонять токены по чужой команде.
Vadnag
17.10.2026 07:55Любой объект, явление - система! Жёсткая, со строгими правилами организации внутренних и внешних связей (потоков, взаимодействий и ТД.) . Статистическое процеживание в трубе (мы это знаем и умеем) не отменяет необходимость знание правил системы, умения построения критериев оценки информации, и и.д. Сейчас судя по всему нам светлее под фонарем.
Igor_Korch
17.10.2026 07:55>А теперь посмотри на любую современную LLM...
Вы про LLM пишете или про ИИ? Чем вам языковая модель не угодила? Тем, что написала за вас статью, и это видит каждый читатель?
Я правильно понимаю, что языковая модель, запрограммированную последовательно генерировать слова, вы обвиняете в том, что она последовательно генерирует слова?
>Ведь сознание — это не последовательность слов, а многослойное поле, в котором разные процессы идут параллельно, влияют друг на друга, порождают друг друга.
Вы описали работу SNN - синаптической нейросети.
>Современные LLM масштабируются количественно. Хочешь умнее — добавь параметров...
Современные LLM масштабируются как угодно. И в ширь и в глубь. И даже архитектурно... И когда вы задаёте риторический вопрос - что же мы строим, у меня стойкое впечатление, что к этому "мы" вы не имеете никакого отношения.
Вы, сударь, так легко подменяете систему концепцией и наоборот, что становится видно, что уроки философии вы в школе прогуливали.
Так о чём же статья?
kseers Автор
17.10.2026 07:55Обычная LLM это нормально, только там есть ограничение которое называется контекстное окно, да компенсируется RAG, но RAG можно прикрутить куда угодно, только предполагается что в нашей архитектуре это как плагин расширяющий горизонты, а не костыль как с точки зрения обычной трубы.
mike_deblin
17.10.2026 07:55Привет)
Я уже девять месяцев обкатываю похожую систему, могу предложить вам почитать дневник разработки, возможно он будет вам полезен, а если нет, можете просто почитать как я набиваю шишки)
Кода нет и не будет, но есть идеи и наблюдения.
https://github.com/mikedeblin/lena/kseers Автор
17.10.2026 07:55Отличный проект очень интересные решения из обвязки, у нас был подобный прототип первоначально, но мне крайне не нравилось решение с неким dmn_loop, пожтому сильно углубились в проектирование ядра, но пока упёрлись в необходимость специфического оборудования, так что пока на паузе. А статью я давно написал, пока занимаюсь другим проектом чтобы было чем инвестировать.
titan_pc
17.10.2026 07:55Интересно, Вас трансформер натолкнул пойти ему архитектуру менять?
Всё конечно звучит как гипотезы, которые нужно проверить. Но вы опять посадите всё на гпу, цпу, рам и диск. И супер скоростей и чудес там не случится. Окажется потом чтобы провернуть через компьютер мысль, нужно 15квт блок питания
kseers Автор
17.10.2026 07:55Супер чудес и не ожидаем, но фактически субъекту не нужно много должно быть по итогу, такая штука должна уметь масштабироваться и благодаря арзитектуре ядра не требует тэррабайтов VRAM, а так да всё те же gpu cpu но просто поскольку это веса то тут уже интересная интеграция на квантовых компьютерах может получиться, там где мы получаем эффект с помощью алгоритвом на квантовом комптютере уже нативно, то есть ещё меньге ресурсов нужно, но тут ещё думать и думать как говорится.
xonesky
Искусственный интеллект на то и искусственный. Ему не нужно существовать, думать и ощущать в реальном времени. Искусственная икра не растет в рыбе, ее создают совершенно иначе, быстро, под 1 цель - съесть. Обычная икра может быть съедена, а может стать продолжением рода, искусственная - нет. В этом и суть, искусственный интеллект существует только в момент вызова, он уже обучен настолько, насколько возможно, он видит мир по фотографиям, знает, что называется красивым, а что горячим. При любой сенсорной аппаратуре он не сможет почувствовать горячее просто и потому, что у него никогда не будет нейронов отвечающих на боль, он ее не ощутит. Ему это и не нужно. Человек тоже не знает что такое смерть, не знает какого это, мы видим, но не пробуем умирать, потому что знаем что плохо. Необязательно чувствовать чтобы знать, что плохо, а что хорошо. Я уверен люди занимающиеся разработкой делают все возможное, чтобы их продукт был лучшим по цене, качеству и себестоимости
Heartofhill
То, что ИИ предварительно обучен и его веса заморожены и не позволяют проводить непрерывное обучение как у биологических организмов - это уже как бы очень ощутимый недостаток, причем архитектурный, неустранимый при текущей концепции обучения и построения сетей. Я вижу основу нормальной системы с непрерывным обучением в виде динамической нейросети или динамического графа. Динамический здесь значит - изменение структуры сети в процессе обучения: добавление или удаление нейронов или логических элементов и связей между ними в процессе обучения и функционирования. Сейчас же нейросети имеют фиксированную структуру - меняются только веса. А динамическая сеть добавляет еще степени свободы, используя которые можно потенциально повысить возможности системы. С точки зрения математики надо создать алгоритм эволюции нейросети/графа при наблюдении паттернов для начала из обучающей выборки. Например, когда в обучающей выборке часто повторяет наблюдение трех признаков (есть корреляция между ними), создается новый элемент сети в виде нейрона, который распознает объект, составленный из этих трех признаков. Сначала формировать простые признаки, а на основе их более сложные, повышать уровень абстракции. Сюда еще можно добавить общие закономерности обучения - аналог функции потерь в нейросетях. Например, увеличивать степень обобщения сети через слияние подобных распознавателей и формирования распознавателя более общей концепции. Или для увеличения точности распознавания - наоборот делать расщепление исходного распознавателя на два, чтобы учесть частные случаи. По идее после обучения на исходном наборе данных будет сформирована какая-то структура сети, которая сможет корректироваться и обучаться при функционировании и наблюдении новых данных. Если между знаниями сети и новыми данными есть конфликт, то в сети должен работать фоновый алгоритм, который будет модифицировать сеть и устранять противоречия между знаниями, такой заполнитель пробелов так сказать. Но видимо создание чего-то такого в реальности сталкивается с большими техническими трудностями в плане масштабирования, точности, вычислительных ресурсов. В машинном обучении много людей работают над динамическими нейросетями и динамическими графами, но почему-то реальные решения и продукты делаются на основе нейросетей с фиксированной архитектурой и обученными алгоритмом обратного распространения ошибки на большом массиве данных. Видимо, это сделать гораздо проще технически, чем на основе динамических систем. Может и существуют какие-то интересные прототипы систем с динамической структурой, но они, например, не масштабируются, нестабильны в плане точности, вычислительно неэффективны и так далее.
Rehn
Аналогия с искусственной икрой - блестящая!