По древней традиции, корни которой уже и старожилы с запущенной амнезией не упомнят, перед Новым Годом хочется сказать что-нибудь значительное и ободряющее, тем более, что в этом году ханука совпала с католическим рождеством и кроет Новый Год как бык овцу. Это символичное совпадение разных календарей в очередной раз дает слабую надежду на то, что разодранный в лоскуты мир одумается и начнет отползать от пропасти. Товарищи, мы станем братья и все такое.
Буквально на днях я закончил читать тетралогию ПВО по вселенной Transhumanism Inc. Оказалось, что я запустил это дело и не читал не только последний роман “Круть”, но и предыдущие два — “KGBT”+ и “Путешествие в Элевсин”. Этот пост я помещу в хаб “Информационная безопасность” с тэгом “кибербез” хотя бы на том основании, что в последних двух романах главный герой — это заместитель начальника службы безопасности корпорации Transhumanism Inc. Маркус Зоргенфрей (нет, не еврей, но с российскими корнями, то есть предки жили в Добром государстве в эпоху позднего карбона). Поскольку вся корпорация Transhumanism Inc. предоставляет услуги цифровой жизни за пределами физических тел (в банке), такая классификация поста будет оправдана.
Несмотря на то, что при чтении всей тетралогии я нередко ржал как помешанный, но прорыдавшись, поневоле задумывался о вопросах вполне профессиональных. Например, начальник СБ адмирал-епископ Ломас рассказывает своему заместителю, что удалось запереть в банке демона зла Ахилла и отключить от нее все информационные потоки, то есть заточить демона в темницу. Обеспокоенный Маркус Зоргенфрей спрашивает, но позвольте, ведь банка с демоном находится в банкохранилище, где обеспечивается электропитание и климатика, а демон хитер и опасен, не может ли он выбраться из банки по электрическим проводам или по слаботочке? Нет, успокаивает его адмирал Ломас, не сможет, потому что именно здесь проходит великая граница между материей и сознанием. Похихикав, я задумался, что же это мне напоминает из недавнего опыта. И тут меня как молнией ударило и я опять начал бешено хохотать как Паниковский перед гирями, когда тот сообразил, что они золотые.
Я вспомнил, каким недоумением наполнена вся книжка Саймона Принса “Understanding Deep Learning”, которую я переводил и обозревал в этом блоге. Это недоумение можно резюмировать вопросом “как из такого дерьма вышла такая конфетка” или, для более утонченных натур — “когда б вы знали из какого сора растут стихи не ведая стыда”.
Я ведь и сам, когда решал несложные задачки в первых главах, посвященных глубоким нейронным сетям, думал, вот же я теперь гораздо лучше понимаю, что такое кусочно-линейные функции, в том числе в пространствах большой размерности, то есть произошла как бы подтяжка моих провисших прикладно-математических способностей. Но почему же вся эта прибыль никак не отражается на дальнейшем понимании, почему работают нейронные сети? Вот она отгадка! Видимо здесь и проходит великая граница между материей и сознанием. Сознание ИИ, которое уже не за горами, прорастёт на LLM, преодолев эту границу.
ПВО — великий провидец, вспомните хотя бы “зенитные кодексы аль-эфесби” и современные войны дронов. В тексте этой тетралогии о цифровом будущем человечества содержатся все отгадки великих загадок прошлого, в том числе и загадки о великой границе, которая по-научному называется “The hard problem of consciousness”.
Когда я спрашивал друга моей юности зачем он читает сочинения Карлоса Кастанеды, он объяснил это так. В принципе, у Кастанеды описано, как человек может летать, но это не главное в этих книгах. Главное это то, что в них же описано, как правильно завязывать шнурки, чтобы не наступить на них, не упасть и не расквасить себе нос. И вот это гораздо важнее для человека, который твердо встал на путь воина как Карлос Кастанеда. Мне кажется, что о книгах Виктора Пелевина можно сказать то же самое.
В качестве тизера дополнительно сообщу, что в этой тетралогии подробно разбирается вопрос о том, существует ли писатель Виктор Пелевин в т.н. реальной жизни.
В заключение хочу поблагодарить руководство компании IDX, которое меж неустанных трудов по легальному удостоверению персональных данных до сих пор не разоблачила меня и не выгнала, а также всех пользователей этого прекрасного сайта, которые последние четыре месяца милосердно читали мои буквы и даже иногда не ленились черкнуть пару снисходительных строк в комментариях.
Осознанности нам всем в Новом Году!
Комментарии (15)
Yak52
31.12.2024 13:16Материя – первична, сознание – вторично.
Закон сей философский, на деле очень любит проверять моя жена:
Материю она сначала купит, а после думает – зачем она нужна.
(с) не помню кто
Stanislav42
31.12.2024 13:16Я пока что верю Пенроузу, что сознание к алгоритму несводимо. Так что надежды на то, что в DL-сетях (неважно, каких именно, необязательно LLM) зародится сознание, для меня нет никакой.
smx_ha
31.12.2024 13:16Ну, по Пенроузу просто надо использовать какие то квантовые эффекты чтоб было сознание, так ведь? И что мешает использовать квантовые эффекты в нейронных сетях?
GeorgKDeft
31.12.2024 13:16В качестве тизера дополнительно сообщу, что в этой тетралогии подробно разбирается вопрос о том, существует ли писатель Виктор Пелевин в т.н. реальной жизни.
Так существует? А то в iPhuck 10 вроде от имени алгоритма он популярно пояснил что пишет всегда одно и тоже, но по разному.
Nick0las
31.12.2024 13:16На мой субъективный взгляд понятие сознания не очень строго определено, и со временем оно будет замыленно так-же как и тест Тьюринга. Формально LLM могут пройти тест Тюринга, но до AGI им далеко. И не всякую рутину им поручить можно. То есть прохождение теста Тьюринга не стало важным рубежом.
Так вот, интеллект человека, который многие изучают, и мечтают превзойти создав, AGI является по сути побочной функцией системы управления телом прямоходящей обезъяны. На мой взгляд интеллект это очень хорошо развитое ствойство анализировать мир вокруг, строить его модель и использовать эту модель чтобы решать прикладные задачи. Изначально это нужно было чтобы обеспечивать выживаемость и размножение носителя, но шагнуло далеко вперед, научившись строить и понимать очень сложные модели мира и создавать всякое разное начиная от техники и заканчивая искусством. Так вот, сознание т.е. умение опознавать себя это важное свойство этого интеллекта обусловленное тем что интеллект жестко привязан к телу его носителя и является по сути одной из функций системы управления носителем. Я бы даже сказал что сознание в примитивной форме появилось раньше человеческого интеллекта. А вот вновь созданный AGI может превзойти человека в любой задаче обработки и структурирования информации (т.е. в любой интеллектуальной работе) но обходится без сознания потому чо программе запущенной на серверах этого не надо.
DedaVova Автор
31.12.2024 13:16вот это и есть центральная исследовательская метафора Пелевина в этой вселенной - тело носителя уже сформированного сознания и окружающий мир заменяются симуляцией, да не одной, а любой, практически, можно быть кошечкой или даже динозавром в мезозое и в фоне немножко помнить себя до банки, эта метафора и делает этот текст интересным и разнообразным для меня.
DedaVova Автор
31.12.2024 13:16Кстати, о недопределенности понятия сознания не могу согласиться полностью. Что касается биологии и психологии, то да, разговоры о сознании - это просто необязательная болтовня. Гораздо интереснее метафизические построения Мамардашвили и Пятигорского в книжке "Символ и сознание", они там очень интересно объясняют, как вообще можно говорить о сознании. Очень просветляет, рекомендую
Daddy_Cool
31.12.2024 13:16Ох ты ж блин.
Пелевин не гениальный провидец, а гениальный конъюктурщик. В свох произведениях он талантливо обрабатывает то, что уже на слуху.DedaVova Автор
31.12.2024 13:16Вы, конечно же, знаете, что многие с вами не согласятся. От себя же добавлю, что хотел бы иметь такой слух, чтобы слышать раньше Пелевина.
Pavel
010 Первая снисходительная строка
020 Вторая снисходительная строка
030 GOTO 010
С новым годом :)