Многие, кто меня знают, могут подтвердить, что я довольно критический отношусь к массе вопросов, и в чем-то даже проявляю изрядную долю максимализма. Мне трудно угодить. Особенно если дело касается книг. Часто критикую любителей фантастики, религии, детективов и многого другого бреда. Считаю, что давно пора заняться действительно важными вещами, и перестать жить в иллюзии бессмертия.

Во время одного из дискусов с одним моим хорошим другом он, после очередных моих негодований касательно того, что мне постоянно предлагают разный бред (ту же фантастику), посоветовал проработать книгу «Жизнь 3.0. Быть человеком…». Стыдно признаться, уже давно её скачал, и даже не заметил вместе с великолепной подборкой Фонда Династия. Мне угодить очень трудно, т.к. книг проработал, мягко говоря не мало. Но эта мне понравилась, и решил не только ответить ему, на вопрос, стоит или нет её прорабатывать, но и написать свой критический отзыв, т.к., несмотря на то, что книга достойна внимания, работать еще есть над чем.

Хотелось бы верить, что мой отзыв не утонет, как всегда в массе флуда и спама, и дойдет не только до читателей, но и до писателей, которые учтут недочеты в последующих работах. Конечно, ниже лишь мое субъективное мнение, однако постараюсь по возможности его максимально обосновать. Несмотря, на то, что как всегда катастрофический на все нет времени и по факту, являюсь среднестатистическим нищим рабом; однако считаю своим гражданским долгом космополита написать этот отзыв, т.к. давно интересуюсь подобной и многими другими смежными темами. Полагаю, что многое нижеописанное является первоочередными задачами, поставленными как перед человечеством в целом, так и его отдельными индивидуумами. Как бы пафосно это не звучало. Итак…

Жизнь 3.0. Быть человеком

Критика

Ляпы начинаются буквально с первых страниц книги. Цитирую:

«В вопросе о том, что считать жизнью, как известно, давно уже нет никакого согласия. Предлагается огромное количество альтернативных определений, и некоторые из них включают довольно жесткие ограничения: например, требуется наличие клеточной структуры, что, вероятно, исключит из числа живых и будущие мыслящие машины, и некоторые внеземные цивилизации. Так как мы не хотим ограничивать свои размышления о будущем жизни теми биологическими видами, с которыми мы уже знакомы, то давайте примем более широкое ее определение, чтобы оно включало и любой иной процесс, если только он обладает сложностью и способностью к самовоспроизведению. Что именно воспроизводится, не так уж важно (состоит из атомов), важна информация (состоит из бит), которая определяется взаимным расположением атомов друг относительно друга. Когда бактерия копирует свою ДНК, не возникает никаких новых атомов, но имевшиеся атомы выстраиваются в цепочку, точно повторяющую исходную, таким образом копируется только информация. Иными словами, мы можем считать живой любую самовоспроизводящуюся и способную обрабатывать информацию систему, собственная информация которой (ее “программное обеспечение”, “софт”) определяет и ее поведение, и ее строение (“хард”).»

Согласия нет, но есть более имение внятные на данный момент представления о жизни. Хорошо было бы с ними ознакомиться.

Иначе если так упрощать и подходить с такой позиции, то к жизни можно отнести рост сложных кристаллов, которые воспроизводят свою структуру из субстрата. Или, возможно, некоторые процессы образования нефти и гумуса, там, где так же есть затравка, приводящая к возникновению молекул такой же затравки. Это как бы прародители ферментов, но к полноценной жизни их в современной науки не причисляют, т.к. они не способны к развитию и мутации. Если нет изменчивости, то это не жизнь. Посему предлагаю все же немного сузить понятие жизни, и пересмотреть какими еще, другими чертами она может обладать. Также рекомендую мою статью: «Классификация потенциала жизни.».

Следующая цитата:

«Вслед за самой Вселенной жизнь становилась все сложнее и интересней 4, и, как я сейчас поясню, мне представляется полезным ввести классификацию форм жизни по их соответствию трем степеням сложности: Жизнь 1.0, 2.0 и 3.0. Чем эти три формы отличаются друг от друга, в общих чертах хорошо видно на рис. 1.1….
Три стадии жизни: биологическая эволюция, культурная эволюция и технологическая эволюция. Жизнь 1.0 не может влиять ни на “хард”, ни на “софт” во время существования
единичного организма: и то и другое определяется его ДНК, которая может изменяться от поколения к поколению на протяжении долгого периода эволюции.»

Тут, насколько я понял, грубая ошибка. Видно, что автор не знаком с современными исследованиями микроорганизмов. Они могут менять себе и хард и софт. Т.е. жизнь 1, по факту может делать то же что и жизнь 3. Микроорганизмы могут даже лучше, чем люди захватывать куски ДНК. Они делают это различными способами. Либо на прямую, из среды (если найдут ДНК какой-то разрушенной клетки), либо с помощью бактериофагов и плазмид, либо половым размножением образуя так называемый половой пиль Конъюгация у бактерий — Википедия. Так же они могут вырезать не нужные участки с ювелирной точностью. Например, благодаря CRISPR. Поэтому даже Жизнь 1.0 может себе сама менять и хард и софт. Это для нас боящихся ГМО и забывших о том, что LUCA, в какой-то степени жив, кажется чем-то инновационным и неслыханным. Мы утратили эту способность, а для «умных» приматов менять себе хард и вовсе стало табу. Поэтому это не новое, это хорошо забытое старое. Нет смысла использовать этот параметр в сравнении. Степень сложности это одно, а вот самоизменение (на разных уровнях сложности) это другое. Нужно уметь отделять мух от котлет. Классификацию стоит значительно переработать.

Но это еще цветочки. Дальше у меня не было возможности делать закладки. Не смотря на то, что в книге в правильном ключе затрагиваются чрезвычайно важные и глобальные вопросы, автор весьма эрудированный, однако, по-видимому ему чего-то не хватило, для того что бы сделать грамотную интерполяцию и все же прийти к обоснованным рабочим гипотезам и хотя бы предварительным выводам.

Например, в одном из разделов он интерполирует примитивный жуликоватый подход людей на ИИ, опасаясь и рассматривая возможность обмана, людей со стороны ИИ. Да, возможно если это будет просто сильный ИИ, то такой обман имеет место быть. Однако, если это будет сверх искусственный интеллект (СИИ), то вряд ли такой обман потребуется. Просто такой интеллект без всякой лжи и хитрости сможет сделать многим людям именно то предложение, от которого они не смогут отказаться. У меня нет возможности тут всего расписывать, но для того, чтобы понять почему больше вероятностей что ИИ не будет склонен обманывать рекомендую проработать, например, книги Мэтта Ридли. «Происхождение альтруизма и добродетели», а за одно, и «Эволюция всего». Проанализировав эти труды, можно сделать вывод что чем более высокое развитие, тем больше склонность к альтруизму, сотрудничеству и игре с ненулевой суммой, а не конкуренции. Поэтому чем умнее интеллект, тем больше вероятности что он будет гуманнее, честнее. Т.е. сам интеллект является мощным ресурсом для того что бы понять и использовать людей не как обманутых конкурентов, а как союзников. Найти в людях слабые и сильные стороны, компенсировать собой первые и использовать последние. Если же потребности сотрудничества с людьми не будет, то вряд ли возникнет необходимость в конкуренции, т.к. вокруг довольно много свободных ресурсов. У нас до сих пор пустуют океаны. Масса пустого места под Землей, уже молчу за др. планеты. Поэтому высокотехнологичному ИИ находящемуся на более эффективном носителе, чем созданный слепым отбором из биологических форм, будет где разгуляться без всякой конкуренции с людьми. Он просто займет массу тех ниш на которые люди до сих пор, а возможно и никогда не смогут претендовать. И никого он не станет обманывать. Уже сейчас не то что ИИ, а даже обычными грамотными людьми практикуется другой подход. Не обман и скрытность, а максимальная открытость, искренность и сотрудничество. Люди с закостенелым, архаичным вороватым складом ума, не как этого не могут понять. Вероятнее всего код ИИ просто на просто будет открытым. Как код многого свободного ПО. А хакеров будут не наказывать и пресекать, а поощрять, за то, что они будут сообщать о уязвимостях этого кода. Аналогично и с убийством как наказанием, и тюрьмами. Этого всего не будет, это дикость. Маргиналам 2 дороги: вначале их надо детально изучать, и потом либо учесть и прислушаться идя им на компромисс, т.к. это может быть неординарное важное мнение, либо перевоспитывать, лечить, а не наказывать.

В целом я категорический против всех этих опасений и луддистских настроев, человечество должно бросить все силы именно на создания интеллекта, т.к. по факту у нас и естественный интеллект то не шибко умный. Просто многие приматы, по-другому их не назовешь, этого не замечают. Возвращаясь к интерполяции хотелось бы под резюмировать эту часть и продолжить. Как видим с одной стороны Тегмарку, не следовало бы проводить аналогии и перелаживать с больной людской головы, на здоровую цифровую человеческие комплексы: хитрость, обман и др. и т.п., а с другой стороны в каком то из разделов он не может определиться с глобальным пониманием смысла жизни. Это тоже весьма удручает, и показывает, что трудов по эволюции он проработал мало. Если бы проработал больше, то у него бы не возникла дилемма какие цели, или, я бы даже сказал, философию и целеполагание, стоит ставить перед ИИ. Т.к. анализируя окружающий Мир, можно сделать вывод, что практический все живое, а возможно и не живое, стремиться к экспансии. Многие сложно развитые формы жизни стремятся к еще большему развитию, самосовершенству, расширению своего влияние и взаимодействия с др. как живыми, так и не живыми объектами. Поэтому вероятнее всего ИИ либо сам придёт к подобным выводам, либо в него заложат такие принципы. Как итог он продолжит, как и все живое развиваться, совершенствоваться и покорять все новые территории преобразуя Мир не только под себя, но и под свое окружение.

Согласен

Если вы закатываете глаза, когда слышите разговоры о вооруженном захвате роботами-терминаторами всего мира, то ваша реакция точна: такой сценарий совсем не реалистичен. Эти
голливудские роботы не могут оказаться умнее нас, да и вообще оказаться умными. По-моему, опасность, таящаяся в истории о Терминаторе, заключается не в том, что может случиться
нечто подобное, а в том, что она отвлекает наше внимание от подлинных рисков и опасностей, связанных с искусственным интеллектом. Переход от нынешнего мира к миру, в котором
верх и вправду одержан универсальным искусственным интеллектом, требует трех логических шагов:

• Шаг 1-й. Создать универсальный искусственный интеллект (AGI) на уровне человеческого.
• Шаг 2-й. Использовать этот AGI для создания сверхразума.
• Шаг 3-й. Использовать сверхразум для захвата мира или дать ему возможность сделать это самостоятельно.

Искать по тексту, аналогичная история со СМИ, которые пишут про войну роботов и т.д.
Мои предложения.

Не устану повторять, сейчас все должны бросить все мощности на создания разума, именно разум, а не красота, или др. дурость, на мой взгляд, спасет Мир. И не стоит отделять этот разум (интеллект) ставя границы – искусственный, естественный. На данном этапе ИИ, еще в зачатке, поэтому роль естественного интеллекта, подкрепленного технологиями, очень велика. Нет четкой грани, между искусственным и естественным. Если мы хотим создать нормальный интеллект, а не тот примитив который сейчас существует, нам нужно использовать все возможности, задействовать все технологии, т.к. они работают в рекурсивном тандеме: естественный интеллект создает искусственный, а искусственный по крайней мере на начальных этапах будет заинтересован в модернизации и расширений возможностей естественного.

Какое будущее для себя я бы хотел видеть

Сразу стоит оговориться, что это самый, на данный момент мой оптимистичный прогноз. По факту, вряд ли в нашем архаичном обществе мне удастся до него дожить. Но хочется верить. Отчасти мне бы хотелось что бы в итоге было как в фильме: «Вопросы мироздания: Можем ли мы жить вечно?» с Адамом Сэвиджом от Дискавери.

Возможные проблемы

Алчные люди будут дискредитировать ИИ. Начнут использовать слабый и даже сильный, но не сверх ИИ в своих корыстных целях. Вот тут то мы и столкнёмся с проблемой, которая, если мне не изменяет память, плохо расписана в книге.

Думаю, нас, хотим мы того или нет ждут в будущем суровые, жестокие, но интеллектуальные баталии, на уровне кодов, мемов, программ, убеждений и т.п. Скорей всего они будут идти преимущественно на цифровых носителях в виртуальной реальности, которая будет даже реальнее тривиальной. Там не будет жертв и порванного мяса с кровью. Война будет идти за наши взгляды, мнения, суждения. И чем раньше начнется эта война, тем лучше для всех. Её не надо бояться, она уже начата, и если мы не хотим остаться аутсайдерами, нам надо принимать в ней участие. Уже не помню где читал, что если ты офлайн, то считай, что ты и не жил. Звучит дико, и обскурантисты (любители букашек, леса и какашек) со мной поспорят. Но если они будут топтать какахи в лесах и кормить комаров. то спорить с ними не придётся. Спорить придётся с заблудшими лицемерами, которые пользуясь технологиями считают их злом и все не как, ПОЧеМУ-ТО от не откажутся от ИТ, окружающих нас повсюду.

Ссылки и связь

Автор на страницах книги не однократно предлагал связаться с ним на сайте AgeOfAi.org. Я двумя руками за подобные связи. Думаю, от этого была бы польза как читателям, так и писателям. Но почему-то у меня страница по ссылке не открылась, зато переадресовало на какое то futureoflife.org/superintelligence-survey. Может, если выкрою время, постараюсь дать ссылку на данный отзыв автору книги, не смотря на то, что моя статья на русском, а сайт на английском. Благо есть электронные переводчики. Так же надо будет поискать, может там уже есть какие-то еще дельные мысли. А еще лучше тут ziminbookprojects.ru. Это скорей всего аналогичная версия предыдущего сайта, но на русском. Но, не уверен. В любом случае, думаю, что ссылки достойны внимания, как и подымаемые темы.

Вот еще пару понравившихся мне цитат:

Для верующих:

«Если окажется, что все они подчиняются законам физики, то душа, следовательно, никак не влияет на частицы, из которых вы состоите, а значит, ваше сознание, ваш разум и их способность контролировать ваши движения ничего общего с душой не имеют. Если, напротив, окажется, что частицы, из которых вы состоите, не подчиняются известным законам физики, потому что этому мешает воздействие на них вашей души, то эта новая сущность должна быть физической по определению, и тогда мы сможем ее изучать, как изучали поля и частицы в прошлом.»

Очень полезно для тех, кто отделяет науку от религии. Считая, что наука не должна вмешиваться в религию, а религия в науку. Впрочем, для слепых фанатиков религии, это пустой звук. Но для сомневающихся людей, способных думать логично, мысль более чем полезна.
Для ученых:

«геном бактерии Candidatus Carsonella ruddii, сохраняющий до 40 килобайт информации, в то время как наш человеческий геном хранит около 1,6 гигабайт»

Интересный факт. Стараюсь такие коллекционировать. Возможно пригодится в работе, либо просто в обсуждении тем по биоинформатике.

В общем книгу почти полностью можно было бы разобрать на цитаты, и детально проанализировать, но увы, как всегда нет времени. Кстати, друг, который порекомендовал мне данный труд, вовсе ничего не понял в сути и смысле, т.к. слушал эту книгу не синтезатором речи, а в виде аудиокниги. Поэтому часть его внимания была обращена к КРАСОТЕ голоса диктора, а не к смыслу. Уже молчу о невозможности цитирования и многого другого чего нет в аудиокнигах. Ну это так, маленький крик души, для твердолобых любителей аудиокниг. Подробно все это я описывал в своей книге «Книга 3.0. Слушайте!»