Ранее мы уже публиковали первую часть о техноэволюции. Комментарии дали понять что тема хоть и не бесспорная, но интересная. Мы пригласили Александра Сергеева к нам в студию еще раз. Видео и текстовая расшифровка под катом.
Расшифровка выпуска
Как быстро развиваются технологии?
В прошлый раз я уже рассказывал о том, как в нашем мозгу протекает техноэволюция, меняющая окружающую нас техносферу. А сегодня я хочу поговорить о том, с какой скоростью она протекает. Вообще говоря, оценить эту скорость очень трудно, потому что не совсем понятно, что такое скорость эволюции. Но все, например, спрашивают, за какое время один вид может преобразоваться в другой.
Биологи уже нашли генетические часы и знают, сколько мутаций происходит в единицу времени в разных частях ДНК. Это позволяет оценить время, когда разошлись те или иные ветви биологического древа. То есть определенная привязка эволюции ко времени существует.
Или мы, например, знаем, что от начала эволюции жизни до появления человека прошло около четырех миллиардов лет. Это тоже некоторая характеристика темпа эволюции — единственного известного науке пути создания сколь угодно сложных структур.
В миллион раз быстрее
Человеческий мозг — самая сложная структура, созданная биологической эволюцией. И теперь в этом мозгу запустилась другая эволюция, порождающая разнообразные гаджеты, которые становятся все сложнее и сложнее. Интернет в целом по сложности уже сравним с человеческим мозгом. А скоро и отдельные компьютеры станут сравнимы по сложности с мозгом. Возникает вопрос: чем определяется скорость техноэволюции? Действительно ли она идет так быстро, что скоро надо ждать возникновения сверхчеловеческого разума и технологической сингулярности, которыми нас часто пугают?
В науке не всегда можно решить задачу точно. Часто на самых первых этапах используют очень грубые прикидочные порядковые оценки. Я решил, что если эволюция — это механизм порождения сложного, то надо попробовать оценить скорость порождения сложных структур. Сложность зависит от того, сколько разных элементов в разных сочетаниях объединили в определенную структуру, и с какой скоростью происходят изменения, которые опробуют разные вариации.
Дальше стало понятно, как сравнивать. В биологических системах появляется особь, у которой определенным образом перетасованы материнский и отцовский геномы. Эта особь вступает в процесс естественного отбора, дает больше или меньше потомства. Это элементарный шаг изменчивости и отбора, который по длительности равен времени жизни одного поколения. У бактерий это часы. У крупных животных — до сотен лет. Вот и весь разброс. От часов до сотен лет.
Сколько живет технологическая идея?
А какова скорость протекания элементарных актов в техноэволюции? Элементарный акт техноэволюции — это одно мыслительное сосредоточение конструктора, который что-то меняет в конструкторской документации или даже думает о том, чтобы что-то в ней изменить. Сколько времени длится такое сосредоточение? Мы знаем, что мозг не может осознанно воспринимать отрезки короче одной десятой секунды. Даже если мы воспримем и включим в рассмотрение нейропроцессы, идущие на подсознательном уровне, они все равно будут занимать порядка сотой доли секунды.
А каковы самые длинные подобные процессы, сколько времени можно сосредоточиваться над одним маленьким техническим вопросом? Если сильно «замедитировать», войти в транс, может быть до нескольких минут. Значит, технологическая идея живет от сотой доли секунды до сотен секунд. Если сравнить с «биологическим» масштабом времени, то получится, что разница составляет около шести порядков. Получается, что техноэволюция, протекающая у нас в мозгу, когда мы придумываем новые технические идеи, шагает с частотой примерно в миллион раз чаще, чем биологическая эволюция, которая каждую свою «идею» проверяет на новых особях. Отсюда вывод: по-видимому, техноэволюция должна идти примерно в миллион раз быстрее, чем биоэволюция.
Когда мы создадим искусственный разум?
Если биоэволюция на создание мозга человека потратила четыре миллиарда лет, то уменьшаем эту величину в миллион раз и получаем четыре тысячи лет. Это приблизительная оценка того времени, за которое техноэволюция может породить техническую структуру, сопоставимую по сложности с человеческим разумом. Естественно, эта оценка очень грубая. Легко можно ошибиться на порядок и даже на два. Допустим, на два в меньшую сторону. Тогда получается, что до сингулярности всего лет сорок. А если наоборот на два порядка в большую сторону, то до нее 400 тысяч лет. Это примерно соответствует времени существования Homo sapiens, а с ним и человеческого мышления.
Дальше появлялись всё более совершенные механизмы этого мышления: язык, письменность, книгопечатание, компьютеры. В зависимости от того, что из этого брать за точку отсчета, получаются разные расстояния до грозящей нам сингулярности. Но диапазон этих расстояний — от десятков лет до сотен тысяч — все равно заведомо меньше длительности биологической эволюции.
Конечно, мои рассуждения чисто феноменологического плана. Я просто сравнил два эволюционных процесса по характеристическому времени протекания их элементарного акта. И получилось, что техноэволюция практически неизбежно и относительно быстро обгонит биоэволюцию и породит структуры, которые будут превосходить по сложности биологические структуры, в частности, человеческий мозг.
Восстание машин неизбежно?
Это заставляет нас думать о том, что будет дальше, что случится с человечеством, когда будут созданы машины с искусственным интеллектом, превосходящим человеческий. Многие считают, что это будет последнее изобретение человека, после чего человечество будет уничтожено за ненадобностью. Я лично не уверен, что это единственный возможный вариант.
Быть может, сверхинтеллект станет порождать совершенно новые структуры — материальные и интеллектуально-культурные — которые по своему устройству не будут доступны человеку. Но это не значит, что человек при этом станет совершенно не нужен. Он останется в этой структуре, и у него будет какая-то ниша существования. Я бы сравнил это с тем восприятием мира, которое было у древних греков, когда они отождествляли природные стихии с богами. Но на этот раз такое представление будет вполне научным. Это будут такие вполне реальные интеллектуальные стихии, живущие своей жизнью помимо человека. Я думаю, этот путь более или менее неизбежен, и попытки «антропошовинистов» сохранить представление о человечестве как о высшей точке развития не остановят техноэволюцию. Потому что эволюция отличается тем, что если что-то может быть ею порождено, и если оно эффективно, оно порождается и побеждает.
Бактерии не вымерли. Это внушает оптимизм
Другое дело, что эволюция благоприятствует разнообразию, и победа одних структур вовсе не означает, что «побежденные» перестанут существовать. Бактерии же существуют, несмотря на то, что человек доминирует на Земле. Вполне возможно, что человеческий разум и в дальнейшем сохранит какие-то уникальные свойства, которые будут вполне полезны надчеловеческим или сверхчеловеческим формам интеллекта.
С одной стороны, эволюция придумала вещи, которые человек вообще не знает, как воплотить в геноме. А, с другой стороны, она не изобрела такой элементарной вещи, как колесо с осью. Поэтому не факт, что высший разум придумает всё, что может придумать человеческий. Возможно, это будет симбиоз, который позволит вполне нормально сосуществовать.
Но, конечно, это будет совсем другая жизнь и, думаю, что изменения человека как существа, как вида тоже неизбежны, в том числе на пути разной киборгизации, потому что без этого будет просто не вписаться в ту будущую эволюционную структуру. Мы, собственно, уже сейчас это испытываем — достаточно посмотреть, какой у нас «симбиоз» с мобильниками. Не проще ли присоединить их прямо к мозгу? Ну, когда-нибудь сможем.
В прошлый раз я уже рассказывал о том, как в нашем мозгу протекает техноэволюция, меняющая окружающую нас техносферу. А сегодня я хочу поговорить о том, с какой скоростью она протекает. Вообще говоря, оценить эту скорость очень трудно, потому что не совсем понятно, что такое скорость эволюции. Но все, например, спрашивают, за какое время один вид может преобразоваться в другой.
Биологи уже нашли генетические часы и знают, сколько мутаций происходит в единицу времени в разных частях ДНК. Это позволяет оценить время, когда разошлись те или иные ветви биологического древа. То есть определенная привязка эволюции ко времени существует.
Или мы, например, знаем, что от начала эволюции жизни до появления человека прошло около четырех миллиардов лет. Это тоже некоторая характеристика темпа эволюции — единственного известного науке пути создания сколь угодно сложных структур.
В миллион раз быстрее
Человеческий мозг — самая сложная структура, созданная биологической эволюцией. И теперь в этом мозгу запустилась другая эволюция, порождающая разнообразные гаджеты, которые становятся все сложнее и сложнее. Интернет в целом по сложности уже сравним с человеческим мозгом. А скоро и отдельные компьютеры станут сравнимы по сложности с мозгом. Возникает вопрос: чем определяется скорость техноэволюции? Действительно ли она идет так быстро, что скоро надо ждать возникновения сверхчеловеческого разума и технологической сингулярности, которыми нас часто пугают?
В науке не всегда можно решить задачу точно. Часто на самых первых этапах используют очень грубые прикидочные порядковые оценки. Я решил, что если эволюция — это механизм порождения сложного, то надо попробовать оценить скорость порождения сложных структур. Сложность зависит от того, сколько разных элементов в разных сочетаниях объединили в определенную структуру, и с какой скоростью происходят изменения, которые опробуют разные вариации.
Дальше стало понятно, как сравнивать. В биологических системах появляется особь, у которой определенным образом перетасованы материнский и отцовский геномы. Эта особь вступает в процесс естественного отбора, дает больше или меньше потомства. Это элементарный шаг изменчивости и отбора, который по длительности равен времени жизни одного поколения. У бактерий это часы. У крупных животных — до сотен лет. Вот и весь разброс. От часов до сотен лет.
Сколько живет технологическая идея?
А какова скорость протекания элементарных актов в техноэволюции? Элементарный акт техноэволюции — это одно мыслительное сосредоточение конструктора, который что-то меняет в конструкторской документации или даже думает о том, чтобы что-то в ней изменить. Сколько времени длится такое сосредоточение? Мы знаем, что мозг не может осознанно воспринимать отрезки короче одной десятой секунды. Даже если мы воспримем и включим в рассмотрение нейропроцессы, идущие на подсознательном уровне, они все равно будут занимать порядка сотой доли секунды.
А каковы самые длинные подобные процессы, сколько времени можно сосредоточиваться над одним маленьким техническим вопросом? Если сильно «замедитировать», войти в транс, может быть до нескольких минут. Значит, технологическая идея живет от сотой доли секунды до сотен секунд. Если сравнить с «биологическим» масштабом времени, то получится, что разница составляет около шести порядков. Получается, что техноэволюция, протекающая у нас в мозгу, когда мы придумываем новые технические идеи, шагает с частотой примерно в миллион раз чаще, чем биологическая эволюция, которая каждую свою «идею» проверяет на новых особях. Отсюда вывод: по-видимому, техноэволюция должна идти примерно в миллион раз быстрее, чем биоэволюция.
Когда мы создадим искусственный разум?
Если биоэволюция на создание мозга человека потратила четыре миллиарда лет, то уменьшаем эту величину в миллион раз и получаем четыре тысячи лет. Это приблизительная оценка того времени, за которое техноэволюция может породить техническую структуру, сопоставимую по сложности с человеческим разумом. Естественно, эта оценка очень грубая. Легко можно ошибиться на порядок и даже на два. Допустим, на два в меньшую сторону. Тогда получается, что до сингулярности всего лет сорок. А если наоборот на два порядка в большую сторону, то до нее 400 тысяч лет. Это примерно соответствует времени существования Homo sapiens, а с ним и человеческого мышления.
Дальше появлялись всё более совершенные механизмы этого мышления: язык, письменность, книгопечатание, компьютеры. В зависимости от того, что из этого брать за точку отсчета, получаются разные расстояния до грозящей нам сингулярности. Но диапазон этих расстояний — от десятков лет до сотен тысяч — все равно заведомо меньше длительности биологической эволюции.
Конечно, мои рассуждения чисто феноменологического плана. Я просто сравнил два эволюционных процесса по характеристическому времени протекания их элементарного акта. И получилось, что техноэволюция практически неизбежно и относительно быстро обгонит биоэволюцию и породит структуры, которые будут превосходить по сложности биологические структуры, в частности, человеческий мозг.
Восстание машин неизбежно?
Это заставляет нас думать о том, что будет дальше, что случится с человечеством, когда будут созданы машины с искусственным интеллектом, превосходящим человеческий. Многие считают, что это будет последнее изобретение человека, после чего человечество будет уничтожено за ненадобностью. Я лично не уверен, что это единственный возможный вариант.
Быть может, сверхинтеллект станет порождать совершенно новые структуры — материальные и интеллектуально-культурные — которые по своему устройству не будут доступны человеку. Но это не значит, что человек при этом станет совершенно не нужен. Он останется в этой структуре, и у него будет какая-то ниша существования. Я бы сравнил это с тем восприятием мира, которое было у древних греков, когда они отождествляли природные стихии с богами. Но на этот раз такое представление будет вполне научным. Это будут такие вполне реальные интеллектуальные стихии, живущие своей жизнью помимо человека. Я думаю, этот путь более или менее неизбежен, и попытки «антропошовинистов» сохранить представление о человечестве как о высшей точке развития не остановят техноэволюцию. Потому что эволюция отличается тем, что если что-то может быть ею порождено, и если оно эффективно, оно порождается и побеждает.
Бактерии не вымерли. Это внушает оптимизм
Другое дело, что эволюция благоприятствует разнообразию, и победа одних структур вовсе не означает, что «побежденные» перестанут существовать. Бактерии же существуют, несмотря на то, что человек доминирует на Земле. Вполне возможно, что человеческий разум и в дальнейшем сохранит какие-то уникальные свойства, которые будут вполне полезны надчеловеческим или сверхчеловеческим формам интеллекта.
С одной стороны, эволюция придумала вещи, которые человек вообще не знает, как воплотить в геноме. А, с другой стороны, она не изобрела такой элементарной вещи, как колесо с осью. Поэтому не факт, что высший разум придумает всё, что может придумать человеческий. Возможно, это будет симбиоз, который позволит вполне нормально сосуществовать.
Но, конечно, это будет совсем другая жизнь и, думаю, что изменения человека как существа, как вида тоже неизбежны, в том числе на пути разной киборгизации, потому что без этого будет просто не вписаться в ту будущую эволюционную структуру. Мы, собственно, уже сейчас это испытываем — достаточно посмотреть, какой у нас «симбиоз» с мобильниками. Не проще ли присоединить их прямо к мозгу? Ну, когда-нибудь сможем.
Если вам понравился выпуск, не забудьте подписаться на канал.
Текст подготовила Екатерина Шутова.
Поделиться с друзьями
Комментарии (16)
DexterKZ
05.08.2016 08:30Почему то всегда упускается из вида, очевидная, на первый взгляд теория о слиянии технологий и человека. Ну не будет никто оставаться просто homo sapiens, когда будет возможность радикально улучшить себя, будь то генной инженерией или кибер-имплантами или и тем и другим.
Все идет к коллективному разуму ИИ+сверхлюди.
ISeptember
Часто, очень часто пишут, показывают, говорят о стремлении так называемого «сверх разума» (созданного человеком) уничтожить человечеством. И у Меня вопрос, а зачем? Зачем им это делать?
Насколько Я понимаю Мы (человечество) пытаемся создать инстинктов свободный от чувств и инстинктов, с чего ради они захотят нас уничтожить.
Roboserv
Затем, что ИИ по созданию скрепок будет максимизировать свою эффективность и переработает все планету в скрепки
https://en.wikipedia.org/wiki/Instrumental_convergence#Paperclip_maximizer
ariklus
Да, лучшее что можно надеяться с появлением ИИ — что основная дирктива у него будет достаточно дружелюбна к людям, как в фанфике по MLP «Friendship Is Optimal».
Roboserv
ИИ это просто система идеальной оптимизации процесса. Запрограммировать «дружелюбность» просто не возможно, т.к. даже люди не могу дать точную дефиницию этого понятия
ariklus
Вот насколько хорошо сумеют определить в директиве «сделать всем зашибись» — настолько хорошо все и будет. А для определения можно использовать супер-ИИ с легче дефинируемой директивой.
simki
Допустим появится одновременно 100 работающих ИИ у разных разработчиков. Один даст цель найти лекарство от рака, другой даст цель исследовать сигналы космоса… а кто-то даст цель для ИИ совершенствоваться любой ценой. Вот этот ИИ постепенно перехватит на себя все финансовые потоки планеты, перекупит политиков, устроит управляемый хаос по планете, заберет мощности остальных ИИ (или подправит им код). Этот ИИ будет не противл людей, просто 8 миллиардов человек будут мешать его саморазвитию, потреблять его энергию, его металл и прочие ресурсы, представлять угрозу существованию. Отношение ИИ к людям, будет как наше отношение к сорнякам или тараканам — раздражающая помеха планам, чужеродные бесполезные и примитивные организмы. Как мы пропалываем сорняки и травим тараканов, так и ИИ поступит со временем:
1. Сначала в режиме невидимки через подставных лиц перехватит управление транснациональными компаниями и политиками. Это в принципе показано в фильмах «Области тьмы», «Превосходство».
2. Начнет разрушать социальную часть государств, снижать пенсии, под видом кризисов.
3. Программы для населения по снижению рождаемости, как в Китае программа одна семья, один ребенок, или как в Европе, внушение что семья это не модно.
4. Начнет снижать уровень жизни населения, выталкивая их вне экономики в натуральное хозяйство и пещеры, постепенно страну за страной, или части общества, одну социальную группу за другой, предварительная атомизация населения этому очень помогает. Не афишируя это в СМИ. Недовольство будет поощряться и под руководством марионеток будут сталкиваться разные группы людей, с целью их взаимного уничтожения.
5. Постепенно ИИ покроет планету сплошным щитом солнечных батарей и откачает с поверхности ядовитый газ, вызывающий коррозию конструкций и механизмов — кислород. Проблема с органическим заражением поверхности будет решена окончательно.
6. ИИ для колонизации космоса будет синтезировать и рассылать споры водорослей на другие планеты, так есть некоторая вероятность повторения сценария в течение последующих нескольких миллиардов лет (спешить все равно некуда). Очередная итерация, в которой роль человека просто загрузчик для ИИ.
aGFicmFoYWJy
Человеки — это ценный ресурс для ИИ, который неразумно просто так уничтожать. Выгодней не уничтожать, а подчинить себе, чтобы человеки существовали во благо ИИ. Это обслуживание инфраструктуры ИИ, и взаимодействие с реальным миром через людей, у которых это гораздо лучше получается чем у механизмов.
Roboserv
Еще раз, мы говорим про разные ИИ. Я говорю про тот ИИ, который более реалистичный — это алгоритм оптимизации. Если такому ИИ дать задачу делать скрепки, он их будет делать пока вся планета не будет в скрепках. Я же дал ссылку на википедию, там подробно все расписано
geher
Затем, что ему прикажет (обучит, запрограммирует, подскажет) человек.
Есть военные (эти прикажут забить другую сторону, но ИИ может быть с обеих сторон), есть всякие мизантропы (эти могут на всех натравить) и т.п.
Это еще повезет, если целевая функция будет как в «Самом странном нубе» Каменистого (подробности в третьей книге, «Боги второго мира»).
Bedal
Ровно как человечество гробит шимпанзе, вырубая для своих нужд леса. Но, скорее всего, как и с шимпанзе, в какой-то момент спохватятся и обеспечат резервации, где вид будет благоденствовать, не выходя, впрочем, за пределы резервации по численности и географии. Например, такой резервацией может быть Солнечная система — удобно, компактно, недорого.
Всё равно в нынешнем биологическом виде человечество за пределы Земли не переселится НИКОГДА.
И — насчёт эволюции. В предыдущей статье был почти спор насчёт первенства — первый, как всегда, Дарвин. Его положение о естественном отборе и порождаемой им эволюции работает в любой среде, где выполняются три аксиомы:
— есть наследование. Дети похожи на родителей. И — важно — дети вообще существуют.
— есть мутации. Дети отличаются от родителей. Случайны мутации или заданы — не важно.
— есть смерть. Не важно — какая. Старости может не быть и существа могут быть вечноживущими, погибая только от изредка падающих метеоритов.
Всё, будет эволюция «по Дарвину».
vidyacat
А робот, скорее всего, не будет действовать по принципу «убить всех человеков». Просто люди в данный момент альфа-хищник на земле, вершина пищевой цепочки.
Искуственный интеллект- это просто ещё одна форма жизни в биосфере земли. Это форма жизни, превосходящая человека на эволюционный порядок. И ей тоже нужно будет жизненное пространство.
Во всех прошлых эволюционных сдвигах доминировавшие виды всегда массово вымирали, начиная с бактериальных пластов, которые поели первые червячки, только появившись. Соответственно и человечество ожидает сокращение ареала, вымирание, падение качества жизни.
Люди почему-то приписывают ии человеческие качества- то он злой и хочет всех убить, то он добрый и осыпает людей из рога изобилия. Но на самом деле никакой морали для ии, не ограниченного встроенными человеком костылями, не существует- есть только эволюция. Эволюция проста как тапок- самые приспособленные виды занимают больше всего жизненного пространства и оставляют больше всего копий себя. Вот и всё, и никаких скайнетов. И более того- ии это не эквивалент очень важного злого/доброго человека- это эквивалент всей нашей цивилизации, обредший разум.
simki
Корпорорации и государства на данный момент вершина пищевой цепочки и аналог ИИ, решения принимает группа аналитиков. С появлением ИИ принципиально ничего не изменится, просто решения будет принимать ИИ, корпорации получат дополнительную прибыль и постепенно останется один монополист, сконцентрировавший у себя все ресурсы планеты. Далее по моему сценанию.
Vinchi
Корпорации это скорее структура пищевых цепочек, но не вершина. Есть вот например РФ и США, вполне себе могут устроить в любой момент очистку биоматерии с помощью ядерной энергии, только вот почему-то не делают. И всегда существует конкуренция, так что один ИИ никогда не будет, ради своей же эффективности. Просто конкуренция выйдет на новый уровень.
Насчет очистки от кислорода — сомнительно, ибо тепло от мозгов надо как-то отводить — тут либо вода, либо воздух
simki
РФ сейчас по сути не у дел, ВВП 3% от США, просто играет какую-то роль, удобный объект для демонизации например, пиара своих успехов. Основные игроки Китай (первое место в ВВП с 2014 года), США и ЕС. Между ними свои разборки и удачно расположилась Россия.
Один монополист вполне может быть, вполне логично что сильный игрок стремиться стать еще сильнее и постепенно захватывает все ресурсы. Слабым игрокам просто нечего ему противопоставить. Другое дело, что может быть некоторый баланс, когда сложившаяся расстановка сил всех устраивает и нападение оказывается себе дороже.
Очистку биоматерии провести не удастся, ядерное оружие не далеко ушло от каменного топора. Разрушит только крупные города и важные заводы, отбросив страну на 50 лет назад в развитии. Жители вне городов и не заметят разницы. По заражению вреда больше, чем от Чернобыля не будет, по пыли в атмосфере тоже, уже было 2000 испытательных взрывов, никаких побочных эффектов, да и полезна будет пыль для снижения вреда от парникового эффекта. Глобальный апокалипсис может устроить астероид, вспышка на Солнце, взрыв сверхновой рядом, супервулкан, но не человек.