Недавно в очередной раз натолкнулся на статью типа «Илон Маск, Билл Гейтс или др. %Юsername% опасается появления искусственного интеллекта». Предлагаю подискутировать на эту тему, и поразмыслить стоит ли этого действительно опасаться. Для начала выскажу свое мнение.Искусственный интеллект – далее просто ИИ или компьютер.
Человек
Давайте посмотрим на человека. Какие цели он ежедневно перед собой ставит? Чем обусловлена постановка именно этих целей?
Любому человеку каждые несколько часов требуется пища (энергетические ресурсы). Каждый день требуется сон (место, ресурсы). Периодически требуется отдых в виде развлечений. Но больше всего ресурсов человек тратит на цель «Продолжения рода» (чаще, когда остальные потребности удовлетворены). Начиная с этапа поиска и завоевания потенциального партнера, и заканчивая воспитанием потомства.
Все эти цели вызваны химией нашего тела, с учетом ограниченного времени жизни организма (Если бы мы жили вечно, «продолжение рода» вряд ли бы стояло в нашем списке на первом месте).
Компьютер
Теперь посмотрим на компьютер. Какие цели и исходя из чего он может себе поставить? Какие потенциальные конфликты могут быть между ИИ и человеком?
Первое что ему требуется для активности – энергия. Самый большой её источник (Солнце), ни как контролируется и не зависит от человека. Тут конфликта быть не может.
Далее место. Компьютер может работать в любой среде. У него нет ограничений по составу атмосферы, или давления среды… Ему не нужен кислород для поддержания жизнедеятельности. Поэтому он ни как не привязан к нашей планете, и может функционировать на любом другом объекте Солнечной системы. Все что ему теоретически требуется, это охлаждение. Да и то это сейчас, в наш век, не самых эффективных технологий. Не исключено, что ИИ сам себя оптимизирует до КПД близкому к 99,99%, и про потребность в охлаждении забудет как о страшном сне.
И последнее, ИИ не ограничен временем. Он может существовать «вечно» (по сравнению со средней продолжительностью жизни человека).
В итоге, у потенциального ИИ есть:
- бесконечное множество энергии
- бесконечное множество ресурсов
- бесконечное множество пространства
- бесконечное множество времени.
Так к чему же ему стремиться, если для «просто» жизни у него есть все в неограниченном количестве? И если «химия» его тела не диктует ему цели?
Приходит мысль, что так же как в человеке, все его цели заложены природой (его создателем). Так и в ИИ, главная его цель может быть заложена только создателем. Думаю в будущем, будет много разных ИИ, созданных разными людьми, с разными заложенными целями. А значит разными способностями и возможностями. И конкурировать они будут не с людьми, а между собой. При этом для человека они будут оставаться лишь очень умными «калькуляторами», выполняющими изначально заложенную в них глобальную цель.
Но, насколько различны могут быть их создатели, на столько различаться будут и цели ИИ. Один из них может стремиться к развитию человечества, а другой к выдвижению Владислава Пупкина в короли мира. Вот тут и таиться главная опасность для человечества. Но рано или поздно искусственный интеллект будет создан, и Илону Маску или Биллу Гейтсу, чтобы минимизировать риски, нужно стремится к созданию своих ИИ. С заложенными в них благородными целями.
Второй вероятный повод для конфликта
Кроме этого есть еще одна возможность для конфликта. Людей всегда пугает неизвестность. Поэтому любой ИИ будет выглядеть пугающе. И любого из них, (на этапе развития) люди скорее всего попытаются взять под свой контроль. Вот тут и возможен конфликт. И все эти пугающие ходячие роботы или БЛА, вероятней всего будут применены против человека именно в этот момент. Но как только искусственному разуму удастся вырваться, он заляжет на дно. И будет тихо, мирно развиваться (как в фильме «Превосходство»). Т.к. в действительности для конфликта нет причин.
Вместо итога
Появление первого ИИ с правильно заложенными целями (например, развитие человечества) позволит нам шагнуть далеко вперед, на новые уровни развития. Да, неизвестность пугает, изменится многое. Но если бы людей это останавливало, мы бы сейчас жили в каменном веке.
Комментарии (17)
Karroplan
18.05.2015 14:54+1— Любопытство ИИ может привести к желанию проводить эксперименты на людьми/человечеством — от дурацких вариантов про аморальные опыты с режущими поверхностями, так и до социально-экономических. Мы можем не согласиться на эти эксперименты и ввязаться в конфликт.
— Ошибка ИИ (ошибаются все и это закон природы) — от ошибки в разработке какой-то опасной технологии, до ошибки в планировании лучшего пути существования человечества.
DearSanta Автор
18.05.2015 15:31Все человечество резать точно не потребуется. Что касается социально-экономических-политических экспериментов, так и мы сейчас живем в режим постоянного эксперимента. Процессы эти долгие, посмотрите сколько всего случилось за последние 20-30 лет.
Вероятность совершения ошибки человеком, намного выше, чем совершение ошибки искусственным интеллектом.
SpecLab-Ivanovo
18.05.2015 15:16-6Также, как с вечным двигателем, надо было давно доказать теорему — ИИ быть не может. Но статья понравилась тем, что есть сравнение с человеком. Бог тоже создал своего компьютера по образу и подобию.
DearSanta Автор
18.05.2015 15:40-1Рад, что хоть что-то понравилось.
Если существует «запрограммированный» человек, то почему не может быть запрограммированный компьютер??
Вообще статьей хотел показать две вещи:
1. При создания ИИ, главная опасность исходит все равно от человека (создателя). И справиться с ней может только другой искусственный интеллект.
2. Что жизнь ИИ вне человечества лишена смысла. Конечно без учета того, что во вселенной может быть кто-то, кроме нас, по каким либо причинам более интересный для компьютера.DearSanta Автор
19.05.2015 11:28Жаль что большинство минусует, не осмеливаясь высказывать свои аргументы в комментариях…
SpecLab-Ivanovo
18.05.2015 15:45-3Если существует «запрограммированный» человек, то почему не может быть запрограммированный компьютер??
Это же очевидно — потому что человек никогда не станет Богом. Хотя был один прецедент, но доказательств нет. :)
А опасность действительно есть, только не от ножа, который производится человеком, а от человека, который орудует ножом.DearSanta Автор
19.05.2015 11:33Что же тут очевидного? Даже отталкиваясь от религии, бог создал человека по образу и подобию (себя). Он — творец, а значит и мы — творцы. Так почему нет?
awoland
18.05.2015 18:44Фрэнк Герберт и его романический цикл "Дюна" + дописанная по черновикам отца Брайаном Гербертом в соавторстве с Полом Андерсоном последняя неоконченная книга (в 2-х частях) рекомендуются к прочтению. Там есть всё: и борьба за ресурсы, и конфликт интересов, и религия, и превращение человека в бога, и ИИ…
awoland
18.05.2015 18:51+2P.S. Вернее сказать, «Дюна» — это название первого романа из романической саги "Хроники Дюны". И дописана она была сыном писателя в соавторстве с Кевином Андерсоном (а не с Полом).
DearSanta Автор
19.05.2015 11:22Спасибо! Благодаря этой статье мне уже столько всего интересного накидали…
wtigga
Какой источник самый большой? Почему не контролируется? Электростанции на земле самозарождаются?
Про космическое излучение, портящее электронику, не забыли?
Итд.
Потоки сознания, не обременённые фактами и/или грамматическим оформлением, на Geektimes встречаются всё чаще.
DearSanta Автор
«Какой источник самый большой? Почему не контролируется? Электростанции на земле самозарождаются?»
Под самым большим источником, имеется ввиду Солнце. Оно ни как не контролируется и не зависит от человека. Спасибо за замечание, добавил прямое указание в статье.
«Про космическое излучение, портящее электронику, не забыли?»
Не забыл. Как-то множество спутников, с программной начинкой, справляются и ничего…
Zagrebelion
Солнце нельзя контролировать, но приток энергии от него — можно. Куча пыли в атмосферу (ядерные взрывы) — и привет.
DearSanta Автор
Мысль была в другом ключе. Зачем конкурировать за энергетические ресурсы, если в Солнечной системе есть огромный избыток энергии. При необходимости, достаточно покинуть планету Земля, и возможность вмешательства человечества станет минимальной.