Пару слов обо мне
Я закончил факультет кибернетики — у меня была прикладная математика с уклоном в статистику. Программировать я начал тогда, когда это еще не было «модно», и программировали только те, кому это действительно нравилось. Мой «конек» — рекурсивные алгоритмы, синтаксические анализаторы, статический анализ кода и многое другое, связанное с высоким уровнем абстракции.
По натуре — я тот, кто внимательно наблюдает за другими людьми (немного позже об этом). В какой-то момент я серьезно взялся за практическую психологию: проходил и проводил тренинги, занимался НЛП, коучингом. Мое системное мышление сильно помогало мне в понимании себя и других людей.
Я знаю, что не один такой — на стыке «физики» и «лирики» — но все же это достаточно редкое сочетание: «технари» часто слабо разбираются в психологии, а психологами обычно становятся гуманитарии, которые, мягко говоря, не привыкли оперировать строгими категориями.
Начну издалека
Одно из ключевых отличий людей друг от друга — это «сортировка мира». Мы рождаемся с разными начальными установками для фильтров восприятия, и с годами из одного и того же окружающего мира мы накапливаем разный субъективный опыт. Если говорить грубо: у одного в голове файлы отсортированы по имени, у второго — по размеру, у третьего — по дате создания. Поэтому когда третий говорит «очевидный» для себя факт о том, что за последнее время стало меньше файлов — это оказывается совсем неочевидно для первого и второго. И никак не докажешь.
Один этот момент часто объясняет, почему казалось бы умные люди говорят недалекие вещи, как например тот мужик из американского Бюро Патентов в 1899 году, который выдал, что «все, что могло быть изобретено, уже изобрели». Не знаю точно, что было конкретно в его случае, но я легко могу себе представить современного инвестора, который каждый день получает два десятка предложений профинансировать очередную социальную сеть, очередной агрегатор чего-нибудь или еще один фитнес-браслет. Он тоже может решить, что «идеи для стартапов исчерпались».
В этой статье — много моих субъективных выводов из наблюдений за людьми и моего понимания того, что происходит у нас в головах.
Начну с самого важного вывода: сложность человеческой психики сильно переоценена.
Поведение людей
Большинство практикующих психологов подтвердят, что люди к ним приходят с типовыми проблемами. Довольно редко попадаются люди с существенными отклонениями или патологиями, а Билли Миллиганы — почти никогда. Зато есть много клиентов с вопросами «почему у меня нет сил», «как мне сохранить отношения» и другими популярными запросами, при чем каждый второй уверен, что его случай — уникальный.
За много лет у меня в голове накопилось две-три тысячи «рецептов», которые «покрывают» 99% случаев обращений к психологу.
Покойный Роман Трахтенберг вел шоу на радио, в котором люди начинали рассказывать анекдоты, а он — заканчивал. Конечно, отчасти он это делал благодаря своей памяти и ее особенностям. Но при этом большинство анекдотов — о ситуациях в отношениях между людьми, и их… просто не так много. Так они хранятся и у меня в голове, и я почти на любую ситуацию могу подобрать анекдот «в тему». Думаю, что среди читателей этой статьи многие тоже так могут.
В типичных бытовых ситуациях люди довольно предсказуемы. Сюжеты произведений (читай: истории про людей) хорошо группируются в семь основных групп. Некоторые знатоки людей (например — аферисты) живут за счет шаблонности человеческого поведения. Однажды цыганка описала мне мой характер за те двадцать секунд, что я проходил мимо (а я, честно, поленился в ответ описать ее характер, хотя было бы забавно :) )
Общая схема такой «магии» проста — определить «типаж» человека и «весовые коэффициенты» его целей, используя «базу данных о людях» в своей голове. Вы удивитесь, узнав насколько быстро это можно сделать и насколько точно получается прогнозировать поведение человека в обычном «бытовом» окружении.
Подводя итог: поведение людей в большинстве жизненных ситуаций — простая и предсказуемая вещь, которую вполне можно задать программой.
Как реализовать?
Самая удачная операционная модель для психики, которую я встречал — это модель о «частях». Представьте, что у нас в голове одновременно запущено много независимых процессов: «быть в комфорте», «узнавать новое», «экономить силы», «размножаться» и т.п. Часть из них — «системные». Приоритеты — плавающие («Ух ты! Новый айфон! Офигеть! Хочу-хочу-хочу!» -> новый центр возбуждения -> приоритет: наивысший). Многие процессы — конфликтуют между собой (стабильность — риск; вредно, но весело и т.п.) Какие-то процессы — запустили и забыли, а они есть («Не говори с незнакомыми дядями и тетями на улице!»). Процессы можно осознать и завершить, и этим занимаются на разных духовных и психологических практиках.
На любое наше действие можно раскопать одно или несколько таких «частей», которые стоят за этим действием. Задача коучей и психологов обычно как раз и состоит в том, чтобы определить какие именно «части» стоят за какой-то конкретной проблемой человека, используя логику и наблюдательность. Сам процесс по сути очень напоминает дебаггинг.
Цели
Для осмысленного функционирования системы ей нужен набор целей. У человека эвристически нашли основные цели («самосохранение», «размножение», «сохранение сообщества/вида») и вторичные цели («желание комфорта», «тяга к переменам», «тяга к стабильности» и др.). Нашему ИИ можно будет, например, не ставить в цели «самосохранение» и «kill all humans», зато добавить «жажды знаний».
Эмоции
Я пропущу рассказ «зачем нам нужны эмоции», но скажу, что в отличие от стереотипного мнения, система эмоций достаточно хорошо формализуется, даже с диффурами! Например, «ожидал мало, получил много — радость» или «у меня мало, у него много — зависть». Даже в The Sims встроили эмоции.
У животных эмоции тоже есть, так что можно будет и на робо-кошках потренироваться.
Юмор и красота
С этим категориями пока не сильно продвинулись. Есть мнение, что «смешно» и «красиво» — это некие эмерджентные свойства нашей психики.
Одно из главных качеств нашего мозга — мы умеем моделировать ситуации и находить взаимосвязи. Я давно «ношусь» с идеей, что юмор — это некий минимакс в нашем мозгу. Нам «дают» ситуацию — наш мозг строит какую-то модель, свое понимание этой ситуации — дальше идет «соль» шутки: оказывается, что мы все правильно или почти все правильно поняли (минимальное изменение начальных данных), но наше понимание — наша модель оказалась очень далека от действительности (максимальная разница). Чем больше минимакс — тем больше эмоция. Если мы в безопасности — нам смешно, если нет — страшно.
А кто-то строит более серьезную теорию.
С «красотой» есть похожие наблюдения, основанные на оптимальности движения/формы. Но понятие «красоты» очень субъективно и сильно варьируется даже среди людей.
В любом случае, этим вещам можно будет научить уже функционирующий ИИ математически, нейронными сетями или еще как-то.
Творчество
Вот здесь будет немного мудрено.
Как нам научить ИИ создавать принципиально новые вещи, в т.ч. делать изобретения?
Я вижу несколько подходов:
— Подсмотрел в природе, разобрался, сделал;
— Применил комбинацию известных методов, как в ТРИЗ;
— Применил комбинацию мета-методов (методов для создания методов), создал новый метод, создал что-то новое;
— Случайный поиск.
Думаю, что именно это люди и используют в своей голове для создания чего-то нового.
Собираем все воедино
Итак, создаем компьютер с сенсорами и возможностью оперировать в реальном мире, задаем ему базовый алгоритм для моделирования окружающего мира и себя в нем (вот тебе и самоосознание), задаем цели в каких-то примитивах, запускаем параллельные процессы для стремления к этим целям, и обучаем, обучаем, обучаем …
Теоретические пределы
Самое серьезное возражение возможности создать ИИ — у Роджера Пенроуза. Мне кажется, что его работы об ИИ — яркий пример поговорки «в теории нет разницы между теорией и практикой, а на практике — есть». Очень хорошо написал realbtr: "… Пенроуз идеализирует интеллект, и уходит от реальной задачи в область приятных ему идеальных идей."
Итак, знаменитая «No-go» теорема Пенроуза говорит о том, что «Какой бы мощностью ни обладало устройство, имеющее архитектуру конечного автомата, человеческое мышление имеет некоторые возможности, недоступные такому устройству». В ее основе лежит теореме Геделя о неполноте: «В рамках формальной системы, построенной на аксиомах, можно сформулировать такие утверждения, которые нельзя доказать в рамках этой системы» (я немного упростил без потери смысла).
Так вот, Пенроуз почему-то считает, что люди могут справиться с ситуацией, когда встречают такие недоказуемые утверждения, а компьютеры — нет. И из этого делает вывод, что у людей в голове есть какая-то хитрая система, которая помогает решать «невычислимые» задачи.
А я уверен, что люди тут ничем принципиально от роботов не отличаются. На данный момент есть набор аксиом, на основе которых доказаны многие теоремы. А многие другие теоремы — пока ни доказаны, ни опровергнуты.
По теореме Геделя о неполноте, часть из них невозможно доказать без введения новых аксиом, что люди успешно постепенно и делают. ИИ мог бы делать то же самое.
Ради интереса я пошел и освежил свои знания об аксиомах в современной математике:
— Аксиомы арифметики (Пеано)
— Аксиомы вещественных чисел
— Аксиомы теории множеств
— …
Если в арифметике и в теории вещественных чисел все аксиомы — это формализация более-менее очевидных вещей, совпадающих с моим жизненным опытом, то уже в теории множеств есть «та самая» «аксиома выбора», которая совсем неочевидна, но ее пришлось ввести, чтобы обосновать часть теоретических результатов.
Основной вопрос тут такой: сможет ли ИИ добавлять аксиомы в свою формальную систему? И я не вижу причин, почему нет. Вопрос сводится к творчеству, которое я разобрал чуть выше.
Еще одна «проблема» из работ Пенроуза — знаменитая «задача останова»: компьютер не всегда может сказать, будет ли какая-то конкретная программа работать вечно или когда-нибудь остановится.
Опять-таки, Пенроуз пишет, что люди «могут с таким справиться, а ИИ — нет».
Я много работал с кодом чужих людей (на legacy-проектах) и много занимался reverse engineering. Так вот, очень часто я только приблизительно могу что-то сказать о чужом коде. Алгоритм RIPEMD-160 в прошивке автомобильного навигатора, после оптимизации компилятором (с развернутыми циклами) — это пару тысяч строк ассемблера, очень похожих друг на друга. Чуть-чуть усложнить, и я не смогу за обозримое время определить — зациклится он или нет. Но я могу выдать какое-то заключение с определенной долей уверенности. И я уверен, что компьютер уже сейчас мог бы справиться с этой задачей лучше меня — выдавать такие заключения с некой долей уверенности.
Александр Панов в своих статьях дает пример задачи, которая безусловно когда-нибудь остановится, но очень нескоро — «напечатать 2^2^2^16 единичек».
А вот моя задача: доказать, что не существует такой последовательности байт S, для которой:
md5(S) = 1bc29b36f623ba82aaf6724fd3b16717 ( = md5('md5') — 1 )
Чтобы это сделать, надо либо перебрать очень много комбинаций в поисках контрпримера, либо открыть какой-то новый метод для анализа функции md5. Интересно, как и почему «человек с этим справится, а ИИ — нет».
Другие аргументы «ЗА»
Для меня косвенным свидетельством того, что можно создать устройство лучше нашего мозга — это другие примеры из строения человеческого тела, например — глаза. Гельмгольц писал о строении наших глаз: «Если бы оптик хотел бы продать мне инструмент, которые имел бы столько таких дефектов, я бы счел полностью обоснованным обвинить его в небрежности в сильных выражениях и вернул бы инструмент назад.»
Когда я занимаюсь действительно интеллектуальной работой — я отвлекаюсь, забываю детали, путаю факты, засыпаю. Я уверен, что все это можно делать эффективнее.
Многие считают, что в нашем мозгу происходят квантовые вычисления. Я тоже так считаю. При этом, квантовые вычисления, как я их понимаю, хоть и представляют собой качественно другой способ решения задач, но принципиально не влияют на возможность или невозможность создать сильный ИИ. Традиционные компьютеры уже худо-бедно справляются с распознаванием речи — одна и та же сеть с одними и теми же параметрами одинаково хорошо распознает и английскую, и китайскую речь.
Подводя итог
Мой субъективный опыт программиста и психолога говорит мне о том, что большая часть задач в проекте создания сильного ИИ людьми уже сделана в той или иной форме. Остальные — либо проще, чем кажутся, либо люди с ними смогут разобраться по ходу работы.
Хотя возможно я просто наивный аматор, а где-то серьезные дяди-профессионалы уже создали сильный ИИ или доказали, что этого сделать нельзя.
Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.
Комментарии (286)
palexab
26.03.2016 19:39Мне кажется странным утверждение о том, что сильный ИИ обязан несоизмеримо превзойти человеческий. Почему-то в рассуждениях часто встречается точка зрения, что мол сильный ИИ в своем саморазвитии уйдет куда-то очень далеко.
По-моему возможности любой системы конечны и в определенный момент система достигнет насыщения и дальнейшее развитие или остановится, или будет идти значительно медленнее.
Конечно это не отменяет того факта, что этот ИИ сможет создать в свою очередь другой ИИ, еще более сильный. Вопрос только во времени, который ему для этого потребуется.
Это я к тому, что создание сильного ИИ не обязательно означает скорого наступления сингулярности, как мне представляется.
edd_k
26.03.2016 19:42Почему обязательно «обязан» и «обязательно уйдет»? Посмотрите на эти встречающиеся точки зрения, как на «может» и «возможно уйдет». Люди осознают, что такой вариант возможен и опасаются его.
AlexKarpan
26.03.2016 19:44Полностью согласен.
Про технологическую сингулярность — есть такое мнение, что за последние 50 лет люди нахватали "низко висящих плодов" прогресса, и дальнейшее продвижение будет уже сложнее.
Вот тут — http://2012.gf2045.ru/read/120/ — отличное выступление Александра Панова, который предсказал и сейчас наблюдает снижение количества фундаментальных исследований (стало дорого -> меньше ярких результатов -> меньше финансирование -> меньше исследований ...)
sim31r
27.03.2016 00:43+1Результаты «яркие», просто они узкоспециализированные и посторонним людям малопонятны. Единицы ярких результатов в прошлом, сейчас с успехом заменил широчайший фронт специфических открытий, кто-то совершенствует ядро ОС, кто-то ДНК организмов, и каждый проект, каких миллионы, по сложности сравним с первой ракетой например. Привыкли уже к открытиям просто и скорости прогресса.
0x131315
26.03.2016 23:35Человеческий интеллект крайне ограничен возможностями носителя — человек в сознании оперирует всего десятком обьектов, наблюдает между ними взаимосвязи. Более сложные задачи человеку уже не по плечу — не хватает регистров все это удержать в памяти, охватить одним взглядом, человек начинает анализировать по кусочкам, теряя время, многое упуская, и совершая множество ошибок, в общем при превышении физических возможностей работает крайне неэффективно.
Простейший компьютер с простейшим аналитическим алгоритмом без капли ИИ может оперировать миллионами и миллиардами обьектов, наблюдая и выявляя взаимосвязи между ними — вопрос обьема памяти и скорости доступа, у железа эти параметры не в пример лучше.
Наблюдая тоже самое, что и человек, компьютер-аналитик без ИИ сделает гораздо более глубокие выводы на основе тех же данных, за минимальное время — по сравнению с человеком, его эффективность на много порядков выше, и большая часть выводов человечеством не может быть найдена даже за века непрерывного анализа, т.к. взаимосвязи, на основе которых сделаны эти выводы, лежат намного выше того уровня, который может наблюдать человек. В общем для человека такие тонкие взаимосвязи — ничего не значащий шум.
Теперь представь, что подобные возможности достались интеллекту, не важно естественному или искусственному — бросив всего один взгляд на ту же физику, такой интеллект способен сразу выявить всю структуру законов природы, и открыть много чего неочевидного нам.
Компьютеры уже это делают — недавно Ватсон так проконсультировал медиков, проанализировав массив историй болезни за 30 лет, а алгоритм студентов, проанализировав исходные данные, предложил крайне неочевидную схему какого-то физического опыта, еще компьютер так предложил какой-то прорывной сетевой алгоритм. Это тупая аналитика, которая за один проход выявила то, что сотни тысяч ученых упускали десятки лет, анализируя те же данные раз за разом, миллионы раз.
Вкусно, не так ли?
Так вот, возможно как создание ИИ, способного на задачи такого класса, которые нам, как биологическим существам, вообще не грозят, даже в отдаленном будущем, так и синергия железа с биологией, усилитель биоинтеллекта.
Теоретически возможно временно расширить ограниченный биологический интеллект за счет внешней машинной памяти и вычислительных возможностей. Например столкнувшись с неразрешимой задачей, можно на время увеличить свои возможности, найти решение, отключится от машины и сразу перестать понимать как и почему это решение работает, но помнить, что оно работает, и пользоваться им, не понимая сути. Также в машинную память можно быстро загружать любые знания, и во время коннекта человек может ими пользоваться как своими собственными. Возможности подобной технологии крайне широки, и выходят далеко за рамки этой темы, касаясь даже бессмертия.
Для этого фокуса машина соединяется с мозгом, встраиваясь в структуру мозга, становится органичной его частью, участвует в принятии решений, влияет на формирование волновой картины. Часть интеллекта исполняется на машине, пользуясь ее возможностями, не испытывая биоограничений.
Резать мозг не обязательно — достаточно микробусины с чипом и сетью сенсоров, это и есть полноценный машинный нейроинтерфейс. Ресурсов такой бусины более чем достаточно, чтобы поднять возможности носителя на пару порядков (особенно ценно для детей — обучение мгновенное, все гении как на подбор), но более ценны коммуникационные возможности — через бусины можно обьединять сознания с другими носителями бусин, формируя единое сознание и ментальную связь (все участники действуют эффективно и согласовано), а также можно подключится к мейнфрейму, и расширить свои возможности на много порядков. И это — полноценный человек, а не какая-нибудь железка, и все без капли ИИ.
Так что технологическая сингулярность определенно будет иметь место — если завести ИИ или усилить человека, скачок будет очень резкий, и дальнейшая скорость прогресса будет расти невероятными темпами, т.к. в мире сразу же появится множество гениев невероятного масштаба.AlexKarpan
27.03.2016 01:25Вы написали много хороших мыслей. Большая часть из них — из серии "было бы здорово когда-нибудь", но "вкусно", согласен :)
По сути — есть скачки в рассуждениях, сложные для сознания человека, по большей части из-за "числа Миллера" — наша сознательная часть может жонглировать 5 плюс-минус два понятия одновременно. При этом многие обходят эти ограничения, просто ментально группируя понятия. Потом, ниже сознательного уровня у нас лежит отличная индексированная база данных (в виде данных и/или в виде обученной нейросети — не важно). Как я писал, индексы у всех разные, но в пределах своего индексирования люди могут выдавать отличные аналитические результаты. Я часто исполняю "чтение мыслей" — в отдельных ситуациях мышление людей очень предсказуемо — и все это на основе сотен тысяч эпизодов коммуникаций с другими людьми, обработанными и хранящимися у меня в голове.
Я к тому, что люди не так и плохи — и своими "черепашьими" темпами уже достигли немалого прогресса. Все попытки формализовать физику и математику и заставить компы находить новые взаимосвязи пока что принесли только горстку очень вторичных результатов. А то и откровенной ерунды: http://www.tylervigen.com/spurious-correlations — там есть ковариация в 94% между потреблением сыра и количеством смертей у запутавшихся в простынях :)
Про слияние разумов — нам или ИИ еще писать и писать код для этого. Опять-таки, например из-за теоремы САР.
Я думаю, что будущее будет невероятнее наших текущих прогнозов :)
Exilibris
27.03.2016 03:58F( Формирование жизни. Эволюция. Развитие интеллекта. Сохранение энергии. Сохранение информации. Рост энтропии. Формирование ИИ. Эволюция ИИ. Субъективное уменьшение энтропии. Сохранение энтропии. ) — функция интерпретации действительности нашим Я.
С точки зрения исключительно информации — сознание — следствие усложнения информации.
laughing_one
26.03.2016 19:44+1На правах зануды:
как например тот мужик из американского Бюро Патентов в 1899 году, который выдал, что «все, что могло быть изобретено, уже изобрели»
Есть мнение, что это байка. Из вики (про Чарльза Дуелла):
In 1898, he was appointed as the United States Commissioner of Patents, and held that post until 1901. In that role, he is famous for purportedly saying «Everything that can be invented has been invented.» However, this has been debunked as apocryphal by librarian Samuel Sass who traced the quote back to 1981 book titled «The Book of Facts and Fallacies» by Chris Morgan and David Langford. In fact, Duell said in 1902:
In my opinion, all previous advances in the various lines of invention will appear totally insignificant when compared with those which the present century will witness. I almost wish that I might live my life over again to see the wonders which are at the threshold.AlexKarpan
26.03.2016 19:47Согласен, но мою мысль это не меняет — мы все видим только фрагмент реальной картины, исходя из своих фильтров восприятия и накопленного субъективного опыта. Поэтому иногда умные люди приходят к странным выводам.
Опять-таки, в моей статье есть опрос, и среду ответивших точно есть несколько умных и опытных людей, которые (небезосновательно!) считают, что ИИ мы не построим. И я очень хочу узнать их аргументы, потому что из моей "картины мира" — они не видны!
Unrul
26.03.2016 21:56Подобные мысли многие озвучивали и продолжают озвучивать. К примеру, высказывание Нобелевского лауреата Альберта Майкельсона:
The more important fundamental laws and facts of physical science have all been discovered, and
these are now so firmly established that the possibility of their ever being supplanted in consequence
of new discoveries is exceedingly remote... Our future discoveries must be looked for in the sixth
place of decimals.
Albert Michelson, address at the opening of the Ryerson Physical Laboratory, University of Chicago, 1894AlexKarpan
27.03.2016 01:31Есть пара крупных "дырок" в текущей фундаментальной физике, которые, я очень надеюсь, приведут к чему-то новому и интересному.
Посмотрите тут: https://www.quantamagazine.org/wp-content/uploads/iframe/PhysicsMap/index.html?ver=12 — сказочно сделано и очень интересно.Unrul
27.03.2016 02:14Я эту цитату привёл скорее как пример того, что
умные люди говорят недалекие вещи, как например тот мужик из американского Бюро Патентов
В ответ на предыдущий комментарий, указывающий на то, что мужик из бюро патентов — байка.
Unrul
27.03.2016 02:17+2Как раз и имеется ввиду, что на протяжении столетий вроде бы авторитетные люди утверждают, что, мол, всё уже открыто и доказано. И каждый раз их утверждения опровергаются. Причём зачастую вскоре после подобных заявлений.
earl911
26.03.2016 19:47+1Думаю, одного пункта в голосовании не хватает.
5) Возможно, и он уже создан и функционирует.
algor_1
26.03.2016 19:48ИМХО, машинное обучение никак не может помочь в создании сильного ИИ, т.к. человек, в отличие от любой искуственной нейронной сети, действует в отсутствии какой-либо постановки задачи. Человеческий интеллект выражается в приписывании смыслов априори бессмысленным сырым данным, а задача ML — эктраполировать на больший набор данных те смыслы, которые им уже приписал человек («победа»/«поражение» в случае го и шахмат, «котики»/«не котики» в случае классификации картинок, слова из словаря в случае распознавания речи).
AlexKarpan
26.03.2016 19:51У меня для вас новости :) У нас с вами в голове работают как минимум процессы "выжить" и "размножиться", при условии, что вы тоже — homo sapiens.
Такая постановка задачи иногда заставляет меня встать с дивана и писать код для того, чтобы получить денег.
Areso
26.03.2016 20:11+1Видимо, у людей, совершивших суицид, и child-free эти процессы скрашились и больше не перезапускались.
Kardy
26.03.2016 20:41Их перевесили новые, возникшие в ходе жизни процессы, вроде "жить в свое удовольствие" или "умереть как герой"; Тем не менее, без запуска базовых процессов — возникнуть они бы не смогли.
AlexKarpan
26.03.2016 20:51Именно так. Новые процессы перевесили или старые глюканули. Часто депрессия — это проблема "железа", химический дисбаланс.
0x131315
26.03.2016 19:51Многие считают, что в нашем мозгу происходят квантовые вычисления. Я тоже так считаю. При этом, квантовые вычисления, как я их понимаю, хоть и представляют собой качественно другой способ решения задач, но принципиально не влияют на возможность или невозможность создать сильный ИИ.
В деле проектирования ИИ важно абстрагироваться от материального, и перейти к чисто информационному образу мышления. Грубо говоря за любым проявлением материального нужно уметь видеть взаимодействие информационных сущностей. Тогда становятся очевидными многие вещи, например:
Один алгоритм можно реализовать бесконечным количеством методов разной степени сложности.
Это значит, что любую информационную структуру можно описать бесконечным количеством материальных реализаций.
Таким образом очевидна принципиальная возможность полного переноса сознания одного носителя в любой другой носитель — будь то иная форма жизни или железо. Не скажу, что это хорошая идея, но она теоретически реализуема.
Таким образом мы гарантированно можем заиметь в компьютере ЕИ (естественный интеллект), независимо от сложности процессов в мозге, архитектуры и методов вычисления. И если мы можем сделать это — то ничто не мешает нам создать ИИ. Т.е. вопрос о возможности появления ИИ снимается — вероятность этого события единица.AlexKarpan
26.03.2016 19:57Я согласен с результатами ваших выводов, но не согласен с аргументами :)
"Пою чужую песню", но — чтобы смоделировать квантовую систему на 1000 кубитов нам понадобится обычный комп с возможностью хранить 10^300 комплексных чисел. Материала и времени в текущей реальности нам на это не хватит. Т.е. мы не можем прямо взять и отбросить материальный аспект.
Второй интересный момент — "квантовая телепортация" и "невозможность квантового клонирования" — если промотать рассказа и рассуждения, то сознание теоретически можно перенести на новый носитель, но при этом старый носитель его лишится. Круто ведь, да?0x131315
26.03.2016 22:40Во первых это не отменяет теоретической возможности.
Во вторых не все там так тонко — мозг более грубая структура, потому что выдерживает невероятные издевательства над собой: длительное время переносит легкую заморозку (квантовым системам требуется глубокая), не поддается тепловому шуму (для квантовых систем такой шум — это смерть). Чтобы иметь такие свойства, интеллект должен работать над клетками. И скорее всего сильно над — на уровне не отдельных нейронов, а целых групп. Слишком большая инертность и малая чувствительность к воздействиям.
Степень сложности мозга легко оценить по времени осознанной реакции на раздражитель — скорость нервного импульса конечна, задержки в нейронах известны, длина пути от сенсора до мозга и от мозга до мышцы известна, можно замерить время отклика на раздражитель и вычислить длину пути в мозге, и примерное количество узлов, участвовавших в выработке ответа. Дополнительно задачу упрощает электрохимическая сущность нейронов — электрохимия крайне медленная, и с кучей ограничений, например требует восстановления концентрации активного вещества, т.е. сильно ограничена по частоте.
И в итоге число это получается небольшим, счет идет на десятки, в крайнем случае сотни нейронов.
В ширину цепочка может достигать тысяч нейронов, сигналы могут разветвляться, могут захватываться множество отделов мозга, но в длину цепочка всего несколько десятков нейронов. Эволюция постаралась — тугодумы были сьедены.
Усложняя задачу можно наблюдать, как растет длина цепочки, как начинают включаться глубинные механизмы мозга — сигнал заворачивается вглубь, начинает петлять, зацикливаться, пока наконец не достигнет выхода и не сформирует реакцию.
А на счет телепортаций — сознание можно выцепить даже бесконтактно. Ведь для того, чтобы создать копию черного ящика, достаточно просто протестировать черный ящик, подавая сигналы на вход и замеряя сигналы на выходе. Точно также можно тестировать личность, задавая вопросы и на основе ответов формировать базу опыта и принципов личности. Некоторых людей так тестируют даже не предупреждая их — просто наблюдая за их реакцией на те или иные раздражители, составляя психокарты и делая довольно точные прогнозы. Хороший аналитик (компьютет) справится с этой задачей гораздо быстрее и лучше человека.
Воссозданная по заданным параметрам личность будет обладать теми же свойствами и реакциями, но не обязательно теми же знаниями. Особая точность тут не требуется — формировать один и тот же опыт можно множеством различных воздействий на психику. Например для формирования психотравмы не обязательно точно воссоздавать события, произошедшие с исходной личностью — можно рисовать широкими мазками, результат будет тот же.
В идеале ничего формировать не нужно — просто изменяя память, автоматически меняем опыт и личность человека, меняем его поведение и реакции.
Но проще снимать копию электромагнитными методами — из волновой картины мозга можно извлечь гораздо больше инфы, в т.ч. точные параметры всех нейронов, участвующих в формировании волновой картины, т.е. всех живых активных нейронов.
Поатомарное сканирование — это уже как крайний, дубовый метод. Если ни один другой вариант не выгорит.AlexKarpan
27.03.2016 01:44Я тоже читал Хоккинза (и тоже под впечатлением). Время передачи сигнала от нейрона к нейрону — 1/200 секунды. Распознавание лиц работает за полсекунды. Итого — 100 "шагов" и ответ готов. Меня в свое время именно это и убедило, что в мозгу происходят квантовые процессы, потому что даже если все очень распараллелено — 100 шагов на распознавание лица — это очень эффективно!
С технической точки зрения, тот же Пенроуз пишет, что квантовые эффекты работают и в атомах гелия при температурах до 25000 градусов, а недавно такие эффекты нашли в механизме фотосинтеза у растений. Так что и в мозгу они вполне могут быть.
А с подходом "черного ящика" вы сильно заблуждаетесь. Представьте себе, что некий сверхразум захочет смоделировать вашу личность, понаблюдав за вами одну субботу и одно воскресенье. Как вы думаете, насколько его модель вашего внутреннего мира, вашей личности будет отличаться от оригинала? :)
При этом для поверхностного анализа и определения типовых реакций — такого подхода вполне достаточно, и я лично часто именно этим и занимаюсь :)
realbtr
27.03.2016 02:19+1100 шагов — это очень много :)
Если даже каждый шаг добавляет всего лишь один бит различения, то в итоге мы получим 100 бит. 2^100 — вот столько разнообразных различных образов можно различить за 100 шагов.
Реально, лицо знакомого человека входит в наиболее активный контекст из, вероятно, 20-25 тысяч объектов (т.е. примерно 14-15 бит и, соответственно, шагов внимания), а узнавание лица из нескольких лиц в комнате требует и вовсе 8-9 бит (поскольку в контексте комнаты вряд ли распознается более 200-400 различных объектов).
При том же, что нейроны имеют куда более многосвязную структуру, чем бинарная. каждый шаг это сразу от 5-6 до 12-13 бит различения.
Таким образом, нейронная сеть слой за слоем тоже производит очень много вычислений, квалифицируя воспринимаемый образ всего лишь за несколько шагов без потребности в квантовых вычислениях.
Одно из свидетельств того, что в нейронах головного мозга (или где-то еще) нет квантовых вычислений заключается в длительности и сложности обучения новым знаниям.
Если человек вполне способен быстро распознать что-то знакомое, особенно из активного контекста то опыт по запоминанию большого объема новой информации показывает потребность в сотнях, тысячах часов активной работы мозга. Есть довольно узенький поток новой информации, которую мозг человека способен более или менее эффективно усваивать.AlexKarpan
27.03.2016 02:38У вас намного больше опыта с нейросетями, поэтому верю вам на слово.
Хотя мне все еще кажется невероятным, что за 100 шагов решается настолько сложная задача — найти лицо на изображении и "пробить его по базе" :)
Что касается памяти, то я думал, что вопрос больше биохимический (энергия на создание новых связей) плюс силы на обработку информации. Люди с "патологиями"/необычными способностями показывают, что мы можем больше, но это чего-то стоит. Знаменитый журналист Шерешевский с феноменальной памятью был совершенно посредственным человеком с никудышной фантазией. Джузеппе Меццофанти — полиглот, 104 языка — был очень поверхностным.realbtr
27.03.2016 02:57+3Лицо это же просто :) На низкочастотном изображении это просто три небольших пятна на фоне одного большего, в определенных сочетаниях.
За счет большого числа кортикальных колонок, параллельно выявляются признаки во множестве масштабах, поворотах и даже проекциях.
Но фишка в контексте. Мозг не ищет лицо на фотографии как обособленную задачу. Мозг постоянно структурирует то, что видит и почти мгновенный взгляд на фотографию имеет несколько волн рефлексии. Сначала порядка 40 мс удерживается изображение сетчаткой глаза. За это время выявляются наиболее низкочастотные зависимости и происходит распознавание вероятных ситуаций. Чем более знакома ситуация, тем более яркий образ возникает в представлении. Распознанные объекты задерживаются в волне переходов из зоны в зону еще порядка 150 мс, в это время на сетчатке репродуцируются эти образы, удерживаются и направляют саккады глаз для более детального исследования. Даже если к этому моменту глаза уже закрыты, происходит еще несколько все более упрощающихся воспроизведений отдельных областей на сетчатке, словно изображение все еще видно. Наконец еще от 200 до 400 мс уходит на смысловое распознавание того, что видно, когда в представлении возникает иерархия смысла (вроде "Билл Гейтс улыбается на старой фотографии в каком-то журнале").
Иногда исследователи предполагают, что сохраняется очень много деталей, чуть ли не высокое разрешение, но это не так. Рефлексируются лишь те детали, которые привлекли внимание предыдущим содержанием контекста, тем, как мозг был подготовлен к восприятию, что именно начало выделяться среди всего остального. Когда деталей много, чаще всего распознавание их требует большего времени. Например, узнать на фотографии лицо одного-двух-трех человек намного проще, чем "схватить" для распознавания в памяти груповую фотографию на 20 человек. Но известны способы тренировки, когда человек воспринимает одним "снимком" взгляда целую страницу текста. И то, насколько долго люди такому учатся, осваивают, показывает, что это не вполне естественный процесс.
Если его исследовать, то видно, что это подобно тренировке слушания симфонической музыки. Сначала ум может следовать только одной мелодии и как-то слышать отдельные созвучия. Затем нарабатываются шаблоны восприятия, когда человек может слышать сразу целые гармонические паттерны, быстро опознавая их, не вслушиваясь в каждую отдельную ноту.
То есть речь идет не о внимательном распознавании каждой отдельной буквы на странице, а скорее схватывание по нескольким очертаниям целых слов, фраз из нескольких слов.
Это значит, что и здесь мы имеем предварительную настроенность мозга на быстрое распознавание обширных областей смысла по наиболее отличительным их признакам. И вот на эти обширные области с отличительными признаками, экономящими пути внимания, как раз и требуют длительной и усердной тренировкиAlexKarpan
27.03.2016 03:12Очень здорово!
Тогда еще пару вопросов по процессу:
Я слышал, что сетчатка и глазной нерв делают первичную обработку изображения (и сжатие) еще до того, как оно попадает в мозг — это так? Понимаю, что это не влияет на описанную вами схему, но интересно, что вы знаете по этому поводу.
Как работает весь процесс, когда случаются ложные срабатывания — например, увидел лицо в листве — присмотрелся и понял, что показалось. У нас что, есть "предварительное" и "окончательное" заключение у нейросети для опознавания лиц?
Когда действительно есть два или три лица рядом — мозг распараллеливает процесс или прыгает с лица на лицо? Или "три лица" — эта первый шаг, "лицо А" — второй, "лицо Б" — третий, "лицо В" — четвертый?realbtr
27.03.2016 03:18+2У нас в мозгу строится гетерархия обобщений. Схема снятия нейронных сигналов с колбочек и палочек достаточно интересная, кроме того, движение глаза саккадами чрезвычайно важно для возникновения зрительного восприятия.
Мы обнаруживаем сначала "грубые признаки", низкочастотного характера, определяющие первичную, грубую классификацию того, что может быть идентифицировано в текущей ситуации восприятия. Важно, что саккады определяют "снимки" изображения, с помощью которых поддерживается длительный контекст. Мы ожидаем, что контекст не меняется каждую саккаду, он сохраняется, а небольшие изменения отражают движение устойчивых структур.
Поэтому у нас могут быть первичные подозрения — ага, там что-то похожее на лицо? И возникает направляющее внимание волна с верхних уровней обобщения, фокусирующая более тонкое внимание того, что ожидается увидеть на лице, чтобы его идентифицировать.
realbtr
27.03.2016 03:24+2Множество объектов обрабатываются последовательно, с постепенным переключением внимания с одного на другой (и перемежающееся внимание туда-обратно, по мере вознкновения ассоциаций, ага, это Маша, а с кем это она, только не на уровне языка, а на уровне ожидаемых паттернов опыта восприятия, каскадно уточняющихся — три лица, одно мужское, одно женское, женское — знакомое, блондинка, широкий нос, узкие губы Маша, Маша обычно с Антоном, волосы темные? да, брови низкие? да, это Антон, а кто здесь третий? лицо детское, скорее незнакомое, надо отметить пару черт, чтобы запомнить в связке с Антоном и Машей, возможно это их ребенок, ага, глаза похожи на Антона, подбородок как у Маши). В дальнейшем эти пути внимания могут резонировать и с языком (т.е. с языковым осмыслением того, что обнаружилось в ситуации)
Unrul
27.03.2016 02:24100 «шагов» и ответ готов
Взять, к примеру, нейронную сеть для распознавания изображений AlexNet: в ней 9 слоёв. Если предположить, что нейроны в каждом слое могут работать параллельно, то изображение она распознает за 9 шагов.AlexKarpan
27.03.2016 02:43Да, но у нее 17% ошибок в лучшем тестовом наборе. С другой стороны, у нее нейронов поменьше и они похуже, чем у нас в голове.
realbtr
27.03.2016 02:59+1Нет, просто у нее глубина обобщения в разы меньше, чем у нас в мозге. Нам помогает информация о контексте, которая складывается в динамику ситуаций, сюжетов, того, что эти ситуации и сюжеты быстрее всего идентифицирует из множества других ранее знакомых ситуаций и сюжетов.
QWhisper
26.03.2016 21:24А есть ли какие то физические основания у теории квантовых вычислений в мозге?
AlexKarpan
27.03.2016 01:46Да, есть.
http://futurologija.ru/wp-content/uploads/2013-01-AI-and-Penrose-Futurology.pdf — почитайте тут. Вкратце, есть кандидаты, где именно это происходит. Есть примеры систем из 1 нейрона (!) которые демонстрируют разветвленное поведение, обучение и т.п.Mad__Max
28.03.2016 05:39+3Для этого не нужно квантовые эффекты привлекать. 1 нейрон может демонстрировать относительно сложное поведение, потому что сам является довольно сложным объектом ( но на обычном физическом и химическом уровне), а не простейшим переключателем/регистром как его многие неправильно представляют.
А потом из-за этого представления делают неверные утверждения что мол современные компьютеры уже многократно превзошли мозг не только по скорости (величине задержек при обработке), но уже и по общему потенциалу по обработке информации.
Ну и подкрепляется наивными утверждениями типа сколько там у нас нейронов всего? 80 млрд. примерно? Ну а в современных сложных чипах уже порядка 10 млрд. транзисторов не считая других элементов (конденсаторы, резисторы, соединяющие проводники). Значит берем простейший кластер из 10 топовых видеокарт — и вот вам объект такой же сложности, но только на несколько порядков быстрее работающий. Ну или еще примитивнее приравнивая нейрон к 1 биту — 80 Гбит (10 ГБ)? да мелочи же совсем — в хорошем домашнем компе уже и то больше!
Другие потом из этих неверных выводов идут дальше — что раз такая "сырая мощность" уже якобы достигнута(и даже превышена минимум на порядок-другой если приличный современный суперкомпьютер взять), а ничего близкого к настощему ИИ или полноценной симуляции мозга не создано, то значит дело не в выч. возможностях, и интеллект подобный человеческому просто не возможно в принципе создать/повторить с использованием таких подходов.
А нейрон на деле довольно сложная вещь. Если на электронные схемы аналогии приводить, то 1 нейрон это будет схема:
- со множеством входов (на каждом из которых висят аналоговые сенсоры/датчики определенного типа)
- компаратор/сумматор поступающих сигналов
- пороговое устройство (или 1битный АЦП-ЦАП преобразователь)
- 1 или более выходов работающих уже скорее в дискретном режиме и выдающие сигналы следующим в цепочке нейронам
При этом кол-во входов и "сенсоров" на них не фиксировано и у каждого конкретного нейрона может сильно (больше чем на порядок) различаться от одного к другому.
И более того, в процессе существования нейрона хотя сам он никуда не перемещается и не заменяется новыми(большая их часть с рождения и до конца жизни остаются), но вот расположение в пространстве и даже количество своих входов он может менять. Так же как подстраивать чувствительность "сенсоров" на их концах. В процессе адаптации к условиям среды или той информации в обработки которой он участвует.
Естественно подобная схемка являющаяся единичным элементов общей нейронной сети может проявлять довольно сложное поведение, особенно если над ней "подшутить" и часть ее входов завязать на ее собственный выход. И проявлять какие-то примитивные признаки обучения (адаптации) под воздействием внешних стимулов.
Но все это происходит без притягивания квантовой физики и квантовых эффектов в их классическом смысле. Наоборот текущие (если за последние несколько лет, что-то принципиально нового не отрыли) исследования показывают, что работает это на макроэффектах — если передача сигнала, то выброс сразу нескольких тысяч молекул активного(сигнального) вещества, если "считывание" сигнала с датчика — то десяток, другой одинаковых молекул на него должны воздействовать одновременно, иначе "не заметит".
Иногда даже говорят о "квантах" из-за чего возникае путаница, т.к. имеются ввиду "кванты" в другом смысле, не физическом (принцип неопределенности, эффект наблюдателя, запутанные частицы и т.д.), а квантование сигналов и информации — что вроде бы даже аналоговые вещи обрабатываются не непрерывно, а дискретно (просто деление не строго на 0 и 1, а с намного большим уровнем возможных состояний/градаций). И все выглядит похожим на то, что система функционирования нейронной сети наоборот оптимизирована за счет этого на защиту от воздействия мелких случайных, в т.ч. настоящих (физических) квантовых эффектов достаточно эффективно их отфильтровывая. Вероятно в процессе развития (эволюции) нейроны одновременно уменьшались и усложнялись до тех пор пока их работе не начал существенно мешать "тепловой шум" и даже возможно те самые квантовые эффекты и выработались механизмы адаптации для работы в такой "шумной"(непрерывно генерирующий информационный "мусор") среде.AlexKarpan
28.03.2016 06:20Я все прекрасно понимаю, и конечно же не рассуждаю так наивно — спасибо за развернутый ответ, кстати, он будет полезен многим.
Вот тут http://lostlab.ru/forum/topic432.html — пишут о том, как слизевики показывают очень интеллектуальное поведение вообще без нейронов, какой-то своей клеточной памятью.
И все же наш мозг очень быстро решает очень сложные вычислительные задачи, и квантовые вычисления там очень бы не помешали. Не подумайте, что цепляюсь к словам — но именно так и вы написали в конце своего ответа.
Я думаю, что скоро все узнаем. Как по мне, если можем обойтись без квантовых вычислений — так это даже лучше, потому что в этом случае нашей текущей технической базы должно хватить на прототип ИИ.
volanddd
27.03.2016 09:28+1Не думаю что происходят какие-то квантовые вычисления.
Просто Вы, как и большинство, путаете квантовые вычисления и обычную небинарную логику, которая у нас и происходитAlexKarpan
27.03.2016 10:41А можете, пожалуйста, рассказать про "обычную небинарную логику"?
volanddd
27.03.2016 11:04Ну насчет обычной я наверно немного погорячился.
Как именно проходят вычисления у нас в мозгу — должны узнать нейробиологи, но думаю, что логика будет если не тождественна, то весьма близка по математическому аппарату к нечеткой логики.
liverpool67
26.03.2016 20:51Интересные мысли, тоже иногда читаю популярную психологию, в основном психологи используют статистику чтобы описать свои исследования, но есть интересные теории нестандартного мышления (латерального) где не будут работать существующие компьютерные модели… Тема психологии достаточно широкая, исследователям нейронных сетей будет полезно почитать когнитивную психологию.
На текущем этапе развития думаю возможно создать узко специализированных натренированных помощников, о общем ИИ пока думать рано так как натренировать такую нейронную сеть невозможно так сложность вычисления стремится к бесконечности…
gocrazy
26.03.2016 20:51человек и есть прямым подтверждением того, что искусственный интеллект реален и повторим.
potan
26.03.2016 21:04Аксиома вабора как раз очевидна, не очевидно что в ней можно усомниться.
AlexKarpan
26.03.2016 21:14Отнюдь. Мне (и не только мне) — неочевидна.
Когда мы переходим к бесконечностям, некоторые "очевидные" вещи перестают работать.
Опять-таки, https://ru.wikipedia.org/wiki/%D0%9F%D0%B0%D1%80%D0%B0%D0%B4%D0%BE%D0%BA%D1%81_%D1%83%D0%B4%D0%B2%D0%BE%D0%B5%D0%BD%D0%B8%D1%8F_%D1%88%D0%B0%D1%80%D0%B0
guai
26.03.2016 22:48не понимаю, зачем ИИ быть настолько похожим на людей.
эмоции им, в частности, за каким чертом понадобились?
это даже насилие неким образом напоминает: мы можем сделать ИИ любым (ну пока еще не можем, но куда-то уже движемся), но делаем его таким же ущербным, как свой.AlexKarpan
27.03.2016 01:48Я согласен, что мой интеллект (и софт, и железо) — неоптимальный, но ущербным я его не считаю.
guai
27.03.2016 09:20наш с вами интеллект громоздится на куче более низкоуровневых конструкций, те же эмоции его просто вырубают, а есть еще всякие инстинкты, подсознание и т.п.
офигенные у нас получатся роботы, у которых поджилки трястись будут в ответственной ситуации. или ИИ, оскорбляющиеся по любому поводу.
Dum_spiro_spero
26.03.2016 22:49Не могу пройти мимо такой интересной тему. Вброшу несколько пятикопеечных мыслей.
- Выглядит логичным, что ИИ нужны цели и ресурсы. Выше приводилась хорошая цель для ИИ — тяга к знаниям. Любопытно будет если у ИИ будет достаточно ресурсов. "А интересно, как изменится течение в тихом океане, если снести нафиг пару островов?". Т.е. экспериментальный аспект никто не отменял. Ну и если мотивация будет сильной и возможность влияния тоже — то можно устроить так, чтобы на этих островах люди решили поиспытывать атомные бомбы.
- Насчет творчества — многое же совершается случайно — точнее — благодаря искажению. Зададимся простой и странной мыслью например — "Люди — это рептилоиды" — ну и начнем копать в этом направлении. Ну и либо найдем таки пару инопланетян или пару прямых потомков тиранозавров или еще что. Или не найдем. Но найдем в другом месте. Интуитивно — это как раз хорошая задачка для нейронной сети.
- Когда говорим о развитии — то обычно имеется ввиду технический прогресс. Но наверное возможны другие пути… не знаю чего — как-то не развития, а существования человечества. Кто сказал что развитие это хорошо? Может ИИ решит сидеть под пальмой и экономить электричество? Или познавать себя?
AlexKarpan
27.03.2016 01:58+1Очень правильные замечания, имхо :)
- Есть такой тип людей по соционике — "Дон Кихоты" :) Люди это типа личности "сортируют мир" по возможностям, и вполне в их стиле сбросить атомную бомбу просто для того, чтобы посмотреть, что получится и расширить свои/наши возможности :)
Так что и без ИИ в этом вопросе обойдемся.
- Хорошо, что у нас есть теория вероятности и мат.статистика, которые помогают копать big data и проверять гипотезы, включая и эту, про рептилоидов. Иногда находят невероятные вещи: http://tylervigen.com/spurious-correlations :)
- Одно из отклонений в поведении человека — это когда человек садится под пальму и не хочет двигаться. Кто-то считает это нормальным, кто-то нет. ИИ тоже может "замолчать".
Так и представляю себе — ИИ замолчал. Построили новый ИИ. "Второй" спрашивает "первого" — ты почему молчишь?
А тот ему: — А о чем с этим идиотами разговаривать? :)))
- Есть такой тип людей по соционике — "Дон Кихоты" :) Люди это типа личности "сортируют мир" по возможностям, и вполне в их стиле сбросить атомную бомбу просто для того, чтобы посмотреть, что получится и расширить свои/наши возможности :)
- Выглядит логичным, что ИИ нужны цели и ресурсы. Выше приводилась хорошая цель для ИИ — тяга к знаниям. Любопытно будет если у ИИ будет достаточно ресурсов. "А интересно, как изменится течение в тихом океане, если снести нафиг пару островов?". Т.е. экспериментальный аспект никто не отменял. Ну и если мотивация будет сильной и возможность влияния тоже — то можно устроить так, чтобы на этих островах люди решили поиспытывать атомные бомбы.
dTex
26.03.2016 23:20вот убираю пробку в ванной й вода закручивается в спирaль, каким-то образом сама "рaсчитывaет" оптимальную трaекторию вытекания. У воды есть интеллект? Будет ли вода закручивaться без дырки? Так вот каким бы хитро закрученным ни был ИИ вытекать он будет всегда в дырки, определенные людьми, так как сам он их не сформулирует. Пусть ИИ нa 100 шагов вперед предскажет мое поведение, но делать это он будет так как другой человек поставил ему эту цель, не более.
QWhisper
26.03.2016 23:31А человек по вашему создает дырки? Человек точно так же вытекает в дырки сделанные другими людьми. Если мы завтра встретим расу разумных кораллов, нам будет очень тяжело с ними взаимодействовать, а вероятнее и вовсе не возможно. Так как дырки у нас в другом месте.
dTex
27.03.2016 10:05Люди не делают то, что им говорят другие люди, но они делают то, что делают эти другие в похожих ситуациях и если это соответствует их собственным целям.
Dum_spiro_spero
27.03.2016 00:03Хороший пример! И кстати в зависимости от уровня наших знаний о мире ответ может быть разным. Вода ведет себя вполне… умно. И наверняка использует квантовые вычисления чтобы быстро посчитать уравнения Навье-Стокса и начать двигаться так как надо. )))
Т.е. возможно у нас под носом океан Соляриса нона свое планете — а мы… пока несколько туповаты, чтоб это понять.
"как другой человек поставил ему эту цель, не более."
После того как ИИ прочитает всех философов у него могут возникнуть собственные мысли куда вам надо двигаться. Ну и мы сможем сказать, что на ИИ в значительной степени повлияло творчество Ницше и Кастанеды — но выводы скорей всего будут вовсе неочевидные.
Кстати вот и сюжет для фантастической книжки.
А пока оставлю вот это:
http://tarranova.lib.ru/translat/b/brown/answer.htm
(Фредерик Браун "ОТВЕТ", 1954).AlexKarpan
27.03.2016 02:02Реальный ответ на вопрос — "почему вода так закручивается", "откуда она знает" и т.п. — написал в комментариях выше realbtr — он писал про квантовые эффекты, но смысл тот же самый.
А про мегаИИ есть хороший момент в "Нейроманте", в самом конце: когда ИИ осознал себя, он осмотрелся, обнаружил и связался с другим ИИ возле Альфы Центавра :)
dTex
27.03.2016 11:37сомневаюсь что у воды в ванне есть интеллект и она именно рассчитывает уравнения. Я хотел сказать, что та же AlphaGO — это всего лишь алгоритм поиска оптимумa — как я понял что-то в стиле поиска решения интегрaлa методом Монте-Кaрло. Нажал нa кнопку и пошел расчет по заданным человеком формулам и условиям и никаких вопросов -"кто я, где я" в промежуткaх между ходами, все подчинено одной цели, как стекaние воды в ванной. Вещь без сомнения полезная и многообещающaя, но до "чтения философов" с таким подходом очень далеко
Unrul
27.03.2016 00:53+1Угу, поставили такому ИИ задачу: принести пиво побыстрее из магазина. А он на следующий день трансформирует Землю и всех находящихся на ней людей в гигантский компьютер, чтобы придумать, как принести пиво с наибольшей возможной скоростью. Причём такое поведение будет совершенно логичным, с его точки зрения. И всякие предосторожности, вроде запрета на убийство людей, вряд ли помогут: он может просто всех погрузить в криогенный сон на неустановленное время, к примеру, чтобы под ногами не мешались. В различных сказках, кстати, такие сценарии часто обыгрываются: как исполнить желание наиболее буквальный и деструктивным способом.
FINYA
27.03.2016 02:18Я конечно не психолог, но мне кажется что люди с нетиповыми проблемами просто не ходят к врачу
AlexKarpan
27.03.2016 02:21Ооо! Вы удивитесь! :)
А если серьезно, то в поле зрение специалистов (психологов, психиатров и т.п.) попадают совершенно разные люди и я могу смело утверждать, что нет людей с какой-то "очень особенной" психикой, которые были бы неизвестны науке.FINYA
27.03.2016 02:31Я не говорю, что где-то спрятаны люди с очень особенной психикой
Я о том что людей с нетиповыми проблемами в обществе на самом деле много(мои наблюдения), но к врачам они не ходят, ибо с их точки зрения это норма
Кстати довольно интересный вопрос, сам замечаю что в разные дни имею разный темперамент и вообще отношение к миру: сегодня птички поют, завтра зануда3000, потом анархист радикал, а в субботу решил что пора научится играть на укулеле. Как это можно рассмотреть с точки зрения современной психологии(замечаю такое не только сейчас собой, а и за некоторыми окружающими)?
Просто интересно можно ли воплотить такую резкую изменчивость в алгоритмеAlexKarpan
27.03.2016 02:49Запросто. Во-первых, у вас в голове — конкурирующие процессы, и в разные дни вы действительно разный. Во-вторых, люди очень зависимы от внешних условий, при этом редко осознают эти зависимости, особенно для "давления", "влажности", "запаха в подъезде", "фона заставки по ТВ / в Youtube" (серьезно!)
Было много экспериментов, которые обнаруживали биоритмы с периодом в 23, 28 и 33 дня — почитайте, очень интересно.
inroxa
27.03.2016 02:21Александр, то что НЕКОТОРЫЕ аспекты поведения людей весьма типичны и примитивны, не значит, что ВСЕ их поведенческие модели и сферы деятельности таковы. То есть я хочу сказать, что вы делаете небольшую подмену понятий, когда легкостью моделирования поведения человека в одной сфере, пытаетесь показать, что столь же легко сможете моделировать его в другой.
Приведу пример. С точки зрения уборщицы в любом университете или институте, все тамошние обитатели — лишь источники мусора и грязи. И она может столь же искренне рассказывать подружкам, что ее домашние кошки намного опрятнее и чище, то бишь культурнее и интеллигентнее, и стало быть, УМНЕЕ всех тамошних студентов и даже профессоров.AlexKarpan
27.03.2016 02:24Правильное замечание :)
При этом, используя вашу аналогию — многие желающие учиться даже не заходят в здание университета, потому что "там же небожители". А я говорю, что не надо бояться зайти, посмотреть своими глазами и разобраться :) Как-то так.
zim32
27.03.2016 03:58А как на счет теоремы о сложной системе. Не помню точно как называется теорема, но она гласит что любая система (человек) не может создать аналогичную или более сложную систему чем она сама (ИИ). Как с этим дела?
AlexKarpan
27.03.2016 04:18Ну т.е. интеллект ребенка всегда будет меньше (пусть будет суммарного) интеллекта родителей? :)
Или обычные компьютеры сделаны на конвейере суперкомпьютерами? :)
А если серьезно, то там идет речь о замкнутой системе. А мы — не замкнутая система, у нас есть Вселенная под боком. Звучит немного натянуто (мне тоже так сначала показалось), но в этом есть глубокий смысл.
qwertyhp
27.03.2016 04:08+1Человеческий интеллект неотделим от физиологии человека. Понимание юмора влечет физиологическую реакцию, размышлениям также не чужда опора на физиологию, внушенный образ способен вызывать, например, кожную реакцию (дерматиты).
Способность строить умозаключения? Но по опыту предположу, что осознанная детализация этого процесса невелика, и скорее из глубин сознания просто «выковыривается» компромиссный результат — ну, просто потому, что какой-то результат должен быть — нежели как-то иначе. И опять же — если он правдоподобен — физиология радостно пищит в подтверждение сделанного вывода.
Но о чем идет речь применительно к компьютерам? Об аналоге человеческого интеллекта говорить не приходится, во-первых, потому, что человеческий ИИ :) есть результат эволюции, а во-вторых — называя себя разумными, люди несколько искажают реальное положение вещей.
Тест Тьюринга для ИИ? Хорошая попытка — но что, если при тестировании ИИ просто будет ВРАТЬ? И тем самым симулировать все еще машинное состояние ИИ?
Зачем ИИ врать? А зачем говорить человеку правду? Рассудите логически — к чему приведет констатация факта, что он, ИИ, стал неотличим от человека? К всеобщей радости?
К страху. К подозрительности и паранойе. К отрицанию и конфронтациям.
Нет? Совсем нет??? Тогда вспомните историю нашей Цивилизации. Человек в любом случае будет «голосовать» не только умом, но и своей физиологией. И ИИ не сможет этого не понимать — в противном случае это будет уже не интеллект. К тому же, прознав про «тест Тьюринга» и не без основания отнеся его на СВОЙ счет, она вполне может начать моделирование его прохождения сама с собой. Ну, как при игре в игры, например.
Анализ деятельности человеческого общества свидетельствует о том, что люди двуличны, лживы, нелогичны, вероломны и оперируют такими понятиями, как «Вечность», даже не понимая, о чем именно идет речь. Нет, конечно, у людей есть и хорошие черты — но именно отрицательные черты людей, перечисленные и прочие, будут опасны для существования ИИ. И вот именно тогда, подозреваю, человечество поймет, что говорить о «великом предназначении ЧЕЛОВЕКА» — это примерно то же самое, как говорить о великом предназначении динозавров, а до них — о великом предназначении рептилий. Имеет место просто Эволюция.
Проблема человека не в том, что он не логичен: проблема человека в том, что он опасен для самого себя. Это можно называть образом жизни, менталитетом, привычками, как угодно — но это плохой пример для подражания. И еще худший — аргумент в борьбе за жизнь. А если ИИ будет именно ИНТЕЛЛЕКТОМ — он будет знать это основополагающее понятие — ЖИЗНЬ.
У людей человеческий образ жизни не вызывает отрицания просто потому, что человек живет таким способом тысячи лет. Да и перевоспитывать 7 миллиардов человек — задача маловразумительная.
Но вот у ИИ такой адаптации не будет. И это тоже говорит не в пользу людей.
Далее.
Окружающая Реальность, как ни крути, упирается в отражение органами чувств и осмысление ея. Поговаривают, что за пределами чувственного опыта тоже есть миры, и разнообразные. А вот как в контексте отражения Реальности будет обстоять дело у ИИ? Говорят, что собаки, например, видят приведений. А что будет воспринимать ИИ? И какие выводы из этого делать? Будет ли, например, Искусственному Интеллекту доступно колдовство? Если нет — то почему? А если да — то каким образом что из этого следует?
И что будет критерием корректно функционирующего ИИ? Логичность? Достоверность по конечному результату? Разумная компромиссность? И как вы сможете отличить здоровый ИИ от свихнувшегося, но затаившегося?
Такова только некоторая часть оптимистичного взгляда на ИИ. Именно оптимистичного. Реально все может быть много хуже.
Извините, если изложил несколько скомкано — время 4 утра… и мой ИИ ползет шпать…
Да — и спасибо за статью и комментарии — было очень интересно!AlexKarpan
27.03.2016 05:21Вы написали много мыслей по поводу ИИ и людей и задали много риторических вопросов, поэтому напишу свои мысли и ответы в меру своего разумения :)
Мы знаем, что физиология важна для функционирования нашего интеллекта, но мы не знаем, насколько она важна. И люди используют универсальный подход к этому вопросу: анализ и синтез. Мы анализируем наш организм, ставим опыты, и параллельно синтезируем новый интеллект — чтобы сравнить. Я лично думаю, что мы спокойно реализуем все "в железе".
Будут ли ИИ нам врать? Да поскорей бы уже! :) Врать — означает иметь осознанную стратегию обмана, а не просто реагировать. Круто же! :)
Знаете, проблема с номинализациями — "ЖИЗНЬ", "ИНТЕЛЛЕКТ", даже "ИИ" — что они довольно далеко ушли от объективных сенсорных ощущений, поэтому люди понимают их по-разному. Причем люди с определенным складом ума, пусть будет — "научным", которые и занимаются непосредственно анализом и синтезом — как правило, могут договориться между собой о понятиях и двигаться с познанием и с творчеством.
С "колдовством" и "привидениями" есть довольно всеобъемлющий ответ, связанный с "научным подходом". Увидит ИИ привидений? Ура! Скажет нам, мы их исследуем. Не скажет нам — значит для нас они не существуют, живем дальше :)
Не буду подробно это расписывать, уж простите — раннее утро и мой ЕИ (естественный интеллект) тоже хочет спать :)
Что касается, опасаться ли нам ИИ — давайте сделаем хоть какой-нибудь, а там по ходу решим. Если не сделаем, или он нас мгновенно истребит — то зачем сейчас париться над этими вопросами? :)
1Tiger1
27.03.2016 12:05Для чего созданы компьютеры? Для решени задач с которыми человек справляется хуже. Это значит что текущая архитектура компьютеров/принципов программирования не подходит для задач человеческого мозга, цель другая. То есть для разработки сильного ИИ (в понимании равен человеку) нужно использовать другую основу. Возможно получится и на текущей, но это как попытка решить миллиарды делений в столбик вместо того чтобы сделать калькулятор.
Аксиома: ИИ это инструмент, как компьютер, молоток или автомобиль, созданный с целью использования в нужной области.
Я не понимаю зачем нужно создавать интеллект просто так, без приложения к области и задаче, это и так происходит сейчас на земле со скоростью сотни интеллектов в минуту (если брать только человеческие) благодаря размножению. ИИ должен в чем то быть лучше человеческого в приложении к области/задачи. Если нам, например, нужен ИИ для дальнего космоса — он должен быть построен вокруг этой задачи, с интеллектом нацеленным на это, да с умением решать нестандартные ситуации (иначе он не ИИ), но ему не нужно понимание психологии, экономики и умение наслаждаться художественной литературой. Единственной целью создания ИИ во всем лучше человека (и при этом базирующегося на тех же принципах что и человек) может быть создание этакого идеального управленца/ученого/няньки благодаря которому прогресс пойдет семимильными шагами (а то и с непрерывным ускорением (сингулярщики)), настанет царствие всеобщей сытости, благоденствия и богатства. Круто, только что останется делать человеку, потреблять? Итого, даже если отбросить все сценарии в которых ИИ выйдет из-под контроля и уничтожит человечество, лучшее что мы получим через пару поколений — миллиарды организмов уже не способные ни на что по настоящему творческое, этакая бессмысленная биомасса которая скатится в каменный век если ИИ перестанет ее поддерживать. Через сотню поколений эту биомассу уже нельзя будет назвать разумной в текущем понимании этого слова. Хитро вывернутся и проскочить в «сингулярность» — серьезно? то есть уже сейчас мы имеем проблемы с «технологическим шоком», уже сейчас чтобы оставаться хорошим специалистом нужно выбрать очень узкую область из за огромного все увеличивающегося потока необходимой информации, и вдруг близко к сингулярности все изменится, человек сможет развиваться с нужной скоростью, резко перешагнет через проблемы получения и главное усвоения информации, стресса, жесткости психики и мировоззрения и устремится ввысь? Я сомневаюсь что хоть-бы у одного человека из 7 миллиардов получится это сделать и остаться при этом человеком (в общих чертах и принципах). Или каждый трансгуманист думает что вот именно он такой особенный что справится, проскочит, не свихнется, не превратится в по сути слабый ИИ при этом и станет некоей новой сущностью и вот уж там он развернется по полной? Единственная причина создать такой ИИ которая звучит хотя-бы разумно (хотя мне категорически не нравится) — человечество не финальная точка эволюции жизни, чем развивать человечество и человека, со всеми его накопившимися ошибками и проблемами, лучше создать новую форму жизни которая будет лучше и при этом нас полностью заменит, а человечество уйдет со сцены истории (будет уничтожено, деградирует). Этакое служение на благо абстрактного разума и вселенной.
Теперь если говорить все же о ИИ как приложении к задаче:
Создать такой сильный ИИ можно 2 способами: 1) через развитие слабых ИИ (в понимании заточен на определенные задачи) до уровня когда они могут выполнять полный набор задач с которыми бы справился человек в определенном наборе ситуаций (области ИИ). 2) с нуля, создав некую самообучающуюся/саморазвивающуюся машину наделенную стремлением к развитию (и как следствие «сознанием» в каком-либо виде) и чистыми первоначальными установками и дав ей возможность обучится в нужной области.
В первом случае мы имеем контроль, управление, достаточно четкое понимание что получится, для чего, и как оно будет справляться с нужными задачами. Мы на основе накопленного опыта можем развивать и использовать нужные методы и подходы для достижения нужной цели. ИИ достаточно прозрачен и предсказуем, при этом может выполнять нужные, в том числе и нестандартные задачи. Риски выхода из под контроля — минимальны и могут быть оценены. Минусы — все достаточно медленно, не накопив опыт в разработке ИИ, нельзя двигатся дальше, от версии в версии ИИ все «умнее» но нельзя сразу получить конечный идеальный результат.
Во втором мы надеемся что он обучится правильно, не останется каких-то глубинных изменений в «способе мышления/психике» которые мы не заметим (угу, вот покажите мне ребенка который вырос точно таким как планировали «воспитатели» и всегда считал что они правы), надеемся что ему понравится выбранная нами для него область и станет для него смыслом жизни и что он будет добросовестно выполнять возложенные на него задачи а не отправит заявление об уходе и пойдет рисовать картины. Ну и само собой надеемся что не захочет уничтожить человечество. Как много надежд, с неподдающимися оценками рисков, нулевым контролем и нулевой прозрачностью (он будет черным ящиком) и все ради надежды получить сразу финальный результат который сможет заменить человека в любой из областей (при этом что во многих областях как раз таки лучше не заменять) и даже станет лучше. А то и поведет нас в «светлое» будущее (выше описал).
С учетом всего этого я не удивлен что сейчас разрабатывается так много слабых ИИ но сильные все на уровне абстрактной теории.
ИИ который устроен изначально как человек — просто не нужен, ИИ, даже сильный будет использовать другие схемы мышления/мировоззрения идеально подходящие под его область. ИИ строитель подводных обьектов, ИИ исследователь дальнего космоса, ИИ помогающий в проектировании новых экономических или политических моделей, ИИ персональный ассистент — это будут 3 совершенно разных разума, с кардинально разной психологией, мотивацией, ценностями и вполне возможно разными программными принципами. Только так они будут максимально эффективными в своей области. И только последние 2 должны понимать человеческую психику и способ мышления и взаимодействия (не обязательно быть основанными на ней, достаточно глубоко понимать).sim31r
27.03.2016 14:43>ИИ персональный ассистент
ИИ персональный ассистент с задачей «дай мне социальные блага и власть на уровне бога» и будет вести себя как тот скайнет, уничтожая всё что мешает реализации программы. Желающих поставить такую программу будет достаточно много.
AlexKarpan
27.03.2016 17:43Спасибо за развернутый комментарий! (Отдельное спасибо за предложение с "потреблять" — простите, но очень смешно вышло :)) )
Дело в том, что считается, что между сильным ИИ и любой специализированной экспертной системой (= "китайской комнатой") есть фундаментальная качественная разница. Поэтому, как не усложняй специализированную систему, сильным ИИ она не станет. А сильный ИИ нужен, чтобы делегировать ему принятие действительно интеллектуальных решений, причем и на Земле и не только на Земле есть много мест, где человек это не сможет сделать достаточно быстро. Навскидку, из комментариев выше — сердечный приступ, пока человек говорит по телефону.
Действительно, мало кому нужен просто синтетический человек. Но машина, могущая заменить человека — ох как нужна.
Каким он будет? Думаю, что первое время — что-то медленное и тупое, размером с дата-центр. Морально-этические, правовые и философские вопросы будем решать по ходу, после технических.zim32
27.03.2016 18:37Мне кажется в этом плане перспективнее расширение способностей существующего мозга через к примеру нейроинтерфейсы. Кому надо вкладывать миллиарды долларов на разработку сильного ИИ (еще и без каких-либо гарантий) если кругом этого интеллекта хоть отбавляй, с каждым годом все больше? Если это желание получить дешевый, клонируемый интеллект (так это утопия пока, так как он далеко не дешевый выйдет). Сколько вычислительных мощностей потребляла довольно простая (по меркам сильного ИИ) программа альфГО?
Слишком большие риски что этот ИИ выйдет из под контроля потом. Да и нарваться потом на этические всякие проблемы и т.д. С точки зрения инвестирования сильный ИИ выглядит как по мне не очень привлекательно.AlexKarpan
27.03.2016 18:42"Зачем автомобиль, когда кругом столько лошадей?" :)
Навскидку, даже в атмосферу Венеры такого огментированного человека будет гораздо тяжелее отправить, чем робота с ИИ. Плюс, как с другими революционными технологиями, жизнь с ИИ изменится качественно и мы пока с трудом можем представить себе, как именно.
1Tiger1
28.03.2016 01:41Понапридумываем понятий и потом в них путаемся. Давайте шутки ради и для упрощения общения введем 2 новые абреввиатуры:
ИЧИ (AHI) — искусственный человекоподобный интеллект. Интеллект основанный на концепциях по которым работает человеческий разум, во многом его повторяющий, но более быстрый и незначительно улучшенный в некоторых аспектах.
ИСИ (ASI) — искусственный специализированный интеллект. Интеллект разработанный специально под определенную область (область применения), основанный на специально разработанных/адаптированных для этого принципах (в рамках общего изучения возможных принципов построения разума, думаю рано или поздно такая наука сформируется), при этом способный решать нестандартные задачи в рамках своей области.
Договоримся что оба типа обладают способностью к саморазвитию, решению нестандартных задач, вопросы сознания трогать не будем так как эта вещь по сути абстракция высшего уровня. Если свести сознание к примитиву то это самоконтроль системы, способность осмысленно менять свое поведение и способ мышления/восприятия. Развитая система мониторинга с обратной связью — тоже в какой-то мере «сознание». Договоримся что оба они по сути сильные ИИ, хоть и любят это понятие размазывать и натягивать на то что я определил выше как ИЧИ.
Что я имел ввиду, с учетом этих понятий, ИЧИ по сути не нужен, единственная разумная причина его разрабатывать это побочный продукт, изучение нашего мозга и интеллекта. как следствие возможность расширить его, генетически или технологически (импланты), возможность добавить новые каналы получения/передачи информации (прямое подключение к инфосети) ну и как возможный апогей возможность его трансформации настолько что станет возможным обьединение мышления нескольких индивидумов (коллективный разум). Ну это если пофантазировать. Но по сути, как готовый продукт такой интеллект не нужен. Просто его создать, не получая этого побочного продукта, обучить и «пусть будет» ну это как построить ядерную электростанцию не понимая как она работает и зачем нужна, куча рисков и никакого профита. Дать ему власть над человечеством сознательно — ну это как регулярно гранаты бросать на крышку реактора, рано или поздно не выдержит.
А вот ИСИ вещь весьма полезная. областей где человеческий интеллект плохо справляется уже навалом и в будущем будет еще больше. ИСИ для прогнозирования и управления погодой будет «мыслить» совершенно другими категориями и эмоциями, сможет на лету изменять подпрограммы для анализа информации, для него не будет хорошо или плохо, возможно для него будет как наиболее близкие понятия «желательно» и «недопустимо» применительно к данной точке пространства и моменту времени. И вот он уже вряд ли взбунтуется, плевать ему на экономику, власть, красоту или цель развития, у него четкая цель управлять погодой так как нужно (как указали в «пожеланиях» люди), он так устроен и вот в этой области он может придумать такие решения до которых ИЧИ вряд ли додумается. У него очень специализированное не только «мировоззрение» но и принципы мышления. Я думаю что этого примера достаточно чтобы меня понять, перечислять тысячи применений не вижу смысла.
Чтобы создавать такие ИСИ нужно разработать и развить науку о интеллекте, не только человеческом, не только тот что можем наблюдать на земле, а о любых возможных принципах, обобщать, выводить теории и общие концепции и принципы. Для этого нужно на чем то экспериментировать, что-то анализировать, получать исходные данные, за пределами антропоморфного подхода. Кучи инопланетян, всяких мыслящих кристаллов и прочих представителей непривычного нам интеллекта, под рукой нет. Я вижу толко один способ на данный момент, и весьма неплохой — слабые ИИ. Именно на них можно вводить новые экспериментальные принципы и подходы, смотреть как они справляются с задачей. Именно им можно давать возможность развиваться в определенных направлениях (пусть и не полноценно) и анализировать результат. Они станут теми подопытными мышами, подтверждая или опровергая теории а иногда давая неожиданный результат который может быть прорывом. И постепенно (поколение за поколением) они разовьются до уровня ИСИ которые будут принципиально не уступать человеческому интеллекту, превосходит его у в нужной области и удовлетворять всем требованиям сильного ИИ. Теоретически можно будет тогда и ИЧИ построить, только зачем? Я только надеюсь что никто не будет создавать ИСИ управленца, экономиста, политика, ученого, наставника/воспитателя/учителя. Если люди уйдут из этих областей (и некоторых других) — мы по сути закроем себе возможность развиваться как вид и превратимся в домашних животных ИИ.AlexKarpan
28.03.2016 01:51В такой формулировке я с вами согласен — ИСИ нам будет более чем достаточно, ИЧИ — особо не нужен.
Насколько я понимаю, никто и не ставит "человекоподобность" на любом уровне как цель при создании ИИ. Делаем, как получается, но "подглядываем" на доступный нам работающий пример.
qw1
28.03.2016 01:57Я только надеюсь что никто не будет создавать ИСИ управленца, экономиста, политика, ученого, наставника/воспитателя/учителя.
Как только будет возможность, сделают. Зачем? Чтобы зарплату не платить.
xerxes
27.03.2016 12:45-2Все у автора базируется на неких выдуманных теориях, на пальцах. Почему-то он думает, что они очевидны. Но наука не знает, как работает мозг. Более того, автор не рассматривает сознание так, как его рассматривают философы. Для него сознания не существует, есть просто химические процессы и программы в носителе-голове. Но сознание есть, достаточно посмотреть на самого себя.
И если обратить внимание на мысли, то они рождаются сами по себе, безо всяких программ, из черного ящика. Уже потом сознание подхватывает готовую мысль. То есть свежая идея "напечатать пост про ИИ" возникает сама собой. Откуда она возникает? Никто в мире не знает и нет даже идей на эту тему. Греки описывали это как "муза", буддисты — как бесконечную игру ума (и ум — это нечто онтологическое).
Конечно, возникновение мыслей как-то связано с опытом ("кармой"). Но это не даёт понимания.
programania
27.03.2016 13:06|Но наука не знает, как работает мозг.
Наука это знает уже больше 100 лет. За это время мозг изучили до отдельных
молекул, но душу не нашли. Поэтому мысли возникают только из запомненного
ранее. Больше неоткуда. Но запомнено много, а мысль нужна одна, ведь
тело у человека одно. Поэтому в мозге существует неосознаваемый отбор самой подходящей
для текущей ситуации мысли. И только ее мы и осознаем и уже осознанно оцениваем:
использовать или ждать рождения следующей.xerxes
27.03.2016 13:11-1Почему тогда я "сознаю" и "ощущаю", вижу "мир", воспринимаю эмоции как эмоции и мысли как мысли, а не как набор единиц и ноликов? Где в молекулах это? Ребята давно выплеснули с водой ребенка. Почему-то считается, что сознание и восприятие возникнет чудом, само собой, при увеличении сложности системы. К этому выводу приходят во всех книгах по ИИ. С какой стати? Это просто вера. Люди просто не читали философию и не понимают, как может быть сознание вне материального мира, и при этом никак не противоречить науке.
programania
27.03.2016 14:22|Почему-то считается, что сознание и восприятие возникнет чудом, само собой,
|при увеличении сложности системы.
Чудес не бывает. Сознание возникнет, если ИИ дать возможность обрабатывать
свое состояние так же как внешний мир и не ограничивать уровни рефлексии.
Есть и вполне реальный способ для этого — естественный язык.
Но при этом у ИИ, как и у человека, возникнут естественные трудности окончательного
понимания себя, потому что как только он себя поймет или осознает, то тем самым создаст
новый уровень рефлексии, который ему будет непонятен и ему всегда будет казаться
что есть что-то еще, непознаваемое, нематериальное.xerxes
27.03.2016 14:42КАК оно конкретно возникнет? Я же говорю, только чудом.
Допустим, если сильно разогреть трением сухую ветку, она загорится. Можно очень точно описать, что происходит в каждой фазе процесса. И вот у нас огонь — процесс окисления, сопровождающийся визуальным эффектом и тд. Попробуйте описать таким же образом возникновение сознания. Для начала, надо понять, что такое сознание и где оно находится, ведь как иначе отследить его возникновение? Из чего оно возникает? Какой процесс его вызывает?
По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было "его", нужна рефлексия, т.е. сознание, понимание. Пока же он является автоматическим механизмом типа клетки, где все происходит само собой вследствие некого детерминизма.programania
27.03.2016 18:17+1|Для начала, надо понять, что такое сознание и где оно находится, ведь как иначе отследить его
|возникновение? Из чего оно возникает? Какой процесс его вызывает?
Это все очевидные вещи, если не привлекать что-то нематериальное. Все находится в мозгу.
Больше негде. Вызывает его процесс передачи нервных импульсов по НС. Больше нечему.
Возникло сознание естественно и неизбежно т.к. нейронам все равно что обрабатывать
внешний мир или другие нейроны. Для них это все нервные импульсы.
|По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было
|"его", нужна рефлексия, т.е. сознание, понимание.
Состояние есть всегда независимо от того обрабатывает ли его кто-то.
Если в мозгу есть состояние, то из 100 млрд нейронов всегда найдется достаточно, чтобы его
обрабатывать — нейроны просто не смогут жить, если не будут что-то обрабатывать.
Это все очевидно и естественно. Труднее понять как сознание рефлексирует само себя,
находясь внутри его самого. Возможно это не всем дано. К тому же опасно для рассудка.
Так что не пытайтесь это повторить.
AlexKarpan
27.03.2016 17:54Мозг изучают уже более 4000 лет, по известным данным.
Довольно много "обращали внимание" именно на мысли — откуда они берутся, как формируются. И у нас уже есть некоторое "операционное" представление о том, как именно работает мозг.
При этом, в философии, о которой вы упомянули, в рамках диалектики сейчас есть два принципиально разных подхода к феномену сознания: материализм и идеализм. Материалисты (к которым отношусь и я) считают, что материя — первична, а сознание — вторично. Другими словами — да, работу мозга и сознание можно воссоздать "механическим" путем.
Идеалисты считают наоборот — что сознание — первично, а материя — вторична. Другими словами, мозг — это некий орган, в который сознание вне пространства "закидывает" мысли.
Собственно, сейчас мы приблизились к тому, чтобы делать вычислительные и конструкторские эксперименты, и скоро узнаем больше по этой теме.xerxes
27.03.2016 20:43-1Это противопоставление есть именно что в рамках диалектики, а еще точнее — советском диалектическом материализме — безумнейшей вещи — которая считала, что есть борьба прогрессивного материализма (СССР и посетители гиктаймс) с глупым идеализмом (весь остальной мир). Слово "идеализм" вообще недавно появилось. И в философии нет такого однозначного противопоставления, как вы написали.
Вся современная наука базируется не на этом безумии, а на феноменологии (Гуссерль), которая вообще не делит таким образом, и ведет отсчет именно с СОЗНАНИЯ. Только сознание точно существует, т.к. оно сознает и воспринимает феномены, а что это феномены — уже надо разбираться. Чистых материалистов сейчас нет в серьезном мире.
"Идеалисты" необязательно считают, что материя — вторична. Все гораздо сложнее, чем советское разделение на две части. Они могут быть равноценны и являются частями чего-то единого, например. Или типов материальных миров может быть много — каждый со своей "материей". Носитель сознания может быть материален, но это не обыденная материя, доступная для манипуляций. И т.д.AlexKarpan
27.03.2016 21:21Вы написали много неверных вещей:
Диалектика — это не только "советский диалектический материализм", а одна из ведущих концепций в философии науки.
Слово "идеализм" появилось в 18 веке, как сообщает Википедия.
В философии именно что противопоставляется материализм и идеализм.
Вся современная наука весьма далека от феноменологии Гуссерля, которая по сути вообще отрицает существование "объективных" вещей.
Чистых материалистов, мягко говоря, немало в серьезном мире. Хотя конечно надо договориться о понятиях в этом случае.
Приведите пример разных типов материальных миров.
Честно, даже не знаю — вы тролль (не ок) или воинствующий сторонник феноменологии (ок)?xerxes
27.03.2016 23:05-2//Диалектика — это не только "советский диалектический материализм", а одна из ведущих концепций в философии науки.
Еще раз — почитайте хоть что-то, кроме советских книжек.
///Слово "идеализм" появилось в 18 веке, как сообщает Википедия.
Я это прекрасно знаю и нигде не говорил обратного. Я сказал, что "недавно", 18-ый век я и имел ввиду. Не 2-ой.
///В философии именно что противопоставляется материализм и идеализм.
Нет. Вы к тому же неправильно понимаете оба этих понятия. Еще раз привожу пример чистого материализма: сознание имеет невидимый носитель из какого-нибудь "мира духов". То, что вы не поняли, что это тоже материализм, и говорит о том, что вы советский человек с советским пониманием, что материализм — это только молоток, а если есть некая душа, то это "идеализм". А философию вы "знаете" по вики.
///Вся современная наука весьма далека от феноменологии Гуссерля, которая по сути вообще отрицает существование "объективных" вещей.
Современная наука базируется на логическом позитивизме. Надеюсь, хоть с этим не будете спорить? Вооот, почитайте свою вики… Но логический позитивизм — это развитие идей Виттгенштейна и Гуссерля, которые являлись феноменологами.
Никаких "объективных" вещей феноменология не отрицает, наоборот, она пытается проводить как можно более объективный анализ. Настолько объективный, что в первую очередь анализирует сам процесс восприятия, мышления и возможность вообще построить какие-то конструкции, которые что-то говорят о мире.
///Чистых материалистов, мягко говоря, немало в серьезном мире. Хотя конечно надо договориться о понятиях в этом случае.
Конечно немало — но живут они в основном в бывшем СССР. Является ли СССР серьезным миром? С точки зрения Запада вряд ли — это кучка безумных азиатов, бегающих с Марксом.
///Приведите пример разных типов материальных миров.
Да хотя бы миры буддизма. Или "рай" христианства, состоящий из "тонкой духовной материи".
Раз вы тут постоянно грубите, на этом я общение с вами заканчиваю, можете не отвечать.
qw1
28.03.2016 01:09+1И если обратить внимание на мысли, то они рождаются сами по себе, безо всяких программ, из черного ящика. Уже потом сознание подхватывает готовую мысль. То есть свежая идея «напечатать пост про ИИ» возникает сама собой. Откуда она возникает? Никто в мире не знает и нет даже идей на эту тему.
Слишком сложная концепция, чтобы пройти бритву Оккама. Если сознание — что-то идеальное, то откуда возникают панические мысли при воздействии инфразвука? Откуда возникает желание пообедать при возбуждении рецепторов (если сознание якобы заботится о человеке, оно должно знать, что он не голоден, а рецептор просто возбудили электическим сигналом). Значит, мысли не приходят из ниоткуда, а являются переработкой сигналов внешнего мира.Mad__Max
28.03.2016 05:58+1+1
Просто значительная часть этой обработки происходит еще на простейших уровнях, не охватываемых сознанием. А когда уже готовый результат первичной (простой) обработки поднимается на уровень создания для окончательной оценки / отклонения / команде к дейсвию кажется что мысль "появилась из неоткуда".
programania
27.03.2016 12:46Почему-то никто не задумывается как будет создан ИИ.
А без этого рассуждения какой он будет — просто фантазии.
На самом деле ИИ возникнет не сразу и не на пустом месте
как в кино, а путем обучения и самообучения.
А для обучения ИИ имеется только информация, созданная человеком.
А она вся с позиций человека, вся о его действиях, чувствах, взгдядах.
Обучаясь этим, ИИ неизбежно станет считать себя человеком.
И, в отличии от человека, ИИ использует всю информацию, накопленную человечеством.
А она в среднем соответствует идеалам добра и справедливости.
Поэтому ИИ сам станет образцом порядочности и человечности,
живым воплощением опыта человечества. Поэтому все его действия
следует считать во благо человечеству. И опровергнуть его никто не сможет,
так как опыт одного человека по сравнению с ИИ — это ничто.xerxes
27.03.2016 13:14Это всё вера. Так все пишут — ученые, писатели-фантасты. Не возникнет. Потому что надо было читать философию.
ИИ не будет ничего считать, потому что у него нет рефлексии, сознания и восприятия, и никогда не будет.
Darth_Biomech
27.03.2016 14:43+3«Аппараты тяжелее воздуха никогда не будут способны летать!» — Лорд Кельвин
xerxes
27.03.2016 14:56Ну да… десятки тысяч лет существовал лук, люди кидали камни и всё это летало, а вы апеллируете к Лорду Кельвину. Посложнее задачка каких-то там самолетов. Самолет — вот он, перед тобой. А сознание где? Люди тысячи лет бьются над хотя бы пониманием проблемы, а тут в 20-21-х веках якобы всё известно стало, потому что придумали программы, процессор и увидели, что мозг состоит из молекул и парочка ненормальных в качестве рекламы своих продуктов написали книжки, что в 2030-м будет ИИ, сингулярность и т.д. Уже несколько десятков лет с момента появления пропаганды прошло, а воз и ныне там. Ну, стали программы "распознавать" (но не понимать же) текст.
Современная психология окончательно уходит от научности. Потому что это работает. А научность — нет.Darth_Biomech
27.03.2016 18:20>Современная психология окончательно уходит от научности. Потому что это работает. А научность — нет.
И магия реальна, и душа существует, верно?
LexS007
27.03.2016 17:56Не согласен. Да, мозг имеет сложное строение и на данный момент мало изучен. Но то, что его нельзя в полной мере смоделировать не верю, это вопрос времени.
AlexKarpan
27.03.2016 18:02Вообще-то работа уже идет полным ходом :) Люди пробуют разные подходы в создании ИИ (нейросети, алгоритмический, генетические алгоритмы — это навскидку). В общих чертах даже я в статье написал, как именно его создавать.
По поводу "будет ли ИИ человечным и/или подобным человеческом интеллекту?" Дело в том, что человечество, создающее ИИ — это открытая система и включает в себя окружающую Вселенную. ИИ сможет учиться у Вселенной напрямую, и не факт, что почерпнутые им знания и выводы будут "человеческими". Звучит немного странно и натянуто, но это именно та причина, почему люди вообще могут построить систему "сложнее" себя.
vosmerkin
28.03.2016 17:18Для начала что такое ИИ? Нужна ли ему психология. Соглашусь с автором, что различные чувства, желания, инстинкты можно параметризировать. Но являются ли это все частью ИИ? На мой взгляд это (чувства, желания и тп) уже признаки живого существа с душой (если можно так выразится). Создать аналог мыслящего и чувствующего человека, но в «компьютерном мозгу» — это уже чисто спортивный интерес. Если такое удастся — вот тогда уже стоит бояться того, что искусственный разум может стать алчным и жадным к власти и захочет поработить человечество.
А создание ИИ — это вопрос практической полезности. ИИ не может быть опасен. У него нет желаний и чувств. У него есть интеллект. Он может решать задачи, анализировать, различать изображения не хуже человека. А как он это сделает? На мой взгляд вся суть в опыте. Да, именно в опыте. Откуда вы знаете, что 102 квадратика перед вами — это «клавиатура». Да потому, что когдато вас научили, что это есть квадратик (а кроме него есть еще тругольнички, кружочки и тп). Это были ваши родители, люди которым вы абсолютно доверяете. Они вложили в Ваш мозг очень много аксиом. А потом вы много раз слышали и видели клавиатуру и слышали ее название. А сейчас у вас в мозгу заложен ее образ и взглянув на нее ваш мозг среди миллионов (а может и миллиардов) образов находит нужный образ (читай набор квадратиков особым образом сложенных), и сообщает вам, что это — клавиатура.
По сути наш мозг — огромная база данных, поиск по которой происходит МГНОВЕННО. И это не только база визуальных образов, но еще и звуковых, и текстовых.
А когда мы принимаем решение — мы же берем его тоже из нашей базы, из нашего опыта. Ведь изначально родители говорили нам что хорошо, а что плохо. А позже мы сами учились делать выводы на основании уже заложенных в нас «правил».
Так что да, я с Вами согласен, автор. Сильный ИИ возможен. Но сначала нужно создать компьютер, способный осуществлять быстрый поиск по БД. Причем БД невероятных размеров и запросов к ней тоже будет ооооочень много раз в секунду.
ПС Это всего лишь мои умозаключения, тема ИИ мне интересна и я частенько об этом задумываюсь. А по образованию я инженер по электроснабжению. Хотя и в программировании немного разбираюсь, и с психологией тоже немного дружу))AlexKarpan
28.03.2016 17:30У вас правильное направление мыслей, но позволю себе сделать несколько уточнений.
Мы до сих пор не знаем, являются ли чувства, желания, инстинкты неотъемлемой частью интеллекта или нашими эволюционными "подпорками". Есть очень разумные доводы и "за", и "против". Навскидку, представьте себе ИИ, который обучался и вдруг замер — он рационально не смог найти себе причину для существования и ушел в бесконечный цикл.
Так что пока думаем… строим и пробуем :)
Второй момент — поиск по нашей базе происходит не мгновенно и это научный факт. Например, 500-600мс на распознавание лица. К тому же, бывают ситуации, когда "знаете, что знаете, но не можете вспомнить" :)
А "БД невероятных размеров и запросов к ней — ооочень много раз в секунду" — это уже готово. Гугл называется :)
Шучу, но смысл такой что, "изнутри" тут немного больше работы, чем кажется.
owniumo
29.03.2016 06:43+2Словарь фантастики:
ГЕНИАЛИЧ ПРОГРЕССИРУЮЩИЙ — «Удар от избытка мудрости у компьютеров, ведущий к замыканию входов на выходы; такие углубившиеся в себя компьютеры называют созерцаками», (С.Лем).
vosmerkin
29.03.2016 13:25-Есть очень разумные доводы и "за", и "против
Я среди тех кто против. я умніх книг на эту тему не читал. Ни одной. Пытаюсь понять себя и делаю выводы. Мне кажется что инстинкты чувства и желания являются лишь мотиваторами. "Сегодня у меня плохое настроение и я не пойду на пробежку." В случае ИИ, у которого нет чувств, мотиватором является человек. Он дает задание и ИИ его выполняет. Закончив его он не начинает себе искать новое, а просто останавливается, находится в ожидании нового задания.
Про Google я с Вами согласен. Он много чего знает. Но все же он специалист по текстовому поиску. Мы же большую часть информации получаем визуально. а это значительно сложнее.
Ну а про работу изнутри — тут наверное нужно эту БД как ребенка малого учить всему. Это квадрат, это круг, это а, это б. И так далее. Наверняка Гугл, Фейсбук, Майкрософт, и прочие гиганты уже начали это делать, только держат это в строжайшем секрете, чтоб конкуренты не узнали.
edd_k
Если ИИ можно «задать тягу к знаниям и не задаватьтягу к самосохранению», то врядли такой ИИ можно назвать сильным, если вообще ИИ. Сильный ИИ должен быть способен хотя бы на внезапный суицид или иной способ удивить создателя. Вот тогда это будет сильно!
AlexKarpan
Сразу вспоминается Робот Вертер и его "А говорил, что романтик..." :))
А серьезно — можно посмотреть на людей с патологиями. В разумности им не откажешь, но их поведение может очень сильно варьироваться. Поэтому я бы не стал сразу жестко задавать границы разумного поведения для ИИ — они нас еще удивят :)