Человечество постоянно задается вопросами, на которые не может дать однозначный ответ даже по прошествии довольно продолжительного количества времени, и даже когда ответ, казалось бы, перед нами.
И те вопросы, которые человечество задает себе сейчас, также мучили мудрецов, ученых, философов живших когда-то раньше. К сожалению, у нас все еще нет машины времени, чтобы мы могли задать им эти вопросы и посмотреть, что они ответят. Но у нас есть другие артефакты, такие как книги, фильмы и с недавних пор - интернет.
И благодаря интернету, у нас есть шанс переместиться во времени и задать эти вопросы величайшим умам своего времени. В частности, мы можем переместиться в 26-ое сентября 1985 и спросить самого Ричарда Фейнмана: «Как вы думаете, появится ли когда-нибудь машина, которая будет думать, как человек или даже быть более умной, чем мы - люди?» <cut/>
Фейнман: «Насчет первого - «думать, как люди», я бы сказал нет, и я через минуту объясню, почему я сказал «нет», а насчет второго - быть умнее людей - в этом вопросе нам нужно определить, что значит «умнее».
Если бы вы спросили меня, являются ли машины лучшими шахматистами, нежели люди, да, возможно, когда-нибудь они такими станут, но даже сейчас они играют в шахматы лучше, чем большинство людей.
Кстати, чего мы всегда пытаемся сделать, так это чтобы машина была лучше не только нас самих, но была сразу лучше всех.
Если мы построим машину, которая может играть в шахматы лучше нас, это нас не впечатлит.
Мы говорим: «а что случится, когда она будет соперничать с мастерами своего дела?».
То есть мы во всем сравниваем себя с такими мастерами.
И машина должна быть лучше человека во всем, что может делать топовый профессионал на топовом уровне, но для машины такое сложновато.
Но что касается того, будет ли машина думать как люди, моё мнение базируется на идее того, что мы пытаемся заставить машины работать как можно более эффективно с материалами, которые у нас есть.
Эти материалы, отличны от нервов и прочего, то есть, если мы хотим сделать что-то такое, что быстро бегает по земле, тогда мы могли бы понаблюдать за бегающим гепардом, мы могли бы попробовать сделать машину, которая бегает как гепард.
Но проще сделать быструю машину на колесах или что-то, что может летать по воздуху прямо над землей.
Возьмем, к примеру, птицу. Самолеты не летают, как птицы. Они летают, но не как птицы, так?
Поэтому они не машут крыльями как придурки, у них на носу есть прибор, который разгоняет для них воздух или как в современных самолетах, где есть турбина, которая нагревает воздух и выплевывает его позади. Кажется, это называется "реактивный двигатель".
В нем есть вращающаяся турбина и прочие штуки. Так же она использует топливо и в этом вся разница, так?
Поэтому нет никаких сомнений в том, что более поздние машины не будут думать так, как думают люди в этом смысле! В отношении разума, я думаю, это схоже с тем, как они, например, не будут решать арифметические задачи так же как решаем их мы - они будут делать это лучше.
Давайте возьмем пример арифметики. Машины считают лучше, чем кто-либо другой. Они считают быстрее, но все равно по-другому.
Фундаментально наши подходы одинаковы, потому что, в конечном итоге, числа есть числа.
Это отличный пример. Мы никогда не изменим то, как они делают арифметические расчеты, чтобы сделать их методы более человеческими, ибо это будет регрессом, потому что люди считают медленно, иногда запутанно, допуская множество ошибок, а эти ребята быстры.
И если сравнивать то, что компьютеры могут делать по сравнению с людьми, мы обнаружим следующее довольно интересное сравнение.
Во-первых, для сравнения, если бы я собирался дать человеку следующую задачу, например, если я попрошу назвать мне какие-то числа в обратном порядке.
Предположим, прямо сейчас у меня есть множество чисел, и я хочу, чтобы вы назвали мне каждое второе число в обратном порядке.
Сделаем еще проще, назовите мне числа в том порядке, в котором я назову их вам. Вы готовы?
Один, семь, три, девять, два, шесть, пять, восемь, три, один, семь, два, шесть, три... кто-нибудь сможет это сейчас сделать? Нет.
И это не более двадцати или тридцати чисел, но вы можете дать компьютеру пятьдесят тысяч таких чисел, и попросить любой обратный порядок, сумму этих чисел, разные операции с ними и он еще долго их не забудет.
Это пример того, что компьютер делает намного лучше человека, и вам надо помнить об этом всякий раз, когда вы сравниваете машины с людьми.
Но что человек должен делать всегда, для своего собственного «всегда», так вот они всегда- всегда стараются найти одно чертово дело, в котором они могут превзойти компьютер.
И поэтому нам известно много областей, в которых люди всегда превосходят компьютер.
Вот она идет по улице, у нее определенная походка и вы знаете, что это Джейн.
Или вы замечаете, что его волосы слегка завиваются, это трудно заметить на расстоянии, но то, как забавно при этом выглядит его затылок, выдает в нем Джека.
Распознавание предметов, распознавание паттернов - это, кажется то, что мы пока еще не научились выражать при помощи процедуры.
Да, вы можете сказать: у меня есть отличная процедура для распознавания Джека. Просто сделайте много снимков Джека, кстати, фотография может быть помещена в компьютер, вот кстати этим самым методом здесь.
Если бы картинка была бы более четкой, я мог бы распознать фотографию при помощи черно-белых точек расположенных в определенной последовательности.
В газетах печатают картинки черными и белыми точками и при достаточно высоком разрешении, точки сливаются в картинку.
Поэтому имея достаточную информацию, я могу загрузить изображения Джека в разных ракурсах и попросить машину сравнить их.
Проблема в том, что новые ракурсы будут отличаться. Освещение и расстояние будут другими, наклон головы другой, и вы должны разобраться как это учесть.
И все это настолько сложно и затратно, что даже с большими машинами, с большим объемом доступной памяти и с той скоростью, с которой они могут работать, мы не сможем понять, как написать такую процедуру, которая бы вообще работала или, хотя бы, работала хоть где-то с разумной скоростью.
Поэтому в наше время машинам и трудно распознать объекты. Некоторые вещи человек может делать в мгновение ока.
Поэтому есть вещи, которые могут делать люди, но которые мы не знаем, как сделать при помощи компьютера.
Итак, распознавание объектов. Это возвращает меня к идее того, что машина пока что не может имитировать работу даже офисного клерка.
Такой клерк обладает некоторыми специальными навыками, которые требуют определенный сложный вид распознавания.
Например, клерк в отделении отпечатков пальцев, который просматривает отпечатки, а затем проводит тщательное сравнение, чтобы увидеть, совпадают ли эти отпечатки.
На данный момент такую работу практически невозможно сделать точно при помощи компьютера.
Казалось бы, делов-то, сравниваем два отпечатка пальца, смотрим, все ли точки совпадают, но все не так просто.
Что если палец был грязным, или отпечаток был сделан под другим углом или с другим давлением, или края отпечатка не совсем в том же месте?
Если бы вы пытались сопоставить одинаковые изображение, то это было бы легко, но где центр отпечатка, в какую сторону был повёрнут палец, разное давление на бумагу, где-то больше, где-то меньше, где-то попала грязь, или вылезла бородавка на большом пальце, и так далее.
Эти небольшие осложнения делают сравнение гораздо более трудной задачей для машины, для этой слепой системы, она будет работать несравнимо медленнее, даже слишком медленно и поэтому ее использование совершенно непрактично в настоящее время.
Я не знаю как там у них сейчас дела, я в курсе, что инженеры продвигаются быстро, пытаясь обучить машину, но человек может просто пробежаться взглядом, как гроссмейстеры в шахматной игре, уловить паттерны, и пока что мы не знаем, как это можно было бы автоматизировать с нужной скоростью.»
Обратите внимание на то, как мало или, наоборот, много времени прошло с момента, когда один из самых видных ученых двадцатого века сомневается в способности компьютера сравнивать отпечатки пальцев или распознавать образы до разблокировки телефона выражением своего лица.
ua30
А в чем суть? В первой части говорится что компьютеры не будут думать как люди. Это может быть актуально для харда. Но принципы самого ПО вряд ли будут другими. Ведь их создает человек. Мозг человека удивительный. Но возможности разума весьма ограничены. Очень редко что-то изобретается прямо с нуля. Практически все, что создано человеком — это производные от существующего.
Вторая часть про «распознавание предметов, распознавание паттернов» уже попросту неактуальна.
MonkAlex
smrl
Во времена, когда Фейнман давал эти интервью, такими «пропеллерами» и «колесами» казались так называемые алгоритмические подходы к программированию ИИ. Но позже оказалось, что самолеты на этих пропеллерах летают совсем низенько — на уровне поисковых запросов в сложных базах данных. Выше пока никак.
И на самом деле это дейстительно интересный вопрос: могут ли быть думающие машины на каких-то экозитических схемах, «с реактивными двигателями», или в принципе возможент только «бег на лапах»? Вдруг мир устроен так, что других схем просто нет? Как не оказалось теплорода, мирового эфира и вечных двигателей.
eandr_67
Вторая часть тоже полностью актуальна: полноценного анализа паттернов как не было, так и нет. Всё, что удалось — найти способы подбора коэф-тов очень большой системы нелинейных уравнений — чтобы она выдавала заданный набор ответов на заданном наборе эталонных данных. При том, что добавив к анализируемым данным совсем немного шума, мы можем заставить любую такую систему выдать любой ответ.
P.S. Современная компьютерная «нейронная сеть» — это и есть очень большая система нелинейных уравнений. И ничего более.
zxcvbv
Фейнман слишком давно формулировал своё вижен, с тех пор много воды утекло. Уже сейчас понятно, что построить самообучающуюся с нуля систему, наподобие мозга новорожденного — вопрос лишь времени, никаких принципиальных ограничений для этого нет. И после определённого уровня сложности системы, в ней может также сформироваться то, что мы называем самосознанием личности. А оттуда и до подобия эмоций недалеко, когда эта «личность» познает, например, инстинкт самосохранения. И мы еще столкнемся с вопросами этического характера типа: а чем, собственно, принципиально более ценна биологическая жизнь, чем жизнь «нейросетевая», если у последней будут присутствовать все атрибуты рассудка, эмоций, а по умственному развитию её практически ничего не ограничивает быть сколь угодно более развитой, чем мозг человека.
MonkAlex
AlexSky
Аппаратное обеспечение.
eandr_67
Бездоказательно.
Бездоказательно.
P.S. Любая цифровая вычислительная система (в том числе и любая современная «нейронная сеть») — независимо от сложности — упрётся в алгоритмическую разрешимость. Человек спокойно переступает через этот барьер, для вычислительной системы он принципиально непреодолим.
P.P.S. Хоар много лет назад доказал, что любые комбинации параллельных вычислительных процессов можно представить эквивалентным единственным строго последовательным процессом. Так что наращиванием сложности дискретных систем мы никаких новых свойств, как то: самосознание или эмоции, никак не получим.
zxcvbv
Какое же доказательство вы хотите? Мозг человека сформировался в результате нескольких миллиардов итераций случайных мутаций и естественного отбора. Создав достаточной сложности нейросеть, на компьютере этот путь можно будет симулировать не за миллиард лет, а на много порядков быстрее. По-моему, это очевидно, как и то, что за этим будущее. Запуск всеускоряющегося прогресса в развитии искусственного интеллекта — вопрос, может быть, одного-двух десятилетий. Конечно, это и пугающе, и захватывающе одновременно, т.к. изменит мир почище «революции айфонов», начавшейся полтора десятка лет назад.
«Человек», или его мозг в данном контексте — не есть что-то принципиально новое, выходящее за рамки законов физики, а всего лишь очень многослойная нейронная сеть. Не вижу ни единого препятствия в «bare metal» реализации «человека» при наличии необходимых вычислительных мощностей. С учетом того, что новые смартфоны нынче выходят мощнее, чем иные суперкомпьютеры 25-летней давности, в будущем за нужными мощностями дело точно «не заржавеет».
eandr_67
Были там же, где и сейчас находятся. Просто сейчас очередной всплеск моды на «нейросети». Да, добавилось несколько новых схем связей, дающих чуть лучшие результаты, рост производительности компьютеров позволил увеличить кол-во нейронов… И на этом всё: никаких принципиально новых возможностей не появилось и не появится — пока компьютерный «нейрон» остаётся примитивным нелинейным уравнением.
Ничего оно не решает — т.к. анализа изображения даже близко нет. Есть только подобранный набор формул, дающий приемлемый процент правильных ответов на эталонных данных. Но стоит добавить немного шума и «нейронная сеть» на изображение кота дает ответ «пёс». И с распознаванием лиц ничуть не лучше: даже самая совершенная система элементарно обманывается добавлением на изображение деталей, которые человеку никак не помешают опознать лицо.
Нормальное научное доказательство. А пока такого доказательства даже близко нет и никто из ученых не знает как его получить, любые рассуждения — всего лишь бессмысленное сотрясение воздуха.
Компьютерная «нейросеть» несопоставимо примитивнее биологической нервной сети с тем же кол-вом нейронов. И расстояние между кремниевым и биологическим нейронами — как до Луны пешком. Чтобы воспроизвести на компьютере нервную систему муравья, необходимо смоделировать функционирование каждого нейрона этой сети — в реальной нейросети, а не как изолированной клетки. Но всё, что может современная наука — подключиться к нескольким десяткам нейронов (для изучения их работы в реальном времени в реальной нервной системе). О том же, как функционирует вся нервная система муравья, наука даже близко представления не имеет. И не имеет способов получить такое представление.
Мечты, мечты… Только вот к реальности подобные «прогнозы» никакого отношения не имеют.
Ещё раз: биологический нейрон несравнимо сложнее (как по конструкции, так и по функционалу) компьютерного «нейрона». Потому моделирование биологической нервной системы существующими сейчас компьютерными «нейросетями» в принципе невозможно.
Чтобы смоделировать мозг, надо, для начала, изучить алгоритмы работы всех типов нейронов, составляющих этот мозг. Но сейчас такое изучение находится на совершенно пещерном уровне: даже если взять только нервную систему глаза (несравнимо более простую, чем мозг, и обеспечивающую предварительную обработку получаемых сетчаткой видеоданных), нет никаких сформулированных алгоритмов функционирования нейронов всех типов, составляющих эту нервную систему — т.к. никто из учёных такими исследованиями не занимался.
Проблема не в мощности, а в отсутствии знаний. И невозможности на современном уровне развития получить эти знания.
Повторю: только увеличивая вычислительную мощность, сильный ИИ не создать. А научных теорий, на базе которых можно попытаться построить сильный ИИ, пока что и близко не наблюдается.
Alex_ME
Можете пояснить мысль? Вроде это довольно хорошо изученная область. Как работают всякие рецепторные поля сечатки с детекцией активного центра, активного края итп итд...
eandr_67
Современная наука изучает, что делают группы нейронов, но не понимает, как именно они это делают. Она может сказать: «вот эта область выделяет края», но не может создать работающую модель этой области.
Kordamon
Самосознание не требуется для разумного поведения.
Для моделирования разумного поведения требуется определение разумности поведения, в первую очередь.
Познание инстинкта самосохранения не требуется для работы этого инстинкта.
/zanuda mode off
… а если получится смоделировать это самое разумное поведение и эмоции, и доказать, что это «полет через махание крыльев, а не на турбине», но это вполне может привести к девальвированию эмоций… ну а если очень повезет, то к всплеску осознанности среди населения :)
zxcvbv
Есть мнение, что не нужно. Создание условий естественного отбора и достаточное количество случайных мутаций, хочешь ты или нет, приведут к той степени приспосабливаемости «организма», начиная с которой разумное поведение станет необходимым условием дальнейшего выживания, когда количественная эволюция (отращивание условных «новых рядов зубов», «панцирей» итп) уже не будет давать качественного выигрыша в борьбе с конкурентами.
Тоже не спорю. Я привел пример с инстинктом самосохранения как базовый механизм возникновения самых примитивных первичных эмоций (действующих исключительно как механизм самозащиты). На базе таких эмоций как страх, тревога, спокойствие и пр. затем тем же эволюционным путём будут зарождаться всё более высокоуровневые сложные эмоции.
Kordamon
Какое интересное мнение… а как тогда точно сказать, что человек разумен, а муравей нет? Что все люди поголовно разумны?
«вопрос на тройку: что сдаем?» (с)
zxcvbv
Надеюсь, вы не говорите о получении универсальной функции ошибки для обучения «разумной нейросети» (тот же тест Тьюринга по большому счету может использоваться в качестве итоговой числовой метрики «разумности», но по понятным причинам не годится в качестве функции ошибки).
Ограниченный классический подход, очевидно, не позволит получить настоящий ИИ, нужна самообучаемая нейросеть, когда некая «наднейросеть» сама для себя последовательно определяет функции ошибки всевозврастающей сложности исходя из окружения, а нижележащие сети на них обучаются. Вероятно так, как это делает мозг человека, поскольку являющийся изначально совсем маленькой нейронкой, закодированная отсилы несколькими сотнями мегабайт генетической информации.
Kordamon
Я говорю о неясности понятия «разумность человека», которое необходимо для моделирования разумного поведения, о чем у Вас есть такое мнение, что это необязательная вещь.
Почему бы вас не ответить на вопрос?
zxcvbv
Тест Тьюринга в качестве критерия разумности AI вам чем не подходит?
Kordamon
Тем что уже 2 недели назад мне звонил банковский голосовой чат-бот и мне потребовалось 20 сек, чтобы понять, что это не человек. И понял я это потому, что интонации в записанной речи были не слишком естественные. Через 5 лет вообще будет не отличить.
Но это даже не муравей по разумности.
zxcvbv
20 секунд на заданную ведущим собеседником тему на тест Тьюринга никак не тянет. Вот если через 5 лет будет не отличить чат-бота от человека при не 20-секундном, а 20-часовом разговоре, причем на произвольные темы, и ведущим будете вы — тогда это и будет критерий разумности.
Насчет муравья вы мистифицируете. Это пусть отточенная триллионами поколений примитивная нейронка по работе с сенсорами внешней среды, в которой никаких признаков разумности нет и не может быть.
eandr_67
Вообще-то муравьи — единственные известные насекомые, способные пройти зеркальный тест. Так что с «никаких признаков разумности нет и не может быть» вы явно погорячились.
Kordamon
Напомните, пожалуйста, где в определении теста Тьюринга указано минимальное время эксперимента?
Про муравья — я как раз об этом и говорю.
eandr_67
Тест Тьюринга не подходит тем, что он не является критерием разумности: это было доказано в 1980 году концепцией «Китайской комнаты».
P.S. По поводу теста Тьюринга есть отличный советский научпоп «Кто за стеной?»
zxcvbv
Если честно, не впечатлен, поскольку финальная мысль, вокруг которой построен сюжет («есть непостижимая разница между образом мысли человека и машины»), достойна «лирика», но никак не «физика».
Меня всегда поражает своеобразная сакрализация и придание флёра метафизической непостижимости человеческому разуму, в которую скатываются многие участники. Ребят, законы физики едины для всех! Нейроны и синапсы — абсолютно изученные примитивные механизмы. Их просто безумно много, и они уже обучены, пройдя длинный путь эволюции от «первичного бульона». Имея возможность скопировать связи и веса (или воссоздать их), можно создать человеческий разум и в кремнии, исходя из чего задача носит сугубо технический характер, а появление т.н. «сильного ИИ» — вопрос лишь времени.
eandr_67
Повторю ещё раз: при современном уровне развития науки и технологии даже нервную систему насекомого скопировать невозможно, а у человека нервная система на пять порядков сложнее. И то, что вы упоминаете «веса», показывает полное непонимание того, насколько алгоритмы работы нервных клеток отличаются от примитивных математических функций, реализуемых существующими сейчас кремниевыми «нейронами».
zxcvbv
eandr_67
Никакой «магии»: существующие сейчас кремниевые «нейроны» слишком примитивны, чтобы с их помощью можно было смоделировать биологические нейроны.
Кремниевый «нейрон» — это всего лишь простая нелинейная функция, получающая набор вещественных параметров от других функций и передающая свой результат — единственное вещественное значение — другим функциям. Процесс «обучения» — подбор коэф-тов этой функции (тех самых «весов») с тем, чтобы на эталонном наборе данных получить приемлемый процент правильных ответов. «Нейрон» статичен: его параметры меняются только извне и только между раундами обработки эталонных данных в процессе «обучения», сам же процесс обработки данных на работу «нейрона» никак не влияет. Структура связей между нейронами тоже статична: она задаётся ещё до начала «обучения» и дальше никак не меняется.
N.B. Допускаю, что в современных системах появились «нейроны» с хранением состояния. Но этого всё равно совершенно недостаточно для моделирования биологического нейрона.
Биологический нейрон получает и передаёт пакеты импульсов, параметры которых невозможно описать одним числом (меняется амплитуда, частота, кол-во импульсов в пакете и т.д.) — объем передаваемой между нейронами информации намного выше, чем в кремниевых «нейросетях». Но современная наука не даёт ответ на вопрос, насколько именно выше.
Нейрон — динамическая система, которая меняет своё поведение в процессе обработки данных: например, если от какого-то синапса приходит слишком много пакетов, нейрон ослабляет реакцию на этот синапс. Но меняется поведение нейронов не только от получаемых сигналов, но и от множества других факторов, начиная с уровня гормонов, который, в свою очередь, во многом регулируется самой нервной системой.
Фактически, каждый нейрон — это отдельная самообучающаяся вычислительная система, получающая не только сигналы от других нейронов, но и управляемая большим кол-вом дополнительных контуров.
Изменения поведения нейронов могут быть как краткосрочным, так и фиксироваться на длительные периоды времени. Нервная система состоит из нейронов разного типа, имеющих существенно разное поведение. Связи между нейронами также меняются в процессе функционирования нервной системы. И т.д…
Изучение всего этого находится на откровенно зачаточном уровне. Чтобы смоделировать мозг в кремнии, сначала надо создать реалистичную математическую модель нейронов каждого типа (чего и близко нет — есть только описания работы отдельных нейронов), математическую модель изменения структуры нейронных связей (если отдельные нейроны всё же изучают, то здесь вообще никаких исследований, нацеленных на моделирование) и т.д.
Alex_ME
Мне кажется, пока не стоит смешивать в кучу
Нет никаких подтверждений/опровержений, что подобные свойства "интеллектуальной" системы будут "сцеплены" или нет. Если говорить о сознании, различают сознание-доступ (когнитивные, функциональные свойста) vs феноменальное сознание (субъективное восприятие). Есть ли связь и требуется ли одно для другого (проистекает одно из другого) — тоже неясно.
А про технические трудности выше уже расписали.
ua30
Вы говорите о шуме, незаметном для человека, но заметном для алгоритмов. А давайте закрасим черным прямоугольником глаза на фото. Насколько точно теперь человек сможет идентифицировать личность? А ведь некоторым алгоритмам это ни как не помешает.
eandr_67
N.B. Разумеется, есть системы, которые умеют выделять определённые элементы на изображениях: например, захват лица в современных камерах. Но это узко специализированные алгоритмы, «заточенные» под единственную задачу. Я же говорю об универсальной системе, которой является человеческий глаз. Да, эта система не совершенна: оптические иллюзии — это глюки нервной системы глаза. Но даже простая векторизация растровых изображений в графических редакторах — уже большая головная боль. А нервная система глаза реализует несравнимо более сложную обработку.
Да, закрашивание глаз затруднит опознание конкретной личности, но человек всё равно понимает, что перед ним именно человек, а не шимпанзе. И человек никогда не перепутает лицо Ким Чен Ына с лицом Адриано Челентано — сколь глаза не замазывай. Но добавив минимум шума, мы можем заставить нейросеть принять человека за морскую свинку, выдать любого человека за любого другого человека…
N.B. В медийных играх «Клуба 60 секунд» встречаются серии вопросов, когда лица на фотографиях замазывают — куда сильнее чем только глаза. И команды вполне себе опознают загаданные персоны. Это то, что ни одна современная нейросеть в принципе сделать не сможет, т.к. для получения ответа требуется осознание контекста.
ua30
Вы интересно и логично пишите. Но все в направлении «моделирования мозга в кремнии». Когда Ричард Фейнман говорил о паттернах, ИМХО, он говорил о типе задачи, а не конкретной ее реализации. Ведь он сам перед этим говорил, что «машины не будут думать, как люди». Если быть последовательным, говоря о распознавании паттернов, речь идет о решении задач, которые решаются при их помощи. А не о самом распознавании паттернов. Иначе, пришлось бы действительно делать самолет, который машет крыльями. Я так это вижу.