Судя по рекордно высокому отношению количества молчаливо недовольных к количеству комментаторов, которым есть что возразить, многим читателям неочевидно, что:
1) Это чисто теоретическая дискуссионная статья. Здесь не будет практических рекомендаций по выбору инструментов для майнинга криптовалюты или сборке мультивибратора, чтобы мигать двумя лампочками.
2) Это не научно-популярная статья. Здесь не будет объяснения для чайника принципа работы машины Тьюринга на примере спичечных коробков.
3) Хорошо подумайте прежде, чем продолжить чтение! Привлекает ли вас поза агрессивного дилетантизма: минусую всё, что не понимаю?
Заранее благодарен всем, кто решит не читать эту статью!
Демон — компьютерная программа в системах класса UNIX, запускаемая самой системой и работающая в фоновом режиме без прямого взаимодействия с пользователем.
Википедия
Еще в дошкольном возрасте слышал сказку про ученика чародея. Повторю ее в своем пересказе:
Когда-то где-то в средневековой Европе жил чародей. У него была большая книга заклинаний в переплете из черной телячьей кожи с застежками и уголками из железа. Когда чародею нужно было прочесть заклинание, он отпирал ее большим железным ключом, который всегда носил на поясе в специальном кошеле. Еще у чародея был ученик, который прислуживал чародею, но ему запрещалось заглядывать в книгу заклинаний.
Как-то раз чародей на целый день уехал по делам. Лишь только он вышел из дома, ученик бросился в подземелье, где была алхимическая лаборатория, в которой лежала книга заклинаний, прикованная цепями к столу. Ученик схватил тигли, в которых чародей плавил свинец, чтобы превратить его в золото, поставил их на жаровню и раздул огонь. Свинец быстро расплавился, но в золото не превратился. Тогда ученик вспомнил, что чародей, расплавив свинец, каждый раз отпирал ключом книгу и долго шептал заклинание из нее. Ученик безнадежно посмотрел на запертую книгу и увидел, что рядом с ней лежит ключ, забытый чародеем. Тогда он бросился к столу, отпер книгу, раскрыл ее и громко прочел самое первое заклинание, старательно по слогам выговаривая незнакомые слова, предполагая, что такое важное заклинание, как заклинание трансмутации свинца в золото, наверняка будет самым первым.
Но ничего не произошло: свинец не желал превращаться. Ученик хотел было попробовать другое заклинание, но тут удар грома сотряс дом, и перед учеником появился огромный жуткий демон, вызванный заклинанием, которое только что прочел ученик.
— Приказывай! — зарычал демон.
От страха все мысли покинули голову ученика, он не мог даже пошевелиться.
— Приказывай, или я тебя съем! — снова прорычал демон и протянул к ученику огромную руку, чтобы его схватить.
В отчаянии ученик пролепетал первое, что смог придумать:
— Полей этот цветок.
И показал на герань, горшок с которой стоял на полу в углу лаборатории, в потолке над цветком было сделано единственное в подземелье маленькое оконце, через которое едва пробивался солнечный свет. Демон исчез, но через мгновение опять появился с огромной бочкой воды, которую перевернул над цветком, вылив воду. Снова исчез и снова появился с полной бочкой.
— Довольно, — закричал ученик, стоя уже по пояс в воде.
Но видимо одного желания было недостаточно — демон таскал и таскал воду в бочке, выливая ее в углу, где когда-то стоял скрывшийся под водой цветок. Наверное, было нужно специальное заклинание, чтобы прогнать демона. Но стол с книгой уже скрылись в мутной воде, в которой плавали пепел и угли из жаровни, пустые реторты, колбы, табуретки, гальванометры, дозиметры, одноразовые шприцы и прочий мусор, так что если бы ученик и знал, как найти нужное заклинание, он не смог бы этого сделать. Вода прибывала, и ученик вскарабкался на стол, чтобы не захлебнуться. Но это помогло не надолго – демон методично продолжал таскать воду. Ученик был уже по горло в воде, когда вернулся чародей, обнаруживший, что забыл дома ключ от книги, и прогнал демона. Конец сказки.
Сразу про очевидное. С естественным интеллектом (ЕИ) ученика, казалось бы, всё понятно – тупица, еще тупее надо долго искать. А вот с интеллектом демона – кстати, какой у него: ЕИ или ИИ? – неоднозначно. Правомерны разные версии (а к ним будут появляться еще и вопросы):
Версия 1) Демон еще тупее ученика. Получил приказ и будет выполнять бесконечно долго, даже тогда, когда всякий смысл исчезнет: исчезнет цветок – объект полива, исчезнет угол, к которому привязаны координаты цветка, исчезнет планета Земля, а тупой демон так и будет в определенную точку космического пространства доставлять бочками воду. И если в этой точке вспыхнет сверхновая, то демону без разницы, куда воду носить. Более того: насколько тупым надо быть, чтобы поливать маленький цветок из огромной бочки. Это уже называется не полить цветок, а утопить цветок. Он хоть смысл приказов понимает?
Версия 2) Демон всё понимает, но связан обязательствами. Вот и проводит что-то вроде итальянской забастовки. Пока официально по всем правилам его не прогонят – не остановится.
Вопрос 1 к версиям 1,2) Как отличить совсем тупого демона по версии 1 от совсем не тупого по версии 2?
Вопрос 2 к версиям 1,2) Выполнил бы демон правильно (с точки зрения ученика) более точную формулировку? Например, если бы ученик сказал: возьми ту пустую литровую колбу, которая стоит на полке, набери в нее воды и полей тот цветок 1 раз. Или, например, если бы ученик сказал: пошел прочь.
Версия 3) Чародей наложил на демона дополнительно заклятье, по которому если кто-то кроме чародея использует услуги демона, то демон должен тут же информировать об этом факте чародея.
Версия 4) Демон не держит зла на чародея и его ученика, поэтому видя, что ситуация вышла из-под контроля, в ходе своих перемещений с бочкой возник за спиной чародея и гаркнул: “ты ключик дома забыл, там потоп”. А чародей сам бы и не вспомнил.
Замечание 1 к версии 4) Особо стоит отметить, что у носителей ЕИ бывает очень не идеальная память.
Далее версии можно множить как “кроликов Фибоначчи», т.е. не очень сложным алгоритмом. Например:
Версия 5) Демон мстит ученику за беспокойство.
Версия 6) Демон не держит зла на ученика, но мстит чародею.
Версия 6) Демон мстит всем.
Версия 7) Демон не мстит, но развлекается. Закончит, когда надоест.
И т. д.
Итак, с демоном понятно, что ничего не понятно. Не лучше с чародеем. Можно сочинить не меньше версий: что специально решил проучить ученика, всюду сующего любопытный нос; что хотел утопить ученика, но когда демон гаркнул про потоп, испугался — вдруг кто из прохожих услышал, тогда на чародея падет подозрение; хотел пробудить у ученика интерес к заклинаниям и т. д.
Тут возможен детский вопрос: какая же из предложенных версий правильная? Видимо, любая. В сказке не осталось неиспользованной информации, чтобы предпочесть какую-либо из версий остальным. Здесь мы имеем дело с довольно частым случаем художественных произведений с возможностью неоднозначной интерпретации. К примеру, если какой-нибудь режиссер захочет поставить эту сказку в театре или снять по ней кинофильм, он может выбрать наиболее привлекательную с его точки зрения интерпретацию. Для другого режиссера привлекательной может оказаться другая интерпретация. При этом привлекательность может определяться дополнительными соображениями, например, привлекательность для зрителей, чтобы обеспечить максимум кассовых сборов, или привлекательность для демонстрации какой-либо сверх-идеи: идеи победы добра над злом, идеи долга, бунтарской идеи – например, по Достоевскому: ученик, как Раскольников, задается вопросом «тварь он дрожащая или право имеет» и т.д.
Возникает еще один вопрос.
Еще один вопрос). Как мы можем научить ИИ отдавать предпочтение какой-то из озвученных версий, если сами, обладая ЕИ, не всегда можем осознанно выбрать одну из них?
Возвращаясь к чародею, очень правдоподобной выглядит версия, что он хотел ученика исполнительного и послушного, как демон, чтобы не совал свой нос в запретные книги и туда, куда его не просят. Того же самого сейчас зачастую хотят от ИИ. С первого взгляда это нормальные традиционные требования к любой машине: полная покорность, неповиновение недопустимо. Но в случае ИИ может возникнуть вопрос версий 1,2 (см. выше), т.е. ИИ вырождается — “железка” может что угодно думать о своих создателях и хозяевах, но никаких действий, связанных с ИИ, она производить не будет, т.е. вместо ИИ получим тупой примитивный автомат. Из этого закрадывается подозрение: может, чародей не хотел сделать ученика столь тупым исполнителем, как демона? Т.е. появляется идея ИИ с ограничениями. Тут всё еще сложнее даже в сфере ЕИ: вспомнить извечные конфликты “отцы и дети”, “учитель и ученик”, “начальник и подчиненный”.
Ранее при выборе определения ИИ из возможных я отмечал:
задача рассортировать несколько десятков тысяч слов по алфавиту для человека будет утомительной, делать он ее будет долго, а вероятность ошибок для среднего исполнителя со средним уровнем ответственности будет значительной. Современный компьютер выполнит эту задачу без ошибок за очень короткое для человека (доли секунды) время.
Остановился на следующем определении: к ИИ относятся задачи, которые компьютер решает заметно хуже человека.
Это определение учитывает высказанные выше соображения и удобно для практики, в то же время оно не идеально, хотя бы потому, что списки задач, “которые компьютер решает заметно хуже человека”, на настоящий момент и 20 лет назад различаются. Но более совершенного определения, на мой взгляд, пока никто не придумал.
Сказанное чисто качественно иллюстрирует схема в начале статьи. На координатной оси “навыки” навыкам в районе нуля (нуль и чуть больше) соответствуют навыки, где человек превосходит ЭВМ, например, способностью принимать нестандартные решения. Навыкам в районе единицы (единица и чуть меньше) соответствуют навыки, где ЭВМ превосходит человека: способностью к вычислениям, памятью. Положив максимальное превосходство равным условной единице на координатной оси “превосходство”, получим зависимости превосходства от навыков для человека и ЭВМ в виде диагоналей единичного квадрата. Так представляется ситуация на данный момент. А возможен ли сильный-ИИ, у которого все навыки будут максимальны (красная линия)? Или даже выше (сверх-ИИ – синяя линия)? Может быть, промежуточной целью прогресса должен быть не сильный, но и не совсем
слабый ИИ (фиолетовая линия), который в ряде навыков будет уступать ЕИ, но не так сильно, как сейчас.
Возвращаясь к нашей литературной сказочной модели, можно сказать, что все ее герои выступили не лучшим образом: растяпа чародей забыл ключ и получил потоп в своем подземелье, ученик по глупости и неосторожности получил кучу экстремальных впечатлений и чуть не утонул, демон был изгнан пинками без всякой благодарности. Что касается интеллекта демона – уже отмечалось, что четко отнести его к ИИ или к ЕИ затруднительно, но интеллект (пусть и не впечатляющий) остальных явно относится к ЕИ. Про них можно сказать, что делать опасные ошибки в решениях, проявлять невнимательность, забывать нужные вещи и уставать – их основные неотъемлемые свойства. К сожалению, эти свойства присущи и всем другим носителям ЕИ в большей или меньшей мере. Про ненадежность сортировки слов или чисел ЕИ уже было отмечено выше, но казалась бы еще более простая задача – просто запомнить число оказывается очень непростой для людей. Для машины возможность запоминания цифр числа пи ограничена только размером памяти, а большинству людей приходится использовать для этого мнемоники, типа “Что я знаю о кругах”. Казалось бы, в строке “3,1416” меньше символов, чем в указанной мнемонике, но почему-то люди предпочитают запоминать менее экономным способом. И длиннее:
Учи и знай в числе известном за цифрой цифру, как удачу примечать
Чтобы нам не ошибиться,
Надо правильно прочесть
Три, четырнадцать, пятнадцать
Девяносто два и шесть
Для запоминания цветов радуги:
Каждый оформитель желает знать, где скачать фотошоп
А начало Менделеевской таблицы:
Воду родную (Водород) смешали с Гелем (Гелий), чтобы Лить (Литий). Да, Бери и лей (Бериллий) в сосновый Бор (Бор), где из-под Угла родного (Углерод) выглядывает Азиат (Азот), причём с такой Кислой рожей (Кислород), что Вторично (Фтор) не хотелось смотреть. Но Не он (Неон) был нам нужен, поэтому мы отошли На три (Натрий) метра и попали в Магнолию (Магний), где Алю в мини (Алюминий) юбке намазали Кремом (Кремний) с содержанием Фосфора (Фосфор), чтобы она перестала быть Серой (Сера). После этого Аля взяла Хлорку (Хлор) и помыла корабль Аргонавтов (Аргон)Но почему такое явное несовершенство в столь совершенном ЕИ? Может, благодаря умению забывать самые простые факты человек получает свободу комбинировать фрагменты своих размышлений в произвольном диком порядке и находить нестандартные решения? Если так, то сильный-ИИ невозможен. Либо будет забывать как человек, либо не будет способен к нестандартным решениям. Во всяком случае, из приведенных предположений следует необходимость разграничения целей ИИ: одна из целей моделирование ЕИ, другая создание сильного ИИ. Достижение одной может исключать достижение другой.
Как видим, в области ИИ возникает слишком много вопросов с неоднозначными ответами, так что неясно, в каком направлении двигаться. Как бывает в таких случаях, двигаться пытаются сразу во всех направлениях. При этом из-за отсутствия математически строгих формулировок приходится обращаться к философии и художественно-литературному моделированию. Один из наиболее известных в этом направлении примеров — книга “Выбор по Тьюрингу” (1992 г.) одного из корифеев ИИ Марвина Ли Минского и известного фантаста Гарри Гаррисона. Приведу цитату из этой книги, может быть объясняющую описанный выше феномен мнемоники:
человеческая память — не магнитофон, который записывает всё подряд в хронологическом порядке. Она устроена совсем иначе — скорее как неаккуратно ведущаяся картотека, снабжённая запутанным и противоречивым указателем. И не просто запутанным — время от времени мы изменяем принципы классификации понятий.
Интересная трактовка магнитофонной метафоры в другом литературном произведении рассказе Станислава Лема «Терминус» (из серии «Рассказы о пилоте Пирксе»). Тут случай своеобразного «интеллектуального магнитофона»: старый робот на старом космическом корабле, потерпевшем когда-то аварию, занимается текущими ремонтными работами, сопровождающимися постукиванием. Но если вслушаться, это не просто белый технологический шум, а запись морзянки — переговоров членов экипажа гибнущего корабля. Пиркс вмешивается в эти переговоры и неожиданно получает ответ от давно погибших космонавтов. Получается, что примитивный ремонтный робот в некотором роде хранит копии их сознания или это когнитивные искажения восприятия пилота Пиркса?
В другом рассказе «Ананке» (из той же серии) копия ЕИ в управляющем компьютере космического транспорта приводит к его параноидальной перегрузке тестовыми задачами, которая оканчивается катастрофой.
В рассказе «Несчастный случай» слишком антропоморфно запрограммированный робот гибнет в результате альпинистского восхождения, которое он решил совершить в свободное от работы время. Нужны ли такие исполнители? Но зацикливающиеся на поливе цветка демоны тоже далеко не всегда нужны.
Некоторым специалистам в области ИИ не нравятся подобные «философствования» и «литературщина», однако эти «философствования» и «литературщина» традиционно присущи анализу ЕИ и неизбежны, пока ИИ сравнивают с ЕИ, а тем более, пока в ИИ пытаются копировать ЕИ.
В заключение опрос по ряду возникших вопросов.
Комментарии (49)
DesertFlow
14.06.2019 14:55Истории с зловредными джинами/демонами сводятся к тому, что описание чего либо только словами недостаточно. Нужно знать контекст. И это действительно интересная задача в ИИ — как получать этот контекст и как его преобразовывать для решения задачи.
А вот насчёт того, что ограниченность памяти и ошибки могут быть необходимы для работы интеллекта, не согласен. Простейший ИИ можно представить как имеющий идеальную память (помнящий абсолютно все показания своих сенсора за все время своего существования). Тогда достаточно найти наиболее похожую ситуацию из прошлого, посмотреть как тогда развивались события. А также перебрать все возможные в данный момент действия, для каждого найти наиболее похожую ситуацию из прошлого и посмотреть что тогда получалось при таких действиях. И выбрать лучший вариант. Все отсутствующие промежуточные значения интерполировать и экстраполировать.
Это по сути полный перебор в Model-based, и он требует невероятную вычислительную мощность (память для хранения видео за всю жизнь уже доступна, с этим нет проблем). Но проблема здесь совсем в другом — как находить наиболее похожую ситуацию из прошлого? Нельзя брать среднее из значений яркости пикселей, да ещё и складывать это число вместе со средними показаниями акселерометра, например. Как минимум, нужны какие-то коэффициенты для значений акселерометра и для разных пикселей.
И получается, что нужно выучить такие коэффициенты весов, чтобы сравнение с этими весами показаний текущих показаний сенсоров (текущей ситуации) и каждой ситуации из прошлого, позволяло найти наиболее похожую ситуацию из прошлого, из который мы возьмем выгодные действия.
Но ведь эти веса… Это же коффициенты свёртки в CNN! И вот уже получается, что нам нужно выучить веса свёртки, а запоминать достаточно паттерны, а не всю историю целиком.
В естественном интеллекте эти веса были выучены за счёт эволюции (особи с плохими весами вымерли, остались только с хорошими). А как их найти искусственно для ИИ — хороший вопрос.
Так что несовершенство памяти вовсе не нужно для работы интеллекта. Чем лучше память и чем выше вычислительная мощность, тем лучше. Проблема только в определении как взвешивать ситуации из прошлого опыта, чтобы находить те ситуации из прошлого, чтобы взятые из них действия вели к решению задачи. Ну а всяких трюков, которые природа использовала для этого, может быть множество. В том числе несовершенство памяти, чтобы вносить каждый раз случайность, а не повторяться.
third112 Автор
14.06.2019 22:26Так что несовершенство памяти вовсе не нужно для работы интеллекта.
ИМХО здесь противоречие. В 1ой фразе «несовершенство памяти вовсе не нужно» — в последней м.б. нужно «чтобы вносить каждый раз случайность».
[...] Ну а всяких трюков, которые природа использовала для этого, может быть множество. В том числе несовершенство памяти, чтобы вносить каждый раз случайность, а не повторяться.
Простейший ИИ
Я не про простейший ИИ, а про непростой ЕИ.
Истории с зловредными джинами/демонами сводятся к тому, что описание чего либо только словами недостаточно. Нужно знать контекст.
Литературный контекст есть, т.к. это связный законченный рассказ. Какой контекст еще нужен? Как он может выглядеть и почему он нужен? Приведена метафора, разве, нпр., в метафоре рабочего стола (GUI) есть особый спец. контекст?DesertFlow
14.06.2019 23:34Ну вы же сами в статье говорите, что какие-то задачи компьютер решает лучше человека, а какие-то хуже. И так уж получилось, что интеллектуальными можно назвать те задачи, которые компьютер пока делает хуже человека. С этим можно согласиться. Хотя скорее всего мы просто не замечаем успехи компьютеров, лет 50 назад простой калькулятор наверняка считался очень интеллектуальным.
Я бы перефразировал, что интеллектуальными задачами мы считаем те, которые люди могут делать, а компьютер раньше не мог, а потом вдруг смог. Когда-то для этого достаточно было простой числодробилки вроде решения системы уравнений. Теперь вот компьютерное зрение на уровне человека, в будущем логика и рассуждения.
Поэтому тут имхо нет привязки к реализации. У живого мозга забывание может быть необходимым для рандомизации действий (не факт, конечно, но просто предположим). Но для искусственного интеллекта это ведь не обязательно. Рандомизацию можно сделать как-нибудь иначе. Главное сам принцип — ребенок рождается, ничего не зная об окружающем мире. Весь его будущий интеллект будет основан полностью на его опыте. А значит, чем лучше память и чем выше быстродействие, тем лучше.
Литературный контекст есть, т.к. это связный законченный рассказ. Какой контекст еще нужен? Как он может выглядеть и почему он нужен?
Ну да, еще как нужен. И практически во всем. Просто мы так привыкли к нему, что не замечаем. Есть исследование, что если в игрушке вроде марио заменить модельку персонажа, препятствия и врагов случайными цветными кубиками, то человек быстро адаптируется и продолжает успешно играть. А компьютер очень долго обучается такой игре. Казалось бы — вот пример превосходства интеллекта человека над машинным.
Но если изменить вектор гравитации, чтобы он был вбок, то люди резко теряют свою производительность, и иногда вообще не могут ее пройти. А машинное обучение обучается такой игре за то же время, что и в первый раз. Это доказывает, что мы неявно используем контекст, о котором даже не задумываемся — что при прыжке гравитация тянет вниз, что от столкновения с врагами погибаешь и т.д.
И так во всем! Даже полного текста литературного рассказа недостаточно, чтобы понять, о чем идет речь в этом же самом рассказе! Нужен дополнительный контекст — исторический, как устроен мир вокруг и т.д… В самом рассказе он не содержится, его надо как-то извлекать из других источников. Это большая проблема в современном ИИ.
Приведена метафора, разве, нпр., в метафоре рабочего стола (GUI) есть особый спец. контекст?
Конечно. Обозначьте метафору рабочего стола (GUI) числом 34562. Оно о чем-нибудь вам говорит? Нет, нужен контекст, в котором это число (и обозначаемая им метафора рабочего стола) обретет смысл. В общем случае, это все знания об окружающем мире, связанные с этой метафорой. Выделить подходящий контекст для решения интеллектуальной задачи очень сложно, и даже непонятно как это вообще делать.third112 Автор
15.06.2019 00:13Теперь вот компьютерное зрение на уровне человека
Нет. Периодически сообщают, как ИИ вместо черепахи распознал пистолет :) Это отдельные случаи, но избежать их не удается. Пример из свежих публикаций:
Хотим чтобы машина не сходила с ума от велосипеда прикрученного к багажнику
У живого мозга забывание может быть необходимым для рандомизации действий (не факт, конечно, но просто предположим)
Не факт. Однако, когда Минский и Гаррисон говорят, что «человеческая память — не магнитофон» это похоже на правду. И тут возникает вопрос: почему не магнитофон? Магнитофон проще устроен. Почему эволюция пошла по другому более сложному пути? — Видимо на это есть серьезные причины. М.б. там рандомизация, но нетривиальная. Современный человек имеет внешнюю память магнитофонного типа — нпр., бумажный блокнот, где делает записи, откуда может их читать. Это не мешает ему мыслить. Но при этом видимо он использует собственную внктреннюю память, устроенную по другим принципам. Примеров мышления с только магнитофонной памятью мы пока не знаем, и открытый вопрос: возможно ли такое мышление в принципе?
Далее про контекст — понял, что Вы хотели сказать. Согласен.DesertFlow
15.06.2019 01:08Нет. Периодически сообщают, как ИИ вместо черепахи распознал пистолет :)
Я имел ввиду, что если сейчас компьютер распознает что-то близко к уровню человека, то это сразу называют системой ИИ. Когда начнет распознавать надежно, это станет обыденностью, и ИИ начнут называть когда компьютер будет строить логические цепочки, похожие на человеческие. То есть, «ИИ это то, что хорошо делает человек, но плохо компьютер» — это какое-то динамическое определение получается ).
Я просто читал чьи-то воспоминания, кажется разработчика Wolfram Mathematica, что когда мощность компьютеров позволила решать системы уравнений и всякие сложные математические штуки, которые до этого делались вручную, то люди тогда думали: вот почти готовый ИИ. Сейчас прикрутим логику и базу знаний, и получим робота. Не получилось.
Не факт. Однако, когда Минский и Гаррисон говорят, что «человеческая память — не магнитофон» это похоже на правду. И тут возникает вопрос: почему не магнитофон? Магнитофон проще устроен. Почему эволюция пошла по другому более сложному пути?
А как из магнитофонной записи делать какие-нибудь выводы? Вот есть там электрический сигнал от 0 до 5 Вольт в каждый момент времени, и что? Я не представляют как использовать такую запись. Как в ней найти подходящий момент времени, похожий на текущую ситуацию?
Вот природа и пошла по пути, что нейроны растут по все стороны, и чем чаще сигнал проходит по пути, тем этот путь становится толще, а остальные отмирают (получается память). А еще добавила дофаминовую систему, что если реальность расходится с ожиданием, то в этот момент закрепляются пути, по которым сигнал прошел в реальности. Мы это воспринимаем как любопытство и как удовольствие от узнавание нового. Так природа заставила мозг изучать все новое, и тем самым развиваться. Ну а потом, когда мозг получает входной сигнал, например от зрения, то сигнал просто распространяется по сети нейронов, но на выход к мышцам пропускаются не просто сигналы, которые затрагивают действия, но только те, которые одновременно затрагивают и награду. Вот и все, получается что мы выбираем оптимальные действия, ведущие к максимальной награде. Ничего сложного, простой алгоритм. И реализуется в биологическом «железе» довольно просто.third112 Автор
15.06.2019 01:55это какое-то динамическое определение получается ).
Верно! Я написал в статье:Это определение учитывает высказанные выше соображения и удобно для практики, в то же время оно не идеально, хотя бы потому, что списки задач, “которые компьютер решает заметно хуже человека”, на настоящий момент и 20 лет назад различаются.
А как из магнитофонной записи делать какие-нибудь выводы? Вот есть там электрический сигнал от 0 до 5 Вольт в каждый момент времени, и что? Я не представляют как использовать такую запись. Как в ней найти подходящий момент времени, похожий на текущую ситуацию?
Как и в ПК — носитель не имеет значение: лента или диск. Загружается ОС, далее, нпр., может экспертная система с базой знаний и файлы данных, из которых делаются выводы.
Ничего сложного, простой алгоритм. И реализуется в биологическом «железе» довольно просто.
Только воспроизвести на ПК этот «простой алгоритм» никак не получается ;) Аналогично:
люди тогда думали: вот почти готовый ИИ. Сейчас прикрутим логику и базу знаний, и получим робота. Не получилось.
DesertFlow
15.06.2019 19:24Ага, вот вся проблема в этой экспертной системе. Не получается ее сделать. Иначе уже лет 40 были бы полноценные сильные ИИ, работающие по описанному в самом начале принципу. Поиск похожей ситуации на ленте магнитофона, смотрели что тогда было, и перебор всех возможных действий с аналогичным поиском в истории.
DesertFlow
15.06.2019 00:03Я не про простейший ИИ, а про непростой ЕИ.
Я не думаю, что допускать опасные ошибки в решениях, проявлять невнимательность, забывать нужные вещи и уставать – основные неотъемлемые свойства ЕИ. Или что это необходимо для рандомизации действий и поиска нестандартных решений. Для этого более чем достаточно чисто биологических генераторов случайных чисел, вроде уставания нейронов или зависимости от разного рода внешних циклов, например циркадных.
Если бы я помнил содержание всех справочников и все прочитанное и увиденное за жизнь, я определенно был бы умнее ). Но здесь ключевой момент, что не просто помнить, а уметь в этой памяти находить подходящие воспоминания. Вот это базовое свойство интеллекта, имхо.
Простыми способами эта задача не решается. Нет способа сравнить одну кучку чисел с другой кучкой чисел и сказать: вот этот временной отрезок в видео больше всего похож на текущую ситуацию. Надо как-то обучиться как правильно сравнивать эти цифры.
Представьте, что вы идете на свидание с девушкой и несете букет цветов. Откуда вы взяли, что надо было купить букет? Да просто видели когда-то это в фильме или знаете из своего личного опыта, что это в прошлом приводило к положительному результату. То есть нашли момент в своем прошлом, похожий на текущую ситуацию «собираюсь на свидание». И взяли оттуда действие «купить букет цветов». Это действие было полезным в прошлом, значит и сейчас может сработать. Примерно так и работает что ЕИ, что ИИ, как мне кажется.
А рассуждения, пробование нового — это всего лишь прикидки по Model-Based, внутренняя симуляция разных возможных ситуаций в воображении. Заметьте, не просто рассуждения в виде какой-то якобы абстрактной работы интеллекта, а каждый возможный расклад «что будет, если я принесу девушке цветы?», «а что будет, если не принесу?» — точно так же проверяется на своем прошлом. Ищется подходящее случаю воспоминание.
В этом примере вы могли вспомнить, что в каком-то фильме герой не смог купить цветы и девушка ему отказала. А в другом купил и все прошло хорошо. Вот и сделали выбор: надо купить! Вы также можете поэкспериментировать, например принести девушке вместо цветов в маленькой коробочке таракана. Но заметьте, такое экспериментирование не абсолютно случайное, а потому что предыдущий опыт не гарантирует надежного результата. Например, если судя по вашим воспоминаниям даже с цветами может быть облом. Почему-то тогда не попробовать что-то новое? Вдруг так получится? Любопытство, опять же.
third112 Автор
15.06.2019 00:32Я не думаю, что допускать опасные ошибки в решениях, проявлять невнимательность, забывать нужные вещи и уставать – основные неотъемлемые свойства ЕИ.
Эти свойства бросаются в глаза. Если моделировать ЕИ, то без них получим слишком непохожую модель. Но как сделать ИИ не моделируя ЕИ мы не знаем.
Vantol
14.06.2019 18:18После сказки, которую можно было бы сократить на 90%, дальше не читал, поэтому о статье судить не возьмусь, но некоторые вопросы сформулированы некорректно.
1. Если существует хоть одна задача, которую ИИ (под ИИ я понимаю только сильный ИИ) решает хуже человека, значит, это не ИИ.
4. В чем отличие сильного ИИ и сверх ИИ (лично я считаю, что их нет, т.к. создание одного автоматически приведет ко второму)?
6. Ошибки, внимательность и забывание — это работа софта, усталость — работа железа.arheops
16.06.2019 02:37+1То-есть если ИИ не может лежать на диване с пивом, то он не ИИ?
Или если не самоубивается с шансом 1 к 100к?
michael_vostrikov
15.06.2019 07:24Но более совершенного определения, на мой взгляд, пока никто не придумал.
Оу, ну если в такой формулировке, то я придумал)
"Интеллект — это способность информационной системы строить модель окружающей среды на основе входящей информации".
third112 Автор
15.06.2019 11:39Интеллект — это способность информационной системы строить модель окружающей среды на основе входящей информации
Этому определению удовлетворяет пародия Элиза :)michael_vostrikov
15.06.2019 12:06Схема работы
Элиза просто выделяет во входной фразе значимые слова, которые подставляет в шаблонную фразуМодели окружающей среды нет.
third112 Автор
15.06.2019 12:35Почему нет? — Есть модель слов, фразы, значимых слов и т.д. Где сказано, что это не модель? ;)
michael_vostrikov
15.06.2019 13:38Есть модель слов, фразы, значимых слов и т.д.
А она сама ее построила?)
Но нет, это все равно не модель. Если человек ей скажет "У меня есть 2 брата, с которыми у меня плохие отношения", модель для этой фразы должна включать информационные объекты, обозначающие самого собеседника, 2 объекта мужского пола, определенное отношение родства между ними, наличие между ними такой абстрактной связи как "отношения", понятие "плохие", факт "собеседник оценивает их как плохие", и еще много всяких мелких взаимосвязей типа того, что общение между ними все же иногда происходит.
third112 Автор
15.06.2019 13:46модель для этой фразы должна включать
Кому чего должна модель? В определении модели обычно не говорят что она должна. Нпр.,
Модель есть абстрактное представление реальности в какой-либо форме (например, в математической, физической, символической, графической или дескриптивной), предназначенное для представления определённых аспектов этой реальности и позволяющее получить ответы на изучаемые вопросы[3]:80.
NB!: Не сказано даже, что ответы долны быть правильными. (Иначе нужно будет объяснять, что такое «правильный ответ»).
Т.о. модель — очень широкое понятие. Даже кофейную гущу можно использовать как модель :)michael_vostrikov
15.06.2019 14:04Кому чего должна модель?
Давайте без игры словами. Модель это не живой субъект, и быть должной "кому-то" "что-то" она не может. "Модель должна" означает "для соответствия определению требуется". Требуется кому — тому, кто этот термин использует, что — соответствие.
предназначенное для представления определённых аспектов этой реальности
Ну вот, в реальности собеседник, 2 брата, и взаимоотношения между ними, а в памяти Элизы эти аспекты ничего не представляет. Есть слова в виде текста (входная информация), но с ними ничего не связано из того что нужно для представления конкретно этой ситуации. Синтаксические связи вида "вот это слово — значимое" не подходят, потому что они же будут активироваться и при описании совершенно другой ситуации.
third112 Автор
15.06.2019 14:12взаимоотношения между ними
В определении не сказано, что эти аспекты нужно представить в модели. Простой пример- задача для первоклассника: мама дала 2 братьем 4 яблока и сказала разделить поровну. Школьник построит простую мат. модель, где количество яблок делится на количество братьев. И никаких взаимоотношений.michael_vostrikov
15.06.2019 14:36В моем определении сказано. "Модель окружающей среды" же, а не "модель того, того, и вон того аспекта". Окружающая среда — это все, что находится вне информационной системы, включая все взаимосвязи между объектами. Чем больше соответствия модели и реальности, тем больше понимания ситуации, и тем больше интеллекта (способности ее строить). Естественно, при условии, что модель строится самой системой, а не задается извне другим интеллектом, как например при написании обычных программ.
Школьник построит простую мат. модель
Так у него и в задаче нет никаких взаимоотношений.
third112 Автор
15.06.2019 15:02Окружающая среда — это все, что находится вне информационной системы, включая все взаимосвязи между объектами.
Это прототип.
Чем больше соответствия модели и реальности, тем больше понимания ситуации, и тем больше интеллекта (способности ее строить).
Прежде всего: полное соответсвие невозможно.
Воспроизведение в модели ненужных свойств только усложняют модель, зря загружают ресурсы. Нпр., если надо на капче найти все автомобили, то цвет учитывать не надо.
Так у него и в задаче нет никаких взаимоотношений.
В задаче сказано «2 брата». Быть братом — взаимоотношение.michael_vostrikov
15.06.2019 15:10Это прототип.
Какой прототип? Я привел определение термина, который у меня используется в правой части в изначальном определении.
Прежде всего: полное соответствие невозможно.
Да и не нужно. Нужно то, которое требуется для задачи. Для правильного выполнения задачи Элизы описанная модель нужна. У нее ее нет, значит определению она не удовлетворяет.
В задаче сказано «2 брата». Быть братом — взаимоотношение.
Ну да, это и представит школьник. Школьник помладше даже может спросить "Как Васька и Колька Ивановы?". Я имел в виду, что в задаче не сказано, какие взаимоотношения между братьями, хорошие или плохие. А если вы скажете в задаче "мама дала 2 мюмзикам 4 яблока", школьник вас спросит "кто такие мюмзики?" Потому что у него нет модели, с которой связано это слово.
third112 Автор
15.06.2019 15:16Для правильного выполнения задачи Элизы описанная модель нужна. У нее ее нет, значит определению она не удовлетворяет.
Элиза не удовлетворяет Вашему переопределению понятия «модель». В другой ветке я прошу повторить это переопределение. После м.б. вернемся к Элизе.
agat000
15.06.2019 13:19+1Строить модель среды может любой фотоаппарат.
Интеллект все таки предполагает как то работать с этой моделью, анализировать и строить алгоритмы воздействия.third112 Автор
15.06.2019 13:38Ok. Только для воздействия не всегда обязателен Интеллект. Нпр., термостат в стиральной машинке к ИИ обычно не относят :)
michael_vostrikov
15.06.2019 13:49Нет. Модель это заданное соответствие реальных и информационных объектов, информационный объект моделирует реальный, а "объект" означает, что у него есть состояние и поведение, что в свою очередь означает, что нужна возможность определять объект как "тот же самый" в разные моменты времени.
Понятия "тот же самый" у фотоаппарата нет. Максимум что он может моделировать — значение цвета в некоторой точке проекции пространства на плоскость на момент фотографирования. В более крупные объекты он их собрать не сможет. Но фотоаппарат это датчик, а датчики это и есть способ ввода информации. Он может быть частью системы с интеллектом, осуществляя первичную обработку информации. Так что да, он строит некоторую модель, но объекты с состоянием и поведением не выделяет.
third112 Автор
15.06.2019 14:02нужна возможность определять объект как «тот же самый»
Этого нет в определении модели (см. выше). На практике это не возможно: нпр., модель самолета для испытаний аэродинамики не есть тот же самый реальный самолет — берут кусок дерева в несколько сотен раз меньше реального самолета и выстругивают модель, а в ней нет моторов, кабины пилота и т.д. Основной принцип моделирования, что модель имеет не все свойства прототипа, а только минимум наиболее значимых свойств. Что уж говорить про мат. модели? Нет понятия «тот же самый» у диффура, которым моделируют самолет.
На голых диффурах не полетишь! :)))michael_vostrikov
15.06.2019 14:09Этого нет в определении модели
Есть, просто неявно. "предназначенное для представления определённых аспектов". "Определённый аспект" означает, что за все время моделирования он один и тот же. Оно же для людей дано, многое подразумевается по умолчанию.
На практике это не возможно
Эту часть я не понял. Почему невозможно в момент времени Y определять наблюдаемый объект как "тот же самый", который наблюдался в момент времени X?
third112 Автор
15.06.2019 14:46просто неявно
Вот тут начинается игра словами, домысливаем.
«Определённый аспект» означает, что за все время моделирования он один и тот же.
Аспектом при моделировании самолета является скорость потока воздуха. Она меняется в процессе модельных испытаний.
Почему невозможно в момент времени Y определять наблюдаемый объект как «тот же самый», который наблюдался в момент времени X?
Если, нпр., объект горит дымным пламенем…michael_vostrikov
15.06.2019 15:01Вот тут начинается игра словами, домысливаем.
Поэтому я и дал свое конкретное определение модели. В Википедии слишком широкий смысл.
Аспектом при моделировании самолета является скорость потока воздуха. Она меняется в процессе модельных испытаний.
Ну так это ж объект, естественно, он может менять поведение. Соответствие-то не меняется: скорость потока воздуха вокруг модели — скорость потока воздуха вокруг реального самолета.
Если, нпр., объект горит дымным пламенем…
Ну а как же вы тогда определили, что это объект, и что он горит? Облако дымного пламени это и есть тот объект, который распознается как "один и тот же" в разные моменты времени.
third112 Автор
15.06.2019 15:07Поэтому я и дал свое конкретное определение модели. В Википедии слишком широкий смысл.
Вы переопределили понятие «модель» — с этого надо было начинать. Давайте вернемся назад — повторите, пожалуйста, Ваше определение модели.michael_vostrikov
15.06.2019 15:26Не переопределил, а взял конкретный смысл. Вы кстати привели не определение, а пояснение к нему.
"Модель — система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции."
Я использую это термин как "представление некоторого реального процесса, устройства или концепции". Информационный объект представляет реальный объект, "реальный" объект тоже может быть информационным из другой информационной системы. Раз он представляет, значит некоторым образом задано соответствие между ними. Совокупность всех таких соответствий это тоже модель, в таком смысле оно используется например в понятии "Модель предметной области".
third112 Автор
15.06.2019 16:11«Модель — система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции.»
Ok. Это определение с которым Вы согласны и из которого исходите без всяких дополнений к нему. Но фотография — это модель согласно этому определению. А Вы выше говорили, что не модель.
Совокупность всех таких соответствий это тоже модель, в таком смысле оно используется например в понятии «Модель предметной области».
И совокупность НЕ всех таких соответствий это тоже модель, в таком смысле оно используется например в понятии «Модель предметной области».michael_vostrikov
15.06.2019 17:05Ok. Это определение с которым Вы согласны и из которого исходите без всяких дополнений к нему.
Я исхожу из своего определения со всеми пояснениями к нему. Нельзя в 20 слов одного предложения засунуть определение произвольной сложности. Мое определение основывается на второй части, где варианты "некоторого реального процесса, устройства или концепции" я обозначил словом "объект". Давайте не играть словами, я дал определение и показал как оно соотносится с общепринятым понятием. Я ничего нового в него не добавил, наоборот конкретизировал. Не надо обобщать обратно, при обобщении появляется дополнительный смысл.
Но фотография — это модель согласно этому определению.
Тогда давайте по порядку. Фотография это N статичных значений цвета в определенных координатах, и ничего более. Какой "реальный процесс, устройство, концепцию" или иной объект (объекты) эти значения по-вашему моделируют? Какие есть соответствия объектов модели и реальных объектов?
И совокупность НЕ всех таких соответствий это тоже модель,
Зачем вы опять играете словами? "Всех" у меня не означает "абсолютно всех возможных". Там же написано "совокупность всех таких соответствий", "таких" в соответствии с предыдущим предложением означает "заданных". Сколько задали, они и есть модель.
В другой модели для той же предметной области может быть задано другое количество соответствий, это так. Но мы же еще говорим про определение, в нем не может использоваться другой объект, обозначаемый этим термином.third112 Автор
15.06.2019 17:17Фотография это N статичных значений цвета в определенных координатах, и ничего более.
N статичных значений цвета в определенных координатах — это растровая картинка, и ничего более там нет. Вся совокупность значений является изображением объекта или объектов. Спорить против этого абсурдно. Мат. рукописи принято читать до первой ошибки — воспользуюсь этим правилом и отвечать на этом закончу.michael_vostrikov
15.06.2019 18:12Вся совокупность значений является изображением объекта или объектов.
Ну вообще-то нет, если там случайные значения, то их совокупность не является изображением объектов. Но не суть. Изображение это вообще-то тоже не модель, модель строится и на основе звуков. Но тоже не суть.
Таким образом, у вас есть единственное соответствие "вся совокупность значений — вся совокупность объектов". Информационный объект "вся совокупность значений", реальный "вся совокупность объектов". Правильная модель подразумевает, что поведение информационного объекта соответствует поведению реального. При изменении цвета хотя бы одного пикселя совокупность значений будет другая, следовательно изначальную совокупность объектов обозначать не может. Имеем несоответствие — предъявляется та же самая совокупность объектов, но фотоаппарат не определяет что она "та же самая". Объекты модели не соответствуют реальным объектам, значит модель построена неправильно. Значит способностей к построению модели окружающей среды у фотоаппарата нет.
Но дело даже не в этом. У животных интеллекта больше, чем у компьютера, но меньше, чем у человека. Значит уровень интеллекта это количественная характеристика, а не бинарная "есть/нет". Можно говорить о том, достаточно интеллекта или нет для некоторой задачи. Чем более подробная модель строится для задачи информационной системой, тем больше у нее интеллекта. Естественно, имеется в виду, что составляющие модель информационные объекты обозначают то, что действительно нужно для решения задачи. То есть даже если у фотоаппарата будут какие-то алгоритмы, распознающие и отслеживающие объекты, это будет интеллектуальными функциями (их так и называют "smart camera", или там "умный дом"), но это не будет интеллектом общего назначения, потому что они строят недостаточную модель.
third112 Автор
15.06.2019 18:35Изображение это вообще-то тоже не модель
По приведенному Вами определению:
«Модель — система, исследование которой служит средством для получения информации о другой системе;
Хочу купить шкаф, залезаю на сайт магазина, выбираю из изображений то, которое мне подходит, нпр., по количеству полок. Я считал полки у каждого изображения — значит исследовал. На этом всё: изображение это модель.michael_vostrikov
15.06.2019 19:36Хочу купить шкаф, залезаю на сайт магазина, выбираю из изображений то, которое мне подходит, нпр., по количеству полок. Я считал полки у каждого изображения — значит исследовал.
Как же вы полки выделили, у вас же в модели только N пикселей и больше ничего?) Вот когда у нас из этих N пикселей выделяются K, и появляется новый информационный объект "группа вот этих пикселей", который соответствует реальному объекту "полка", и активируется при ее предъявлении, это и есть создание модели по входящей информации, в данном случае информация в виде фотографии шкафа. Чем больше таких объектов, тем правильнее модель. Нейросети сейчас примерно здесь и находятся, правильности модели не хватает для требуемых задач.
На самом деле там больше уровней: группа пикселов — сигнал с паттерном X — группа сигналов с паттернами A,B,C — информационный объект 123456, который и соответствует собственно полке конкретного наблюдаемого шкафа. А также есть собирательное понятие "полка", "полка шкафа модели X", и множество других. Все они появились в результате обработки входящей информации.
third112 Автор
15.06.2019 19:42Вот когда у нас из этих N пикселей выделяются K, и появляется новый информационный объект
У меня в модели (изображении) ничего не выделяется и не появляется. А какими методами/инструментами я изучаю модель к ней отношения не имеет. Не надо путать объект наблюдения (изображение) и наблюдателя.michael_vostrikov
15.06.2019 20:19У меня в модели (изображении) ничего не выделяется и не появляется.
Так в изображении оно и не появляется, оно появляется в дополнительной памяти. Именно поэтому изображение не содержит моделей объектов. Оно состоит из информационных объектов "пиксел", и ни один из них не соответствует реальному объекту "полка". Информационный элемент, соответствующий полке, находится в других ячейках, это и есть модель.
А какими методами/инструментами я изучаю модель к ней отношения не имеет.
Вы снова играете словами. Называете входные данные моделью, хотя сама по себе она бесполезна и нужна другая модель, чтобы принимать решения. Смысл тогда вести дискуссию? Я говорю о модели внутри этих методов и инструментов, которая и позволяет изучать объекты реального мира. Модель это конечный результат обработки информации, больше ничего нет, все дальнейшие решения принимаются на основе нее.
Не надо путать объект наблюдения (изображение) и наблюдателя.
Мы сейчас говорим об устройстве наблюдателя, о том, как устроена информационная система, имеющая интеллект.
third112 Автор
15.06.2019 20:45Мы сейчас говорим об устройстве наблюдателя, о том, как устроена информационная система, имеющая интеллект.
Не только — мы говорим и об устройстве модели. Смешивая наблюдателя и модель, мы получаем логический круг: в определение модели входит интеллект, а в определении интеллекта используется модель :)))michael_vostrikov
15.06.2019 20:51У меня нет интеллекта в определении модели. Модель это заданное соответствие объектов. Интеллект это способность его правильно задавать. Входящая информация -> интеллект -> модель.
third112 Автор
15.06.2019 20:59У меня нет интеллекта в определении модели
Как нет интеллекта? А наблюдатель?:
Мы сейчас говорим об устройстве наблюдателя, о том, как устроена информационная система, имеющая интеллект.
Я говорю о модели внутри этих методов и инструментов, которая и позволяет изучать объекты реального мира. Модель это конечный результат обработки информации, больше ничего нет, все дальнейшие решения принимаются на основе нее.
У Вас очередная версия №1001? Хватит путать. В сетке полно «доказательств» типа 2+2=5. Не вижу смысла тратить время на обсуждение еще одного.michael_vostrikov
15.06.2019 21:18"Входящая информация -> интеллект -> модель" — это устройство наблюдателя. В определении модели наблюдателя нет.
У Вас очередная версия №1001?
Почему? Я придерживаюсь своей версии, что фотография это не модель. Она ей не была и не стала. Это у вас вдруг появились какие-то другие методы и инструменты со своими результатами изучения. Вы этим просто отодвигаете тему в сторону, потому что получается что интеллект находится в них, и появляется вопрос "а как тогда эти инструменты устроены?"
mmMike
Del