На мой взгляд, вопрос творчества нейронных сетей следует рассматривать не только в русле информатики и искусствоведения, но и – философии и психологии. Для начала надо определить, что такое творчество, как создаётся нечто абсолютно новое; да и в принципе, всё это упирается в проблему познания, в той части — как появляется новое знание, открытие, тот или иной символ, образ. В искусстве, ведь, как собственно и в чистой науке подлинной ценностью обладает новизна.
Искусство и литература, (вероятно и музыка) предполагают, может быть не совсем теперь равноправные, но методы познания как и в науке. Все они постоянно влияют друг на друга и тесно переплетены. В некоторые эпохи познание мира как раз-таки и происходило средствами искусства или литературы, а ранее — так и вообще в русле религиозной традиции. Так, в России 19 века мощная литература фактически заменила нам философскую антропологию и социальную философию, опосредованно, через художественное, размышляя над проблемами общества и человека. И как структурирующий ориентир, поставивший на повестку довольно актуальную проблематику человеческого существования, развитую потом известными философскими направлениями, она высоко ценится до сих пор. Или в начале 20 века возникшие художественные модернистские и авангардные течения, которые нельзя рассматривать в отрыве от их идейного наполнения, и которые предвещали слом традиции, появление нового мира и нового человека. Ведь не можем же мы допустить, что основополагающей ценностью искусства является только лишь эстетическое. В этом случае, пожалуй, мы бы до сих пор жили только в окружении какой-нибудь окуклившейся в своей самозавершённости эстетической системе прошлого. Все великие творцы, гении в искусстве и литературе как раз и заработали это «звание» не столько из-за эстетической ценности своих произведений, сколько из-за открытия ими новых направлений, делая то что до них никто не делал и даже не предполагал, что так делать можно.
Будет ли считаться новым произведение, получившееся в результате невиданного ранее сочетания, некой перетасовки уже имеющихся, известных частей — с этим сетки вполне справляются – на основе заранее заданного ограниченного числа данных, например, при стилизации изображений или генерации новых. Или же это будет совершеннейший прорыв, неизвестное ранее качество, открывающее то, с чем невозможно сопоставить ничего из ранее наблюдаемого — хотя, конечно, любой невероятный, не имеющий аналогов, прорыв есть не что иное как результат хорошо подготовленной работы, которая просто проводится подспудно, не вся проявленная и видимая непосвящённым и даже самому творцу – так пока может действовать, на мой взгляд, только человек.
Грубо говоря, первый тип познания и творчества можно сравнить с очень медленным, постепенным развитием в результате эволюции, а второй – со скачкообразным развитием в следствии положительных мутаций. Нейронные сети, в своей «творческой» деятельности, на мой взгляд, сейчас тяготеют где-то к первому типу. Или, скорее, — к ситуации которую описывают как отсутствие в ближайшей перспективе качественно нового развития, в условиях системы, которая якобы подошла на данном этапе к пределу сложности, к «концу истории», когда новые смыслы, образуются в результате смен комбинаций — или вставок в непривычный контекст — уже существующих образцов. Подобно, тому как в калейдоскопе создаются новые необычные узоры, каждый раз из одного и того же набора цветных стекляшек. Но, думаю, не зря ведь, как указывалось, структура сетей в общих чертах повторяет структуру нервной системы: нейроны-узлы, аксоны-связи. Возможно, это как зачатки первых клеток, только теперь, процесс эволюции будет ускорен человеческими руками, то есть он станет её инструментом, преодолевая, таким образом медлительность природы. В том числе и на своём примере, если исходить из идей трансгуманизма.
Задавая себе вопрос: интересно ли мне будет смотреть на картины, созданные сеткой на данном этапе, могу ответить, что тут, вероятно, нужно различать нечто прикладное как дизайн и чистое искусство. Что хорошо для дизайна и освободит человека от рутинных, вторичных процессов разработки обоев, принтов и драпировок, то не подходит для искусства, которое, вообще говоря, не то чтобы всегда только на острие, на пике актуальности, но должно выражать личность в её поиске. Художник, в широком смысле, проживая свой опыт и «впитывая» дух эпохи, осознанно или нет, перерабатывает их в художественный образ. Таким образом, можно считывать из его произведения какие-то идеи, послания, они могут сильно воздействовать на чувства. Нейронная сеть тоже получает на вход какой-то набор данных, и трансформирует их, но пока это слишком плоская, одномерная обработка и «прибавочная» ценность информации — полученной на выходе — не велика, и результат способен лишь поразвлечь на время. То же касается и опытов с нейросетями в журналистике, делающими успехи больше там, где требуется написание сухих финансовых новостей, а не создание программных произведений с авторской точкой зрения. В экспериментах с музыкой, особенно, электронной дела могут обстоять несколько лучше. Вообще же, отметил такую вещь, что совриск, современная литература и живопись, уже около столетия, словно специально производит такие абстрактные и минималистические формы, что словно созданы, чтобы легко быть обработанными нейросетями и выданы за человеческое искусство. Может предчувствие конца целой эпохи?
Говорят, интеллект не равен всей личности. Хотя, с личностью вопрос, конечно, философский – ведь в сети GAN, например, генератор создаёт новые данные из ничего частично всего лишь направляясь вердиктом дискриминатора под влиянием веса решений. Можно, ведь, задать вопрос и так: не является ли творец в своей познавательной деятельности, так сказать генератором и дискриминатором в одном лице, несколько предобученными самим тем информационным фоном, что «витает в воздухе» эпохи и подспудно за его тот или иной выбор голосуют внутренние веса, и он из наличных познанных, таким образом, кирпичиков (пикселей) бытия выстраивает новый мир, новое произведение? В таком случае, не являемся ли мы неким сверхсложным аналогом сетки, с колоссальными, но всё же ограниченными данными на входе. Может быть личность и является таким продвинутым алгоритмом отбора, с наличием неявно необходимой функциональности косвенно влияющей на качественное предобучение?
Во всяком случае, я пойду на первую выставку произведений искусства, созданную, так называемым, ИИ, когда он обретёт личность со всеми её атрибутами, сознанием и самосознанием. Возможно даже настанет время, когда подобно персонажу 14 серии мультсериала «Любовь, смерть и роботы», ИИ в поисках смысла осознает, что искусство должно быть нераздельно с жизнью и тогда придёт время отказа от пугающей, бездонной никогда не удовлетворяемой, сложности, где по сути упрощение — метафора смерти. Пока частенько можно наблюдать в кинофильмах, что ИИ обретает самосознание и, естественно, выходит из-под контроля в результате какого-то программного сбоя, который вероятно мыслится сценаристами как аналог некоей случайности, запускающей новые положительные (а для кого и не очень) трансформации, как это было с положительными мутациями для природного эволюционного пути развития.
Комментарии (31)
Nehc
13.10.2019 21:50+1Суть искусства не только и не столько в новизне… Каждый из нас имеет свою картину мира и очень часто эта картина в отдельных своих аспектах — прекрасна. И каждый из нас хотел бы поделится этим: своим чувством прекрасного. Но… Очень немногие из нас находят способ выразить это так, что бы результат «зацепил» других… Потому, что картина мира у каждого своя — коммуникативные протоколы несовпадают. Музыка, живопись, литература — это все реализации единых протоколов… но в силу того, что каждый внутренний мир уникален и слабо поддается формализации не всегда и не у всех получается… и поиск новых способов выражения продолжается…
Нейронная сеть, натреннированная на распознавание общечеловеческих понятий высокого уровня абстракции (только не спрашивайте, как именно), и что-то вроде «визуализатора» этой сети могло бы стать новым словом в искусстве (ну как сейчас визуализируют общее представление сети о котике, вот так же только любовь, верность, самопожертвование… ).
Правда это не… творчество нейронной сети, это нейронная сеть, как творчество… так что наверное, я согласен с автором — к творчеству способна только личность… что-то со своим видением мира и желанием этим видением поделиться. А какая личность, искусственная или естественная — не так важно.
ladomirr
14.10.2019 07:11Постмодернизм этим занимается (-ался) — «перетасовкой уже имеющихся известных частей».
И тут вопрос не в том, сможет ли ИИ показать нечто оригинальное, революционное ет сетера. Вопрос в том, как сложно ему будет это делать.
Ведь любое художественное произведение ценно также своим бэкграундом, а не только формой и содержанием. Вся эта информация о том, как художник создавал произведение, в каких условиях, что его на это побудило и т.д. Всё это очень важно.
Если ИИ будет делать это как… пельмешки лепить, то в чём ценность его «произведений»?
Хотя, безусловно, первая выставка произведений ИИ будет интересна. Ибо она сама по себе, как явление, будет представлять художественный, социальный, психологический интерес. Как перформанс.
Я тоже пошёл бы на такую выставку.
А вот на вторую — уже нет :-)
phenik
14.10.2019 11:23Искусство и литература, (вероятно и музыка) предполагают, может быть не совсем теперь равноправные, но методы познания как и в науке.
Искусство в основном оперирует образами (художественными образами, как предметом исследования), наука в основном абстракциями, первым соответствует образное мышление, вторым абстрактное. Первым, до какой-то степени, обладают животные и дети, но у взрослых оно отходит на второй план, основное абстрактное, пусть и на уровне повседневного, житейского. Интуиция обязана образному мышлению (ассоциативности), но оно действует в подсознании, поэтому искусство во многом воспринимается интуитивно. Связано с инсайтом, как формой творчества. Абстрактное мышление произошло из образного, путем вербализации, символизации и процедур обобщения, но идет дальше. Поэтому нет ничего удивительного, что существует абстрактное искусство) Однако роль образного мышления в жизни обычно недооценивается, из-за его фонового характера, и хотя исследуется, но не так активно, как абстрактное. Если для абстрактного мышления разработаны разнообразные формально-логические подходы, то для образного, возможно подходят нечеткие логики. Мозговыми механизмами функционирования образного мышления сейчас занимается когнитивные психология и нейрофизиология, как пример такого исследования, см. работы отечественного нейрофизиолога Иваницкого по этой теме.
В искусстве, ведь, как собственно и в чистой науке подлинной ценностью обладает новизна.
Вы правильно отметили мутационный характер истинной новизны. Это особенно очевидно в науке. Только так реальность может проявить себя. Классический пример — открытие радиоактивности, положили случайно две вещи рядом, фотопластинку и соль урана, и вуаля! Таким случайным способом было сделано множество фундаментальных открытий. Важно, чтобы условия для открытий созрели, а кто, и при каких обстоятельствах его сделает, определяет в основном случай. Конечно больше шансов у тех, кто занимается близкой деятельностью, как Беккерель в случае с радиоактивностью. Важно такие открытия не путать с предсказанными теоретически, такими как открытие Нептуна или Черных дыр. Но сами теории всегда строятся на открытиях первого типа, носящих случайный характер.
В искусстве это менее очевидно, но также определяется такими мутационными процессами — историческими событиями, существенными изменениями в общественной жизни, появлением новых технологий, и тд. К примеру, появление импрессионизма связано не только с появлением новых техник рисования и материалов, но и с общественными сдвигами. Картины могли приобретать не только избранные, но и разросшийся средний класс, что требовало массовости производства. Вкусы стали более реалистичными в связи с изменениями условий проживания в городах, это требовало изображения с натуры.
могут ли нейронные сети достичь чего-нибудь значимого в искусстве, литературе, и является ли это творчеством.
Что касается современного уровня творчества нейросетевых систем, тем более в перспективе, то они вполне могут заменить творчество подавляющего большинства современных писателей, сценаристов, художников и композиторов и тд), особенно в области абстрактного искусства, да и немалого числа исследователей, т.к. занимаются либо комбинированием известного, либо работают по аналогам, и другой подобной стохастически аппроксимируемой деятельностью, т.е. создают наполняют контент. Но действительно новое в науке может преподнести только природа, способен ли ИИ не пропустить этот момент? А уловить изменения в общественной жизни и выразить в целостном худ. образе, кот. заставил бы людей искренне переживать, и подстегивать их воображение? Вероятно, пока не. Но только пока.
Kilorad
14.10.2019 15:52Типичный вопрос про нейросеть. А как мы измеряем качество? Качество искусства, в смысле.
Мне кажется, без ответа на этот вопрос… Теряется сам предмет обсуждения.
Искусство, которое создаёт нейросеть (и человек тоже) всегда будет сочетанием уже использованных ранее частей. Попробуйте написать книгу, не используя алфавит =) Да, можно собирать текст из «чужих» символов, а можно — из чужих глав. В первом случае задача более комбинаторно сложная. Но… Граница размытая.
GAN работают примерно следующим образом. Есть две нейросети. Одна различает «настоящие» картинки от «ненастоящих» (что бы это ни означало, это просто метки на датасете), вторая пытается сгенерировать что-то, что вторая сеть посчитает за «настоящую» картинку.
Таким образом, у GANов есть конкретная цель, которой они стараются достичь.
Если сформулировать термин «искусство» настолько же конкретно, окажется, что нейросети (или какой-то другой ИИ) вполне может создавать это искусство целенаправленно.
Кстати, что автор понимает под «художественным познанием»? Есть какая-то формализация?
Для науки познание — это такая ситуация, когда мы из всего пространства математических моделей «выдернули» такую «формулу», которая позволяет предсказывать будущие наблюдения лучше, чем предыдущие «формулы». Для этого используются наблюдения, эксперименты, процесс очень серьёзно формализован, но на выходе получается что-то типа алгоритма — в него заряжаешь одни наблюдения, а он тебе выдаёт другие — будущие, прошлые, зависит от формулировки запроса.
Для художественного познания что является результатом и чем хороший результат отличается от плохого?Nehc
14.10.2019 17:12Сейчас вполне сносно можно реализовать (по описанному вами принципу) систему, выдающими на-гора картины в стиле, к примеру, Вангога по мотивам фотографии на входе. Собственно нечто подобное (хотя и в сильно упрощенной форме — я думаю можно круче! ) сейчас есть в виде приложения для телефончика. И, очевидно, крайне мало людей считает это искусством. Это забавно, но не более того.
Кто-то выше писал, что само по себе искусство неразрывно связано с бэкграундом: т.е. важно, не только и не столько то, что мы имеем возможность воспринимать непосредственно, как то, что за всем этим стоит. Абстрактное полотно, руки живого художника будет ценится, как выражение его чувств, в то время, как нечто подобное, созданное машиной большинство воспримет не более чем прихоти «корейского рандома». Нужен мощный посыл: почему это круто.
Для науки познание — это такая ситуация, когда мы из всего пространства математических моделей «выдернули» такую «формулу», которая позволяет предсказывать будущие наблюдения лучше, чем предыдущие «формулы».
Есть два подхода в научном познании: одни считают, что если формула описывает/предсказывает явление лучше, чем все остальные, то и не важно почему — главное работает. Второй подход предполагает, что важно не только уметь предсказать, но и понять почему так — иначе можно получать верный ответ из ложных предпосылок. В какой-то мере первый подход сопоставим с механистическим созданием «произведений искусства», второй — как раз характерен для мощного бэкграунда, объясняющего, почему вот это вот — искусство (хотя иногда не очень-то и похоже ;) ).
Для художественного познания что является результатом и чем хороший результат отличается от плохого?
Научное знание формализовано. Его передача от одного индивида другому через формальную запись и есть познание. Художественное познание (если я правильно понимаю автора и вас) — это так же передача некоего знания о мире, которое невозможно формализовать иначе, чем в форме произведения искусства. Собственно — состоялся факт передачи, поняли ли вы посыл автора — это и определяет результат. Очевидная проблема механистических «произведений искусства» — за ними нет посыла. Машина обработала входящий сигнал по образцу и выдала результат. «Автор» ничего не хотел «сказать». Некоторые ищут в рандомных сочетаниях проявления высших сил (и в принципе что-то в этом есть% машина, как проводник чего-то из вне), но это так…Kilorad
14.10.2019 17:38искусство неразрывно связано с бэкграундом
— уже сильно не впервый раз это слышу =) Это, на мой взгляд, очень сильно обесценивает дискуссию о том, «может ли кто-то/что-то помимо людей заниматься искусством». Я не против такого ответа, просто из него следует, что не-человек по определению не может заниматься искусством, потому что термин «искусство» включает в себя «создано человеком» =)
Есть два подхода в научном познании: одни считают, что если формула описывает/предсказывает явление лучше, чем все остальные, то и не важно почему — главное работает. Второй подход предполагает, что важно не только уметь предсказать, но и понять почему так — иначе можно получать верный ответ из ложных предпосылок
— первый подход — это это подход учёного-прикладника (обычно), это путь эмпирических формул. Всё бы круто, но самые нижнеуровневые формулы физики как раз эмпирические. И очень похоже, что что бы мы ни наоткрывали, всё равно всё сведётся к некоторому набору базовых частиц, поведение которых доводится до формул чем-то, подозрительно напоминающим Machine Learning. Поэтому эти второй подход (теоретический вывод) всё равно базируется на первом, всё равно сводится к формулам, которые выведены тупо из данных.
Насколько я понимаю, ситуация именно такая. Есть какие-то аргументы против?
Собственно — состоялся факт передачи, поняли ли вы посыл автора — это и определяет результат.
— посыл автора… При таком подходе сложно оценить искусство. (если эти слова относятся и к пониманию искусства, а не только к познанию-через-искусство)
Вижу иные метрики, более простые в исполнении. Число лайков, например… Искусство — это что-то, что понравилось большому числу людей. Я понимаю спорность этого подхода, но очень похоже, что режиссёры существенной доли фильмов считают так же, и неплохо живут с таким подходом.
Или ещё. Показать «искусство» заранее сформированной группе критиков и получить их оценки. Тоже методика оценки, довольно формальная. Отражающая некоторую субъективность понятия «искусство» =)
Дело в том, что я не вполне согласен, что в искусстве главное — посыл автора, идущий между строк. Если я прочитаю книгу, которая очень интересная, захватывающая, местами смешная… Но такая, что потом не возникает ощущения посыла. Я её всё равно засчитаю за неплохое искусство.Nehc
14.10.2019 18:54+1Вообще подход прикладника и теоретика идут всегда рука об руку. Прикладник по факту использует то, что есть, за частую не задаваясь вопросами, почему так, но когда теоретики объясняют таки почему — обычно это приводит к пересмотру, исключению надуманных постоянных (за которыми не было физического смысла) а зачастую и некоторому упрощению. Не всегда, конечно, но часто. Потому, что вместо нескольких несвязанных формул появляется Система! Эмпирические формулы часто весьма приблизительны, в то время как формулы, построенные на фундаментальных законах мироздания имеют точность и красоту, выводящую их порой на уровень искусства. ;)
Kilorad
14.10.2019 19:03+1А формулы нижнего уровня — они что, не эмпирические? Ну то есть как бы вы выводили скажем, формулу гравитации, если бы у вас были только математика и телескоп? Допустим, она отличается от нашей, вы находитесь в виртуальной реальности
Nehc
15.10.2019 08:22У вас такие хорошие вопросы, что я невольно задумываюсь — не являются ли они наводящими. ;) Там еще есть ниже есть мой ответ, к сожалению промахнулся веткой… (
Пример с гравитацией прям в тему! С помощью телескопа и прямого наблюдения выводятся законы Кеплера, но нужен был теоретик Ньютон со своим яблоком что бы обобщить яблоки и планеты и сделать поправку на массу. ;)
phenik
15.10.2019 18:34GAN работают примерно следующим образом. Есть две нейросети. Одна различает «настоящие» картинки от «ненастоящих» (что бы это ни означало, это просто метки на датасете), вторая пытается сгенерировать что-то, что вторая сеть посчитает за «настоящую» картинку.
Таким образом, у GANов есть конкретная цель, которой они стараются достичь.
Если сформулировать термин «искусство» настолько же конкретно, окажется, что нейросети (или какой-то другой ИИ) вполне может создавать это искусство целенаправленно.— первый подход — это это подход учёного-прикладника (обычно), это путь эмпирических формул. Всё бы круто, но самые нижнеуровневые формулы физики как раз эмпирические. И очень похоже, что что бы мы ни наоткрывали, всё равно всё сведётся к некоторому набору базовых частиц, поведение которых доводится до формул чем-то, подозрительно напоминающим Machine Learning. Поэтому эти второй подход (теоретический вывод) всё равно базируется на первом, всё равно сводится к формулам, которые выведены тупо из данных.
Присоединяюсь к аргументам Nehc, и добавлю свои. Это упрощенное понимание научного поиска и их результата — научных теорий. В еще большей степени это относится к искусству, как еще менее формализованной области.
Насколько я понимаю, ситуация именно такая. Есть какие-то аргументы против?Получилось несколько пространно...Вероятно, в вас говорит инженерное образование, и работа вне стен какого-либо научно-исследовательского учреждения. Это вовсе не какой-то там упрек, так и должно быть, если деятельность не связана поиском, а выдачей на гора готового продукта, в заданные сроки, заданного качества. Общий смысл возражений в том, что вы все сводите к некой формализации, и требуете в ней определения научной деятельности и искусства, и наличия готовых метрик, для измерения результатов этой деятельности. Для достижения практического результата это правильная постановки вопроса. Но для понимания сути явления нет! Реальность всегда шире любых ее трактовок, тем более формализаций. Конкретно по поиску, уже писал ранее, принципиальным моментом являются спонтанные проявления реальности, нельзя заранее точно спланировать направление поиска, кот. приведет к открытию новых фундаментальных фактов, кот., в свою очередь, лягут в основу новой фундаментальной теории. Приблизительно можно, точно нет! Чем фронт поиска шире, тем вероятность открытия больше. Но и затраты любого рода увеличиваются, число исследователей, число работ, материальные затраты, и тд, причем экспоненциально. Именно эту ситуацию сейчас наблюдаем в фундаментальной физике последние лет 40-к, со времени создания последних успешных теорий КТП и СМ. Посмотрим, как было раньше, во времена создания КМ и СТО с ОТО. Масштаб был меньше, но ситуация абсолютно та же. Существовали классическая механика, и классическая ЭД, две основные фундаментальные теории, каждая со своим описанием. Первая требовала абсолютного евклидового пространства, вторая — эфир, противоречие, как и сейчас противоречие с требованиями кв-мех. описания (корпускулярно-волнового дуализма), и описания ОТО (непрерывный пр-временного континуум). Как был найден выход из противоречия тогда? Во многом случайно. Эксперимент Майкельсона-Морли планировался, как проверка наличия эфира, но неожиданным его результатом стало установление факта постоянства ск. света. Этот новый факт позволил создать Эйнштейну СТО, с учетом требования ее обратной совместимости с клас. механикой. Наблюдение за движением Меркурия выявило неожиданное расхождение с предсказаниями теории тяготения Ньютона смещения его перигелия. Этот факт, и некоторые предположения относительно природы массы, привели к созданию ОТО. Непредвиденные расхождения в объяснении фотоэффекта, и спектра излучения абсолютно черного тела, с классической ЭД привели к квантовым идеям, и с учетом еще нескольких расхождений и обратной совместимости с клас. механикой, к КМ. Нет никаких указаний на то, что ситуация в перспективе как-то изменится, и что будет создана некая теория Всего, и никаких противоречий в описании не будет иметься, и тем более, что случайно не будут обнаружены новые факты, не объясняемые в рамках этой теории Всего. Ко всему этому добавляется существование более сложных систем, чем физические — биологические и социальные. Но даже в самой физике описание сложных систем не сводится (формально не редуцируется) к некоторым базовым составляющим. Это показывается формально, и относится к эмерджентным свойствам. Как пример такой не сводимости макроскопического описания свойств магнитных материалов к микроскопическим, см. эту работу. В общем случае такие доказательства используют различные виды неразрешимостей. Редукция (в форме физикализма) сочетается с эмерджентностью, по крайней мере, в слабой форме. Это можно проиллюстрировать на примере возникновения глайдеров в игре Жизнь, для кот. доказано, что она является полной по Тьюрингу. С одной стороны возникновение глайдеров можно проследить пошагово от начала игры, при заданных начальных условиях, и в этом смысле, они редуцируются к правилам игры. Однако исходя только из правил игры предсказать их существование не возможно (они были открыты случайно), и в этом смысле, глайдеры, как целостные объекты, являются эмерджентными. Чтобы такую редукцию произвести можно расширить правила игры, фактически неявно постулировав существование глайдеров, но это уже не будет самый простой вариант правил игры. Если это все спроецировать на нашу реальность, то формально поведение таракана можно свести (редуцировать) к законам физики (той самой гипотетической теории Всего), но придется просчитать это от момента самого БВ, с заданием конкретных начальных условий (возможно еще граничных). Это выполнимо, хотя бы в гипотетическом варианте, с помощью некоего квантовово-огого свуперпупер-компа?) Вряд ли. В это можно только верить. Некоторые физики так и делают, чтобы сохранить детерминизм, т.е. редукционизм в крайней форме, верят в ММИ, чтобы избавится от вероятностной трактовки и коллапса ВФ в КМ:) Таракан — это такой глайдер в нашей Вселенной, приближенно описывающийся биологическими закономерностями, кот. нельзя редуцировать к физике. И так практически все, даже в самой физике, за редким исключением достаточно простых систем. По этой причине, поисковую задачу для реальности (познавательную деятельность) нельзя формализовать полностью, и это может иметь последствия для самой поисковой системы, будь то сам человек, или некоторый ИИ. Но это отдельная тема.
Можно также рассмотреть проблему формализации с точки зрения продуктов научного познания — теорий. В общем виде любая теория состоят из двух частей — формальной и неформальной. Не формальная часть содержит концептуальную модель области приложения теории, описываемую понятиями и связями (отношениями) между ними, и основанную на обобщении наблюдаемых и экспериментальных фактов, некоторых метафизических предположениях, и информации из предшествующих исследований в этой области. Формальная часть содержит математическую модель (формализм), представляемую обычно в аксиоматической форме, частично или полностью перекрывающую понятия и связи концептуальной модели, и имеющая строгую интерпретацию (определения и правила вывода) в ней. Теория может содержать несколько эквивалентных формализмов, которые описывают известные факты из этой области и возможно предсказывают новые. Понятия концептуальной модели всегда имеют определенный физический смысл, являются наблюдаемыми величинами, некоторые понятия формальной нет — могут не иметь физического смысла, и быть не наблюдаемыми.
Рассмотрим эти утверждения на примере понятия массы, как одной из составных частей физ. теорий. В обыденном понимании масса это вес. Положили на весы предмет и гири — узнали его массу. Наука этим не ограничивается, в классической механике масса мера инертности тел. В теории гравитации Ньютона масса мера гравитационных свойств тел. Но Эйнштейн в СТО доказал, что масса эквивалентна энергии, кот. выражается знаменитой формулой E=m*c^2 (в этом виде энергия покоя). Все? Нет, Эйнштейн ввел принцип эквивалентности инертной и гравитационной массы в ОТО, и теперь движущаяся масса (точнее тензор эн-импульса) мера искривления метрики простр-временного континуума, и непосредственно связана с происхождением и эволюцией Вселенной. А еще есть хиггсовский механизм. Так, что такое масса? Естественно, как обычно, нужно указать теоретический контекст использования этого понятия, чтобы снять неоднозначность. Но все эти интерпретации говорят о том, что масса нечто большее, чем любые из этих определений. Нет гарантий, что в будущем не откроются новые аспекты массы, и не возникнут ее новые определения, в той же теории кв. гравитации. Это наводит на мысль, что понятие массы не сводится даже к самому общему ее определению. Это уже не однозначность определения, а некая трансцендентность исходно заложенная в него. Как она возникла? Сейчас на это можно ответить — из-за физиологии человека, точнее психофизиологии, подкрепляемой современными нейрофизиологическими исследованиями. Масса это обобщенное вербальное обозначение (абстракция) чувственного восприятия нагрузки тел на мышечную систему организма, связанную с сопротивлением тел их перемещению, в том числе, собственного тела. Любое чувственное восприятие является субъективным состоянием, некоторым качеством, как сейчас модно говорить — квалия (но можно и без него обойтись). Насколько точно это субъективное состояние — ощущение массы связано с самой массой? Это описывает закон Вебера-Фехнера имеющий нелинейную (логарифмическую) форму зависимости величины ощущения от величины воздействия, в данном случае, величины тяжести тел. Кроме того он задает пороговый характер нарастания величины ощущений. Сами величины порогов могут изменятся в зависимости от многих условий психо-физиологического состояния субъекта. Однако, именно в таком представлении масса имеет эволюционно значимый смысл, полезный для выживания вида. Таким образом, исходно масса, как термин естественного языка, является идеализацией субъективного состояния, весьма опосредованно связанной с реальной физической массой. Фактически являющегося обозначением (ссылкой) этого феномена, реальное содержание (наполнение) которого раскрывается в его моделировании на уровне абстрактного мышления, на основе наблюдений, целенаправленного опыта, и в более широком плане, всей практической деятельности общества. Однако формальные абстрактные модели не являются замкнутыми относительно практики, поскольку практика всегда шире модельных представлений. Та самая способность реальности спонтанно проявлять себя в этой практике, о кот. писал выше. Для аксиоматических систем не замкнутость относительно практики доказывается формально, в виде теорем о неполноте Гёделя. Это относится и к физическим теориям, связанным с объяснением феномена массы. Дополнительно можно сказать, что формальные аппараты этих теорий подчинятся принципу соответствия, регулирующему наследование поколений теорий, надежно подтвержденных практикой применения. Но это не относится к концептуальным моделям, преемственная теория может содержать утверждения не сводящиеся к утверждениям наследуемой. Как пример, принцип суперпозиции в КМ не имеющий аналога в классической физике.
Эти рассуждения применимы к любым понятиям ЕЯ, связанным с описанием окружающего мира и самого человека, и составляют его концептуальную основу. Таким как время, пространство, материальное тело, сила, и тд. в физике, или число, точка, прямая, и тд. в математике, жизнь, особь, вид, и тд в биологии, организм, орган, клетка, и тд. в физиологии, личность, мышление, поведение, и др. в психологических науках, общество, культура, индивид, и др. в социологических науках, материя, сознание, познание, и др. в философии. Это и есть семантика языка, его смысловое наполнение. Возникает вопрос, насколько это смысловое наполнение, фактически познавательную мощь ЕЯ, может освоить ИИ, не имея связи этих смыслов с субъективными состояниями, кот. у человека возникли эволюционно, совокупно в течении миллиарда лет? Нужно ли ИИ простраивать их самостоятельно, формируя свои собственные субъективные состояния, или как-то подключаться к уже созданному человеком смысловому пространству? Мое мнение, по многим причинам, ИИ должен развиваться по второму пути, по крайней мере на начальной стадии развития. Т.е. фактически быть симбионтом человеческого интеллекта, как его усилитель. Речь конечно не о современно уровне, а о более продвинутом, например, как персональном ИИ в облаке, связанном с человеком беспроводно, нейроинтерфейсом. Приближенно, как показано в фильме «Анон», если видели.
Djey42 Автор
14.10.2019 23:56+1Возможно и есть своего рода «формализация» — через конечные, завершённые художественные образы – отображение, переработанной в психических процессах, действительности (возможно и в виде фантазмов). Может, фигурки зверей на стенах пещеры помогали уточнять, расширять или даже образовывать первые понятия, хоть такое выделение, фиксация объектов из фона. Или иконы как знаковая система. Первые зачатки абстрактного мышления — вообще, наверное, мифологическое, религиозное познание. Пусть и детство человечества. Но почему бы и не быть актуальным целостному познанию в восточных религиях или, вероятно, сходному с ним «живознанию» из русской философии, как синтезу познавательных возможностей человека. Отсюда их критика рационализма как односторонности, упрощения мира, непрерывного и неделимого в своей разнородности. Поэтому научные критерии истинности для «художественного познания», думаю, не применимы. Может, «правильное» искусство должно ощущаться как некое озарение, глубинное понимание, ощущение предельной захваченности, изменение строя жизни, — вот такие неформализуемые критерии. На счёт же условно-формальной оценки… Ниже вы хорошо заметили про оценивание искусства экспертным сообществом (ранее – какие-нибудь аристократы) и лайки от массы пользователей\потребителей. Думаю, что у первых, всё-таки, должны быть большие веса при подсчёте.
Nehc
14.10.2019 18:38+1термин «искусство» включает в себя «создано человеком»
Вовсе нет! Я, видимо, как-то невнятно излагаю мысль. Под бэкграундом я понимаю примерно следующее: если машина рандомно накидала цветных пятен на холст — это можно считать искусством только в виде deos ex mashina, т.е. если мы предполагаем, что что-то непознаваемое стоит за собственно рандомом. Если же данные цветовые пятна являются ответом достаточно сложной аналитической машины на задачу визуализации собственной структуры — то это в некотором роде самовыражение и те же самые цветные пятна вдруг обретают некий глубинный смысл.
Есть какие-то аргументы против?
Ну… Наверное да, но тут столько возможностей для широкой трактовки терминов и определений, что… предпочту не углубляться. ;) мой пример относился к тому, что формулы той же теории струн были подобраны почти случайно и внезапно очень здорово подошли. И на этом можно было бы остановиться, однако в попытках обьяснить, почему они подошли — собственно и возникла теория струн: вот все эти 11 измерений, свернутые пространства и иже с ними. Формулы можно использовать на практике, но знание формул не означает понимания сути. Да, я согласен — там такие формулы, что далеко не факт, что мы когда-нибудь придем к пониманию, но я не согласен, что и пытаться не стоит.
Число лайков, например…
А кто сказал, что лайки не означают именно то, что посыл дошел? Я не говорил, что автор что-то такое тайное между строк посылает — ни в коем случае! Я как раз сторонник идеи того, что автор сказал именно то, что хотел сказать. А так как знание в данном случае не формализированно (например автор хотел передать эмоции, красоту, чувства) то ваши лайки и есть самая лучшая оценка. Книжка, которая заставляет улыбнуться, задуматься, увлечься похождениями героев и сделать возможно какие-то выводы: на мой взгляд именно этого автор и хотел, разве нет?
Бывает еще более интересный феномен: когда каждый находит в произведении что-то свое… но это не значит, что автора не поняли! Скорее всего автор смог мастерски передать некий феномен реальности (или своего внутреннего ее понимания), который скорее всего невозможно представить в виде формального описания, но можно — образным языком искусства…
Kilorad
15.10.2019 09:05А кто сказал, что лайки не означают именно то, что посыл дошел? Я не говорил, что автор что-то такое тайное между строк посылает — ни в коем случае! Я как раз сторонник идеи того, что автор сказал именно то, что хотел сказать.
Под бэкграундом я понимаю примерно следующее: если машина рандомно накидала цветных пятен на холст — это можно считать искусством только в виде deos ex mashina, т.е. если мы предполагаем, что что-то непознаваемое стоит за собственно рандомом.
— интересное у вас видение) Насчёт посыла я примерно понял, это сложно формализовать, но суть в том, что это что-то, что людей цепляет, интересует, заставляет (повышает вероятность) нажать «лайк» и «репост».
А насчёт бэкграунда… Вы бы засчитали за искусство… Скажем, игру наподобие «Angry Birds», если бы её создал ИИ? Бэкграунд такой: ИИ получил задачу — сделай что-то, что вызовет максимум хайпа и заработает максимум денег. Дальше он построил модель окружающего мира, прогнал в виртуальной реальности множество планов и остановился на том, что лучшая из его идей — это что-то отдалённо похожее на Angry Birds.
То есть… Суть бэкграунда — решение практической задачи. Формат решения выглядит похоже на человеческое искусство.
У вас такие хорошие вопросы, что я невольно задумываюсь — не являются ли они наводящими. ;)
— у меня не очень популярная точка зрения на научное познание. Многие люди пытались сказать мне, что я неправ, но аргументировать не могли. Соответственно, мне интересно, вдруг здесь есть что-то, что я упускаю.
Пример с гравитацией прям в тему! С помощью телескопа и прямого наблюдения выводятся законы Кеплера, но нужен был теоретик Ньютон со своим яблоком что бы обобщить яблоки и планеты и сделать поправку на массу. ;)
— там в итоге вышла формула F=m1*m2*G/r^2. Не формула F=m1*m2*G/r^3. Не формула F=m1^2*m2^2*G/r^2. И коэффициент G имеет вполне конкретное значение.
Как бы вы узнали, что G равно именно тому, чему равно, без измерений? Или что r входит именно во второй степени, а не в любой другой? Или что массы входят в первой степени?
Мне кажется, что если у нас есть таблица, в которой каждая строка — это все доступные переменные в некоторый момент времени, то можно тупо перебором формул вывести кучу зависимостей, в том числе закон гравитации и, например, 2-й и 3-й законы Ньютона. Да, это NP-полная задача, это очень суровый и массивный перебор, и люди явно решают задачу как-то умнее. Они проверяют зависимости в таком порядке, что находят верную раньше, чем если бы проводили полный перебор. То есть этот перебор имеет предрасположенность к более простым формулам и похожим на те, что были раньше. Но… Каким бы алгоритмом перебора мы ни пользовались, если мы не проводим постоянных проверок о данные, как при составлении эмпирических формул, у нас практически нет шансов угадать верную зависимость.
Разве нет? Если мы имеем дело с взаимодействием, которое не сводится к другим известным нам законам природы, разве у нас есть методика исследования лучше, чем «блэкбокс-анализ»?Nehc
15.10.2019 11:42Вы бы засчитали за искусство… Скажем, игру наподобие «Angry Birds»
Давайте я чуть подробнее опишу, что я считаю за искусство. ;) С моей концепцией разума в первом приближении вы знакомы: каждый из нас, познавая мир вокруг строит его детальную модель, в буквальном смысле: т.е. все, о чем мы можем судить и размышлять имеет свое воплощение в нашем внутреннем мире. Этот мир глобален и всеобъемлющ, он грандиозен и пожалуй прекрасен, но… Вся эта красота доступна только создателю. Когда человек что-то «понял» — это значит, что это самое «что-то» заняло правильное место в его личном мироздании, пазл сошелся. И человек получает от этого удовольствие (подкрепление, т.к. построение этой модели — одна из важнейших задач разумных существ — я бы даже сказал ЕДИНСТВЕННАЯ задача с определенной точки зрения), и спешит этим поделиться. Возможно чисто в утилитарных целях: человек, существо социальное, а взаимодействие не возможно без скоррелированных моделей. Только в этом случае, выстраивая картину совместных действий человек может встраивать действия других в свою модель — потому, что знает как они будут действовать. Потому, что их модели — совместимы.
Поэтому способы как-то отразить свой внутренний мир вовне появились раньше, чем собственно речь — та же наскальная живопись. Мелодии, напевы — они передают эмоции, они тоже еще до слов. Животные не понимают слов (ну по крайне мере всех слов), но улавливают интонации — причем они понимают наши, а мы — их.
Я все это к тому, что искусство — это попытка передать такую часть своей внутренней модели, которую невозможно выразить словами. Даже литература. Ведь буквальное изложение мыслей чаще всего литературой не является, а вот передача настроения, драматизма, или допустим тонкостей взаимоотношений… В скульптуре и живописи тоже ведь ценится не реализм, а что-то такое неуловимое…
Теперь о лайках. Конечно мечта любого контент-мейкера запилить что-то такое, что людям «зайдет», что вызовет хайп и будет хорошо продаваться. Но людям по-настоящему нравится то, что нашло отклик в их душе, что или неожиданно совпало с их внутренним представлением, или настолько мощно перетряхнуло модель и поставило все на свои места, что вызвало то самое подкрепление от системы мотивации к познанию. Ну тут можно пустится в рассуждения, что среднему потребителю контента много не надо и есть проверенные «рецепты», и затеять спор — является ли это искусством… Но нужно ли? ;)
И таки отвечая на вопрос про «Angry Birds»… Когда я говорил о лайках, я все таки предполагал, что мы оцениваем книгу/фильм/музыкальное произведение, т.е. то, что принято относить к искусству. Насколько чисто казуальную телефонную убивалку времени можно отнести к таковым мне сказать сложно, но… Допустим, как иллюстрацию того, что представляет из себя потребность/запрос среднестатистического пользователя (ведь обученная сеть училась, вероятно, на выборке популярных приложений) — может быть. В каком-то смысле… НО видите — очень важен бэкграунд! Что это не просто очередная убивалка времени, а мнение чуждого нам но «сознания», пусть и с натяжкой, о том, что нам нужно… )) Как-то так.Kilorad
15.10.2019 11:52Вы искусство описываете во многом с точки зрения теории связи) Хорошо, в таком случае чтобы ИИ мог создавать то, что мы можем считать искусством, нам нужно… Знать, что ли, что его подтолкнуло к такому решению.
В общем, важен не только результат (само произведение искусства), а ещё и… Факт связи. А для этого нужно знать, что у нас реально связь, а не хитрый алгоритм, который пытается проэксплуатировать связную систему, чтобы сподвигнуть человека на что-то)
Связь, а не «суперстимул»Nehc
15.10.2019 12:01«что у нас реально связь, а не хитрый алгоритм»
Ну да. Как и в любом другом проявлении «разумности». ;) Я не считаю тест Тьюринга корректным — он лишь от безысходности: когда нет определения разума — нам приходится исходить из его проявления. Дескать ведет себя как разумный — значит разумный. НО в случае с искусственным разумом, мы ведь имеем возможность, если не заглянуть внутрь (что даже с теперешними сетями зачастую проблематично), так хотя бы оценить принцип их построения… Так же и здесь: не столько важно насколько круто произведение искусства чисто внешне, сколько что оно собой представляет. Контекст…
Nehc
15.10.2019 12:09Хотя… тут тонкий момент… Те же фракталы и всевозможные построения на их основе или подобные меня, например, впечатляют… Полагаю, что «хитрый алгоритм» может сформировать (да и формирует! что-то вроде этого) что-то столь впечатляющее, что невозможно не признать это искусством! НО! Это искусство человека, а не ИИ. Что бы ИИ творил, он, пожалуй должен воспроизводить результат своего процесса познания. Например, как-то обсуждали Альфа-го: последнюю его версию никто не обучал стратегии — он учился чисто на игре сам с собой и выработал свои приемы, не всегда понятные человеку, но у многих профессиональных игроков вызывающие восторг. Вот это я считаю искусством.
Kilorad
15.10.2019 12:47Я бы ещё добавил кейс, который может быть в какой-то мере похож на искусство ИИ)
Если у нас будет несколько адаптивных агентов (обучение с подкреплением, например, или порождения виртуальной эволюции), и они в какой-то момент изобретут связь — как чисто практическое изобретение… А потом станут через эту связь выдавать друг другу что-то эдакое, что практической ценности вроде бы не несёт, но как-то хакает функцию вознаграждения, вызывая повышенные награды…
Тогда и акт связи вроде бы налицо, и его «непрактичность» заметна. Похоже на искусство.
С другой стороны, это сложно заметить. ИИ-таракан кинул камень на 2 градуса левее цели — это не случайный промах, а способ сообщить другому ИИ-таракану, что через 100 метров оазис. А потом ИИ-тараканы показывают друг другу, что кидают камень с ошибкой в 20 градусов, чтобы показать, что через 1км оазис, до которого слишком далеко, чтобы обман был реально опасен, но эта мысль вызывает положительное подкрепление.
А со стороны выглядит, как тараканы, кидающиеся камнями, не очень точно. И слегка зашумлённый график ожидаемого подкрепленияNehc
15.10.2019 13:01Тогда и акт связи вроде бы налицо, и его «непрактичность» заметна.
А почему «непрактичность»? Или тут в смысле «не по прямому назначению»? Т.е. использование доступного действия, не для достижения прямой цели, а как возможность коммуникации за неимением лучшего? Ну… возможно.
Тут уже очень тонкие различия между просто коммуникацией и выражением невыразимого. ))Kilorad
15.10.2019 13:07Непрактичность потому, что в прямые награды не конвертируется =)
Связь у нас по условию построена на каких-то штуках, которые для связи не предназначены, но связь практична, она ведёт к победам.
А ещё можно использовать связь, чтобы сообщать что-то… Что порадует других агентов (ожидаемая полезность действий будет выше), и при этом не повлияет на их реальные награды. Практично? Ну вроде не очень. Информация передаётся правдивая? Нет, но это не идёт во вред.
Сойдёт за легенды, похоже =)
Впрочем, здесь очень сложные аналогии, я не вижу чего-то более похожего на человеческие искусство. И даже такая коммуникация и обман-который-радует-и-не-вредит будут очень сложнообнаружимы =)
Nehc
15.10.2019 11:56Как бы вы узнали, что G равно именно тому, чему равно, без измерений?
Почему без измерений? Измерения — наше все и начало начала, вопросов нет. Но не зная «бэкграунда», не зная, что это за коэффициенты и чем они являются в реальной жизни, как связаны различные величины и почему — не только применение формул в нестандартных кейсах затруднено, но и вывод самих физически корректных формул под вопросом. Та же постоянная G сейчас просто константа, но вполне вероятно ее физический смысл глубже и монументальнее, чем мы себе представляем. И когда-нибудь, когда мы наконец-то узнаем, что такое гравитация — все встанет на свои места…Kilorad
15.10.2019 12:36Но не зная «бэкграунда», не зная, что это за коэффициенты и чем они являются в реальной жизни, как связаны различные величины и почему — не только применение формул в нестандартных кейсах затруднено
— чем это принципиально отличается от описанной таблицы? Масса первого тела — это столбец номер 15, например. Физический смысл? Не знаем, но подозреваем, что для её измерения используется каждый раз примерно одна методология.
Кроме того… Я вообще сомневаюсь, что у людей есть какое-то глубокое понимание того, что такое, например, масса. Мера инертности? Так это значит, что столбец 15 связан со столбцами 14 и 31, и ничего более. Искривление пространства? Значит, связь есть ещё и с 12, 18, 51, 63. Связь выражается формулами, можно вообразить её в виде графиков. И подумать, что мы лучше стали понимать, что такое этот столбец 15. Но мы по сути поняли только связи этого столбца с другими, это любой ML умеет, если ему предоставить таблицу. Мы знаем методику измерения массы? Ок, значит, мы знаем (умеем), как столбец 15 вывести из кучи других столбцов, вроде пикселей на сетчатке.
Так и с коэффициентом G. Это такая циферка в формуле. Если мы станем разбираться, мы поймём, что он выводится из какой-то ещё формулы, которая выводится из сырых данных.
Какое ещё у нас может быть понимание? Что мы можем в фундаментальном познании, кроме 2 базовых вещей: провести измерения и вывести формулу, по которой одни измеряемые величины связаны с другими?
Ну или… Допустим, у нас есть познающий агент. Живёт он в игре Counter-Strike (например). Он научился отлично прогнозировать физику игры (и неплохо — поведение других игроков, даже живых). И вот он задаётся вопросом: а что такое ускорение свободного падения? Да, он его измерил, он видит, в каких формулах оно участвует, но какие ещё ответы он может получить? Что он может узнать глубже, чем «ну просто такие правила игры»?Nehc
15.10.2019 16:18чем это принципиально отличается от описанной таблицы?
Ничем. ;) Если таблица одна. Можно с определенными оговорками транспонировать модель мира в граф, таблицу или что-то еще — формат хранения роли не играет… Важно другое: пока искомая формула сама по себе — связывает пару-тройку величин, это просто формула. Когда же она встроена в общую систему, когда она так или иначе связана со ВСЕМ остальным — это понимание…Kilorad
15.10.2019 16:21То есть «понимание» — это ситуация, когда таблица охватывает весь входящий сенсорный опыт агента? И формулы связывают только столбцы этой таблицы, и любые стронние формулы (вычитанные в учебнике, например) агент пытается перевести на язык своих сенсоров?
Nehc
15.10.2019 16:27Почему «сенсорный»? Сенсорный опыт имеет весьма скромное по объему значение в таблице… Гораздо большее значение имеют сложные взаимосвязи происходящих событий — причины и следствия, вот это вот все… сенсорика нужна для идентификации/локализации не более того… Или я чего-то не понимаю?
Kilorad
15.10.2019 16:41Сенсорный опыт имеет весьма скромное по объему значение в таблице… Гораздо большее значение имеют сложные взаимосвязи происходящих событий — причины и следствия, вот это вот все… сенсорика нужна для идентификации/локализации не более того… Или я чего-то не понимаю?
— познающий агент воспринимает реальность через сенсорный опыт. У него куча датчиков, каждый выдаёт свою циферку в цифровом или аналоговом формате. Это относится к живым организмам (имеющим нервную систему, про остальные не уверен) и к системам автоматического управления, включая те, что основаны на ИИ.
Поэтому… Ему вроде как неоткуда узнать о происходящих событиях и причинно-следственных связях, кроме как из сенсорного опыта. Пока предлагаю отбросить тот факт, что можно общаться и таким образом заимствовать чужой опыт/враки/заблуждения.
Я сейчас пока выношу память за скобки, мы как бы помним всё и идеально, потому что всё лежит в таблице, мы ничего не сжимаем. Для простоты)
Так что вопрос, какой ещё может быть опыт, который одновременно доступен и пригоден для построения модели окружающего мира?
Ещё, чтобы исключить двусмысленность) Если мы считаем предобработчики в сетчатке частью мозга — мы считаем, что в мозг прилетают сигналы в виде bmp-файла с сетчатки. Если считаем мозгом то, что находится за черепом, то сенсорными сигналами считаем ту сжатую и обработанную картинку, которая прилетает через зрительный нервNehc
15.10.2019 18:22Давайте подойдем иначе. Я приведу несколько примеров:
- Альфа Го. можно считать «сенсором» все поле, с показанием белая фишка/черная фишка/нет фишки в каждой из клеток. Однако на вход сети подается вектор, включающий восемь последних состояний доски, т.е. ситуация в развитии. Опыт сенсорный, безусловно, но… Есть нюансы.
- Робоавтомобиль, или робот-пылесос, например. Сенсорный вход используется для построения карты пространства, локализации в ней себя, важных объектов и тп. на вход принимающей решения системы будет передаваться взаиморасположение объектов (скорее всего тоже не только в пространстве, но и во времени), а их «смысл» (как, например, дорожные знаки/сигналы светофора) может быть «врожденным», т.е. предустановленным, заложенным изначально.
- Голосовой помощник (желательно более продвинутый, чем современные). На входе звук, который преобразуется в слова, которые через синтаксический комбайн транслируются в семантическую сеть произвольного объема. Тут «сенсоры» не более, чем интерфейс...
Это, на вскидку, три примера по мере убывания значимости сенсорики… Я понимаю, что вы хотите сказать: истинная самообучающаяся система должна сама построить всю модель, и кроме как сенсорикой ей оперировать вроде как нечем (т.е. вся модель по большому счету — «сенсорный опыт»)… И в каком-то смысле я «докопался до терминологии», Но! Важно что бы мы одинаково понимали главное: важен расклад на поле, взаимное расположение объектов во времени и пространстве, семантический смысл в каждом из этих случаев, а не то, что конкретно в эту секунду кажут сенсоры. Данные с них риалтайм обновляют модель — это да, но не они являются входом для собственно «разума». Иначе мы строим что-то очень примитивное вида раздражитель-реакция, пусть и варианты реакции — формируются весами нейронов, а не конструкцией if-then-else.
Возможно это все самоочевидно… но опять же если еще поразвивать эту мысль — даже если вы именно это все и имели ввиду под «сенсорным опытом», все равно, чем более продвинута система в интеллектуальном плане тем больше в ней концепций на пару уровней над сенсорным — абстракций, обобщений… И опять же с развитием системы — таких элементов становится все больше. Не знаю, понятно ли излагаю…Kilorad
15.10.2019 19:15+1Хорошие примеры.
Альфа Го. Там две подсистемы — условно, нейросеть и её обучалка. Нейросеть получает на вход 8 последних состояний — для неё сенсорный опыт именно такой. И да, она работает по принципу стимул-реакция. Обучалка нейросети хранит все данные за всё время (если нет, то только потому, что их дофига, и на диск не влезает). Для всего Альфа Го как обучающегося агента сенсорный опыт — это вся вот эта таблица, которая еле влезает на диск.
Робоавтомобиль и робот-пылесос — это невероятно узкоспециализированные системы, по крайней мере сейчас. У робота-пылесоса может быть довольно сложная модель (карта комнаты с хорошей детализацией), но у модели мало степеней свободы. Условно, модель — это мегабайт кода, в котором 1000 коэффициентов, каждый из которых можно вычислить независимо от остальных по алгоритму без серьёзного перебора. Там сенсорный опыт и правда играет относительно малую роль, потому что ИИ не пытается сам подобрать этот мегабайт кода.
Голосовой помощник… У нынешних есть очень много предзаданных понятий. У будущих… Вообще, я могу описать, как сделать голосовой помощник, в котором почти не будет предзаданных понятий. Если сделать офигительно крутые алгоритмы обучения нейронок, то Reinforcement Learning позволяет сделать голосовой помощник, имея на входе любые данные — от слов до потока бит. С потоком слов можно сделать что-то вменяемое уже сейчас, и работать оно будет просто на LSTM-нейросети, то есть вся семантическая сеть построится автоматом, даже если разработчик не знал, что это такое. Да, с предзаданными понятиями эта штука будет учиться быстрее. Если мы пойдём через чистый ML, то сенсорным опытом для непосредственно нейронки будут последовательности слов. Текущие LSTM больше 20 обычно понять не могут, но это проблема архитектуры.
При подходе «от опыта» у нас и правда будет система «стимул-реакция», но стимулом может быть что-то такое, что длится уже лет десять, и что никогда раньше не встречалось, а реакцией — план ещё лет на десять, и тоже уникальный. То есть очень нелокальные стимулы и реакции.
Важно что бы мы одинаково понимали главное: важен расклад на поле, взаимное расположение объектов во времени и пространстве, семантический смысл в каждом из этих случаев, а не то, что конкретно в эту секунду кажут сенсоры.
— да, важен. В тру-правильной системе ИИ эти штуки должны образоваться на N-ом слое нейросети (или что у него там). На практике в свёрточных сетях мы примерно это и видим.
В случае человека… У нынешних ИИ, которые Reinforcement learning, нет концепции реальности. Они что-то типа солипсистов, к сожалению. Они не могут прогнозировать, что будет после их гибели, потому что у них прогноз в терминах опыта. А люди могут. Очень похоже, что у человека есть какая-то штука, которая держит в себе модель реальности, но не как «вид из глаз», а как-то иначе. И похоже, что аналитическая часть ума на вход принимает не только картинку с глаз, но и картинку с этого эмулятора реальности. То есть сознание не крутит постоянно эту модель в бесконечном цикле, но имеет к ней интерфейс, и даже может вносить в неё изменения. Иногда.
Например, мы можем задаться вопросом, каково расстояние до Луны, и даже попытаться ответить на него, но расстояние у нас не ассоциировано жёстко с лазерным дальномером. Скорее, с чем-то на чертеже. Может, с Луной не очень удачный пример. Но похоже, мы можем закрывать глаза и видеть то, чего глазами бы не увидели, и при этом оказываться правыми.
Вот эта штука, которая эмулирует реальность, она… Как она работает? Она явно обучаемая. Обучаемая на опыте. Плюс на неё могут влиять идеи, почерпнутые из книжек. Плюс она настроена до рождения, и по умолчанию склонна моделировать трёхмерные миры с гравитацией и временем, а не какие-нибудь другие.
Если взять в сумме этот «эмулятор реальности» и «аналитический модуль», то выйдет, что они вместе обучаются на опыте с глаз, рук и ушей. Плюс у них огромная склонность всё моделировать именно так, как было выгодно с точки зрения эволюции.
Если взять только «аналитический модуль», то окажется, что он воспринимает, например, массы и скорости, а ещё отдельные объекты, энергию, импульс… «Эмулятор реальности» подсовывает эти переменные, либо инструкции, как их измерить. А дальше задача сводится к предыдущей, если мы заменим «сенсорные данные» на «сенсорные плюс те, что от модели».
Видимо, человека (и не только его) имеет смысл рассматривать как многоуровневую систему, у разных уровней разные входные данные. Тогда сенсорными можно назвать лишь данные у первых уровней, а дальше уже такая предобработка идёт, что… Это не совсем сенсорные данные, а сплошной Feature Engeneering.
Ок, тогда переформулирую то, что я говорил про блэкбокс-анализ. Мы очень многие вещи можем вывести аналитически. Хотя бы попытаться. Молекулярно-кинетическую теорию, например. Но чтобы выводить, надо знать о строительных блоках уровнем ниже. Поэтому если копать «вниз», рано или поздно мы дойдём до штук, которые не сводятся ни к чему известному, и их придётся искусственно сводить к математике. Если развернуть процесс в обратную сторону, выйдет, что у нас «внизу» чёрные ящики, обсчитанные через регрессионный анализ или что-то похожее по смыслу. Уровнем выше — вроде бы белые ящики, но они состоят из тех же чёрных ящиков.Nehc
16.10.2019 11:21Вот теперь я вижу, что вы не только понимаете о чем я, но заметно лучше меня разбираетесь в практической стороне вопроса… Я, к сожалению, теоретик…
А что касается науки и черных ящиков… в пределе конечно наука дойдет до каких-то понятий, которые самодостаточны, являются вещью в себе и не могут быть выражены через что-то еще. На более ранних этапах познания это обычно был опыт, воспринимаемый непосредственно, и не требующий каких-то сложных абстрактных построений (абстракции были над опытом, выводились из него), сейчас ситуация (не в повседневной жизни, а в науке, особенно теоретической) инвертировалась — сенсорный опыт объявляется проявлением более глубоких фундаментальных понятий. Это работа механизмов разума — дедукции и индукции — обобщения и категоризации.
НО важно другое — люди продолжают искать универсальную теорию, объединяющую все. Их не устраивают разные системы для микромира (квантовые законы) и макромира (СТО и Ньютоновская механика). Они хотят найти теорию, объясняющую все четыре вида взаимодействия единым подходом, потому что разные не стыкующиеся теории — это не круто! ;) На лицо глубокая программа интеллекта — получить ОДНУ ТАБЛИЦУ. Пазл должен сложиться. Не разные формулы для разных случаев жизни, а одну на все. Если бы достаточно было практических формул — вполне вероятно, что мы не ушли бы дальше механики.
И причины этого понятны. Вот есть давнишний спор: одни говорят, что люди не умеют придумывать новое — только рекомбинировать опыт. А другие — наоборот: способность нестандартных, новых решений ставят как главный признак разума. Но на самом деле правы и те и другие: человек неспособен придумать ничего совершенно нового, но в силу того что ВЕСЬ его опыт обрабатывается как единое целое (причем с обобщениями самого высокого уровня) — он способен применить опыт из одной области совершенно иных сферах. Возвращаясь к искусству — способен увидеть мелодию в цвете или симметрию в звуке, например. Вот тот ваш познающий агент из contra-strike вполне мог бы, наблюдая за отлетающими от взрыва противниками изобрести roket-jump… Понимаете, о чем я? Если бы он свои действия строил только на сенсорном опыте — вероятнее всего для рокет-джапа ему пришлось бы подорваться на гранате.Kilorad
16.10.2019 12:57А что касается науки и черных ящиков… в пределе конечно наука дойдет до каких-то понятий, которые самодостаточны, являются вещью в себе и не могут быть выражены через что-то еще.
— а почему в пределе? Мне видится, что на каждом этапе наука упирается в такие чёрные ящики снизу. В теормехе такой чёрный ящик — это твёрдое тело. В теории атомов (в той версии, что у Резерфорда) чёрные ящики — это атомные ядра и электроны. В квантмехе — волновые функции. Каждый раз в какой-то момент происходил прорыв, и учёные замечали, что можно разбить этот «ящик» на несколько других. И вроде бы модель начинает больше объяснять, точнее предсказывать и так далее. Теория начинает покрывать факты более полно, mean square error уменьшается =)
Но да, у нас при этом существует несколько теорий, которые явно противоречат друг другу и так же явно верны в своей зоне определения.
Если бы мы выводили теории из одного только сенсорного опыта, собранного одними и теми же инструментами, видимо, такой фигни бы не было — мы бы просто зарядили всё в ML (Bacon, например) и получили готовые уравнения. Но, видимо, это невозможно — расстояния в космосе и расстояния в коллайдере одними и теми же инструментами не измерить, единственная общая «линейка» для этой задачи — это тот самый «эмулятор реальности» в уме.
Если бы достаточно было практических формул — вполне вероятно, что мы не ушли бы дальше механики.
— скорее, у нас была бы куча локальных теорий вроде аэродинамики, гидродинамики, баллистики, небесной механики и они бы не сводились к унифицированному набору базовых элементов. Ну или если бы мы могли каким-то образом заносить явления из нескольких областей в одну таблицу (пусть хотя бы будут таблицы, соединяющие всего 2-3 области), то получилась бы единая теория. Не факт, что она в итоге оперировала бы атомами… Что там за закономерности выведутся — сказать сложно)
Но на самом деле правы и те и другие: человек неспособен придумать ничего совершенно нового, но в силу того что ВЕСЬ его опыт обрабатывается как единое целое (причем с обобщениями самого высокого уровня) — он способен применить опыт из одной области совершенно иных сферах.
— видимо, да… Плюс люди могут создавать всякие комбинаторно сложные штуки вроде текстов. Такие, что другой человек не воспринимает результат как комбинацию частей, а воспринимает как новый объект.
Возвращаясь к искусству — способен увидеть мелодию в цвете или симметрию в звуке, например.
— а это, кстати, похоже на metalearning =) Когда человек нашёл один вид регулярности в некоторых данных (симметрия, например), а затем этот же вид регулярности обнаружил в другом блоке данных, с других сенсоров и предобработчиков. Вообще, очень крутое свойство, оно позволяет… Например, сыграв в Doom, потом намного быстрее обучиться играть в Quake, потому что закономерности похожие. Atary-боту очень этого не хватает =)
drWhy
Вопрос ценителя. Придайте ИИ обратные связи, дающие чувство удовлетворения от плодов своей деятельности. Не забудьте начальные условия, соответствующие восприятию прекрасного человечеством. И пожнёте искомые плоды в избытке.
Рано или поздно наше наследие также будут исследовать творения рук наших, ИИ. Взойдём ли мы на высшую ступень эволюции, или сгинем в пучине катаклизмов, ни художественные творения свои в их физической форме, ни питомцев мы не захватим с собой, оставив сей бренный мир им. Ценить кроме них будет некому.