MIT Technology Review обсуждает отличие человека от искусственного интеллекта. Автор статьи - Шон Дорранс Келли, профессор философии в Гарварде.
Исходный тезис для рассуждений такой. Уже сегодня мы можем загрузить в машину партитуры музыки Баха, и на выходе машина выдаст "оригинальную" композицию, которую даже самые искушенные специалисты признают творчеством самого Баха.
А раз так - где место человека в мире? И вообще, нужен ли тогда человек?
Ответ на этот вопрос Келли строит на двух основаниях.
1. В рассмотрение вводятся общество и история.
Творчество - то, что продвигает культуру вперед относительно текущего состояния. И одно и то же изображение, например "Черный квадрат" Малевича, в одной ситуации - это просто окрашенная стена, а в другой - некоторое продвижение культуры вперед.
Кроме того, творчество - это то, что, вообще говоря, признается обществом. Может быть и не сразу, но признается. То есть робинзоновский уединенный человек не может быть творцом, а в общем то и человеком, потому что человек, как заметил еще Аристотель, "коллективистское существо". И его ключевое родовое свойство - способность к творчеству, так же как и разум, - коллективистское свойство. (Маугли - интересная книга. Но реальные истории таких мауглей ужасны. Погуглите, например, историю про мальчика-курицу. Именно это происходит с людьми, если в детстве они оказываются не подключены к человеческой культуре.)
В итоге имеем следующее: искусственный интеллект - не является частью рода человеческого, а потому что бы он там не намалевал - это не творчество, а подражание.
2. Второй аргумент сразу опирается на "метафизику". Рассматривается природа творчества. И утверждается что творчество по своей сути - это "изменение ценностей".
В музыке в роли ценностей могут выступать некоторые правила гармонии. И потому то что сделал, например, Шенберг, - творчество. А когда машина согласно "ценностям" музыки Баха генерит очередной бессмысленный этюд - это не творчество, а техническая работа, которую машины успешно способны выполнять.
Такие рассуждения скрыто подразумевают следующую модель человека. Есть некий набор правил, программ (ценности), согласно которым человек действует. И в этом человека аналогичен компьютеру. Но в компьютер эти правила закладывает программист. И машина не способна преодолеть эти правила.
А человек - может осознать эти "правила", "программы" (ценности) и изменить их. И действовать уже в рамках этих новых осознанно измененных правил.
Тут можно начать спекулировать на тему стохастического изменений программы, алгоритма отбора таких программ-мутантов с целью выделения лучших и т.д. К сожалению, в наше дегуманизированное время такие рассуждения модны среди "технарей". Которые не замечают того, что тогда в роли ценностей выступают правила отбора лучших программ.
Вы хотите и их, эти правила отбора начать стохастически модифицировать? Хорошо. Но тогда эту последовательную стохатизацию придется продолжать бесконечно. Бог с ней, с ограниченностью ресурсов. Что мы в итоге получим? В чем мифология такого подхода?
Мы получим, что мы сами - лишь случайная недолговременная в рамках Вселенной флуктуация. Да и сама Вселенная - лишь флуктуация некоторого великого ничто, великого небытия. И что есть только это небытие.
Ничего не напоминает? Хотите верить в тантрический буддизм - верьте. Но не морочьте людям голову в то, что это - наука.
И раз уж вы строите тантрическую науку - то не мешайте другим строить гуманистическую науку. В которой существуют ценности, человек и история. И у всего этого есть собственные, не редуцируемые и потому фундаментальные источники движения.
Ну, и пару цитат из статьи Келли:
1. На данный момент машина может делать только что-то гораздо менее интересное, чем то, что может делать человек. Например, она может создавать музыку в стиле Баха — возможно, даже музыку, которую некоторые эксперты считают лучше, чем саму музыку Баха. Но это только потому, что о его музыке можно судить по уже существующим стандартам. Чего машина не может сделать, так это внести изменения в наши стандарты оценки качества музыки или понимания того, что такое музыка, а что нет.
2. Самый фундаментальный вид человеческого творчества меняет наше понимание самих себя, потому что меняется наше понимание того, что мы считаем хорошим. Для игры в Го, напротив, природа добродетели просто не поддается анализу: стратегия Го хороша тогда и только тогда, когда она выигрывает. Человеческая жизнь, как правило, не обладает этой особенностью: нет объективной меры успеха в высших сферах достижений. Конечно, нет такой меры и в искусстве, литературе, музыке, философии или политике. И, если уж на то пошло, то и в разработке новых технологий.
Источник - https://t.me/IngeniumNotes/499
Комментарии (22)
twid
21.09.2022 17:15+1Заменит ли нейросеточка художников, ученых и прочие творческие профессии - вопрос скорее юридический, нежели этический.
Допустим, человек открыл ООО по созданию игр. И первое на что он смотрит - железо под ключ. Из чего игру-то собирать. Как только нейросеточка будет под ключ как Unity(а скорее всего, будет интегрирована в эту среду, как доп мод), и как только она будет закрывать первичные потребности(фон, персонажи, предметы), тут же все "искусство" лесом.
TonyEscobar
21.09.2022 17:15+3Творчество - то, что продвигает культуру вперед относительно текущего состояния.
творчество - это то, что, вообще говоря, признается обществом.
Согласно этим критериям, если сгенерировать музыку и выдать ее за свою, после чего большое количество реальных композиторов (если сгенерированный образчик стал популярным) напишут произведения в похожем стиле, то это будет творчеством. Ведь композиция в этом примере дала развитие новому стилю/жанру. Ну или придется отменять целый пласт культуры и говорить, что это всё фейк и подражание (реальным композиторам, кстати). К слову, такая ситуация делает вывод из первой цитаты Келли бессмысленным.
искусственный интеллект - не является частью рода человеческого, а
потому что бы он там не намалевал - это не творчество, а подражаниеЕсли копнуть немного в когнитивистские теории, то одна из них вполне справедлива говорит, что мы все по большей части - это нечто среднее от нашего окружения (ведь мы всему учимся у кого-то) с небольшими отклонениями. И тогда в психологии и философии возникает вопрос - если мы перенимаем всё извне, то о какой индивидуальности можно говорить? И наоборот, подражание и заимствование это нормальная часть культуры (вспомним тот же мономиф, который есть почти в любой истории, но многие из них считаются оригинальными, творчеством).
И машина не способна преодолеть эти правила.
А человек - может осознать эти "правила", "программы" (ценности) и изменить их. И действовать уже в рамках этих новых осознанно измененных правил.
Насчет изменения ценностей стоит быть аккуратным, ведь и у человека, и у машины есть ряд критериев, по которым определяется "хорошесть" явлений. И разные ценности могут противоречить друг другу, тогда приходится смотреть, что в конкретной ситуации перевешивает, какие ценности являются более значимыми, а какими можно поступиться. Это делает и человек, и компьютер (на примере нейросеток). И оба могут в процессе деятельности менять важность ценностей относительно друг друга. Возможность осознания своих истинных ценностей, а также их независимость от внешних факторов, тоже до сих пор являются предметом споров
IngeniumNotes Автор
21.09.2022 17:30-2Согласно этим критериям, если сгенерировать музыку и выдать ее за свою, после чего большое количество реальных композиторов (если сгенерированный образчик стал популярным) напишут произведения в похожем стиле, то это будет творчеством.
Давайте возьмем для примера литературу. Детективы Донцовой. Да, это фейк и подражание. Да, целые пласты "культуры" - фейк и подражание.
Раньше вместо компьютеров сидели толпы тетенек с арифмометрами, с помощью которых реализовывали, например, вычислительные схемы гидродинамики. Наверное они себя считали технической интеллигенцией. Так же как третьесортный рисовальщик - оформитель считает себя художником. Тетенек с арифмометрами давно заменила машина. Настала очередь оформителей.
Собственно все это ставит вопрос - а что такое человек? И если он производная от обучения - то действительно, компьютер не может его заменить.
И тогда в психологии и философии возникает вопрос - если мы перенимаем всё извне, то о какой индивидуальности можно говорить?
Как раз машина так и делает. Человек - привносит что то новое.
Возможность осознания своих истинных ценностей, а также их независимость от внешних факторов, тоже до сих пор являются предметом споров
Это и делает человека человеком.
Как там писал Луначарский про "покрывало Изиды" (используя стихотворение Шиллера "Истукан Изиды" как метафору). В 18-19 веке "доказали" ("сдернули покрывало со статуи"), что весь мир описывается простыми уравнениями, описывающими движение частиц. Но раз так - то и сами исследователи ими описываются. И тогда человек - даже не "мыслящий тростник", а вообще не пойми что. Чтобы уйти от этого приходится вводить какое-то иное начало. Человеческую сущность какую-нибудь.
antonkrechetov
22.09.2022 09:21Детективы Донцовой. Да, это фейк и подражание.
Сильное заявление. Кому именно подражает Донцова?
SADKO
21.09.2022 19:47+1Уже сегодня мы можем загрузить в машину партитуры музыки Баха, и на выходе машина выдаст "оригинальную" композицию,Да, ладно. Куда грузить, или я что-то пропустил?
Прелесть музыки как задачи ML как раз в том, что она вроде-бы простая в плане размерности, да и теоретически проработано сольфеджио, пользуйся - не хочу. Но результаты традиционного ML даже с учётом сольфеджио получаются не в зуб ногой, а без учёта, таки полный трэш. И всё это уступает простейшим стохастическим алгоритмам из мохнатых веков.
DaneSoul
21.09.2022 20:08+3В музыке в роли ценностей могут выступать некоторые правила гармонии. И потому то что сделал, например, Шенберг, — творчество. А когда машина согласно «ценностям» музыки Баха генерит очередной бессмысленный этюд — это не творчество, а техническая работа, которую машины успешно способны выполнять.
Хорошо, создание нового стиля музыки — это однозначно творчество. Вот Бах создал определенный стиль по которому мы его узнаем. Теперь вопросы:
1) Когда Бах уже создал узнаваемый стиль, то последующие его произведения в этом стиле уже не творчество? Ведь стиль уже создан и очередное произведение в нем Вашими словами «техническая работа»?
2) Если некий музыкант написал новое произведение в стиле Баха — это тоже не творчество? Или одно и тоже от человека и от машины оцениваем по разному?antonkrechetov
22.09.2022 09:30+2Когда Бах уже создал узнаваемый стиль, то последующие его произведения в этом стиле уже не творчество
Если некий музыкант написал новое произведение в стиле Баха — это тоже не творчество?
Для этого существует специальное понятие — «эпигонство».
hbn3
22.09.2022 14:33+1Если некий музыкант написал новое произведение в стиле Баха
Ещё интереснее вопрос, если он это сделал, никогда до этого не слышав этого самого Баха или его производные.
shiru8bit
22.09.2022 04:32Если генерализировать, творчество - это выстраивание структур, подобных ранее воспринятым творцом, элементы которых творцу приятно узнавать. У кого-то это получается так себе, у кого-то лучше, а у немногих очень хорошо - это искусство. Когда очень хорошо начинает получаться у многих, это начинает квалифироваться как ремесло. Не думаю, что что-то в этом процессе принципиально недоступно нейросетям.
antonkrechetov
22.09.2022 09:28творчество — это выстраивание структур, подобных ранее воспринятым творцом, элементы которых творцу приятно узнавать. У кого-то это получается так себе, у кого-то лучше, а у немногих очень хорошо — это искусство
Как раз искусство — это создание чего-то принципиально нового. По смыслу оно противоположно выстраиванию подобных структур.shiru8bit
22.09.2022 19:28Принципиально новое из ничего и на пустом месте не создаётся. Это всегда мутации уже известного, комбинация элементов известных структур. И это скорее не искусство, а изобретательство.
economist75
22.09.2022 09:00Справедливости ради стоит вспомнить что в истории человечества были длинные периоды (по неск. веков подряд), когда в живописи не происходило решительно ничего.
Те же Малевич, Кандинский, Петров-Водкин и др. - "выстрелили" со своим выпендрежем (читай - новаторством) - на фоне глобальных политических перемен, после разрухи, войн и культурологического "голода", на фоне привлекающей социализма как нового явления. То есть для них "было место". Есть ли это место сейчас для живописи от ИИ - вопрос. Но ИИ точно дождется своего часа в силу того что он не ограничен 75 годами жизни. И да, он креативен, потому что рандомизирует подбор вывод как и все ML.
Даже великий Моцарт баловался фигней: брызгал щеткой чернила на нотный стан и пытался "это" сыграть. Вылилось ли это хоть в одно толковое произведение - биографы не выяснили. Но факт был.
garbagecollected
22.09.2022 09:23+1Так было до создания DALL-E 2. Теперь я уверен, что AI может как выдавать шедевры, так и подстраиваться под мнения большинства, изменяя правила игры в оценке творчества.
Bedal
22.09.2022 09:43+1Кроме того, творчество — это то, что, вообще говоря, признается обществом.
Именно так. Всего лишь общественный сговор. Что говорит о том, что ИИ, даже вполне примитивный, вполне может заниматься самым настоящим творчеством — если общество будет думать, что это человек.
Даже в дискретных коммуникациях (речи и особенно письме) человеки уже проиграли в тесте Тьюринга. Что уж там по аналоговым страдать…
DenisPantushev
22.09.2022 10:50-3Все это чепуха и пустопорожние рассуждения. Ответ лежит в простейшем законе компьютерных наук.
Ни одна программа не может увеличить количество информации, обрабатывая тот массив информации, который ей дали. Уменьшить - может. Увеличить - нет. То есть, сжать с потерями - может. А вот провернуть трюк, который множество раз в боевиках присутствует - увеличить резкость изображения и увеличить картинку в шляпке гвоздя - нет.
В данном случае, обрабатываемый массив информации - это тысячи терабайтов картинок и фраза на английском языке.
Для отдельного человека каждая из сгенерированных картинок будет чем-то новым. Для человечества в целом, для культуры и искусства - нет. Просто лишний шум.
garbagecollected
22.09.2022 11:14Что есть искусство? Почему человек знает, что он хочет получить сегодня, но совершенно не знает, что он будет хотеть завтра? Как пример, в середине 2000-х годов никто не знал, что спустя всего несколько лет, все будут хотеть iPhone, и в их числе даже те, кто позже выберут Android. Да, безусловно, iPhone - это не только идея, а ещё и технологии. Технологии, которые развивали отдельные люди не один год, они не возникли по мановению волшебной палочки Джобса. А если присмотреться, например, к тем же иконкам, меняющимся в разных версиях iOS, собрав их всех вместе, располагая рядом друг с другом, можно вообще разделить развитие их творчества на отдельные эпохи, словно это какая-то галерея. В противовес iPhone у нас уже был на тот момент Windows Mobile. WM - это как пример того, как может развиваться ОС, не меняя традиции, натягивая уже устоявшиеся решения на новый вид устройств. Каким должно быть искусство? Можно предположить, что людям нравится только что-нибудь новенькое, не важно какое на вкус, главное - нестандартное. Но есть много примеров, когда это предположение не работает. Взять хотя-бы эпидемию среди web-мастеров под названием Bootstrap. И ведь реально, люди, далекие от верстки сайтов, подсознательно делили все сайты на условные "сайты из 90-х" и "современные сайты". И это при том, что слово "современные" никак не отражало ни время, в которое разрабатывался сайт, ни технологии, которые использовались при верстке сайта, ни даже какую-то новизну решений. Вероятно, люди видя знакомый UI, видели уже привычный для них UX, создавая ложное представление о том, что взглянув на сайт, они уже умеют им пользоваться. Хотя это далеко не всегда так. Порой, даже, экспериментируя c UX, web-мастер легко может изговнять даже такой примитивно-стандартный интерфейс Bootstrap. Как так получается, что в устоявшихся стандартах люди видят новизну этих же стандартов, а по любому на отклонению от них, люди вешают ярлык на web-мастера "рукожоп". За рубежом этому есть более цензурный термин - девиантное поведение. Так что есть искусство? Вспомните, как люди поменяли красочные разноцветные иконки на глифы. Как думаете, людям нравится векторные иконки больше растровых? И тут же есть отличный пример, как делать "не надо" - сайт "flaticon.com". Люди, далекие от верстки тех же сайтов, моментально узнают эти иконки, никогда не посещав этот сайт ранее. Спрашивая их, какие именно черты не нравится в этих иконках, никто не даёт однозначного ответа. И действительно, полистав сайт, задумываешься, бедные авторы этих иконок... их там что, ежедневно доят на эти иконки чтоли? При этом, ответственно могу утверждать, что 99% иконок на сайте эксклюзивно уникальные. И в целом, иконки по отдельности кажутся неплохими, но собирая несколько иконок вместе, чувствуешь их бездушность. Так каким должно быть искусство?
2n2222
23.09.2022 14:45+1В итоге имеем следующее: искусственный интеллект - не является частью рода человеческого, а потому что бы он там не намалевал - это не творчество, а подражание.
Никогда не интересовались за что спалили Джордано Бруно? Вроде как за то, что он отрицал монополию рода человеческого на разум. Вы наверное от инквизиции. Замом по идеологии в комсомольские годы не работали?
Exchan-ge
А что, такие случаи уже были? Или это просто журналистский треп на тему?
Ну да, конечно — Ван Гог не был творцом при жизни, он им стал только после смерти, да и то, не сразу :)
Почему нет? «Какие ваши доказательства?» (с) того, что это не так?
? А… все просто — Шон Дорранс Келли, профессор философии :)