MIT Technology Review обсуждает отличие человека от искусственного интеллекта. Автор статьи - Шон Дорранс Келли, профессор философии в Гарварде.

Исходный тезис для рассуждений такой. Уже сегодня мы можем загрузить в машину партитуры музыки Баха, и на выходе машина выдаст "оригинальную" композицию, которую даже самые искушенные специалисты признают творчеством самого Баха.

А раз так - где место человека в мире? И вообще, нужен ли тогда человек?

Ответ на этот вопрос Келли строит на двух основаниях.

1. В рассмотрение вводятся общество и история.

Творчество - то, что продвигает культуру вперед относительно текущего состояния. И одно и то же изображение, например "Черный квадрат" Малевича, в одной ситуации - это просто окрашенная стена, а в другой - некоторое продвижение культуры вперед.

Кроме того, творчество - это то, что, вообще говоря, признается обществом. Может быть и не сразу, но признается. То есть робинзоновский уединенный человек не может быть творцом, а в общем то и человеком, потому что человек, как заметил еще Аристотель, "коллективистское существо". И его ключевое родовое свойство - способность к творчеству, так же как и разум, - коллективистское свойство. (Маугли - интересная книга. Но реальные истории таких мауглей ужасны. Погуглите, например, историю про мальчика-курицу. Именно это происходит с людьми, если в детстве они оказываются не подключены к человеческой культуре.)

В итоге имеем следующее: искусственный интеллект - не является частью рода человеческого, а потому что бы он там не намалевал - это не творчество, а подражание.

2. Второй аргумент сразу опирается на "метафизику". Рассматривается природа творчества. И утверждается что творчество по своей сути - это "изменение ценностей".

В музыке в роли ценностей могут выступать некоторые правила гармонии. И потому то что сделал, например, Шенберг, - творчество. А когда машина согласно "ценностям" музыки Баха генерит очередной бессмысленный этюд - это не творчество, а техническая работа, которую машины успешно способны выполнять.

Такие рассуждения скрыто подразумевают следующую модель человека. Есть некий набор правил, программ (ценности), согласно которым человек действует. И в этом человека аналогичен компьютеру. Но в компьютер эти правила закладывает программист. И машина не способна преодолеть эти правила.

А человек - может осознать эти "правила", "программы" (ценности) и изменить их. И действовать уже в рамках этих новых осознанно измененных правил.

Тут можно начать спекулировать на тему стохастического изменений программы, алгоритма отбора таких программ-мутантов с целью выделения лучших и т.д. К сожалению, в наше дегуманизированное время такие рассуждения модны среди "технарей". Которые не замечают того, что тогда в роли ценностей выступают правила отбора лучших программ.

Вы хотите и их, эти правила отбора начать стохастически модифицировать? Хорошо. Но тогда эту последовательную стохатизацию придется продолжать бесконечно. Бог с ней, с ограниченностью ресурсов. Что мы в итоге получим? В чем мифология такого подхода?
Мы получим, что мы сами - лишь случайная недолговременная в рамках Вселенной флуктуация. Да и сама Вселенная - лишь флуктуация некоторого великого ничто, великого небытия. И что есть только это небытие.

Ничего не напоминает? Хотите верить в тантрический буддизм - верьте. Но не морочьте людям голову в то, что это - наука.

И раз уж вы строите тантрическую науку - то не мешайте другим строить гуманистическую науку. В которой существуют ценности, человек и история. И у всего этого есть собственные, не редуцируемые и потому фундаментальные источники движения.

Ну, и пару цитат из статьи Келли:

1. На данный момент машина может делать только что-то гораздо менее интересное, чем то, что может делать человек. Например, она может создавать музыку в стиле Баха — возможно, даже музыку, которую некоторые эксперты считают лучше, чем саму музыку Баха. Но это только потому, что о его музыке можно судить по уже существующим стандартам. Чего машина не может сделать, так это внести изменения в наши стандарты оценки качества музыки или понимания того, что такое музыка, а что нет.

2. Самый фундаментальный вид человеческого творчества меняет наше понимание самих себя, потому что меняется наше понимание того, что мы считаем хорошим. Для игры в Го, напротив, природа добродетели просто не поддается анализу: стратегия Го хороша тогда и только тогда, когда она выигрывает. Человеческая жизнь, как правило, не обладает этой особенностью: нет объективной меры успеха в высших сферах достижений. Конечно, нет такой меры и в искусстве, литературе, музыке, философии или политике. И, если уж на то пошло, то и в разработке новых технологий.

Источник - https://t.me/IngeniumNotes/499

Комментарии (22)


  1. Exchan-ge
    21.09.2022 17:01
    +2

    Уже сегодня мы можем загрузить в машину партитуры музыки Баха, и на выходе машина выдаст «оригинальную» композицию, которую даже самые искушенные специалисты признают творчеством самого Баха.


    А что, такие случаи уже были? Или это просто журналистский треп на тему?

    Кроме того, творчество — это то, что, вообще говоря, признается обществом.


    Ну да, конечно — Ван Гог не был творцом при жизни, он им стал только после смерти, да и то, не сразу :)

    Мы получим, что мы сами — лишь случайная недолговременная в рамках Вселенной флуктуация. Да и сама Вселенная — лишь флуктуация некоторого великого ничто, великого небытия.


    Почему нет? «Какие ваши доказательства?» (с) того, что это не так?

    то не мешайте другим строить гуманистическую науку. В которой существуют ценности, человек и история.


    ? А… все просто — Шон Дорранс Келли, профессор философии :)


  1. twid
    21.09.2022 17:15
    +1

    Заменит ли нейросеточка художников, ученых и прочие творческие профессии - вопрос скорее юридический, нежели этический.

    Допустим, человек открыл ООО по созданию игр. И первое на что он смотрит - железо под ключ. Из чего игру-то собирать. Как только нейросеточка будет под ключ как Unity(а скорее всего, будет интегрирована в эту среду, как доп мод), и как только она будет закрывать первичные потребности(фон, персонажи, предметы), тут же все "искусство" лесом.



  1. Ripper516
    21.09.2022 17:15
    +8

    ИИ яйца не может к брусчатке прибить. ????


    1. zlat_zlat
      21.09.2022 19:19
      +4

      Вообще-то может. Вопрос, чьи!


    1. moooV
      22.09.2022 09:05
      +2


  1. TonyEscobar
    21.09.2022 17:15
    +3

    Творчество - то, что продвигает культуру вперед относительно текущего состояния.

    творчество - это то, что, вообще говоря, признается обществом.

    Согласно этим критериям, если сгенерировать музыку и выдать ее за свою, после чего большое количество реальных композиторов (если сгенерированный образчик стал популярным) напишут произведения в похожем стиле, то это будет творчеством. Ведь композиция в этом примере дала развитие новому стилю/жанру. Ну или придется отменять целый пласт культуры и говорить, что это всё фейк и подражание (реальным композиторам, кстати). К слову, такая ситуация делает вывод из первой цитаты Келли бессмысленным.

    искусственный интеллект - не является частью рода человеческого, а
    потому что бы он там не намалевал - это не творчество, а подражание

    Если копнуть немного в когнитивистские теории, то одна из них вполне справедлива говорит, что мы все по большей части - это нечто среднее от нашего окружения (ведь мы всему учимся у кого-то) с небольшими отклонениями. И тогда в психологии и философии возникает вопрос - если мы перенимаем всё извне, то о какой индивидуальности можно говорить? И наоборот, подражание и заимствование это нормальная часть культуры (вспомним тот же мономиф, который есть почти в любой истории, но многие из них считаются оригинальными, творчеством).

    И машина не способна преодолеть эти правила.

    А человек - может осознать эти "правила", "программы" (ценности) и изменить их. И действовать уже в рамках этих новых осознанно измененных правил.

    Насчет изменения ценностей стоит быть аккуратным, ведь и у человека, и у машины есть ряд критериев, по которым определяется "хорошесть" явлений. И разные ценности могут противоречить друг другу, тогда приходится смотреть, что в конкретной ситуации перевешивает, какие ценности являются более значимыми, а какими можно поступиться. Это делает и человек, и компьютер (на примере нейросеток). И оба могут в процессе деятельности менять важность ценностей относительно друг друга. Возможность осознания своих истинных ценностей, а также их независимость от внешних факторов, тоже до сих пор являются предметом споров


    1. IngeniumNotes
      21.09.2022 17:30
      -2

      Согласно этим критериям, если сгенерировать музыку и выдать ее за свою, после чего большое количество реальных композиторов (если сгенерированный образчик стал популярным) напишут произведения в похожем стиле, то это будет творчеством.

      Давайте возьмем для примера литературу. Детективы Донцовой. Да, это фейк и подражание. Да, целые пласты "культуры" - фейк и подражание.

      Раньше вместо компьютеров сидели толпы тетенек с арифмометрами, с помощью которых реализовывали, например, вычислительные схемы гидродинамики. Наверное они себя считали технической интеллигенцией. Так же как третьесортный рисовальщик - оформитель считает себя художником. Тетенек с арифмометрами давно заменила машина. Настала очередь оформителей.

      Собственно все это ставит вопрос - а что такое человек? И если он производная от обучения - то действительно, компьютер не может его заменить.

      И тогда в психологии и философии возникает вопрос - если мы перенимаем всё извне, то о какой индивидуальности можно говорить?

      Как раз машина так и делает. Человек - привносит что то новое.

      Возможность осознания своих истинных ценностей, а также их независимость от внешних факторов, тоже до сих пор являются предметом споров

      Это и делает человека человеком.

      Как там писал Луначарский про "покрывало Изиды" (используя стихотворение Шиллера "Истукан Изиды" как метафору). В 18-19 веке "доказали" ("сдернули покрывало со статуи"), что весь мир описывается простыми уравнениями, описывающими движение частиц. Но раз так - то и сами исследователи ими описываются. И тогда человек - даже не "мыслящий тростник", а вообще не пойми что. Чтобы уйти от этого приходится вводить какое-то иное начало. Человеческую сущность какую-нибудь.


      1. antonkrechetov
        22.09.2022 09:21

        Детективы Донцовой. Да, это фейк и подражание.
        Сильное заявление. Кому именно подражает Донцова?


  1. SADKO
    21.09.2022 19:47
    +1

    Уже сегодня мы можем загрузить в машину партитуры музыки Баха, и на выходе машина выдаст "оригинальную" композицию,

    Да, ладно. Куда грузить, или я что-то пропустил?
    Прелесть музыки как задачи ML как раз в том, что она вроде-бы простая в плане размерности, да и теоретически проработано сольфеджио, пользуйся - не хочу. Но результаты традиционного ML даже с учётом сольфеджио получаются не в зуб ногой, а без учёта, таки полный трэш. И всё это уступает простейшим стохастическим алгоритмам из мохнатых веков.


  1. DaneSoul
    21.09.2022 20:08
    +3

    В музыке в роли ценностей могут выступать некоторые правила гармонии. И потому то что сделал, например, Шенберг, — творчество. А когда машина согласно «ценностям» музыки Баха генерит очередной бессмысленный этюд — это не творчество, а техническая работа, которую машины успешно способны выполнять.
    Хорошо, создание нового стиля музыки — это однозначно творчество. Вот Бах создал определенный стиль по которому мы его узнаем. Теперь вопросы:
    1) Когда Бах уже создал узнаваемый стиль, то последующие его произведения в этом стиле уже не творчество? Ведь стиль уже создан и очередное произведение в нем Вашими словами «техническая работа»?
    2) Если некий музыкант написал новое произведение в стиле Баха — это тоже не творчество? Или одно и тоже от человека и от машины оцениваем по разному?


    1. antonkrechetov
      22.09.2022 09:30
      +2

      Когда Бах уже создал узнаваемый стиль, то последующие его произведения в этом стиле уже не творчество
      Если некий музыкант написал новое произведение в стиле Баха — это тоже не творчество?
      Для этого существует специальное понятие — «эпигонство».


    1. hbn3
      22.09.2022 14:33
      +1

      Если некий музыкант написал новое произведение в стиле Баха
      Ещё интереснее вопрос, если он это сделал, никогда до этого не слышав этого самого Баха или его производные.


  1. shiru8bit
    22.09.2022 04:32

    Если генерализировать, творчество - это выстраивание структур, подобных ранее воспринятым творцом, элементы которых творцу приятно узнавать. У кого-то это получается так себе, у кого-то лучше, а у немногих очень хорошо - это искусство. Когда очень хорошо начинает получаться у многих, это начинает квалифироваться как ремесло. Не думаю, что что-то в этом процессе принципиально недоступно нейросетям.


    1. antonkrechetov
      22.09.2022 09:28

      творчество — это выстраивание структур, подобных ранее воспринятым творцом, элементы которых творцу приятно узнавать. У кого-то это получается так себе, у кого-то лучше, а у немногих очень хорошо — это искусство
      Как раз искусство — это создание чего-то принципиально нового. По смыслу оно противоположно выстраиванию подобных структур.


      1. shiru8bit
        22.09.2022 19:28

        Принципиально новое из ничего и на пустом месте не создаётся. Это всегда мутации уже известного, комбинация элементов известных структур. И это скорее не искусство, а изобретательство.


  1. economist75
    22.09.2022 09:00

    Справедливости ради стоит вспомнить что в истории человечества были длинные периоды (по неск. веков подряд), когда в живописи не происходило решительно ничего.

    Те же Малевич, Кандинский, Петров-Водкин и др. - "выстрелили" со своим выпендрежем (читай - новаторством) - на фоне глобальных политических перемен, после разрухи, войн и культурологического "голода", на фоне привлекающей социализма как нового явления. То есть для них "было место". Есть ли это место сейчас для живописи от ИИ - вопрос. Но ИИ точно дождется своего часа в силу того что он не ограничен 75 годами жизни. И да, он креативен, потому что рандомизирует подбор вывод как и все ML.

    Даже великий Моцарт баловался фигней: брызгал щеткой чернила на нотный стан и пытался "это" сыграть. Вылилось ли это хоть в одно толковое произведение - биографы не выяснили. Но факт был.


  1. garbagecollected
    22.09.2022 09:23
    +1

    Так было до создания DALL-E 2. Теперь я уверен, что AI может как выдавать шедевры, так и подстраиваться под мнения большинства, изменяя правила игры в оценке творчества.


  1. Bedal
    22.09.2022 09:43
    +1

    Кроме того, творчество — это то, что, вообще говоря, признается обществом.
    Именно так. Всего лишь общественный сговор. Что говорит о том, что ИИ, даже вполне примитивный, вполне может заниматься самым настоящим творчеством — если общество будет думать, что это человек.

    Даже в дискретных коммуникациях (речи и особенно письме) человеки уже проиграли в тесте Тьюринга. Что уж там по аналоговым страдать…


  1. DenisPantushev
    22.09.2022 10:50
    -3

    Все это чепуха и пустопорожние рассуждения. Ответ лежит в простейшем законе компьютерных наук.

    Ни одна программа не может увеличить количество информации, обрабатывая тот массив информации, который ей дали. Уменьшить - может. Увеличить - нет. То есть, сжать с потерями - может. А вот провернуть трюк, который множество раз в боевиках присутствует - увеличить резкость изображения и увеличить картинку в шляпке гвоздя - нет.

    В данном случае, обрабатываемый массив информации - это тысячи терабайтов картинок и фраза на английском языке.

    Для отдельного человека каждая из сгенерированных картинок будет чем-то новым. Для человечества в целом, для культуры и искусства - нет. Просто лишний шум.


  1. garbagecollected
    22.09.2022 11:14

    Что есть искусство? Почему человек знает, что он хочет получить сегодня, но совершенно не знает, что он будет хотеть завтра? Как пример, в середине 2000-х годов никто не знал, что спустя всего несколько лет, все будут хотеть iPhone, и в их числе даже те, кто позже выберут Android. Да, безусловно, iPhone - это не только идея, а ещё и технологии. Технологии, которые развивали отдельные люди не один год, они не возникли по мановению волшебной палочки Джобса. А если присмотреться, например, к тем же иконкам, меняющимся в разных версиях iOS, собрав их всех вместе, располагая рядом друг с другом, можно вообще разделить развитие их творчества на отдельные эпохи, словно это какая-то галерея. В противовес iPhone у нас уже был на тот момент Windows Mobile. WM - это как пример того, как может развиваться ОС, не меняя традиции, натягивая уже устоявшиеся решения на новый вид устройств. Каким должно быть искусство? Можно предположить, что людям нравится только что-нибудь новенькое, не важно какое на вкус, главное - нестандартное. Но есть много примеров, когда это предположение не работает. Взять хотя-бы эпидемию среди web-мастеров под названием Bootstrap. И ведь реально, люди, далекие от верстки сайтов, подсознательно делили все сайты на условные "сайты из 90-х" и "современные сайты". И это при том, что слово "современные" никак не отражало ни время, в которое разрабатывался сайт, ни технологии, которые использовались при верстке сайта, ни даже какую-то новизну решений. Вероятно, люди видя знакомый UI, видели уже привычный для них UX, создавая ложное представление о том, что взглянув на сайт, они уже умеют им пользоваться. Хотя это далеко не всегда так. Порой, даже, экспериментируя c UX, web-мастер легко может изговнять даже такой примитивно-стандартный интерфейс Bootstrap. Как так получается, что в устоявшихся стандартах люди видят новизну этих же стандартов, а по любому на отклонению от них, люди вешают ярлык на web-мастера "рукожоп". За рубежом этому есть более цензурный термин - девиантное поведение. Так что есть искусство? Вспомните, как люди поменяли красочные разноцветные иконки на глифы. Как думаете, людям нравится векторные иконки больше растровых? И тут же есть отличный пример, как делать "не надо" - сайт "flaticon.com". Люди, далекие от верстки тех же сайтов, моментально узнают эти иконки, никогда не посещав этот сайт ранее. Спрашивая их, какие именно черты не нравится в этих иконках, никто не даёт однозначного ответа. И действительно, полистав сайт, задумываешься, бедные авторы этих иконок... их там что, ежедневно доят на эти иконки чтоли? При этом, ответственно могу утверждать, что 99% иконок на сайте эксклюзивно уникальные. И в целом, иконки по отдельности кажутся неплохими, но собирая несколько иконок вместе, чувствуешь их бездушность. Так каким должно быть искусство?


  1. 2n2222
    23.09.2022 14:45
    +1

    В итоге имеем следующее: искусственный интеллект - не является частью рода человеческого, а потому что бы он там не намалевал - это не творчество, а подражание.

    Никогда не интересовались за что спалили Джордано Бруно? Вроде как за то, что он отрицал монополию рода человеческого на разум. Вы наверное от инквизиции. Замом по идеологии в комсомольские годы не работали?