Так считает Стивен Кейв, старший исследователь Центра Леверхульма по изучению будущего интеллекта в Кембриджском университете. В своем эссе он предлагает исследовать историю интеллектуального превосходства — и отказаться от этой ложной концепции.
Прогрессивный мир второй половины 20 века находился во власти очарования концепцией искусственного интеллекта.
Об умственных способностях размышляли, их обсуждали, разрабатывали новые подходы к их измерению. Десятки тысяч подростков и соискателей в ведущих Европейских странах проходили (и проходят) тест на IQ.
Уже тогда сама идея о том, что интеллект можно измерить как артериальное давление или размер ноги, была не нова. Но еще старше наше представление о том, что уровень интеллекта может определить положение человека в жизни.
Это понимание красной нитью проходит через всю историю западной мысли — от философии Платона до убеждений современных политиков.
Интеллект политичен
На протяжении истории западный мир по уровню интеллекта определял, что человек может сделать для общества. Например, традиционно (для большей части населения) высокий уровень умственных способностей мы приписываем врачам, инженерам,
Мы считали, что уровень интеллекта дает нам право распоряжаться судьбами других людей: мы колонизировали, обращали в рабство, лишали половых органов и уничтожали тех, кого считали менее умными и развитыми.
Наше отношение к интеллекту стало круто меняться с развитием технологий искусственного интеллекта. В последние десятилетия мы наблюдаем значительный прогресс в этой области и, кажется, стоим на пороге потрясающих научных прорывов. Судя по количеству мемплексов и шуток на тему искусственного интеллекта, мы одновременно восхищены происходящим и вместе с тем изрядно напуганы. А чтобы понять, что же конкретно нас так пугает и почему мы настолько неравнодушны к теме умственных способностей, необходимо рассмотреть его с историко-политической точки зрения и проследить, как философская мысль превратила интеллект в инструмент для оправдания бесконечных завоеваний.
Историческая нить стереотипа
Платон сделал ум необходимостью власть имущего
Первым о мышлении начал рассуждать Платон. В своих трудах он приписывает особую ценность процессу размышления, утверждая, что неосмысленная жизнь не стоит и гроша. Стоит помнить, что Платон жил в мире, где миф и мистическое сознание представляли собой естественную среду для человеческого разума. Поэтому его заявление о том, что познать мир можно через мышление — по тем временам было чрезвычайно смелым и привлекательным.
Объявив в своем труде «Государство», что только философ может управлять государством, поскольку только он может прийти к правильному пониманию вещей, Платон зародил идею интеллектуальной меритократии — мысли о том, что только умнейшие могут управлять другими людьми.
Идея по тем временам была революционная: да, Афины уже экспериментировали с демократией как формой правления. Вот только требования к правителям были весьма расплывчаты: достаточно было быть гражданином мужского пола — об уровне умственных способностей и речи не шло. А в остальных регионах правительственные места распределялись либо по принадлежности к элите (аристократия), либо по назначению божественным провидением (теократия), либо просто по уровню силы (тирания).
Фреска «Афинская школа», где наряду с Пифагором и Аристотелем изображены Леонардо и Браманте.
Аристотель придумал власть мужчин
Новаторская идея Платона удачно легла на плодородную почву великих умов эпохи, и его ученик Аристотель не стал исключением. Он отличался от учителя более практичным и систематичным взглядом на мир, поэтому «рассудочный элемент души» он использовал для создания концепции естественной общественной иерархии. В своей «Политике» он заявляет:
«Ведь властвование и подчинение не только необходимы, но и полезны, и прямо от рождения некоторые существа различаются [в том отношении, что одни из них как бы предназначены] к подчинению, другие — к властвованию».
Исходя из этого, образованные мужчины вполне естественным образом доминируют над женщинами, мужчинами физического труда и рабами. Ниже в этой иерархии только животные, которые настолько лишены рассудка, что им просто необходимо, чтобы ими кто-то управлял.
Мы даже не заметили, как перешли от платоновской идеи о первичности рассудочного элемента к аристотелевской концепции, предполагающей совершенно естественной власть мыслящих мужчин.
Этот поезд интеллектуальной несправедливости до сих пор работает на топливе, которым его заправили два бородача 2000 лет назад. Современный австралийский философ Вал Пламвуд утверждает, что два гиганта греческой философии, вооружившись серией сомнительных дуализмов, умудряются по сей день влиять на наши представления о разуме.
За то, что мы воспринимаем отношения доминирования по праву умнейшего как совершенно естественные, нам стоит поблагодарить Аристотеля.
Декарт положил моральное начало истреблению планеты
Своего пика западная философия достигла вместе с трудами великого дуалиста Рене Декарта.
Если Аристотель признавал за животными хоть какое-то право на минимальную и примитивную, но всё же умственную деятельность, то Декарт отказывал им в этом праве полностью. Сознание, считал он, — исключительное преимущество человека.
Философия Декарта отражала тысячелетие христианской идеологии: она отдала разум в собственность душе, божественной искре, доставшейся только тем счастливчикам, кто создан по образу и подобию божьему.
Кант оправдал колониальную политику
Представление о том, что разум определяет человека, прошло и сквозь эпоху Просвещения. Иммануил Кант — пожалуй, самый влиятельный философ морали с античных времен — считал, что моральная воля свойственна только мыслящим существам: «лицам» и «вещам в себе». Немыслящие существа, по его мнению, имеют «только относительную ценность как средства и называются поэтому вещами». С ними можно делать то, что нам заблагорассудится.
Согласно Канту, разумное существо обладает достоинством, а неразумное, немыслящее к нему неспособно.
Такие умозаключения впоследствии превратились в краеугольный камень колониальной политики.
Логика такова: не белые люди менее умны; они не могут самостоятельно управлять собой и своими территориями. И это не только оправданный шаг, но и моральный долг любого белого человека — войти в их страну и уничтожить их культуру.
Эта же логическая конструкция отлично срабатывала на женщинах, которые считались слишком легкомысленными и хрупкими, чтобы разделять привилегии человека разумного.
Фрэнсис Гальтон — отец психометрики, псевдонауки по измерению разума, и двоюродный брат Чарлза Дарвина. Вдохновленный в свое время «Происхождением видов», Гальтон создал концепцию о том, что умственные способности передаются наследственным путем и их можно улучшить с помощью селекции.
Теоретическими выкладками Гальтон не ограничился: в последующие десятилетия более 20 000 женщин в одной только Калифорнии были стерилизованы после получения плохих результатов по тестам Гальтона
Так почему мы боимся умных роботов?
Вернемся к вопросу, заданному в начале статьи: почему же нас пугает возможность появления искусственного интеллекта? Не потому ли, что мы привыкли к тому, что более умный всегда доминирует, и мы точно не хотим оказаться по другую сторону баррикад?
Писатели и режиссеры уже давно строят догадки на тему восстания машин.
Если для нас естественна мысль о том, что сливки снимают умнейшие и что одна более развитая нация может колонизировать другую, мы вполне естественно боимся потенциального порабощения со стороны сверхумных машин. Искусственный интеллект представляет для нас экзистенциальную угрозу.
Для нас — это для белых европейских мужчин. Миллиарды других людей прошли через века подчинения, а многие продолжают сражаться с агрессорами и по сей день, поэтому для них угроза порабощения искусственным интеллектом остается фантастическим сюжетом.
Белые европейские мужчины же настолько привыкли находиться на вершине по праву принадлежности, что появление возможного соперника в нас отзывается хтоническим (иррациональным) ужасом.
Я не утверждаю, что страхи перед появлением сильного искусственного интеллекта беспочвенны. Существуют вполне реальные угрозы, но они не имеют ничего общего с колонизацией человеческой цивилизации роботами.
Вместо того чтобы думать, что нам делать с искусственным интеллектом, лучше думать о том, что нам делать с самими собой.
Если уж искусственный интеллект когда-нибудь сможет причинить нам вред, это почти наверняка произойдет не из-за стремления ИИ к завоеванию человечества, а по нашей собственной глупости, которая упустит ошибку. Бояться стоит не искусственного интеллекта, а естественной глупости.
Если бы общество было убеждено в том, что мудрейший человек — это не тот, кто добился власти, а тот, кто стремится разрешить конфликты, — боялись бы мы умных роботов больше, чем самих себя?
Комментарии (79)
gaalsien
19.03.2019 16:02Где вариант «Злобный ИИ, пытающийся уничтожить людей — сказки для глупых детей и паникеров?»
jrthwk
19.03.2019 18:17+1/флегматично
Ну, даже отстраняясь от sjwшности статьи то все равно глядя на историю человечества видим старание людей уничтожать друг друга, а глядя ролики на ютубе — то видим что и самих себя тоже упорно стараются.
Так что ИИ может просто помочь по доброте душевной, бгг.
AN3333
19.03.2019 16:08А что это одна за другой пошли статьи о злобном ИИ? Что-то произошло?
TerraHominem Автор
19.03.2019 16:14Ну наверное, запах настоящего ИИ уже витает в воздухе (ждемс)
Sychuan
19.03.2019 18:14Он витал еще в 60-ых
TerraHominem Автор
19.03.2019 19:46пруфы
vassabi
19.03.2019 20:49+1хм… неужели вы не в курсе, что такое "зима ИИ"?
red75prim
19.03.2019 22:35Зима ИИ — это когда оказалось, что используемые тогда подходы не масштабируются и с коммерческим внедрением проблемы.
Сейчас: глубокое обучение и другие нейросетевые подходы используется в распознавании изображений, речи, переводах, синтезе речи, изображений, играх с полной информацией, играх с неполной информацией в реальном времени, робототехнике, системах автоматического вождения и т.п. Доступные компаниям вычислительные ресурсы намного ближе к оценкам вычислительных ресурсов человеческого мозга.
Что похоже: ещё не создали универсальный искусственный интеллект.
vassabi
19.03.2019 22:48запах настоящего ИИ уже витает в воздухе (ждемс)
(с)
Причем наличие вычислительных ресурсов «близких к оценкам вычислительных ресурсов человеческого мозга» не гарантирует того, что не найдется очередного «не масштабируется\оценки пересмотрены» и будет еще одно «похолодание ИИ»…red75prim
20.03.2019 05:22Может и будет. Но аргументы вида «этим уже N лет занимаются» никак не позволяют это оценить. В 1950-м можно было сказать, что с ракетами ещё с 13-го века играются и до сих пор никто в космос не полетел, так что ждать ещё долго.
vassabi
20.03.2019 10:35В 1950-м уже были полеты в космос — суборбитальные (на 144 км вверх) конечно, но тем не менее.
TerraHominem Автор
20.03.2019 10:38Вы не поняли сравнение, речь была в том, что именно в 1950 могли сказать, что ракеты с 13 века используют. Это был сравнительный аргумент Вашему на счет зимы ИИ в 60-х. Это ирония)
vassabi
20.03.2019 10:49я думаю, что вот эта волна экспериментов с получением ИИ притормозится (потому что есть разрыв между тем что есть в формулах и что может железо),
а вот зато следующая волна работ над ИИ (когда будет теория генерализации лучше чем BoW & CNN) — вот тогда все попляшем.
(т.е. это все где-то примерно на уровне атомной бомбы в 30ых годах — когда общая идея есть, но нет конкретной теории и практических наработок)
vassabi
19.03.2019 16:15это не про злобный ИИ, это в очередной раз попытки SJW натянуть Канта на колониализм и гендерные притеснения а также про т.н. «токсичный белый маскулинизм»
Заголовок спойлераа как еще прикажете понимать эти пассажи:
Для нас — это для белых европейских мужчин. Миллиарды других людей прошли через века подчинения, а многие продолжают сражаться с агрессорами и по сей день, поэтому для них угроза порабощения искусственным интеллектом остается фантастическим сюжетом.
Белые европейские мужчины же настолько привыкли находиться на вершине по праву принадлежности, что появление возможного соперника в нас отзывается хтоническим (иррациональным) ужасом.
???
Или вот — вообще клевета на Канта:
Иммануил Кант — пожалуй, самый влиятельный философ морали с античных времен — считал, что моральная воля свойственна только мыслящим существам: «лицам» и «вещам в себе». Немыслящие существа, по его мнению, имеют «только относительную ценность как средства и называются поэтому вещами». С ними можно делать то, что нам заблагорассудится.
Согласно Канту, разумное существо обладает достоинством, а неразумное, немыслящее к нему неспособно.
Такие умозаключения впоследствии превратились в краеугольный камень колониальной политики.
Логика такова: не белые люди менее умны; они не могут самостоятельно управлять собой и своими территориями. И это не только оправданный шаг, но и моральный долг любого белого человека — войти в их страну и уничтожить их культуру.
Эта же логическая конструкция отлично срабатывала на женщинах, которые считались слишком легкомысленными и хрупкими, чтобы разделять привилегии человека разумного.
Это больше похоже на проекцию, а не на высказывание про Канта и его философиюTerraHominem Автор
19.03.2019 16:21+1Никто Канта никуда не натягивает, если у Вас есть более близкие переводы его мыслей, на основе которых имеется ввиду иное, то в общественном сознании его некоторые концепции были приняты именно так. Это не утверждение истинных мотивов Канта — это утверждения влияния его трудов на колониальную политику. Как то так.
vassabi
19.03.2019 16:26то, что оправдание своей политике колониалисты находили у Канта, у Декарта, у Васи Пупкина — никак не относится к философии Декарта, Канта и Васи Пупкина (если она у него была).
Изобретение колеса, огнестрельного оружия и акционерных обществ — они использовались для колониальной политики или нет? Так как по-вашему — виноваты ли они в этой политике? Правы ли были европейцы, что изобрели вот это вот все?
Может, надо срочно от этих ужасных инструментов колониализма отказаться и предать их анафеме?TerraHominem Автор
19.03.2019 16:42Ваше сравнение некорректно, потому что они находятся на совершенно разных уровнях взаимодействия: изобретение колеса — колониальная политика и концепции канта, декарта — колониальная политика.
Немного того как происходило.
С развитием человечества значимые умы, предлагающие философские и моральные концепции, оказывали значительное влияние на прогрессивное общество. Тогда не всегда точка зрения: что-то новое — это забытое старое была правомерна. Тогда не было интернета и не существовало в «быстром доступе» огромного информационного массива в котором терялось многое. Именно по этому труды, особенно в области философии и морали, оказывали особое значение на политическую элиту того времени. Тогда было мейнстримом присутствие Императора или высшей элиты на всяких вечерах королевского научного общества и т.д.vassabi
19.03.2019 20:24«тогда» — это когда? До какого это года?
«что-то новое — это забытое старое», это постоянная тема. (Недавно перечитывал об пелопонесской войне Фукудида, 4 век до нэ, и там о том же). То что она не всегда правомерна — это до сих пор так же. Так что если хотели сказать «масло — масляное», то вам это удалось.
Политическая элита не сидела на диване, и по вечеринкам не рассиживалась — эти ребята плавали, набегали по соседям разной степени близости (со словами «теперь это мое»), а труды по философии использовали для подтверждения своих жизненных целей (Как в одной басне: «ты виноват, потому что мне хочется кушать»), подтасовывая факты и используя гипотезы как доказательства (точь-в-точь как у автора сего опуса Стивен Кейв переходя от Канта к т.н. «колониализму и патриархату»). Любые достижения науки, культуры, философии и технологии использовались ими для личного доминирования.
Так что дело не в философах и философии, а в тех, кто ее использовал.TerraHominem Автор
19.03.2019 20:31«тогда» — это когда? До какого это года?
— колониализм в Новом времени.
Ну я как бы и пытался это доказать другим комментаторам. Многие идеи не всегда верно толкуются широкой публикой, а иногда и вовсе диаметрально искажаются ради чьих-то интересов. И статья была написана в разрезе искажения идей. Давались не оценки трудам философов и их интерпретации, а мнение о том какое наследие в пропаганде власть имущих они оставили.
RdesT
19.03.2019 16:34Искусственный интеллект во многих узконаправленных задачах может быть лучше человека. Поэтому то что бот OpenAI обыграл профессионального игрока в Dota2 мощно — но наверное не очень. Вообще, он обыграл далеко не одного профессионального игрока и с ним пробовали играть многие с переменным успехом. Куда сильнее звучит то, что разработчики бота потрудились и он показывает неплохие результаты в командных играх. Потому что такого рода взаимодействие куда интереснее.
nexus478
19.03.2019 18:04OpenAI обыграл профессионального игрока в Dota2 мощно — но наверное не очень.
Вообще не мощно, учитывая, какими беспомощными показали себя боты в игре 5х5 на последнем интернешнеле.
Куда сильнее звучит то, что разработчики бота потрудились и он показывает неплохие результаты в командных играх
О каких неплохих результатах идет речь, можно пруф?BlackMokona
20.03.2019 01:38Ну 99% команд в Доте против этого не "мощного" интелекта были бы безжалостно уничтожены. Всё же не стоит забывать, настолько проф команда интернейшенала сильнее обычной
KSA
19.03.2019 17:41Автор манипулирует фактами. Фрэнсис Гальтон жил и работал в Лондоне и никакого отношения к Калифорнии не имеет.
Dartjek
19.03.2019 18:53Предлагаю применить Бритву Хэнлона и склониться к тому варианту, что автор имел в виду, что утверждения Фрэнсиса Гальтона повлияли на общество того времени. Хотя, да, статья нуждается в корректировке.
TerraHominem Автор
19.03.2019 18:54Именно это я и имел ввиду. Исходя из обратного — влияние определенных упов должно иметь только территориальный характер по месту проживания автора, что является абсурдным.
Hardcoin
19.03.2019 18:17+1За то, что мы воспринимаем отношения доминирования по праву умнейшего как совершенно естественные, нам стоит поблагодарить Аристотеля.
Воспринимаем, да. Но по факту самое значительное доминирование идёт по праву силы, стаи, собственности. Это более справедливо, на ваш взгляд? Вряд ли.
Ещё рассмотрите ситуацию, когда более умный говорит, давайте делать А, а менее умный — Б. Предположим, что разница между ними видна многим и она существенна. А дело такое, которое требует усилий многих человек и не может быть на 100% проверено заранее (например, это схема ракетного двигателя, его можно рассчитать, но испытания всё равно нужны).
И тут приходите вы и говорите — доминирование по праву умнейшего неправильно! Хорошо, но как вы предложите выбрать? Какую схему проверять первой?
TerraHominem Автор
19.03.2019 18:59Вы немного не так понимаете направление мысли. Я пытался его показать в последних предложениях
(но почему всегда некоторые делают не те выводы).
Речь идет об отношении мемлексов о неизбежном доминировании умнейшего, как объяснении боязни ИИ. Понимаете?
Лично я считаю, что да, если люди доверяют управление собой и решение каких-то вопросов кому-то, то это должен быть кто-то достаточно умный и желательно непредвзятый. Но это совершенно другая история и не касается данной темы.S-e-n
19.03.2019 19:45Лично я считаю, что этот кто-то должен прежде всего действовать в интересах людей, которые ему доверяют решение их вопросов.
Hardcoin
19.03.2019 20:26мемлекс? Это опечатка? Не смог распознать слово.
Но теперь вроде понял. Вы полагаете это чем-то вроде культурной особенности. Мол, азиаты не будут бояться доминирования ИИ, потому что у них философия немного другая. Вот только я не понял, они будут доминированию ИИ радоваться или вообще не верят в его доминирование?
TerraHominem Автор
19.03.2019 20:35мемплекс (была опечатка)
Оценка больше дана именно через западные мемплексы. В азиатской культуре, как я понимаю, немного иное к этому (умнее, не значит де-факто стремящийся к экспансии) отношение.
vassabi
19.03.2019 20:40+1единственное рациональное зерно, которое можно найти в этой куче SJW, это то, что те, у кого и не было свободы (или они рады делегировать принятие решений кому-то) — доминирования ИИ не боятся.
Это как если бы вы приехали в глушь и местной бабке
про ИИ будете рассказывать:— слышь, баб Нюра, а ведь все ИИ захватит.
— уж так уж и всё зохватит, внучок?
— всё.
— так что, и нашу деревню тож?
— и ее.
— а для чего эт ему?
— ну, доминировать будет, управлять всеми.
— как начальник какой?
— ну почти. Он будет самый главный — всем начальникам начальник.
— а, как царь значит. И что, никто-никто ему ничего не сможет сделать?
— никто. Он будет очень умный, всех будет видеть и слышать.
— ухты, хороший значить царь!
Sychuan
19.03.2019 18:33+1Этот поезд интеллектуальной несправедливости до сих пор работает на топливе, которым его заправили два бородача 2000 лет назад
В Китае власть принадлежала женщинам? Может на Гавайах? У индейцев? Мне кажется вы преувеличиваете значение философов для развития социальных устоев цивилизации.
Например, традиционно (для большей части населения) высокий уровень умственных способностей мы приписываем врачам, инженерам
А это не так? Физик ядерщик менее умен чем строитель?
За то, что мы воспринимаем отношения доминирования по праву умнейшего как совершенно естественные, нам стоит поблагодарить Аристотеля.
Вы не читали народных сказок? Вам не известен мотив, когда умный старик спасает всех в силу своего ума?
Декарт положил моральное начало истреблению планеты
Что такое истребление планеты? При чем тут Декрат? Вы бы на Библию сослались это было бы более убедительно. там вот сказно, что все твари земные и растения отданы во власть человеку. За тысячи лет до Декарта.
Как сказал Томас Совелл, в век искуственного интеллекта мы создаем искуственную глупость и данное эссе является замечательным примером. ПечальноTerraHominem Автор
19.03.2019 19:03А это не так? Физик ядерщик менее умен чем строитель?
Но из этого не вытекает, что хороший физик-ядерщик = хороший руководитель. Не так ли?
И да, библии тоже коснулся.
Прочтите, плиз, последние предложения статьи. Вы додумываете идеи. Они касаются боязни ИИ, а не того что хорошо, а что плохо.Sychuan
19.03.2019 21:40Но из этого не вытекает, что хороший физик-ядерщик = хороший руководитель.
Разумеется нет. Множество людей, будучи умны в одних вещах, оказываются профанами и идиотами в другой. Вероятно, это относится к каждому в какой-то мере. Тем не менее, если у нас нет свидетельств, что человек X умен хоть в какой-то области, а человек Y умен в некоторых областях здравый смысл показывает, что нам стоит предполагать, что в целом Y умнее.
Они касаются боязни ИИ, а не того что хорошо, а что плохо.
Вот я не вижу ясного доказательства того факта, что боязнь ИИ происходит из указанных причин. Я вижу обычную левую демагогию, которая выглядит связной но при внимательном анализе это просто набор слов. Я наслушался такого в университете: Капитализм— это шизофрения, капитал навзяывает нам выбор, настоящего социализма не было, а в СССР был государственный капитализм, страны Африки живут плохо потому что неоколониализм и так далее. Где здесь доказательство, что именно белые мужчины больше всего боятся ИИ? Где проверка гипотезы, что страх перед ИИ коррелирует с любовью к фантастике, например? Где проверка гипотезы, что страх перед ИИ коррелирует с профессией и образованием? Кто боится ИИ больше, белые в США или рабовладельцы берберы в Мавритании? Эта статья настолько дырявая, что обсуждать ее даже трудно.TerraHominem Автор
20.03.2019 11:19Она дырявая ровно на столько, на сколько дырявы социологические теории.
Статья не позиционируется как доказательство, а как точка зрения по поводу роботофобии.
Ее идея проста: некоторая часть прогрессивного человечество боится ИИ, потому что интуитивно предполагает, что более умный ИИ, с не похожим на человеческое мышление, должен обязательно нести угрозу экспансии, так как увидит для себя угрозу в человечестве.
При этом вывод: Точка зрения выше не является адекватной, потому что вытекает из предположения — умный, значит обязательно стремящийся к доминированию, за счет порабощения и почва этого вытекает из истории развития той части прогрессивного человечества (западной), как получения этих мемплексов.
А на самом деле нужно просто осознать, что умный — это значит стремящийся урегулировать без насилия. Насилие — это форма животного проявления (эволюционная модель), которая не может быть экстраполирована на машинный ИИ.
Есть идеи получше? Велкомred75prim
20.03.2019 11:46Умный — это умеющий находить эффективные способы решения широкого круга задач.
Если критерии эффективности не включают полную формализацию того, что люди считают этичным, то полученные решения вполне могут включать действия, которые люди будут расценивать как насилие.
Скажем, полное удаление людей из производственных процессов и обеспечение защиты производства от недовольных и от самих конструкторов, пытающихся восстановить контроль над производством.TerraHominem Автор
20.03.2019 12:12Отчасти соглашусь, так как насилие, в понимании человека — можно растягивать чуть-ли не бесконечно. Здесь речь идет именно о доминировании и принудительном использовании или уничтожении человечества
Ну производство должно иметь цель. Чтобы разбирать этот пример, мы должны понимать мотивы и цели ИИ, по экспансии конкретного производства (с позиции рационализма)Daemonis
20.03.2019 12:30Ну, мы ожидаем от ИИ рациональности — если польза от человеков больше, чем расходы на них, использовать их. Если меньше — избавиться.
TerraHominem Автор
19.03.2019 19:25И опять же, Вы пропускает мысль через свое восприятие, но Вы забываете о большей части населения. Возьмите РФ — у нас большинство умных людей? Знаете, не хочу никого обижать, но большинство Россиян не особо то интересуются «высокими материями», но при этом спросите любого: «Должен ли президент быть умным?» и каждый ответит — ДА, при этом попробуйте попросить раскрыть, что в его понимании умный и каким образом можно определить умен ли лидер, мало кто, на мой взгляд, рассудительно и адекватно Вам скажет. При этом вы не замечали маниакальное стремление чиновников обзавестись всякими регалиями науки? Думаю Вы слышали скольких чиновников поймал диссернет на плагиате. А то что Кирюша-патриарх считается почетным членом МИФИ не слышали? А сколькие наши чиновники — профессора? Все это дань этому мемлексу. И боязнь ИИ как раз и объясняется ччерез этот мемплекс. Вот и все
Hardcoin
19.03.2019 20:46+1у нас большинство умных людей
Вопрос границы. Проведите её пониже и тогда да, большинство умные.
А вообще это не похоже на "мемлекс/мемплекс". Это похоже на что-то генетическое или интуитивное. В Китае тоже экзамены тысячу лет на должности чиновников. Не будете же вы говорить, что и там Декарт повлиял? В итоге теория у вас интересная, но не убедительная.
TerraHominem Автор
19.03.2019 20:51Это был вопрос, как раз. И про границу требований — это тоже самое, что я и сказал.
Проблема большинства споров в том, что человек слышит только себя и не хочет слушать собеседника
Азия НЕ = Китай. Это важно понимать) Более того — они развивались более обособленно и Декарт на них вряд ли повлиял. Поэтому возвращаясь к азиатской культуре — этот стереотип (описанный в статье), слабо коррелируется с их мемплексами. Поэтому я и говорю — статья эта, как вывод западной культуры.Hardcoin
19.03.2019 20:59Азия НЕ = Китай
Предположим. Так Китай не боится доминирования ИИ или верит, что может держать его под контролем?
Если вы считаете, что ожидание доминирования ИИ — это именно западный стереотип, вам стоит сказать, какие стереотипы в Азии и Китае/не-Азии. Тогда можно будет понять причину-следствие.
Есть ведь обратный вариант — философы просто отразили уже имеющиеся социальные законы.
Sychuan
19.03.2019 21:43Азия НЕ = Китай. Это важно понимать
При этом значительная часть Азии находилась под культурной гегемонией Китая и заимствовало оттуда очень много. Например, структуру чиновничьего аппарата и идею экзаменов.
Andrey_Dolg
19.03.2019 19:51Это конечно далеко не истина, но я убежден что высокий ум позволит ИИ не увидеть особого выхлопа в уничтожении людей. Более того я все чаще думаю что моральные ценности ИИ выберет сам, основываясь на наших записях и истории. И скорее уж люди сами объявят войну ИИ, просто из-за своих страхов, нежели новый вид(ИИ) будет видеть в нас конкурентов.
Hardcoin
19.03.2019 20:51Главное, что бы он увидел выхлоп тратить на нас электричество. Речь ведь не о том, что он будет расистом. Наоборот, если он не будет видеть в нас конкурентов, но захочет использовать энергоресурсы для своих целей, это будет конец. Загнёмся без всякой войны. Или сами развяжем бунты в попытке отбить нефть/газ, которые он просто купит для своих нужд.
vassabi
19.03.2019 21:01сильный ИИ оформит зоопарки, будет следить чтобы ни хищники ни травоядные там сильно не плодились (в том числе и люди). А на пару сотен тысяч людей — почему бы и не потратить сколько-то электричества?
Hardcoin
19.03.2019 21:05Почему бы и не потратить, да. Вот только именно это и считается негативным сценарием. Вряд ли кто-то, кроме маньяков, считает позитивным смерть 7 миллиардов людей (что б осталось сотня тысяч).
vassabi
19.03.2019 22:53это смотря каким образом произойдет сей процесс. Если биологические процессы у этих 7 миллиардов сохранятся — то они все умрут от старости, как и миллиарды людей до нас. Так что гипотетический ИИ может например провести это гуманным образом — замещая людей их подобиями (т.е. "дети-роботы — удобно, недорого, послушные"), и через каких-то 100 лет спокойно останется нужное количество.
Hardcoin
20.03.2019 00:54Принудительная стерилизация? Если нет, то эти 7 миллиардов родят своих потомков. Предположение, что все откажутся от детей в обмен на "удобных и послушных" абсолютно нереальное. Часть — без проблем согласится, но это не повлияет на общую численность. А ещё часть (очень большая часть) захочет себе продление жизни. Либо ИИ будет мешать исследованиям, либо продление будет. Это тоже помешает оставить 100 тыс через 100 лет.
vassabi
20.03.2019 10:42Зачем принудительная стерилизация, если это будет принудительная чипизация детей? 100 лет — это два-четыре поколения, так что это мероприятия не за один заход, и начать можно будет с «одна семья — один ребенок».
А ещё часть (очень большая часть) захочет себе продление жизни.
люди и сейчас это хотят. Спроси кого угодно: «вы хотите продление жизни?» — как много ответит «нет»?
Но сколько над этим реально работает людей?Hardcoin
20.03.2019 14:11принудительная чипизация детей
Я так и не понял, рожать можно будет или нельзя?
одна семья — один ребенок
Через пять поколений (150 лет) будет 210 миллионов детей. Далековато от озвученной вами цели в сотню тысяч
Но сколько над этим реально работает людей?
Вопрос не в этом, вопрос, будет ли ИИ мешать исследованиям? Если нет, то продление будет.
vassabi
20.03.2019 17:37Рожать можно будет конечно. Но одного. Причем будет идти от обратного — надо будет написать сначала заявление, заполнить бланки, внести депозит на страховку здоровья, пройти обучение на ответственного родителя, а потом уже тебе выдадут код, по которому чип (временно) выключится.
Да, а еще 10 поколений и будет 200 тысяч. Причем все это — без войн и геноцида.
Исследованию мешать не будет. Помогать с внедрением тоже не будет (и в первую очередь — асоциальным элементам). То что кто-то сможет по 5мг лекарств синтезировать в своей лаботатории, не будет иметь большого значения. Пусть продолжает опыты на мышках. А чтобы сертифицировать для людей? — нет, это долго и дорого, продолжайте исследования.Hardcoin
22.03.2019 00:50чип (временно) выключится
Ну то есть принудительная стерилизация в раннем возрасте. Вы это назвали другим словом, ваше право, тезис это не меняет.
Повторюсь, именно это я и имел ввиду под негативным сценарием. Честно говоря, вообще не понял, к чему вы ведёте. Вы хотите назвать этот сценарий позитивным или что?
кто-то сможет по 5мг лекарств синтезировать
Что значит "кто-то"? Куда делись исследовательские институты? Фабрики? ИИ их все закрыл? А люди сказали, "ой, ну ладно, пойду домой"? Принудительное закрытие всех фармакологических заводов — это тоже часть негативного сценария.
Barabek
19.03.2019 20:24Сложновато и накручено, на мой взгляд. Быть может, есть и более простые причины наших тревог. Когда имеем дело с человеком, у нас всегда есть возможность решить почти любую проблему, объяснить, разжевать, пройти в обход, обратиться к более умному/начальству. Люди имеют навыки договариваться с себе подобными, это одно из базовых условий безопасности. Чего не скажешь по ИИ. По крайней мере пока ИИ используют и тренируют на сугубо прикладных задачах.
TerraHominem Автор
19.03.2019 20:40Дело в том, что ИИ не будет руководствоваться эмоциональными особенностями, присущими психике людей, то есть его суждения будут нести рациональный характер. А это значит, что умение рассуждать здраво будет более развито, нежели у человека с его миллионами лет эволюции и надстроений отделов головного мозга, отвечающими за иррациональное проявление. Не забывайте, неокортекс (верхняя кора полушарий), сформировался сравнительно недавно и именно в этой части ГМ сконцентрированы те самые функции (еще ПФК отвечает за принятие решений), которые нас так выделяют из животных с высшей нервной системой.
Hardcoin
19.03.2019 21:03его суждения будут нести рациональный характер
Кроме как минимум одной базовой цели. Базовая цель не может быть выведена рациональными рассуждениями, т.к. они всегда опираются на одну или несколько аксиом. И если, вдруг, базовая аксиома будет "размножайся", человечеству места может просто не найтись.
Dorogonov_DA
19.03.2019 22:52Я лично придерживаюсь мнения, что этот страх заложен генетически.
Всю человеческую историю мы выдумывали врагов, которые зачастую не сильно, но стабильно стратегически превосходили среднестатистического человека. В большинстве культур есть упоминания об оборотнях, вампирах, колдунах, всевозможных сверхъестественных созданиях, которые будучи отчасти людьми, и действуя согласно чисто человеческим мотивам, всё же превосходили человека — силой, умом, ловкостью, жизнестойкостью. Это и преподносилось как мотивация того, что эти создания — враги рода человеческого, и их необходимо уничтожить. Эдакий «крабий менталитет» в рамках биологического вида, когда особи, существенно выходящие за границы нормы, угнетались в угоду стабильности общества.
Можно предположить, что некоторое достаточно продолжительное время Хомо Сапиенс или его предки сосуществовали и очень жёстко конкурировали со сходным, а возможно и в чём-то превосходящим их биологическим видом, возможно, Хомо Неандерталенсис. В итоге, генетически закрепилась боязнь и ненависть к чему-то, что очень похоже на человека, действует как человек, преследует те же цели, что и человек, но по факту человеком не является. Раньше это проецировалось на вымышленных сверхъестественных существ и людей с существенными отличиями от «нормы», инородцев, иноверцев, потом на инопланетян, а теперь — на искусственный интеллект. Возможно, именно этой генетической программой обусловлен «эффект зловещей долины».BlackMokona
20.03.2019 01:45Скорее зловещая долина это защита от эпидемий, если человек начал вести себя очень странно или его вид начал нехорошо меняться, то дай ему дубиной по голове и сожги.
A1054
20.03.2019 13:53Посыл, что люди исторически привыкли, что «власть у умных», мне кажется неверным.
Никогда этого в истории не было.
КМК, люди боятся ИИ по 2 причинам:
1. Потеря работы. Этим страхам уже века, но сейчас ситуация серьезнее, чем раньше. Тут ключевое слово не «интеллект», а производительность труда. Луддизм.
2. Ну и у кого-то страх потрери контроля человечеством над своей жизнью. Машины будут проектировать и изготовлять устройства, создавать новый софт и т.д. В какой-то момент никто не будет знать, как все вокруг работает. И в какой-то момент все навернется, потому что у машин не хватило фантазии предвидеть слишком сильную вспышку на солнце или еще что-нибудь.
А интеллект дело туманное.
Daemonis
Чего-то я не понял. Сначала про экзистенциальную угрозу, а потом вдруг оказывается, просто Male chauvinist pigs не хотят терять доминирование.
Главный страх, что ИИ не нужны будут человеки в принципе, что верхние, что нижние, и он всех уничтожит (реалистичность этого сценария оставим за скобками). И он ярче выражен в странах первого мира, потому что они ближе к реализации хоть какого-то ИИ, чем остальные.
TerraHominem Автор
А вы хотели что-то посерьезней? В данной статье речь была именно о боязни с т.зр. устойчивых в обществе стереотипов.
Daemonis
Я лишь отметил, что подменять страх уничтожения страхом лишиться места на вершине пирамиды, не совсем правомерно.
TerraHominem Автор
Страх уничтожения, основан на (ложной) концепции — кто умнее, тот и главнее, так же как и страх лишиться места на вершине пирамиды. Такая мысль. Вы можете предложить свой вариант)
Daemonis
Страх лишиться места — наверное, да. Страх уничтожения совсем нет. Например, зомби-апокалипсис страшен не потому, что зомби умнее :)
TerraHominem Автор
Хм… то что зомби могут быть умнее людей — это что-то новенькое :D
Daemonis
Люди и зомби бывают разные :)
Но вообще-то мысль моя была обратной — зомби не умнее людей, но зомби-апокалипсис страшен. Следовательно, страх уничтожения (не всегда) основан на концепции «кто умнее, тот главнее».
TerraHominem Автор
Ну неужели в статье написано, что угроза уничтожения человечества таится сознании? В статье про мотивы и почву боязни ИИ у некоторой части человечества. Вот и все.
vassabi
в статье — про сексизм и расизм самого Стивена Кейва.
(который можно ужать до двух фраз: «белые рабовладельцы боятся порабощения ИИ. Остальные не боятся ИИ, потому что они в рабстве у белых рабовладельцев» (с) Стивен Кейв)
Почему только часть человечества боится ИИ? Потому же, что и часть человечества боится третьей мировой. А другая часть — не боится (т.к. либо просто идиоты, либо буйные идиоты «пусть сильнее грянет буря»)
TerraHominem Автор
Видимо вы так и не до конца поняли о чем речь и основной посыл, я понимаю, что вы хотите создать упрощенную конструкцию. Но Стивен указывал на мотивы роботофобии, основанные на мемплексах западной культуры, он не выводил общий фундамент иррациональных стереотипов по поводу боязни истребления.
— вы видимо читаете между строк то, чего там нет.И что за глупость:
И какая связь между боязнью доминировании ИИ над человечеством и третьей мировой войной. Оч. интересно, реально)
transcengopher
Давайте я вам цитатой из статьи отвечу:
Здесь имеем:
Упрощая пассаж из списков наверху мы и придём к фразе:
Для этого нам всего лишь потребуется проигнорировать фазу борьбы одних "других" против других "других", и сосредоточиться только на сражении "других" против "мы". Основания для игнорирования нам даёт в целом позиция различных расовых активистов, согласно которой расизмом называют только расизм со стороны "белых" по отношению к "цветным" — а "цветные" по отношению к "белым" расистами быть не могут, так как "белые" это всё "заслужили веками колониализма".
TerraHominem Автор
Спасибо за ответ.
NotSure
Спасибо, решил статью не читать)
Hardcoin
Вы хорошо описали, откуда она взялась. Но никак не обосновали, что эта концепция ложная. Если вы имеете ввиду практику, что глупые часто бывают выше умных — то да. Тем не менее ум многим позволяет подняться выше. Это реально работает. Не из-за нашего философского отношения, просто умный может придумать способы.
ИИ точно так же придумает способы просто для того, что бы реализовать свою цель (если она у него будет).
A1054
Т.е. вы считаете, что белая мужская шовинистическая свинья — это и есть умнейшее )) А не черная женская интернациональная (не знаю, какое животное). Шутка)