Может ли интеллектуал быть не умным? Может ли умный человек быть не интеллектуалом?
Приближение эры искусственного и интеллекта заставляет задумываться над этими вопросами, поскольку остается еще один вопрос – «Как его узнать?» — как узнать, что он уже близко или уже пришел – опасный для человечества искусственный интеллект? Так ведь можно и опоздать. Наверное, первым элементом опасности ИИ станет его самостоятельность, неконтролируемость в принятии решений.
Известно, что изучение проблемы опасности искусственного интеллекта для человечества уже финансируется [1]. Институт OpenAI изучает перспективы развития искусственного интеллекта. Что можно сказать о сегодняшнем развитии систем ИИ?
На сегодня видится два вида опасности применения ИИ:
— ошибки программного обеспечения;
— самостоятельная активность искусственного интеллекта во вред человеку.
Опасность первого рода характерна для всякого программного обеспечения, поэтому здесь о ней говорить не будем.
Искусственный интеллект может стать опасным, когда компьютер станет умным. Далее, попытаюсь обосновать это утверждение.
Давайте уточним эти понятия и подумаем об измерении. Неплохо бы определить, какая степень ума может быть допустимой для компьютера, а какая уже будет уже опасной для людей. Неизбежное сближение интеллектуальных возможностей компьютера и человека вынуждает нас научиться точно измерять эти свойства.
Что измеряют всем известные тесты IQ[2]? Можно ли применить их к компьютеру? Соревнования эрудитов что измеряют – знания или ум?
Ум и интеллект, – эти понятия связаны с умением решать задачи. Чем более трудную задачу может человек решить, тем он умнее. Вроде бы так. Значит надо измерить трудность задачи.
Интеллектуал (не путать с интеллигентом!) – тот человек, профессия которого состоит в решении задач всякого рода, как в естественных науках, так и в гуманитарных. Наверное, можно такими считать ученых, инженеров, писателей. Продукт труда интеллектуала – некоторая новая теория (ученый) или применение существующих теорий (инженер), результат их работы чаще всего документируется. Писатель также создает новые идеи или применяет существующие, но излагает их в такой форме, которая не требует специальных усилий для усвоения, поскольку книги хорошего писателя интересно читать.
Интеллектуал обладает специальными знаниями в области своей профессии и навыками, которые позволяют ему решать специальные задачи и создавать новые знания и новые теории.
Очевидно, что умных людей гораздо больше, чем интеллектуалов, поскольку большинство людей не заняты умственным трудом.
Может ли интеллектуал быть неумным? Правильнее, наверное, было бы сказать – насколько умным должен быть интеллектуал или насколько интеллектуальным должен быть умный человек, чтобы его считать таковым? Как измерить ум? Как измерить интеллект?
Возьмем для примера профессию программиста. Можно считать их интеллектуалами, поскольку они создают информационный продукт. Можно ли сказать, что все программисты умные? Этот вопрос требует дополнительного анализа.
Может быть, ум надо измерять длиной цепочки рассуждений, которую может построить человек для решения задачи, или правильнее будет измерить степень близости конкретного решения к оптимальному решению?
А требуемое количество знаний? А сложность этих знаний? Как это измерить?
Например, если ум можно измерять длиной цепочки утверждений, то интеллект можно измерять количеством знаний, которые необходимо применить для решений задачи.
Видимо, для полного сравнения разных умов (или интеллектов) людей или компьютеров понадобится несколько различных мер, например, скорость решения задачи, способность решать «в уме» или на бумаге. А как измерить остроумность решения? Кто интеллектуальнее — «умный» или «остроумный»?
Еще надо различать психические и логические способности к решению задач. Если человек обладает способностью в уме решать сложные задачи, значит ли, что он умнее человека, которые решает такие задачи с бумагой и ручкой? Как правило, люди, решающие задачи в уме производят впечатление более умных, поскольку быстро выдают решение. Даже можно предположить, что самые умные среди людей, такие как Ньютон, Эйнштейн, Ломоносов и многие другие великие люди обладали этой способностью -решать сложные задачи в уме, но все же это чисто физиологическая способность, как объем оперативной памяти компьютера.
Считается, например, что способностью «в уме» решить логическую задачу Эйнштейна о пяти домах и их обитателях обладают лишь два процента людей. А вот, сколько людей могут решить ее с бумагой и ручкой – 10%, 50%?
Можно подумать, что компьютер имеет интеллект не ниже 2% самых умных людей, поскольку есть программы, которые решают задачу Эйнштейна. Однако нельзя с этим согласиться, поскольку в данном случае компьютер выступает как человеко-машинная система, в которой самую интеллектуальную часть работы — концептуализацию и формализацию задачи выполняет человек.
Предлагаю такие определения.
Интеллект – способность решать задачи на основе приобретенных знаний соответствующих предметной области задачи. Включает еще и способность обучаться – приобретать знания, специальным образом приготовленные для усвоения студентом.
Ум – способность решать задачи при отсутствии соответствующих предметной области знаний. Включает способность самостоятельно создавать знания.
Можно сказать еще проще – интеллектуал применяет знания, умный – создает знания.
Конечно, надо понимать, что такое деление условно, поскольку каждый человек, какие-то знания применяет в готовом виде, и какие-то создает самостоятельно. В этом плане люди различаются лишь степенью ума и интеллекта.
Когда мы сможем сказать, что компьютер стал интеллектуальным? Если сделать программу, которая решит все возможные тесты по измерению IQ, можно ли будет сказать, что этот компьютер (программа) умнее человека?
Тесты IQ рассчитаны на то, что человек не имеет готовых знаний для их решения. Значит можно считать, что эти тесты предназначены для измерения (сравнения) ума, а не интеллекта.
Однако компьютер, решающий такие тесты, не станет от этого полезнее. Надо чтобы он решал любую задачу, сформулированную на естественном языке.
Если делать полноценные экспертные системы (первое требование к ним – понимание задач, сформулированных на естественном языке) для всех предметных областей, вместо применяемых ныне традиционных прикладных систем, то это будет первый шаг к построению безопасного искусственного интеллекта.
Существующие информационные системы являются человеко-машинными, поскольку без интеллекта пользователя и/или компьютерного эксперта они бесполезны.
Сегодняшние прикладные системы требуют от пользователя обучения — приобретения специальных знаний. Например, бухгалтеру, чтобы пользоваться системой 1С нужно пройти обучение, но и этого будет недостаточно, поскольку, в процессе работы бухгалтера с этой системой (как и с любой другой прикладной системой), постоянно возникает необходимость обращаться за консультацией к эксперту.
Прикладная система может называться экспертной, если специалисту (например, бухгалтеру) не будет требоваться специальное обучение для работы с компьютерной прикладной системой, и не будет требоваться обращение к консультанту для разрешения нестандартных ситуаций. Для таких видов компьютерных систем можно будет уверенно применять термин «безопасный (ограниченный) искусственный интеллект».
Даже если экспертная система полностью заменит бухгалтера–человека, она еще останется безопасной (если не считать опасностью безработицу среди бухгалтеров). Средства верификации принятых решений в бухгалтерии давно разработаны, поэтому ошибки в бухгалтерском программном обеспечении будут вовремя обнаружены.
Ели поднять уровень интеллекта компьютера еще выше, – например, наделить его способностью самостоятельно создавать прикладные системы, – это еще не будет опасным, хотя и будет существенным приближением к опасному уровню.
В каком случае интеллектуальная бухгалтерская система может стать опасной для человека – например, выдавать неверную информацию?
Опасность появится при наличии у системы искусственного интеллекта элементов личности, появление, например, собственного интереса, отдельного от человеческого. Чтобы исключить такое развитие событий, может быть, придется запретить создание интеллектуальных систем, способных к эволюции.
Есть еще другая опасность – ИИ может содержать логические ошибки. Поскольку решаемые им задачи могут быть очень сложными, а список задач заранее не известен, необходимо предусматривать специальные меры для верификации полученного решения. Например, для ЭС, стандартный элемент технологии – подсистема объяснения и/или обоснования полученного решения.
Возможна ли ситуация при которой способ решения задачи, построенный искусственным интеллектом, будет настолько сложным, что человек не сможет его понять? Сегодняшние интеллектуальные системы основаны на «человеческих» знаниях. Когда же ИИ станет «добывать» знания самостоятельно, мы не будем знать «о чем он думает». Это уже реальная опасность. Может быть, такие программные средства, когда возможность их создания станет реальной, придется запретить.
У С. Лема есть такой рассказ о будущем интернета – всемирная сеть, на основе объединения всего множества поступающей информации стала предсказывать события. Можно предположить, что следующим шагом развития такой сети стало бы управление мировыми событиями.
Видимо, придется разрабатывать всевозможные способы контроля систем искусственного интеллекта, из которых самые очевидные – это специальные программные средства для проверки правильности решения автоматически, без участия человека.
Это будет уже доверие искусственному интеллекту (или вера?) – «я не понимаю, как он это делает, но вот есть программа, которая его проверила». В технике это давно уже происходит – мы не можем проверить все механизмы и приборы на основе собственных органов чувств, доверяя специальным техническим средствам диагностики.
Ссылки
1. www.openai.com
2. www.en.wikipedia.org/wiki/Hans_Eysenck
Комментарии (55)
sillywilly
04.04.2016 15:54-4«Однажды искусственный интеллект станет умнее человека». Дальше не читал.
igruh
04.04.2016 15:57+2Какое-то словоблудие.
>Считается, например, что способностью «в уме» решить задачу Эйнштейна обладают лишь два процента людей. А вот, сколько людей могут >решить ее с бумагой и ручкой – 10%, 50%?
Что, правда? 50% людей с ручкой смогут хотя бы записать уравнения ОТО?
> ошибки программного обеспечения;
> Опасность первого рода характерна для всякого программного обеспечения, поэтому здесь о ней говорить не будем.
Ниже по тексту:
>Есть еще другая опасность – ИИ может содержать логические ошибки
Разве это не опасность «первого рода»?
Автоматические системы, которые будут контролировать верность решения? ИИ более высокого уровня. Кто будет контролировать его?
Doktor_Gradus
04.04.2016 18:43А причём тут уравнения ОТО?
Задача Эйнштейна — это логическая задачка про 5 человек разной национальности, в разных домах, с разными привычками и домашними питомцами. Чтобы её решать, знать уравнения не нужно вообще, достаточно уметь немного сопоставлять факты.
Bhudh
04.04.2016 20:25Интересно, импульсивность — черта интеллекта или ума?
К уму или к интеллекту относится способность высказывать суждения, основанные на частично известных данных (имя «Эйнштейн» и «Эйнштейн создал ОТО»), но без знания данных полных («задача Эйнштейна»)?
ru.wikipedia.org/wiki/Загадка_Эйнштейна
N_Ikhsanov
04.04.2016 20:30Да, это интересный вопрос. Что понимать под импульсивностью. Обычно этим словом обозначают эмоциональную реакцию. Некоторые авторитетные авторы намекают, что типы эмоциональных реакций связаны с уровнем интеллекта.
Bhudh
05.04.2016 09:55Однако о зависимости этой реакции от уровня интеллекта можно сказать только то, что она глубоко нелинейна.
Как и о зависимости уровня грамотности от уровня интеллекта, кстати.
MadMoroz
04.04.2016 20:30Задача Энштейна — весьма простая и легко формализируемая логическая задача, кторая состоит из 5 обьектов с 5 признаками у каждого и простыми логическими зависимостями. Вся ее сложность состоит в умении оперировать одновременно большим количеством сущностей.
Для компьютера или человека с ручкой ее решение не составит труда.
Хотя нет подверждений про то что ее составил Энштейн и особенно есть сомнения про 2%, ибо даже я могу ее решить в уме.N_Ikhsanov
04.04.2016 20:36Насчет решения в уме — смелое утверждение. Надеюсь, что оно достаточно обосновано.
Проблема в том, что современному компьютеру не по силам решить такую задачу, если предоставить ему текст задачи на естественном языке.MadMoroz
04.04.2016 22:45Если время не ограничено, то, по моей оценке, ее смогут решить те же люди, что и решили ее на бумаге. Мне потребовалось 20-30 минут и где то на 10 минуте пришлось проговаривать и представлять запомненное, что бы смочь выбирать методом исключения.
Но в целом люди в жизни запоминают куда более сложные вещи, чем кто где живет и кто что курит. Вопрос времени, тренировок и усидчивости.
Я надеюсь что тот же IBM Watson способен строить модели на основании фраз на естественном языке вроде "Имеющий свойство А находится рядом с имеющим свойство Б", но здесь рождается вопрос насколько широким должен быть спектр задач которые способен распознать и решить ИИ, чтобы называть его интеллектуальным?
SunX
05.04.2016 13:58Еще не в меньшей степени это вопрос целесообразности. понятно, что решить задачу Эйнштейна в уме это круто и все такое, но у меня (и у большого количества людей еще) нет сильно большого желания запоминать столько информации, что бы через 2 часа ее забыть. Ибо зачем, если можно воспользоваться бумажкой? Если бы у меня был какой-то существенный стимул для этого, то возможно я бы попытался это сделать, а так я лишь считаю, что мне придется потратить сильно много времени и усилий непонятно зачем.
Конечно можно пытаться доказать, что это тренировка ума и все такое, но опять же для каждого конкретного человека найдется много более полезных лично ему дел, которые так же помогут «размять мозги».N_Ikhsanov
05.04.2016 14:11Способность держать большее количество объектов в уме — это превосходство в скорости и сложности решаемых задач, как профессиональных, так и жизненно необходимых.
Не зря же существует выражение «Он всегда на два шага впереди».
Еще пример: программист с такими способностями может работать в несколько раз быстрее тех, кто все записывает на бумагу.SunX
05.04.2016 14:52Я бы сказал способность _быстро_ загружать в память (запоминать) большие объемы информации, а отнюдь не просто держать в памяти. Все мы спокойно держим в памяти огромные объемы информации, просто для того, что бы запомнить этот объем понадобилось очень много времени.
Так же и тут. Я могу решить в уме задачу Эйнштейна, но на это мне потребуется очень много времени. По этому лично для себя я не вижу никакого смысла решать ее в уме (зачем?, что мне это даст?), потому я в эти 2% не попаду (даже и пытаться не буду потому что), но если бы у меня был какой-то серьезный стимул решить ее в уме, то уже был бы совсем другой разговор.N_Ikhsanov
05.04.2016 16:22У человека есть долговременная память и «оперативная», в которой средний человек держит от 3 до 7 объектов в момент мышления. Так же как и у компьютера — чем больше оперативная память, тем быстрее человек соображает.
Люди с сильной кратковременной памятью запоминают такую информацию мгновенно и очень быстро выдают ответ.
Если кто-то говорит, что ему нужно время, чтобы запомнить, значит он хочет использовать долговременную память и это уже совсем другой случай.SunX
05.04.2016 16:54При этом это никак не мешает решать задачу Эйнштейна в уме. Я лишь об этом и ни о чем другом. По этой причине говорить, что лишь 2% населения _способны_ решить ее в уме — это не совсем верно.
Если человек ее может решить на бумажке, то, при достаточном количестве времени и мотивации он сможет решить ее и в уме. В постановке задачи нигде не оговорено ни то, что ее нужно решить за ограниченное время ни то, что нельзя использовать долговременную память в своей голове.N_Ikhsanov
08.04.2016 13:17Не будем цепляться к частностям. Задача лишь для примера того, что уровень и характеристики интеллекта человека, а следовательно и машины, может быть очень различным.
Что же касается данного примера, показатель 2% не мой, он часто приводится в публикациях. Мне эта оценка кажется вполне реальной, поскольку держать в уме 25 объектов и не запутаться в них — очень трудная задача.SunX
11.04.2016 12:17Трудная, не спорю, но опять же считаю, что решаемая для большинства людей. Просто это (почти) никому не нужно, потому никто (почти) и пытаться не будет решать ее в уме. И лишь те самые 2 процента решат её решать в уме и решат быстрее, чем им это надоест.
vedenin1980
04.04.2016 16:07+2Такое чувство, что это SEO текст, написанный автоматическим генератором.
EndUser
04.04.2016 16:27+1Кстати, да. Ничего, кроме жонглирования словами. Наукобот.
К тому же проблема в том, что, в дополнение к слову «ум», в русский вошёл англицизм «интеллект», который означает ровно то же самое.
Я повторюсь со своим предложением: «интеллект — машина, статистически неотличимая от носителей цивилизации». Что, собственно, и является пояснением сути теста Тьюринга. Следовательно, это машина, решающая свои задачи взаимодействия с другими носителями цивилизации (обычно возмездным способом, типа «труд за зарплату», «взаимопомощь» и так далее) ценой своего времени, ресурсов, комфорта, здоровья или жизни.
И футуристы опасаются, что искусственный интеллект, являясь статистически отличимым, будет реализовывать неприятные нам остальным носителям свои решения любым доступным ему способом. То есть представлять разной степени опасность, от этической («кого выберет задавить автопилот») до физической («kill all humans»).
N_Ikhsanov
04.04.2016 21:27Хотелось бы услышать аргументацию данного утверждения. Мы обсуждаем разум, а не чувства.
N_Ikhsanov
05.04.2016 05:23-1Просто это еще один тест на IQ — способность к усвоению текста без картинок. Если смысл читателю не виден, его IQ — среднего уровня.
Fen1kz
04.04.2016 18:06+2После того, как понял что автор исповедует наше русское «запретить = решить все проблемы» перестал читать. Не может выйти умных мыслей из человека, верящего в запреты.
michael_vostrikov
04.04.2016 21:31Вы куда-то не в ту сторону рассуждаете) Причем здесь интеллектуалы, профессии, и тесты IQ? Биологический интеллект появился когда ничего этого не было. Или дикие звери, например, хищники — они умеют самостоятельно ориентироваться в лесу, выслеживать добычу по запаху. По вашему, у них нет биологического интеллекта?
Я считаю, что интеллект — это в первую очередь способность анализировать информацию об окружающей среде, искать взаимосвязи в этой информации, и совершать на основе нее какие-то действия.
Включает еще и способность обучаться – приобретать знания, специальным образом приготовленные для усвоения студентом.
Котенок, который учится бегать — кто для него приготовил знания специальным образом?
Когда же ИИ станет «добывать» знания самостоятельно, мы не будем знать «о чем он думает».
Почему? Есть же отладчик, дамп памяти, виртуальная машина.N_Ikhsanov
04.04.2016 21:43Да я рассуждаю «в другую сторону», не в Вашу. Интеллектуалы, профессии и тесты IQ при том, что в тексте обсуждается возможность сравнения человеческого интеллекта с машинным. «Биологический интеллект» здесь не обсуждается.
michael_vostrikov
04.04.2016 21:54А у человека интеллект не биологический? Чтобы сравнить один интеллект с другим, надо знать, по каким характеристикам можно отличить интеллект от не-интеллекта. Раз интеллект от профессии и ее области знаний не зависит, то и сравнивать по этой характеристике нельзя.
N_Ikhsanov
04.04.2016 22:04Дети в школе проходят, что у человека, в отличие от животных, есть вторая сигнальная система — мышление. Речь в данной публикации о сравнении машины с человеком, а не с животными.
dkukushkin
04.04.2016 22:59Можно сказать еще проще – интеллектуал применяет знания, умный – создает знания.
Это ключевая мысль. Теперь как отличить одно от другого?
Есть мнение что люди не могут создавать знания. Приводили пример видеокамеры. Казалось бы такое сложное устройство кто-то должен был придумать. А затем рассматривали поэтапно и оказалось что человек ничего не придумал нового — просто случайно встретил те или иные являения в природе.N_Ikhsanov
05.04.2016 05:47В случае изобретений человек не случайно встречает явления природы, а ищет способ решения задачи.
Конечно, знание — не очень точный термин и желающих дискутировать на эту тему достаточно.
В тематике ИИ под знаниями понимается результат познавательной деятельности человека, обобщение опыта своей деятельности. Например, знания эксперта в предметной области глубже, чем знания выпускника вуза.dkukushkin
05.04.2016 11:45Можете ли вы придумать такой тест, который способен разрешить умный, но не способен разрешить интеллектуал?
N_Ikhsanov
05.04.2016 14:31Тесты Айзенка рассчитаны на людей со средним образованием, однако не все интеллектуалы покажут на них приличный результат, хотя есть школьники в высоким IQ.
dkukushkin
05.04.2016 16:10О чем это говорит? Эти тесты могут решать компьютерные аналитические системы, типа IBM Watson? Ведь эти системы интеллектуальные, но не умные. Вопросы теста IQ определяют интеллект, умение анализировать/обобщать лингвистические, алгебраические и геометрические ряды.
Интеллект, т.е. умение анализировать/обобщать лингвистические, алгебраические и геометрические ряды формируется до 5 лет и получение в/о не поможет его увеличить. В/о лишь добавит в копилку знаний человека наиболее ценные для выполнения той или иной работы. А вот инттелект не увеличит, хотя на вступительных экзаменах пытаются отсеять людей с неразвитым интеллектом. Так?
А что же такое ум, т.е. способность не просто анализировать/обобщать (что умеют и компьютерные системы) а именно придумывать совершенно новое?
Читали ли вы «Новый ум короля» от доктора наук Р. Пенроуза?N_Ikhsanov
06.04.2016 12:02Способность IBM Watson пройти тесты на IQ вызывают сомнение, поскольку эта система не является мыслящей. Это сверхмощная система контентного анализа — годится для диагностики, поиска и прогнозирования. Но в шахматы она не играет и в решении логических задач тоже не замечена.
dkukushkin
06.04.2016 14:18пройти тесты на IQ вызывают сомнение, поскольку эта система не является мыслящей
Т.е. любая система, которая сможет пройти тесты Айзенка — мыслящая?
в шахматы она не играет и в решении логических задач тоже не замечена
Не ставилась такая задача, т.к. для игры в шахматы на уровне гроссмейстера достаточно мощностей одного домашнего компьютера.
Правильно ли я понял, что вы назовете умной и мыслящей систему, которая способна решать тесты Айзенка?N_Ikhsanov
08.04.2016 13:10Умной нет, а вот если будет программа, которая по формулировке на естественном языке сможет решать любую логическую или арифметическую задачу, не требующую знаний выше средней школы, то это будет искусственный интеллект начального уровня.
Сделать программу, специализирующуюся на каком-то виде тестов, например, Айзенка, — не очень сложная задача для среднего программиста.
Скажу еще раз, чтобы быть правильно понятым. Во всех обычно приводимых логических задачах. решаемых с компьютером, основную работу — концептуализацию, делает автор программы. Вот если будет программа, которая сможет делать концептуализацию задачи из текстовой формулировки — это уже будет ИИ.dkukushkin
08.04.2016 13:35Умной нет
Так какой же тест сможет показать что программа именно умная?N_Ikhsanov
08.04.2016 13:56Вопрос серьезный. Наверное, если модифицировать тест Тьюринга на решение сложных задач, т.е. через клавиатуру общаться с неизвестным, который будет решать любые сложные задачи и сможет сам найти нужные знания и применить их.
dkukushkin
14.04.2016 00:47Такое сможет сделать далеко не каждый человек. Получается не все люди умные? Или даже большинство людей не умны?
N_Ikhsanov
14.04.2016 08:12Конечно, ум у людей разный. Разве это не общеизвестно? Насчет большинства — наверное, базовые логические навыки у всех одинаковые, но многие не умеют (или не хотят) ими пользоваться.
dkukushkin
14.04.2016 10:27Ну и что что разный? Мы можем с помощью теста определить что у человека есть хоть и небольшой, но ум. А у машины хоть и есть быстрый и с огромным багажом интеллект, но нет даже маленького ума.
Можно такой тест сделать?
KvanTTT
05.04.2016 11:42Могут они создавать знания. Есть, например, математика, которая не имеет аналогов в реальной жизни. Помимо внешнего мира есть фактор случайности происходящих в мозгу процессов, который также помогает создавать что-то новое.
dkukushkin
05.04.2016 11:46Ну, если случайности называть новым — то и машина это умеет. Есть же генераторы случайных чисел… Какую хош вам уникальную, доселе нигде не встречающуюся последовательность вам нагенерят.
Fen1kz
05.04.2016 19:00Но ведь генераторов случайных чисел нет, все чисто компьютерные системы это генераторы псевдослучайных чисел
vedenin1980
06.04.2016 14:42Не все, есть аппаратные генераторы случайных чисел (истинно случайных чисел) для систем где даже псевдослучайные числа не подходят.
https://ru.wikipedia.org/wiki/%D0%90%D0%BF%D0%BF%D0%B0%D1%80%D0%B0%D1%82%D0%BD%D1%8B%D0%B9_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%82%D0%BE%D1%80_%D1%81%D0%BB%D1%83%D1%87%D0%B0%D0%B9%D0%BD%D1%8B%D1%85_%D1%87%D0%B8%D1%81%D0%B5%D0%BB
KvanTTT
12.04.2016 01:50В хороших алгоритмах псевдослучайных чисел очень большой период, так что почти всегда не важно, какой генератор, поскольку от этого ничего не будет зависеть.
Fen1kz
12.04.2016 20:10Ещё как будет, спросите криптографов. В какой-то линуксовой утилите даже надо самому мышкой рисовать, потому что они не доверяют компьютерному рандому.
KvanTTT
12.04.2016 20:51Цели у криптографическиих и созидательных задач как бы совсем разные. Не доверяют, потому что изначальный seed можно подделать, и вся последующая цепочка чисел будет одинаковой, какой бы алгоритм не был. А для созидательных алгоритмов важна последовательность, не важно какой seed будет.
Hellsy22
Кто и кому будет это запрещать и как этот запрет будет обеспечиваться? Трояны вроде как тоже вне закона, но это никого не останавливает.
Т.е. напишем ИИ, который будет проверять решения за ИИ? А кто будет проверять решения проверяющего?
N_Ikhsanov
Вопрос о запретах для ИИ поставлен небезызвестными Хокингом, Маском, Гейтсом и другими, достаточно авторитетными лицами, которые создали для изучения вопроса институт OpenAI c финансированием около $1B.
Насчет второго Вашего вопроса — читайте внимательно — в технике эта ситуация существует давно — при создании и эксплуатации сложных машин человек полагается на диагностическую аппаратуру, поскольку возможности его органов чувств ограничены.
Hellsy22
Хокинг, Маск и Гейтс не обладают политической властью даже в странах своего проживания и могут что-то запретить только сами себе, так что я еще раз спрошу и предлагаю обратить внимание на то, что мой вопрос содержит три части: кто и кому будет запрещать и как это запрет будет обеспечиваться?
Насчет второго вопроса: аппаратура, способная проверять корректность решений ИИ сама должна обладать ИИ не меньшей мощности. А значит ее тоже придется как-то проверять. Как вы себе это представляете?
N_Ikhsanov
«кто и кому будет запрещать и как это запрет будет обеспечиваться?» — никак не является темой настоящей статьи и вряд, ли, темой этого хаба.
Насчет ИИ для проверки ИИ — вопрос не простой, вот люди $1B не пожалели для изучения этого вопроса.
Я же пишу (см.текст) -«В технике это давно уже происходит – мы не можем проверить все механизмы и приборы на основе собственных органов чувств, доверяя специальным техническим средствам диагностики.
»
Hellsy22
Это ведь вы сами сказали, что "придется запретить". Значит у вас есть хотя бы предположения как это сделать в рамках противостояния стран: страна, которая внедрит ИИ первой — получит колоссальное экономическое, промышленное и демографическое преимущество. Помимо государств есть транснациональные корпорации, которые с удовольствием будут разрабатывать что-то такое для себя. Есть даркнет и его обитатели, которым, в общем-то, безразличны запреты официальных властей, есть просто отдельные умельцы. В общем, я не представляю как можно остановить прогресс в одной отдельно взятой области.
Средства диагностики бесполезны для контроля системы принятия решений — если решения такой системы было бы можно формализовать, то ИИ был бы не нужен. Единственное, что может проверить решения ИИ — это ИИ аналогичной или большей мощности.
N_Ikhsanov
Во первых, речь не о запрете ИИ, а о запрете опасного ИИ.
Во вторых, насчет бесполезности запретов. Существование преступников не означает не нужности законов. Все законы — запреты.
Hellsy22
А, понятно, видимость борьбы и словоблудие.