Можно долго рассуждать об опасности ИИ, но гораздо интереснее поучаствовать в процессе. Начнем с разбора почему, то что разрабатывают сегодня, не приведет к прорыву в этой области.
Забавно что последнии пару лет все носятся с идеей создания Сильного Искусственного Интеллекта. Откопали алгоритмы 50 летней давности, для которых внезапно стало хватать мощностей. И рассказывают, подбадривая друг друга, как все будет круто если количество нейронов в искусственных нейросетях удастся довести сравнять с количеством нейронов головного мозга человека.
При этом, никто толком не рассказывает, зачем все же человечеству Сильный ИИ. Какие задачи будут перед ним стоять. в чем будет цель его существования. Все обычно какие то общие фразы" НУ ТИПА БУДЕТ КРУТА ЖЕ".
Особо весело становится когда какой нибудь горе стартапер-разработчик начинает вещать " о, мы же даже не понимаем как работают созданные нами нейросети". Серьезно? Итак, как работают нейросети, и почему не стоит ждать Высокого ИИ на базе нейросетей.
Знаете что такое среднее арифметическое?
Сре?днее арифмети?ческое (в математике и статистике) — одна из наиболее распространённых мер центральной тенденции, представляющая собой сумму всех зафиксированных значений, делённую на их количество. Предложена (наряду со средним геометрическим и средним гармоническим) еще пифагорейцами.
Теперь возьмем 1 миллион фотографий, например котиков Я буду упрощать, для лучшего понимания, но не сильно.
Возьмем все эти фото котиков и сделаем из них среднего арифметического котика в вакууме.
При этом, чем больше фото котиков мы скормим, тем лучше будет узнавание при сравнении новой фото со средне арифметическим фото котиков. Пары десятков фото котиков будет не достаточно.
Возможно ли на подобном алгоритме строительство Сильного ИИ? Каким образом при наращивании размеров нейросетей высчитывание средне арифметического позволит перейти к самостоятельному построению алгоритмов? Видимо тут расчет на какую то магию, что вот когда сделаем достаточно нейронов в сети, там чего то самозародится. Ну верили же раньше, что в куче тряпок самозарождаются мыши.
При этом, что лично мне не понятно, в попытках создания Сильного ИИ, почему то пытаются копировать человеческий мозг. Хотя логичнее было бы копировать образ мышления. Это мы обсудим в следующий раз, если тема будет кому то интересна. Есть у меня кое какие соображения.
Все еще остается открытой тема о практическом применении Сильного ИИ. Какие гвозди мы будем забивать этим микроскопом? Предлагаю высказываться в комментариях.
Комментарии (90)
RusikR2D2
02.10.2016 20:09+2спрошу и я (почти по теме).
А нельзя ли сделать «сильный» ИИ (а точнее коллективный разум) на основе Естественных интеллектов — людей, объединив их через сеть. Не знаю, как такое можно реализовать, но что-то типа «нейрон» ИИ (или группа) — это человек+ компьютер.LorDCA
02.10.2016 20:12а смысл? для начала нужны задачи которые будут решаться таким сильным разумом. у вас есть подобные задачи?
RusikR2D2
02.10.2016 20:33с одной стороны, «из интереса».
а с другой — в статьях про сильный ИИ много разных проблем, которые он, потенциально, может решить. бессмертие (в том числе и цифровое), болезни, экология, антигравитация (если это возможно), разобраться с «устройством» вселенной, космические перелеты, связь…
мало ли чего можно будет придумать. Детей люди сначала рожают, а уж потом они себе придумывают занятие.
Некоторые фантасты считают, что коллективный разум биологического вида — есть его следующая ступень эволюции.LorDCA
02.10.2016 20:35это все общие заявления. совершенно не понятные в деталях… ну как бы «ОН СДЕЛАЕТ НАМ ВСЕМ ПРИЯТНО».
Вы точно уверены что хотите, бы ИИ сам занимался поиском смысла своего существования? :)RusikR2D2
02.10.2016 20:56Такой коллективный ИИ должен оказаться «гуманным» ИИ, т.к. он базируется на человеческих чувствах и желаниях.
наверное, он найдет «хороший» смысл своего существования.
но в первую очередь, интересно узнать — получится ли, и что именно получится, т.к. это, в общем-то, будет первый нечеловеческий разум, доступный для контакта (не берем Дельфинов и т.п., с которыми все не так понятно)LorDCA
02.10.2016 20:58Человеческие чувства и желания… Мы имеем общество потребления и это все что нужно знать о «чувствах и желаниях» человечества.
red75prim
02.10.2016 20:54Тыкает пальцем почти в любую профессию, и вот оно. ИИ может работать 24/7 и зарплаты требовать не будет.
Сильный ИИ, кстати, не означает, что он умнее человека. Это — обозначение ИИ, способного выполнять все задачи, что и человек.
RigelNM
04.10.2016 01:39Представь себе гениального теоретического физика, который думает над проблемой 24/7, не подвержен эмоциональным спадам и просчитывает варианты со скоростью суперкомпьютера.
extruder676
02.10.2016 20:55Люди и так решают разные задачи сообща, представляя из себя таким образом сверхчеловеческий интеллект. Соеденяясь посредством языка, порой с помощью вспомогательных менеджеров. итд. Вполне напоминает даже сеть. И даже с помощью компьютеров.
netmaxed
03.10.2016 10:16системная инженерия, по-моему, как раз про это.
Почитайте Анатолия Левенчука.
Ezbar
02.10.2016 20:14+5Автор ничего не понимает в ИИ и поэтому решил поделиться этой печальной новостью с нами таким оригинальным способом.
Here_and_Now
02.10.2016 22:37Поддерживаю. Потенциальные профиты ИИ — это самая очевидная вещь в этой теме. Как в таком можно не разобраться я не понимаю.
Pravo
02.10.2016 20:32Тоже давно заметил, что последние лет 40+ в методах ИИ-строительства застой. Самоотверженно пилят эмулятор нейрона ни шагу ни влево ни вправо. Занятные вещи творили в конце 70х в MIT. Но потом «почему-то» свернули работы по Lisp-машинам, а коллектив разработчиков отправили на все четыре стороны. Столлман, например, занялся идеологией opensource которая, внезапно, очень удобна для присмотра за любителями вскрывать не те темы.
LorDCA
02.10.2016 20:38НУ если следовать теории заговора, то могу вам предложить такое виденье. Самое простое что сможет сразу решить Сильный ИИ, это администрирование и оптимизация. То есть, все эти эффективные менеджеры останутся без работы первыми. :) Потому они против. Потому создают всякие фонды по контролю.
RusikR2D2
02.10.2016 20:51+1да не доверят такое ИИ (разве что, как советчик, со множеством ограничений).
Я не думаю, что правильно управлять и администрировать никто не умеет. Скорее не хотят, т.к. это не понравится человечеству.
Человек базируется на чувствах, которых не будет у ИИ (в теории), а рациональное управление очень жестокое. Это как технология — глючит память — ее надо выкинуть и купить новый. А теперь представим такое же «рациональное» решение по отношению, например, к правонарушителям или больным людям.LorDCA
02.10.2016 20:56Если обучать ИИ напримере нейросетей. то скорее всего средне арифметическое и будет удаление сломаных деталей для оптимизации. Но есть другие пути.
RusikR2D2
02.10.2016 21:00Для этого придется оснастить ИИ «чувствами» и каким-то аналогом биохимии, что сразу сделает его подверженным ошибкам.
red75prim
04.10.2016 05:55Странное представление о рациональности. Управление без учета человеческой психологии будет менее эффективным, а значит и не рациональным. Управление без учета репутационных издержек, тоже будет менее эффективным.
Если действительно рациональному ИИ потребуется кого-то выкинуть с работы, то он это сделает так, чтобы у человека не осталось неприятных впечатлений, или, если это невозможно, поставит человека в такую ситуацию, что ему самому придётся уйти и помалкивать об этом.
Связывать отсутствие эмоций и неспособность предсказать поведение человека, подверженного эмоциям — антропоморфизм. Мы предсказываем поведение других людей, представляя как бы мы поступили на их месте, но это не значит, что ИИ сможет действовать только таким образом.
ИИ может не испытывать эмоций в человеческом смысле, но как это может помешать ему строить модели поведения людей, включающие эмоциональные состояния, и использовать эти модели для эффективного управления?
red75prim
04.10.2016 07:24Впрочем, продлится это недолго. Через год-два, когда ИИ, работающие в сфере производства элементной базы для ИИ, снизят стоимость внедрения ИИ, использование людей во всех этапах производства станет экономически неоправданным.
ИИ, уже без особых психологических тонкостей, выгонит оставшихся на улицу. К этому моменту массовые увольнения станут нормой и проблемой правительства страны, а не компании.
На работе останется только небольшое количество людей определенного психологического профиля. Они будут работать человеческим лицом компании. Опять таки по психологическим причинам. Человек, знающий что он имеет дело с андроидом, не сможет относится к нему как к человеку, даже если внешне андроид от человека не отличим. Поэтому лицом компании должны быть настоящие люди, не смотря на их недостатки. Естественно, до тех пор пока это имеет какое-то значение.
Chalokian
04.10.2016 01:39У меня есть мнение, что если сильный ИИ заменит «менеджеров» (руководителей среднего и высшего звена) в коммерческих организациях, то экономика быстро придёт к монополиям. Моя логика следует из предположения, что решения, принимаемые сильным ИИ — оптимальные с учётом исторической статистики, текущего состояния и прогнозов.
То есть руководящий ИИ в любой коммерческой организации будет принимать оптимальное решение и развитие организации будет зависеть только от её текущего состояния, набора состояний конкурентов (хорошо прогнозируется, так как ими управляет то же ИИ), и набора плохо прогнозируемых факторов, которых мало.
Сейчас конкуренция — это результат набора тех или иных решений управленцев. Как правильных, так и не правильных.
red75prim
02.10.2016 21:32Результатов не было, поэтому и прикрыли. Не масштабировались их технологии на реальные задачи. Комбинаторный взрыв. Оказалось, что для выбора из огромного количества вариантов нужно формализовать здравый смысл. Так до сих пор этим и занимаются.
amarao
02.10.2016 21:241) Сильного ИИ нет на горизонте.
2) Текущие алгоритмы не имеют отношения к ИИ и являются просто алгоритмами, которые «делают что сказали».LorDCA
02.10.2016 21:47+1готов спорить что у нас с вами разные горизонты :)
amarao
02.10.2016 22:06Если только вы не занимаетесь научной/ненаучной фантастикой, то на вашем горизонте его тоже нет.
LorDCA
02.10.2016 22:12+1Время покажет кто чем занимается. но тут такая ситуация.
Я например не возражаю если вы сидите на диване и на любые идеи смотрите скептически.
Но почему вы высказываете возражения на мои занятия?amarao
02.10.2016 22:22С тем же успехом о своей работе может говорить человек, занятый разработкой бессмертия. Как бы да, но как бы и нет.
LorDCA
02.10.2016 22:24Согласен. А что делать? просто несколько человек предложили написать хоть что нибудь и таким методом найти единомышленников, с которыми можно ковырять тему сообща. Вот написал хоть что нибуть… :) но видимо продолжу ковырять дальше сам.
amarao
02.10.2016 23:07-1У нас есть только потребительское представление о том, что такое «сильный ИИ», а понимания «как бы оно могло быть устроено» — никакого. То есть пытаться его создать сейчас — это алхимия чистой воды.
LorDCA
02.10.2016 23:18Кто знает. Я не претендую на истину в последней инстанции. Просто не люблю маркетинг. Не люблю людей которые соглашаются со всем, что исходит от больших корпораций или громких имен. Вы сомневаетесь в моем пути. Это хорошо. Но что есть у вас предложить в замен?
i360u
03.10.2016 05:17Как будто ваш интеллект не алгоритм и делает хоть что-то, чего ему не "говорили". Разница лишь в том, кто именно "сказал": программист или эволюция.
amarao
03.10.2016 23:08Бывает ли алгоритм в отсутствие программиста?
Позитрон, притягивающийся к электрону, какую программу выполняет?
3v1lcore
02.10.2016 21:46Есть мнение, что мозг препарируют не для подсчета нейронов, а для понимания механизма кодирования и декодирования сигнала.
Если будет полное понимание работы данного биоалгоритма, то можно будет запилить эмулятор, а не пользоваться рандомом и надеяться на чудо.
Так сложилось, что единственный сильный разум который нам известен, это наш собственный и как ни странно, имеем довольно призрачное представление о его работе.Here_and_Now
02.10.2016 22:42Думаю для прорыва будет достаточно и мозга мыши. Уже достаточно сложное поведение будет описано. А дальше всё решится эволюционным развитием с введением в систему всё большего количества связей.
LorDCA
02.10.2016 22:44уже описали поведение червя… прорыва не случилось :)
kennivich
02.10.2016 21:46+3Вы, конечно, извините, но это полный бред.
>Начнем с разбора почему, то что разрабатывают сегодня, не приведет к прорыву в этой области.
В область пришло огромное количество идей, из психологии, нейробиологии, математики, статистики, огромное количество алгоритмов и моделей. Что мы имеем в разборе? 0.
>Откопали алгоритмы 50 летней давности, для которых внезапно стало хватать мощностей.
Вы про персептрон? 50 лет назад и для него хватало мощностей. Только вот персептрон в наши дни используется только как некая упрощенная модель для примера. Если вы взгляните на любую из современных сетей, которые используются в реальных задачах, как например сеть для Google Translate, увидеть там нечто 50-летней давности уже крайне сложно. Это как говорить что вся современная физика это законы Ньютона, но чуточку другие.
>При этом, никто толком не рассказывает, зачем все же человечеству Сильный ИИ.
Из текущих применений: самоуправляемые автомобили и в перспективе самолеты/корабли, помощь в диагностике и лечении болезней, обработка и выделение различных закономерностей в огромных потоках данных(как те, которые генерирует БАК). И это только малая часть всей истории.
>Возьмем все эти фото котиков и сделаем из них среднего арифметического котика в вакууме. При этом, чем больше фото котиков мы скормим, тем лучше будет узнавание при сравнении новой фото со средне арифметическим фото котиков.
А это то тут при чем? По вашему нейронные сети созданы для усреднения картинок? Вы хоть что-то понимаете в этой области?
Извините конечно, но по-моему настолько бестолковым постам вообще не место на проектах ТМ. С таким мышлением Вам самое место в госдуме.
LorDCA
02.10.2016 21:51-2понимаю ли я что то… ну куда уж мне… давайте больше конкретики, общие слова о том что нейросети умеют находить зависимости в больших массах данных, ну не путь это к интеллекту…
у меня есть свой проект, который я развиваю потихоньку.
в нем использую TensorFlow для определенных задач, которые в принципе можно решить и моим алгоритмом, но нужно потратить некоторое время на объяснения. А со временем у меня туго очень.kennivich
02.10.2016 22:24+3>понимаю ли я что то… ну куда уж мне… давайте больше конкретики
С радостью, давайте по конкретике.
Насчет современных нейронных сетей, вот вам пример — Переводчик Google Translate подключили к нейросети. Лично я не видел подобных алгоритмов в литературе даже более 5-летней давности, про 50 и говорить не стоит. Может ли он делать что-то вразумительное? Опять же, как на это посмотреть. Прикиньте для примера, насколько хорошо вы переводите с французского на английский. Задача не из легких. Этот алгоритм делает это практически на уровне профессионалов. Конечно он не рисует картины, не сочиняет музыку и не пишет посты сомнительного содержания, но с той работой, на которую его обучили, он справляется вполне достойно. Подобные примеры Вы легко можете найти в гугле по темам самоуправляемых автомобилей, диагностика болезней(в частности рака) с помощью ИНС, и в принципе можно было бы привести и другие примеры, но не в этом суть.
Как еще более конкретно? В чем из приведенного выше, как Вам кажется, лежит принципиальная граница, которые нейросети не смогут перейти?
>находить зависимости в больших массах данных, ну не путь это к интеллекту…
Почему? Это вполне распространенное мнение среди психологов, что распознавать сложные паттерны это одна из «высших» функций интеллекта.
>у меня есть свой проект, который я развиваю потихоньку.
Какой проект? Причем здесь он?
>В нем использую TensorFlow для определенных задач
Tensorflow к ИИ имеет очень посредственное отношение, это просто один из инструментов для общих математических вычислений и для построения очень ограниченного класса ИНС. Причем здесь он?
>которые в принципе можно решить и моим алгоритмом, но нужно потратить некоторое время на объяснения.
Ну как бы типо это да. Какой алгоритм? Каких задач?
>А со временем у меня туго очень.
Видимо конкретику в этом обсуждении буду приводить только я. Увы, так у нас беседа не выйдет.
LorDCA
02.10.2016 22:31-2Идет же беседа.
Причем в одном посте вы умудряетесь противоречить самому себе. «то собаки лают, то руины говорят».
Сначала вы приводите переводчик от гугля. И тут же топчете TensorFlow на которой скорее всего и реализована модель переводчика. И все сводится к статистическому усреднению. В данном случае зависимость некоторых слов от других, тоесть так называемого контекста и подбор правильного перевода согласно этой зависимости.kennivich
02.10.2016 22:41+2>Причем в одном посте вы умудряетесь противоречить самому себе. «то собаки лают, то руины говорят».
Где? Перечитал, в упор не вижу.
>Сначала вы приводите переводчик от гугля. И тут же топчете TensorFlow на которой скорее всего и реализована модель переводчика.
Я не «топчу» Tensorflow, где вы это увидели? Я утверждаю, что TensorFlow это лишь инструмент. При вычислении этой модели, я почти уверен что они использовали также процессоры, а для их работы нужна система охлаждения. Но все это абсолютно иррелевантно к теме беседы.
>И все сводится к статистическому усреднению.
Вот тут я чуть не упал. Нифига себе вы эксперт. Люди потратили годы, некоторые большую часть своей жизни, чтобы разобраться в реальной динамике нейронных сетей, а вы тут бац и все по полочкам. Нет слов.
Даже относительно простая нейронная сеть, как та что используют в Google Translate, как Вы свели ее к статистическому усреднению? Если вы действительно сможете дать этому вразумительное объяснение, я почти уверен что Вам дадут медаль, а может и не одну.
>В данном случае зависимость некоторых слов от других, тоесть так называемого контекста и подбор правильного перевода согласно этой зависимости.
Вы кажется даже не прочитали эту статью, и уж наверняка не поняли.LorDCA
02.10.2016 22:47-2так и в чем же отличие от усреднения? что усредняем разные параметры? каждый слой усредняет свое? а потом считаем сколько слоев посчитало ДА а сколько ответило НЕТ? это действительно прорыв… главное это объем подготовленной информации для обучения.
kennivich
02.10.2016 22:53+2>усредняем параметры? каждый слой усредняет свое?
Не знаю про какие нейронные сети вы говорите, но про «усредняющие» я не слышал. Возможно они есть, но лишь как пример для маленьких детей. Реальные же работают в несоизмеримое число раз сложнее.
>потом считаем сколько слоев посчитало ДА а сколько ответило НЕТ
…
…
… что?
> главное это объем подготовленной информации для обучения.
Рад, что вы хоть это понимаете. Хотя видимо и то туго, раз не имея той самой обучающей информации Вы размышляете о высоких материях ИНС поувереннее самых выдающихся людей этой области.
kennivich
02.10.2016 22:58+2Что-то я сильно увлекся и совсем забыл ответить на главный вопрос, простите.
>так и в чем же отличие от усреднения?
Нелинейность. Это ключевое и базовое свойство любой современной нейронной сети.
Если же Вы не понимаете даже самых основ, как Вы можете с такой уверенностью рассуждать об этом?LorDCA
02.10.2016 23:05-2я рад что хотя бы вы понимаете… особенно впечатляют отсылки к «выдающимся людям»… одни выдающиеся люди, не так давно, жгли других на кострах… что бы другие не смели даже сомневаться в том что думают ВЫДАЮЩИЕСЯ ЛЮДИ :)
kennivich
02.10.2016 23:11>особенно впечатляют отсылки к «выдающимся людям»… одни выдающиеся люди, не так давно, жгли других на кострах… что бы другие не смели даже сомневаться в том что думают ВЫДАЮЩИЕСЯ ЛЮДИ :)
Я никого не призываю ни во что слепо верить. Как раз наоборот, собрать как можно больше информации прежде чем что-либо утверждать. Или, хотя бы, просто загуглить. Если бы Вы сделали это прежде чем писать этот пост, вся его несостоятельность Вам стала бы очевидна очень быстро.
Но, по сути, Вы уже просто переводите тему. Кажется, беседа окончена.LorDCA
02.10.2016 23:23-2Это вам только кажется. То есть теории от корпораций, что если яко бы увеличить количество нейронов до безобразия то это приведет к созданию интеллекта, вас устраивает. А то что нейросети максимум чего смогут достичь это нечто наподобие животных инстинктов вам не нравится. Ок. Разница между мной и теми на кого вы ссылаетесь в том что им нужно получать инвестиции и рассказывать сказки инвесторам. Мне это не нужно и я могу себе позволить сомневаться в любом их утверждении. Вы же, гуглите маркетинговый бред и объявляете его истинной в последней инстанции :)
kennivich
02.10.2016 23:42+1>Это вам только кажется.
Конечно. Каждый имеет свое мнение основанное на доступных ему данных.
>То есть теории от корпораций, что если яко бы увеличить количество нейронов до безобразия то это приведет к созданию интеллекта, вас устраивает.
Большинство «корпораций» как раз предполагают несостоятельность ИНС для создания сильного ИИ. Я же имею другую точку зрения.
>А то что нейросети максимум чего смогут достичь это нечто наподобие животных инстинктов вам не нравится.
Вы когда-нибудь видели черепах за рулем автомобиля? Или птиц, которые по снимкам распознают раковые клетки? По-моему, это вообще имеет мало общего с животными инстинктами.
>Разница между мной и теми на кого вы ссылаетесь в том что им нужно получать инвестиции и рассказывать сказки инвесторам.
Это абсолютно очевидно, даже упоминать об этом не стоило. Давайте не будем вовлекать совершенно другие материи в беседу.
>Мне это не нужно и я могу себе позволить сомневаться в любом их утверждении.
А я, по-вашему, нет? Как я уже писал выше, мое мнение значительно расходится с большинством этих «корпораций».
>Вы же, гуглите маркетинговый бред
По вашему это все чем я занимаюсь? Сижу и гуглю какой-то «маркетинговый бред»? Это настолько тупо, что даже оскорбительно. Нет, я занимаюсь не этим. Иногда я читаю этот «маркетинговый бред», чтобы примерно представлять над чем сейчас работают эти «корпорации». Но это лишь маленькое хобби.
>и объявляете его истинной в последней инстанции :)
Где? Что? Когда?
В предыдущих постах мы лишь выяснили в чем был корень вашего заблуждения насчет тех ИНС, которые в основном сейчас разрабатывают те самые «корпорации». Если же даже само математическое свойство нелинейности Вы относите к маркетинговому бреду, то я вообще не представляю как с вами обсуждать что-либо.
> давайте больше конкретики
Это ваши слова. И я так же ожидаю от Вас больше конкретики. Может хватит повторять про маркетинговый бред и корпорации?
LorDCA
03.10.2016 01:08-1Ну тогда ждите продолжение. Я рано или поздно выложу результаты своего труда. даже если они окажутся отрицательными. Не бегите впереди паровоза.
Тут даже интересно что случится раньше, я напишу продолжение или моя карма уйдет в минус и на этом моя писанина закончится. :)
Turbo
02.10.2016 21:47Ну вообще нейронные сети проще всего допилить до ИИ аналогичного человеку:
1) Входы есть. Сейчас их мало, например у лучших сетей для картинок в среднем подаётся матрица 224x224. То бишь зрение хоть и плохенькое у ИИ есть. Дальше добавить туда входы для звука, вкусовые рецепторы, какие-то рецепторы для осязания и.т.д. Выходы соединить со всякими сервоприводами и генераторами звука, например.
2) В текущих нейронках используется простейший подход: сначала учим, потом юзаем. Что бы сделать максимально близкое к человеку — надо что бы они учились непрерывно и использовались параллельно.
3) В текущем виде нейронные сети слишком маленькие для каких-либо серьезных задач. При этом жрут дофига мощностей. Так что что бы на их основе сделать что-то приемлемое потребуется дальнейшее развитие микроэлектроники.LorDCA
02.10.2016 22:18-2вы видимо что то пропустили… текущие нейросети это грубо говоря суешь картинку и она тебе говорит котик или нет на картинке… на этом все. каким образом вы планируете обучить нейросеть логическому мышлению?
Turbo
02.10.2016 22:22+1И что? Нейросеть учит аналогии. И котиков она очень хорошо предсказывает по картинкам, которые раньше не видела. Если нейросеть будет достаточно большой, то и логические аналогии они сможет строить. Но вообще логика это не то, в чём хороши нейросетки (как и наш мозг кстати). Почему ИИ должен быть обязательно про логику — для этого есть обычные компы, которые под неё заточены?
LorDCA
02.10.2016 22:25-1обычные компы могут строить логические модели и писать программы для самих себя? или это умеют нейросетки?
Turbo
02.10.2016 22:35+1Нейросетки могут менять свое поведение в зависимости от внешних условий (сигналы которые приходят на её входы и меняют веса в процессе). По сути это и есть изменение программы поведения.
LorDCA
02.10.2016 22:50-1в биологии это вроде бы называется ИНСТИНКТАМИ… тоесть до обдуманного логического поведения все еще далеко и не по той дороге
red75prim
03.10.2016 07:33Нейросеть обучается решать задачки на абстрактное мышление: https://arnabgho.github.io/Contextual-RNN-GAN/
Snakey
02.10.2016 22:16+7Сегодня, дети, мы соберем в гараже сильный искусственный интеллект. Но сначала разберемся, нужен ли он нам. Вот смотрите — все очень старое, а миллион фотографий котиков не вылечат рак. Я кончил.
oneiroid
03.10.2016 00:15+1задачи давно известны. сильный ии нужен чтобы передать ему власть и контроль. люди на этой роли страшно облажались.
muhaa
03.10.2016 01:09> При этом, никто толком не рассказывает, зачем все же человечеству Сильный ИИ. Какие задачи будут перед ним стоять. в чем будет цель его существования. Все обычно какие то общие фразы" НУ ТИПА БУДЕТ КРУТА ЖЕ".
Может статься, что создание сильного ИИ позволит нам понять что мы такое есть. Тогда, само по себе это знание может оказаться важнее или опаснее всего, что может делать ИИ. Представьте себе, что у нас есть полное математическое понимание как работает эмпатия, любознательность, мотивации, ЧСВ, депрессия, страх смерти и так далее. Что бы вы не переживали, вы можете разобраться в этом так же как можно разобраться в работе программ и фреймворков. Человек превратится в алгоритм, который знает самого себя и пытается фиксить самого себя. Не зависнем ли мы вообще после этого? Пока не попробуем не узнаем же.
xtala
03.10.2016 01:09зачем все же человечеству Сильный ИИ?
Ну в дальний космос например с ним полетим. Будем дрыхнуть в анабиозных кроватках, а он пущай штурвал крутит. Главное, чтобы люки не открыл и в пространство всех не вышвырнул. Мало ли что ему там взбредет. Вдруг начитается Лурка по дальней лазерной связи и решит, что он может очень интересно тролить так. И наверное ИИ все таки будет сильно ограничен определенным вектором знаний.azsx
03.10.2016 02:14> Ну в дальний космос например с ним полетим.
Вояджеры полетели в дальний космос и сильный ИИ им для этого не потребовался. От слова совсем.LorDCA
03.10.2016 03:43-1Именно. Что еще забавно, почему то считается что сильный ИИ решит кучу проблем, найдет лекарство от чего нибудь, новые источники энергии и прочий бред… Но как то опускают из вида что какой бы не был ИИ, он будет оперировать ровно теми знаниями которые человечество уже имеет. Новых не добавится.
dipsy
03.10.2016 06:35+1А вам мало этих знаний? Сколько процентов из этих знаний в голове у вас? А если некий гипотетический ИИ человеческого уровня, но с уровнем знаний как у самого умного и эрудированного человека, ничего не забывающий, у которого условно бесконечное время на самообразование (его субьективное время можно ускорить, за ночь он сможет прочитать изучить, сколько человек за 10 лет, например). И таких ИИ сколько угодно штук, они могут взаимодействовать. Много ли проблем они смогут решить?
LorDCA
03.10.2016 06:42-1вы все же пытаетесь притянуть за уши мысль что где то там в глубине исследований уже похоронены сакраментальные ответы на все вопросы? круто тогда. закрываем все исследования и начинаем копать по библиотекам.
dipsy
03.10.2016 07:01+1В хорошо поставленном вопросе уже половина ответа. Есть, как правило, некоторые неизвестные моменты, чтобы их уточнить, сознательно проводятся соответствующие эксперименты, это приводит к появлению новых знаний по результатам экспериментов.
Cryvage
03.10.2016 18:01Вот, кстати, тоже об этом подумал. На мой взгляд, основное отличие сильного ИИ, как раз не в том, что он сможет дать какой-то ответ, а в том, что он будет способен задать вопрос. Сегодняшние нейронные сети уже научились давать ответы на кучу вопросов, например они могут ответить, изображен ли на картинке кот, или как будет слово «кот» по японски. Но нет ни одной нейронной сети, которая могла бы задавать свои собственные вопросы.
Даже если говорить о человеческом разуме, мы уже примерно (возможно ошибочно) представляем, как у человека в голове появляются ответы. Но откуда, черт побери, берутся вопросы? Ведь именно они являются драйвером для любых рассуждений, для любого мыслительного процесса. Без них не может развиваться мысль.
Если подумать, что может сделать искусственный интеллект, имея набор фактов и правил, если будет способен рассуждать логически? Ну, например, сделать все возможные выводы из имеющихся фактов, по имеющимся правилам. В результате получатся новые факты, и можно будет сделать новые выводы. В итоге он, рано или поздно, придет к состоянию, когда все возможные выводы сделаны и все факты открыты. Сколько на это потребуется времени и вычислительных ресурсов, и достижимо ли это вообще, это отдельный вопрос. Просто предположим что это возможно. Казалось бы, это то что нужно, так можно получить все возможные знания. Но человеческий разум работает совершенно не так. Он сам ставит цель, а потом пытается ее достичь. Задает конкретный вопрос и затем ищет ответ именно на на него. Наш же гипотетический ИИ применил все имеющиеся правила ко всем имеющимся фактам. И отсюда возникает вопрос, а можно ли назвать такой искусственный интеллект сильным? Можно ли это вообще назвать интеллектом в полном смысле слова? На мой взгляд нет. Это очень полезная штука, но это не то, что я бы назвал интеллектом. Во всяком случае, личности своей у него точно нет. А, на мой взгляд, у сильного ИИ она должна быть.
В чем выражается личность? Как она себя проявляет? Прежде всего задаваемыми вопросами. Допустим, ответы, разум, будь он искусственный или естественный, должен давать, опираясь на логику и имеющиеся факты, иначе он просто будет не очень-то разумен. Но чем тогда отличаются две личности? Тем, какие вопросы они будут задавать. Это трудно формализовать, но интуитивно это вполне понятно: наша личность сильнее всего выражается в том, что является предметом нашего интереса. Кто-то интересуется наукой, а кто-то азартными играми. Первый будет задаваться вопросами о том, как устроен мир и почему, а второй — на какое число поставить деньги в рулетку. При этом они оба даже могут пользоваться одинаковыми инструментами в своих поисках: матан, теория вероятностей. Но не процесс отражает их личности, и не полученные ответы, а первоначально заданный вопрос.
xtala
03.10.2016 12:21«Вояджеры полетели в дальний космос и сильный ИИ им для этого не потребовался. От слова совсем.»
Вы любезный сравниваете бутылку с запиской и новейший атомный крейсер проекта " Борей ", вы в следующий раз извилину в голове напрягите прежде чем такие сравнения делать, а то как-то глупо выглядите.azsx
04.10.2016 05:54Вы мне конечно не поверите, но…
> зачем все же человечеству Сильный ИИ? Ну в дальний космос например с ним полетим.
Мой ответ — не нужен ИИ, чтобы полететь в дальний космос, полетели уже без ИИ.
Ваш комментарий. Вояджеры — это полная ерунда, как записка в море, вот атомный крейсер — это вещь, 21 век и прочие инновационные технологии. Только вот я не уверен, что при комплексной работе систем атомного крейсера хоть как-то используется ИИ, чтобы Вы под ним не понимали. Тем не менее я могу ошибаться (оборонка, всё секретное), тогда хоть намекните как искусственный разум помогает подводным лодкам функционировать?
ps
Вообще весь класс таких тем надо начинать с определений. Определений ИИ очень много, они размыты. Для одних любая узкая экспертная система — это полноценный работающий ИИ. Для других требуется приставка нейро. Третьим подавай полноценное вербальное общение.
Зато есть огромное число алгоритмов, которые работают везде и которые никто интеллектуальными не обзывает. В том числе и Вояджеры, ИИ на борту нет, а дальний космос есть.
dipsy
03.10.2016 06:56+1Автор конечно знатный провокатор aka тролль. Но если искренне не понимает, то попробую тоже объяснить на примере, вот есть элемент 2И-НЕ или 2ИЛИ-НЕ, есть Инвертор, можно из них строить достаточно сложные логические схемы, на входе один паттерн сигналов, на выходе другой, обработанный по достаточно сложной логике. «Ну и как нам это поможет в создании микропроцессора, зачем это всё? Добились того, что на входе загорается лампочка, когда нечетное количество единиц на входе? Отлично, да? Так мы микропроцессора никогда не построим.» Ничего не напоминает?
Слышали ли вы что-нибудь про рекуррентные NN, про LSTM? Про обучение с подкреплением? ИНС это не только классификатор, преобразующих N входов в M выходов.
TimKruz
06.10.2016 00:08Нейросеть, распознающая котиков — это только часть сильного ИИ, один из интеллектуальных агентов.
Сигналы из этой сети поступают в другие сети или алгоритмы, а там уже принимаются решения и всё такое.
Имхо, за многоагентными системами будущее, и я сам потихоньку пилю собственную…
Это как с мозгом — он состоит из множества отделов, которые выполняют разные задачи и по отдельности их вряд ли можно назвать шибко интеллектуальными, это скорее «тупые» органические автоматы, но в сумме они образуют сложный естественный интеллект, который мы наблюдаем у здоровых людей…
bak
Что это за треш?