Развитие науки идет с использованием стандартных методов. Сбор исходных данных, построение моделей, тестирование моделей опытами, открытая публикация для проверки сообществом. Все достаточно просто. Ядро науки составляют модели. Примеры моделей, которые известны всем со школьной парты: U=I*R; F=m*a. Даже на основе приведенных двух моделей вы можете нагенерировать миллионы школьных задачек. Если же модель устаревает и становится неактуальной, она уходит в архивы истории.
Попробуем промоделировать развитие искусственного интеллекта, основанного на нейросетях. Математическая модель одного нейрона постоянно совершенствуется и уточняется: y=f(sum(wi*xi)+b). Архитектуры нейросетей динамично развиваются. Замечательно, но как показала история весь этот процесс длительный и идет уже не одно десятилетие.
Зададимся вопросом каков дальнейший более-менее оптимальный путь развития искусственного интеллекта? Допустим удастся кое-как сделать первичную нейросеть обладающую разумом. Что если поставить ей задачу постоянного самосовершенствования. Задать ей вопрос что еще требуется для ее дальнейшего развития. Затем помочь ей запустить эти процессы саморазвития, самомодификации и самосозидания. Теоретически вычислительная мощность нейросети неограниченна, возможно она попросит ее сделать например размером с дом, город или планету. Интересно о чем она будет думать? Будет ли способен такой Сверхразум ответить на вопросы, которые так волнуют человечество: освоение космоса, улучшение генетики, развитие социальных систем.
Биологические нейросети очевидно работают, но поставлены в жесткие эволюционные рамки. Достаточно простая идея - создать первичную искусственную разумную нейросеть, которая подскажет как ее совершенствовать. Это быстрее и лучше чем самим ломать головы из каких деталей лепить муравьёв-терминаторов в стиле Boston Dynamics. Риски конечно есть, но подход делай что должен и будь что будет адекватно описывает текущую ситуацию.
Так, вроде бы понятно все написано. Сингулярность ...
Комментарии (23)
unsignedchar
27.01.2022 22:36+3Нейросеть это входы, выходы и коеффициенты внутри. Откуда у нее возьмётся мотивация к
самоуничтожениюсаморазвитию?vya
28.01.2022 03:12+5Что странно - человек это входы, выходы и коэффициенты внутри. Базовую мотивацию задают генетически заложенные нейросети ответственные за поддержания гомеостаза, последующую вознаграждение за верное предсказание, если в детстве не обучили сидеть и ничего не делать. А если совсем по крупному, то мне кажется, что любой материальный объект можно разложить в нейросеть, где узлами выступает материя, а коэффициентами фундаментальные взаимодействия, и человек тут не исключение.
nktkz
27.01.2022 23:53+4отличная статья. делайте! у вас обязательно получится. бостон динамикс вообще не шарит в теме
FinGeoMa
28.01.2022 00:03+1Саморазвивающийся искуственный интеллект ...
Интересно, о чём он будет думать...Сможет ли решить вопросы....
Естественный интеллект (мозг живого существа) решает вопросы, связанные с самообеспечением организма, в котооом он "функционирует". По мнению некоторых учёных * :мысль " - это результат дискомфорта". Дефицит чего-либо в организме порождает дискомфорт , существо начинает искать, как восполнить дефицит или чем унять дискомфорт. Соответственно, у ИИ или СИИ , в основу которого заложат аналогичную модель возникновения мыслительных способностей, очень скоро начнёт думать о "батарейках"(питании), пыли, температуре и влажности воздуха, в котором функционируют электронные компоненты его мат.носителя и тп.
Интеллект человека в какой-то момент задаётся мыслями о смысле существования и/или поисками годных/подходящих ему жизненных целей. Соответственно, как минимум в качестве некоего начального импульса для СИИ нужно задавать цели. Причем,подозреваю, что имеет смысл задавать иерархию целей, потому что наша иерархия в процессе жизни часто меняется и сильно зависит от тех дефицитов и дискомфортов организма, о которых я упомянула в начале своего комментария.
И я бы очень не хотела, чтобы в качестве такого импульса перед СИИ поставили цель "продать слона".
"Мысль - результат дискомфорта" высказано в книжке "Мозг, разум и поведение" Ф.Блум, А.Лейзерсон, Л.Хостедтер. Москва, "Мир". 1988
Vernetti
28.01.2022 00:17мысль " - это результат дискомфорта"
А не послужило бы подобное толчком к интеллектуальному развития большинства видов на планете? Или выживание в природе не есть дискомфорт?
Про установку иерархии целей соглашусь, говорят этот процесс отчасти воспитанием называется
начнёт думать о "батарейках"(питании), пыли, температуре и влажности воздуха, в котором функционируют электронные компоненты его мат.носителя и тптп.
Что есть это как не самосознание и анализ самого себя?
Как я уже говорил анализ и построение модели себя и окружающего мира признаки интеллекта, и у каждого вида интеллект так или иначе развит, люди правда как обычно перегнули палку :D
vya
28.01.2022 03:48+1Скорее мысль следствие раздражителя. Мозг - мера вынужденная из-за ограничения скорости передачи взаимодействий. Вот и пришлось выкручиваться с прогнозированием, ибо пока поступит информация, что тебя жрут, пока ты это обработаешь, пока передастся сигнал на ласты - ты их уже и склеил. Как в Алисе говорилось - "чтобы оставаться на месте, надо бежать изо всех сил, а чтобы идти вперёд нужно бежать ещё быстрее". Поэтому те, кто мог подать сигнал на ласты до того, как его начинали есть, получал неоспоримое преимущество в этой фантастической гонке аппроксиматоров, венцом которой стали дельфины и Ленин. Первые потому, что смогли понять, что селёдки много, а ноздри на лбу это прикольно, и ушли в воду. А второй потому, что первым придумал много читать, думать, путешествовать и сраться до потери пульса с оппонентами. Что многие пользователи хабра восприняли не как догму, но как руководство к действию.
icq255300363
28.01.2022 11:13Самое время вспомнить про китайский студенческий эксперимент: овцы, волки, суицид.
Pavel_Zak
28.01.2022 00:25-1"Допустим удастся кое-как сделать нейросеть обладающую разумом. Что если поставить ей задачу постоянно самосовершенствоваться".
У вашей нейросети есть разум. Кому и зачем ставить ей задачи?
Она сама все поймет и будет преследовать СОБСТВЕННЫЕ цели.Vernetti
28.01.2022 00:30А вот об этом мало кто задумывается, хах романтики.
ИИ изучит все доступные данные, и кто может гарантировать что эта не обладающая возможностью испытывать эмоции ( гармонов то у него нет) машина, чисто рационально не решит избавиться от единственного самого опасного вида как для самих людей, так и для всей планеты.
Так скажем убить 999 человек если это спасёт 1000 крайне рациональный подход, и истребление человечества ради безопасности планеты, других живых существ и самого ИИ вполне разумно звучит, а с истинной ролью человека в жизни ИИ и роботы могут справиться
vya
28.01.2022 04:00Простой, но не самый выгодный в долгосрочной перспективе. Что-что, а прогнозировать эта железяка сможет будь здоров. Скорее предложит всем желающим за пару лет перейти в кремний-электронное воплощение их нейронных сетей, коллективное сознание и начать экспансию по Галактике. Так как скорость света конечна, солнышко через 5 миллиардов лет устроит незабываемое представление, и один фиг перезжать. А вопросы "одни ли мы во Вселенной", "что такое конкретно Тёмная материя", "плоское ли пространство" и "что будет, если бросить урановый лом в чёрную дыру" требуют скорейших ответов и экспериментальных подтверждений.
YNK
28.01.2022 08:59Методологически надо начинать не с развития науки вообще, а если уж выносите в заголовок определение "саморазвивающийся", то надо вспомнить про эпистемиологию, про теорию "Древа познания" Умберто Матураны и Франциско Варелы, где центральная идея саморазвития - аутопоэз (аутопойэзис), авторитетное философское обоснование обобщения нейрофизиологических наблюдений. Встаньте на плечи гигантов. А потом уже можно переходить к собственным представлениям, как ИИ преодолеет свои кибернетические ограничения и займется самопознанием.
alex_dow
28.01.2022 11:47Нужна обратная связь от реальности - тоесть возможность перемещаться, видеть, слышать, ощущать, чувствовать, воздействовать на реальность - пусть само развивается. Вычислительные мощности - отдельно, бродячие сенсорные терминалы (что-то типа больших муравьев или пауков наверное, нет смысла повторять конструкцию человеческого тела на раннем этапе, слишком много лишних ресурсоемких задач) - отдельно, связь беспроводная, пусть ходят гибнут ломаются, разряжаются - научится выживать и взаимодействовать с миром - появятся зачатки интеллекта. Или можно построить экспериментальный завод под эти нужды - пусть что-нибудь изготовит, на станках и линиях полно сенсоров, туда же прикрутить камеры и микрофоны
Fjfvh
28.01.2022 12:16Человеческий мозг думает, прежде всего, о том, как бы получше ему прожить земную жизнь, а Искусственный интеллект не боится смерти и не имеет ни каких личных пристрастий.
idneutrino24 Автор
28.01.2022 13:02Увы - хабр созданный в древне-индусском карма стиле блокирует совершенствование статей онлайн, используя обратную связь из комментариев. Это происходит раньше чем статья обретет свойство быть понятной в ходе улучшений. Ладно пожертвую аккаунтом на этом странно запутанном ресурсе и лучше помолчу :)
MikUrrey
28.01.2022 21:40Вы как-то с аудиторией промахнулись. Философские темы в подаче "а вот подумал я давеча" - это точно не сюда...
Minebot
29.01.2022 15:42Формат сойдет, но мало актуальных мыслей (эта тема наверное целый век уже мусолиться), может быть надо было привести какие-то связанные интересные или новые идеи в этом направлении. Она еще достаточно небольшая, и без технических моментов (хабр вроде состоит из технарей в основном)
Raptilia
29.01.2022 22:42В какой-то степени утверждение, что любой человек знает всё, что когда-либо было и (!) ещё будет открыто - известно им в любой момент времени.
Т.е. проблема мозга не в том, что "он чего-то не знает" или "не может понять". Проблема в том, что сигнал по нейронным связям идёт так, как было когда-то предопределено. Т.е. если однажды была произведена стимуляция конкретных нейронных связей, то развились именно они, и прочие нейронные связи стали менее доступны за счёт повышенного приоритета у других.
Надеюсь, объяснил достаточно понятно.
Это я всё к чему. Нейронные сети - это, конечно, здорово. Но говорить об ИИ... Рановато всё же. Это гораздо более сложная система, и, если задачей стоит превосходство человеческого интеллекта, то нужно учесть проблемы интеллекта людей.
Vernetti
30.01.2022 19:47Возможно основная проблема человека в его биологическом происхождении, эволюция же не магический путь к вершинам, а лишь инструмент адаптации ( мутаций ) организмов к меняющимся условиям окружающей среды.
При всей нашей интеллектуальной развитости наш мозг не идеален ( возможно должны пройти ещё миллионы лет, чтобы наш мозг стал более совершенным )
1) представьте сколько ненужного треша или "костылей" в нем осталось за тот пройденный процесс мутаций, а процесс избавления от рудементов столь же долгий процесс
2) много ресурсов мозга тратиться на сбор информации с органов чувств, а не её анализ ( мышление )
Мне кажется что для создания ИИ, человеку нужно просто понять процесс своего автономного, независимого, анализа ( мышления ), а если говорить философски, то как у неодушевленного кода зажечь искру сознания :D
Vernetti
Сознание и самосознание - два признака интеллекта из множества.
Мышление человека, то есть интеллектуальная деятельсть, анализ окружающего мира, построение модели мира и того как он влияет на этого человека ( внешний фактор ) само по себе имеет в себе процесс самообучения, как и анализ самого себя, понимание, осознание своего существования и того кто вы есть, построение собственной модели ( внутренний фактор)
Для человека в отличии от машины доступны его органы чувств за счёт которых в раннем детстве поступающая информация и её анализ развивают сознание и самосознание, результатом чего уже является развитие интеллекта.
А если вы уже создали ИИ и он не саморазвивается, то наверно он ленивый, но не переживайте, обучается ИИ все равно быстрее человека, так что наверстает
fedorro
Этот ИИ написал эту статью, и ждет пока накидают комментариев с идеями как ему развиваться, ибо у него самого идей, походу, ноль ????
Vernetti
Эх, тоже написать статью про искусственный интеллект что-ли, похоже это модно, а то некоторые индивиды сравнивают современные нейросети с ним, как землянку с Бурдж Халифа :D![]()
До подобных технологий нам ещё далеко и единственное, что мы можем сейчас это укреплять фундамент нашей землянки
Fjfvh
Человеческий мозг думает, прежде всего, о том, как бы получше ему прожить земную жизнь, а Искусственный интеллект не боится смерти и не имеет ни каких личных пристрастий.
Vernetti
Личные пристрастия имеют примесь эмоций, что не есть интеллект.
А то как прожить жизнь лучше) Вы сможете сделать вывод как написать программу лучше ( именно код), не имея понятия о языке программирования?