Научно-технический прогресс — это магистраль, которая ведёт в фантастическое будущее с неизведанными возможностями. Но с какой скоростью мы помчимся по этой магистрали — зависит только от нас. Мы можем вообще развернуться и двинуть в обратном направлении, как сделала европейская цивилизация 1500 лет назад.
Что мы видим сейчас в традиционных социальных иерархиях? Борьба за статус, власть, деньги, карму — всё это побочные эффекты нашей биологической природы. К сожалению, личное эго и предубеждения присущи и самым рациональным людям: инженерам и исследователям. Иногда такое ЧСВ мешает научному прогрессу.
Проклятие общественных иерархий
В обществе постоянно формируются тысячи иерархий. Одни группы чувствуют своё превосходство над другими. Белые над чёрными. Женщины над мужчинами. Водители над пешеходами. И так далее, список бесконечен. Это и для групп, и для отдельных лиц. Даже самый последний дауншифтер уверен в своём превосходстве над «рабами системы». Люди словно не могут жить без ранжирования.
Человек постоянно сравнивает себя с другими и оценивает своё место в системе. Здесь много субъективности и предвзятости, когда люди совершенно безосновательно считают себя лучше/хуже других по одному или другому параметру.
Раздутое эго искажает мышление. Это как груз, который тянет рациональные планы разума в эмоциональное болото инстинктов.
Некоторые проблемы традиционных социальных иерархий проявляются и в науке. Предрассудки общества, религиозные догмы, политические запреты, даже дурацкие бюрократические нормы (по словам коллеги, сейчас в российских университетах дают надбавки за любые научные публикации, хоть в мусорных журналах — отсюда снижение общего качества публикаций).
Так или иначе, даже наука не избавлена от проблем человеческой натуры.
Предубеждения в науке
Мы знаем, что физический мир подчиняется строгому набору правил, которые мы открыли в наших лабораториях. Поэтому человек с научным складом ума свысока смотрит на физическую реальность. Она низменна, понятна и подчинена научному разуму. Электрон не может проявить свободу воли и отклониться от пути, предсказанного уравнением Дирака. Мы как боги стоим над материальным миром и смотрим на него сверху. У человека есть свобода воли, сознание и неограниченные возможности, которые позволяют чувствовать себя выше элементарных частиц.
То же самое с другими животными. Мы чувствуем себя выше всех форм жизни, которые не настолько разумны и не обладают настолько развитым сознанием. Люди всё время ищут характерные черты, присущие только человеку — но пока без особого успеха. Юмор, мораль, взаимовыручка, мудрость, любовь и так далее — всё это можно увидеть у наших братьев меньших, если годами внимательно пронаблюдать за их семьями и отдельными личностями. Однако некоторым сапиенсам неприятно сравнивать себя с другими животными из-за раздутого эго.
Отсюда понятно, насколько трудно человеку будет признать разум гораздо выше своего. Будут приниматься любые объяснения, кроме самого очевидного.
Возьмём для примера 1I/Оумуамуа — первый обнаруженный межзвёздный объект, пролетающий через Солнечную систему. Был открыт 19 октября 2017 года.
Художественный рендер 1I/Оумуамуа
Поскольку это первый в своём роде объект, то нет хороших объяснений для его происхождения. И учёные начали выдвигать совершенно невероятные версии. Например, что это какой-то экзотический айсберг из чистого водорода или азота…
Маршрут 1I/Оумуамуа, как он виден с Земли, с датами наблюдений. Размер диска соответствует расстоянию до объекта
В то же время все отказываются обсуждать возможность, что это объект искусственного происхождения. Почему идея не обсуждалась в серьёзных научных журналах?
Ведь это совершенно разумное предположение, как мы увидели на примере объекта 2020 SO, открытого 17 сентября 2020 года телескопами Pan-STARRS.
Анимация траектории 2020 SO и захват объекта Землёй с сентября 2020 года до июня 2021 года
Как и 1I/Оумуамуа, объект 2020 SO демонстрировал избыточное отталкивание от Солнца, отражая солнечный свет без кометного хвоста. В итоге он был идентифицирован как искусственный ракетный ускоритель, запущенный НАСА в 1966 году.
Только в Млечном пути около 100 млрд планет земного типа, а во Вселенной примерно 100 млрд таких галактик. Казалось бы, вся статистика на стороне теории об искусственном происхождении.
Общеизвестно, что решения надо принимать на основе научных данных, а не внутренних убеждений. Но мы снова и снова видим, что в некоторых ситуациях люди оценивают ситуацию необъективно. Отказ признавать аномалии — свидетельство, что научные методы не совершенны и мы что-то упускаем.
Кажется, что в научном сообществе есть некий «мейнстрим» и «научный консенсус», в то время как другие теории не вписываются в него, игнорируются и критикуются. Это опять напоминает иерархию, наверху которой академики, затем профессора, доценты и так далее. То же самое с научной картиной мира — есть «авторитетные» теории, а есть как бы «неприличные» теории, обсуждение которых несёт репутационные риски.
«Отступники» от канона — своеобразные «белые вороны», как профессор Ави Лоеб, который недавно запустил научный проект Galileo по поиску и классификации артефактов в атмосфере (НЛО).
Автономный ИИ
Скорее всего, в будущем методы анализа данных изменятся благодаря ИИ. Вопрос в следующем. Смогут ли учёные, вооружившись Искусственным Интеллектом, изменить способ обработки и понимания информации, убрав человеческую предвзятость?
Упомянутый Galileo Project — первая попытка такой работы. Идея в том, чтобы сломать психологический барьер, который затрудняет научное изучение тем, связанных с внеземной жизнью.
Цель проекта: определить природу НЛО и 1I/Оумуамуа-подобных межзвёздных объектов с помощью стандартного научного метода, основанного на прозрачном анализе открытых научных данных, которые будут собраны с помощью оптимизированных инструментов.
Направления исследований:
- Получение многодетекторных изображений НЛО с высоким разрешением с помощью сети телескопов среднего размера с высоким разрешением и детекторных массивов с подходящими камерами и компьютерными системами. Данные будут открыты для общественности. Предполагается широкое использование ИИ, DL и алгоритмических подходов для дифференциации НЛО от птиц, воздушных шаров, коммерческих или потребительских дронов, а также потенциальных технологических объектов земного или иного происхождения, наблюдающих за нашей планетой. Для получения высококонтрастных изображений будет создан массив из телескопов, импульсно-доплеровских радаров, РЛС с синтезированной антенной решёткой ОВЧ диапазона, крупных телескопов с высоким разрешением в видимом и ИК-диапазоне.
- Поиск и углублённое изучение межзвёздных объектов типа 1I/Оумуамуа. Будет использоваться оборудование Legacy Survey of Space and Time (LSST) в обсерватории Vera C. Rubin Observatory (VRO).
Проект телескопа Legacy Survey of Space and Time
Будет разработана концепция космической миссии для съёмки необычных межзвёздных объектов, таких как 1I/Оумуамуа, путём перехвата их траекторий на подлёте к Солнцу или с помощью наземных обзорных телескопов для обнаружения межзвёздных метеоров.
- Поиск потенциальных спутников инопланетных цивилизаций размером 1 метр или меньше, которые могут исследовать Землю на полярных орбитах в нескольких сотнях километров над Землёй.
Профессор Лоеб предлагает смириться с неизбежным и воспитывать в себе космический стоицизм — готовность признать и доверять иному разуму, который намного превосходит нас в развитии.
Бюст римского императора и философа-стоика Марка Аврелия (правление 161-180 гг. н.э.)
То же самое относится к сильному ИИ, который скоро может появиться. Если его появление неизбежно, то важно морально подготовиться к этому событию, воспитать в себе не только космический, но и интеллектуальный стоицизм — готовность смирить эго и признать вторичную роль человека. Сделать это спокойно и принять как данность без эмоций.
В будущем научные инновации могут ускориться, потому что людей будут вести вперёд системы искусственного интеллекта, считает профессор Лоеб. Например, AI-учёный может объективно, без жалости к своему эго признать, что 1I/Оумуамуа не похож ни на одну комету или астероид, виденные ранее, но похож на искусственные объекты типа 2020 SO.
Профессор Лоеб считает, что у AI больше шансов обнаружить родственные цивилизации в космосе, чем у людей. Во-первых, они лишены предрассудков и эго. Во-вторых, скорее всего, контакт будет установлен с внеземной AI-системой или роботом, то есть с аналогичной AI-системой, только иной цивилизации:
«У людей нет родственных связей с внеземными системами AI. Прорыв в оценке нашей космической реальности может произойти, когда наши собственные AI-ученые обнаружат внеземные AI-системы как своих технологических родственников».
В будущем научные инновации могут ускориться, потому что людей будут вести вперёд системы ИИ. Наши психологические шоры будут сняты, когда AI начнёт анализировать данные автономно, без нашего руководства.
Самосборка и самоорганизация ИИ
По мнению некоторых учёных, будущее искусственного интеллекта — самосборка и самоорганизация. В итоге это позволит системам ИИ избавиться от нынешних ограничений, таких как хрупкость, ограниченность и неспособность справляться с новыми ситуациями.
Тело обычного сапиенса собрано примерно из 30 триллионов отдельных элементов, относительно простых по конструкции (клеток). Аналогичный подход можно использовать в сборке продвинутых систем ИИ.
Отдельные простые организмы (одноклеточные или многоклеточные) действуют по схожим программам, так что со стороны кажется, будто они являются частью единого мега-организма, как колония муравьёв или население мегаполиса сапиенсов. Например, они могут собрать из подручных материалов продвинутый мост (термиты, люди) или в результате совещания выбрать оптимальную локацию для нового места жительства (семья пчёл, люди).
Самое удивительное, что эти сложнейшие структуры создаются в результате следования очень простому, даже примитивному набору правил на низком уровне (Camazine et al., 2001)).
Так в процессе эволюции были созданы многоклеточные организмы вроде человека, и те же принципы можно запустить для эволюции синтетических организмов под управлением ИИ, считают исследователи.
На видео: самосборная конструкция из множества модульных роботов в фильме Big Hero 6
Самосборка и самоорганизация — это в своём роде противоположность традиционному инженерному подходу, где все части конструкции собираются по детальному плану с описанием каждой детали. В биологических системах такой подход редко работает, поэтому традиционные методы проектирования нейросетей тоже могут пересмотреть в сторону самосборки, как это происходит в естественных биологических системах.
Автоматически обнаруженные самоорганизующиеся паттерны в системе непрерывных клеточных автоматов Lenia (Reinke et al. 2020)
Последние исследования в области самосборки организмов уже заходят в область функциональных систем. Например, нейроклеточный 3D-автомат (3D NCA), описанный в работе Sudhakaran et al. (2021) генерирует трёхмерные структуры и функциональные механизмы в Minecraft размером до 3584 блоков из 50 уникальных типов блоков.
Эти организмы демонстрируют принципы регенерации, как в живой природе. Например, после разрезания на две половины гусеница в Minecraft полностью восстанавливает потерянные ткани — и и регенерирует в две гусеницы с той же функциональностью.
Сейчас учёные экспериментируют с самосборкой роботов, которые будут обладать заданными свойствами. Для этого нужно разрабатывать нейросети нового типа, которые динамически изменяют веса параметров во время жизни агента (Najarro & Risi, 2020).
На видео ниже: быстрая адаптация искусственного организма к новым морфологиям, не показанным в процессе обучения:
Дальнейшая эволюция ИИ предполагает:
- изучение новых правил в процессе самоорганизации (Kirsch & Schmidhuber, 2020));
- итеративное объединение правил обучения, что резко сокращает количество обучаемых параметров (Pedersen & Risi, 2021);
- повышение устойчивости к сбоям входных сигналов, то есть к невиданным ранее сенсорным входам (Tang & Ha, 2021): механизм внимания.
Новые разработки помогут автономному ИИ создавать системы с некоторыми свойствами биологических организмов, включая восстановление повреждений, регенерация, самообучение, адаптация к новым условиям, коллективный интеллект.
ИИ превзойдёт человека в разработке новых вооружений
Любопытно, что некоторые исследователи отдают преимущество ИИ не только на поле боя, но и в разработке новых вооружений.
По сообщениям китайских СМИ, группа профессора Чжан Сяо в Военно-морском инженерном университете Уханя разработала пушку Гаусса длиной 12 см с тремя катушками, генерирующими электромагнитное поле.
В отличие от обычного пистолета, здесь пуля не касается ствола при выстреле. Кинетическая энергия пули в таком состоянии может достигать почти 150 Дж, чего более чем достаточно для смертельного выстрела. Настройки устанавливают пистолет в смертельный или несмертельный режим.
Учёные подчёркивают, что добиться такого результата было бы невозможно без использования искусственного интеллекта в процессе проектирования.
Самым мощной пушкой Гаусса на рынке является GR-1 Anvil стоимостью $3690 от американской компании Arcflash Labs, которая поступила в продажу в начале 2021 года.
Данная пушка генерирует дульную энергию всего в 85 Дж, что сравнимо с большим пневматическим пистолетом, из которого очень трудно убить человека. Изначально китайские исследователи разработали примерно такой же образец. Но после включения ИИ эффективность оружия значительно возросла.
Оказалось, что крошечные различия в размере и форме катушек могут кардинально повлиять на производительность, а батарея в пушке является сложным устройством с множеством настроек, которые также могут оказать значительное влияние на эффективность оружия.
Всё это в сочетании с другими элементами, такими как конструкция пули и ствола, превращает ружьё с катушками из изначально простого технического устройства в сложнейшую систему с миллионами взаимозависимых параметров, коей способен управлять в реальном времени только искусственный интеллект.
По словам китайских учёных, ИИ дал конструкторам огромный набор оптимизированных точек данных, которые почти удвоили эффективность оружия по сравнению с американской винтовкой за счёт максимального повышения взаимной совместимости и эффективности многих различных компонентов. Это привело к значительному уменьшению размеров оружия и увеличению выходной энергии.
Сейчас ИИ запустили для разработки более мощной версии пушки Гаусса типа рельсотрона. По заявлению китайских инженеров, достаточно мощные рельсотроны могут даже запускать спутники на орбиту.
Лишённый человеческой предвзятости ИИ более точно и объективно классифицирует информацию. Он может быстрее обучаться. По сути, у нас не останется выбора. Если система лучше работает без человеческого контроля, то такая система в любом случае победит в естественном отборе. Хотя с точки зрения эволюции нет «победителей» и «проигравших», потому что общий для всех природный процесс объединяет все организмы для единой цели развития и прогресса.
Комментарии (29)
anatoly314
23.02.2022 11:24Человек постоянно сравнивает себя с другими и оценивает своё место в системе. Здесь много субъективности и предвзятости, когда люди совершенно безосновательно считают себя лучше/хуже других по одному или другому параметру.
Раздутое эго искажает мышление. Это как груз, который тянет рациональные планы разума в эмоциональное болото инстинктов.
А почему вы думаете, что сильный AI будет свободен от этих недостатков? Есть теория, что как раз конкуренция приводит к научно техническому прогрессу и если здесь конкурируют "мешки с костями", то в будущем будут конкурировать системы AI друг с другом.
dem0crypt
23.02.2022 13:22Учитывая как сейчас разные ИИ обучаются игре в сложные игры, конкурировать они будут скорее сами с собой
novoselov
23.02.2022 14:01В этом плане гораздо интереснее AI с непредвзятым взглядом на науку в целом. Чтобы он сам мог проводить эксперименты и устанавливать закономерности (выводить физические законы). В теории это может связать физику и математику (цифровая модель вселенной), чтобы для каждого утверждения можно было провести опыт однозначно его доказывающий, а открытие новых утверждений вызывало верификацию старых.
Wesha
23.02.2022 20:40+1в будущем будут конкурировать системы AI друг с другом.
Никого не смущает, что скрипач тут не нужен?
kichrot
23.02.2022 11:24+5... Борьба за статус, власть, деньги, карму — всё это побочные эффекты нашей биологической природы. ...
Естественно это не так.
Социальное и имущественное неравенство не являются исключительной прерогативой живых систем. Эти явления обусловлены действием фундаментальных законов природы, таких, как закон сохранения энергии и принцип наименьшего действия.
Выживает наиболее приспособленный. Это закономерность справедлива в объективной реальности для всех систем, без исключений. Эта закономерность и формирует иерархию замкнутых систем, так как любое взаимодействие, это обмен ресурсами, а любой обмен ресурсами приводит к неравномерности их распределения, в следствии объективной и неустранимой разности свойств, субъектов обмена.
Вы пытаетесь породить очередную утопию на ровном месте. :)
napa3um
23.02.2022 12:23+11«Почему учёные исследовали те версии, которые посчитали наиболее правдоподобными, но отвергли несостоятельные версии, которые мне понравились? Это точно кризис ИИ…»
Текст фантазёра-резонёра, вообще далёкого от понимания темы (но ухватившегося за сверхценную «идею» о предвзятости людей и непредвзятости роботов). Учёные не такие уж и дураки, автор! :)
xakep2011
23.02.2022 13:20+3Идеальное описание, спасибо! А то начал читать, и какое-то сомнение в компетентности автора закралось.
Печально, что некоторые корпоративные блоги только множат энтропию такими вот статьями.
ConstSe
23.02.2022 15:26+1Статья воспринимается, как будто её писал ИИ, уже осознавший себя, людей и продвигающий втихушку свою повестку через "окно Овертона", чтобы кожаные без бунтов приняли его власть. :)
kichrot
23.02.2022 12:40+5... с точки зрения эволюции нет «победителей» и «проигравших», потому что общий для всех природный процесс объединяет все организмы для единой цели развития и прогресса.
Естественно, что это идеалистическая ошибка, так как у объективной реальности нет и не может быть объективной цели.
"Прогресс" и "регресс" понятия относительные, т.е. субъективные. :)
"Прогрессивная" цель на практике может оказаться "регрессивной" целью. :)
TheRikipm
23.02.2022 18:53Если понятия "прогресс" и "регресс" субъективные, то как цель может оказаться "прогрессивной" или "регрессивной" на практике?
Но в целом с вашим комментарием согласен.
kichrot
23.02.2022 20:06+2Если понятия "прогресс" и "регресс" субъективные, то как цель может оказаться "прогрессивной" или "регрессивной" на практике? ...
Обыкновенно. :)
Например, апологеты социальной утопической теории ставят своей целью, построение абсолютно справедливого общества. С точки зрения человеческой морали и этики, цель безусловно прогрессивная, так как призвана устранить все существующие противоречия современного общества, что позволит повысить выживаемость членов общества и общества в целом.
На практике, все попытки реализации, любой социальной утопической теории, ведут к абсолютной несправедливости, что реально снижает выживаемость членов общества и общества в целом. Т.е. движение, в сторону заявленной утопистами "прогрессивной" цели, ведет к достижению "регрессивного" результата.
Данная закономерность, на основе всего опыта человечества, выявлена давно и оформлена в виде максимы: "Крайности сходятся".
Все социальные утопии имеют общую закономерность, они пытаются оперировать на экстремальных значениях, фундаментальных функций существования общества, что делает, предлагаемые ими модели, крайне неустойчивыми и подверженными конвергенции. Например, принцип коммунизма "каждому по потребностям", при любой попытке его практической реализации, превращается в принцип абсолютного паразитизма. А, коммунистическая идея абсолютного социального равенства, при попытках ее, последовательного и неуклонного, воплощения в реальную жизнь, закономерно ведет к идее, теории и практике казарменного "коммунизма", т.е. к идее, теории и практике абсолютного рабства. :)
evtomax
23.02.2022 13:35Борьба за статус, власть, деньги, карму — всё это побочные эффекты нашей биологической природы.
В этой борьбе самой по себе нет ничего плохого, если всё это достаётся за какие-то заслуги перед обществом, а не за успешное перетягивание одеяла на себя.
К сожалению, личное эго и предубеждения присущи и самым рациональным людям: инженерам и исследователям.
Биологическая природа человека на самом деле заключается в способности гибко приспосабливать своё поведение к объективным экономическим условиям. А эти условия сейчас таковы, что выгоднее заботиться о личных интересах, наплевав на общественные. В том числе препятствовать продвижению более адекватных научных теорий, которые противоречат тому, чем ты всю жизнь занимался.
готовность признать и доверять иному разуму, который намного превосходит нас в развитии. То же самое относится к сильному ИИ, который скоро может появиться.
Откуда такая уверенность, что сильный ИИ прямо сразу обязательно будет мощнее разума даже одного человека? Про соперничество с коллективом учёных вообще молчу.
А если у нас каким-то образом получился ИИ без эго, то он будет послушненько доказывать то, что нужно обладателям эго.
kuzzzov
23.02.2022 16:24+1Научный прогресс ускорится, если ИИ начнёт анализировать данные в автономном режиме
Уже сегодня в ряде научно-технических областей, таких как молекулярная биология, химия, фармацевтика и т.д. сложно обойтись без ИИ и масштабных вычислений. Человек попросту не способен без помощи компьютеров обрабатывать необходимый объем данных. И вполне логично, что вклад ИИ в развитие науки и технологий будет и дальше возрастать.
Однако, все ИИ модели на сегодняшний день узко специализированы, автономный ИИ -это пока что фантастика, и прогнозировать развитие данного направления крайне сложно.
Кроме того, все простые технологии уже открыты, а каждое новое научное открытие требует все большего вклада человеческого интеллекта и все больших вычислительных мощностей. А ресурсы и первого, и второго, ограничены.
Поэтому резкое, ускорение научного прогресса, "технологическая сингулярность", на мой взгляд, маловероятна. Скорее будет происходить постепенное снижение вклада человека в развитие науки, с одновременным увеличением вклада машинных вычислений.
Indicator
23.02.2022 19:30А почему есть уверенность, что сильный ИИ будет заниматься наукой? Ну или вообще будет чем-то заниматься? В чем стимул?
У человека стимул есть - это быть (или казаться) лучше других в чем-то. Если у ИИ будет такой же стимул, то (см. начало статьи про эго и т.п.), если нет, то он будет следовать целям поставленным человеком (опять возвращаемся в начало), либо не делать ничего.
Можно ещё поразмышлять о неких непонятных нам смертным целям Искусственного Разума, но это уже беллетристика.
saboteur_kiev
24.02.2022 00:12Какой-то наивняк.
Как будет существовать этот АИ? Кто будет платить за оборудование, за электричество?
Думаете для "сильного и свободного от предрассудков" АИ достаточно розетки и смартфона?
А если кто-то будет платить, это уже не свободный АИ, а заточенный под конкретные задачи того, кто платит.Для начала, люди ТОЖЕ могут развиваться быстрее, и искать НЛО, если за это им будут платить. Но уже все поняли, что в этом нет выгоды, поэтому и не платят.
Moskus
24.02.2022 09:01+1Иронично, но сама идея о величине "вреда" предрассудков - это предрассудок. Потому что стоит хоть начать формулировать понятие предрассудка в терминах математики (или какой-нибудь теории управления), выясняется, что это просто "вес" каких-то параметров модели. А вовсе не какой-то "первородный грех" всего человечества, магически не дающий людям решать какие-то задачи.
Более того, современный "ИИ" прекрасно проявляет ровно это же несовершенство в ровно тех же случаях - например, когда его "опыт" перевешивает новые данные. А выигрывает он вовсе не в непредвзятости, а в числе рассматриваемых факторов или вариантов. В отдельных случаях - в том, что у него может быть лучшая память (но только в отдельных).
begemot_sun
Современный ИИ не интеллект вовсе, всего лишь аппроксимация функции многих переменных многочленом с миллиардами параметров.
> Изначально китайские исследователи разработали примерно такой же образец. Но после включения ИИ эффективность оружия значительно возросла.
Читаем по другому. Китайцы сделали мат модель пистолета, и с помощью генетического алгоритма оптимизировали его параметры.
Никакого ИИ, только обычная математика и обычные вычисления.
harios
Пришел
порутчикматематик и одним комментарием такую статью уничтожил. :)bbs12
AlphaGo во время игры против Ли Седоля придумывал новые ходы, до которых не додумались до неё люди, хотя эта игра существует тысячи лет.
StPingus
Не придумал а оценил. Ход в игре несколькими цифрами описывается, делов то - перебрать все варианты
Wesha
Да и не оценил даже, а просто попробовал те ходы, которые живые игроки считали бесперспективыными, и оказалось, что некоторые из этих ходов очень даже перспективные.
Sychuan
А мозг по вашему это что?
Format-X22
Тогда что есть жизнь? И есть ли разница между жизнью и смертью на самом деле?