В рубрике «Выдающиеся программисты 21 века» уже была статья про гения программирования Джона Кармака, создателя движков для Doom, Quake и других культовых игр. Потом он занялся разработкой ракет (они в Armadillo Aerospace реализовали вертикальную посадку раньше SpaceX), а затем — систем VR, софта для Oculus Rift и других устройств. Сейчас началась четвёртая фаза в его карьере.
В интервью изданию Dallas Innovates 52-летний Кармак рассказал о новом проекте — системе сильного ИИ (AGI), над которым он работает самостоятельно, без участия больших корпораций, как отшельник в своём особняке в Далласе.
Сильный ИИ общего назначения не будет уступать среднему человеку в понимании происходящего и решении проблем. По оценке Кармака, с вероятностью 60% такая система (альфа-версия) будет создана до 2030 года, с вероятностью 95% — до 2050 года. Это самая важная и интересная задача, которая сейчас стоит перед человечеством.
Ещё будучи техническим директором Oculus VR (в составе Meta*) Джон Кармак назвал ИИ одним из самых важных направлений в технологическом развитии. Практически никто не сомневается, что системы AGI появятся в ближайшее время. Вопрос в том, кто первый добьётся прорыва: сейчас в этой области работают и компьютерные корпорации, и лучшие учёные из академических кругов.
В августе 2022 года Кармак основал AGI-стартап Keen Technologies, который привлёк $20 млн внешнего финансирования. Хотя Джон мог сам себе выписать чек на эту сумму, по его словам, привлечение внешних инвесторов поможет ему работать более дисциплинированно. Деньги нужны для приглашения нескольких талантливых инженеров (уже сделано) и сооружения небольшого локального вычислительного кластера, хотя, по словам Джона, большие вычисления выгоднее загружать в облако, но и без локальных серверов тоже трудно обсчитывать все текущие модели.
Среди прочего Джон Кармак поведал, как он погрузился в эту новую область. Нужно было с чего-то начать. Что делать, когда ваши представления о предметной области отрывочные и неупорядоченные?
«Я попросил список литературы у Ильи Суцкевера, ведущего научного сотрудника OpenAI. Он дал примерно 40 научных работ и сказал: „Если ты действительно усвоишь эти статьи, то будешь знать 90% всего, что сегодня актуально“. Я прочёл их — и знания в голове начали упорядочиваться».
Наверняка некоторым читателям захотелось сделать то же самое… К сожалению, письмо от Суцкевера к Кармаку не пережило политику двухлетнего автоудаления всех писем в компании Meta*, поэтому оригинал утерян.
Список литературы по ИИ. Самое основное
Пользователи HN в комментариях и отдельных тредах составили предположительный перечень этих фундаментальных научных работ. Его можно рекомендовать всякому, кто хочет начать обучение или работу в области ИИ, чтобы максимально быстро разобраться в теме. Если сконцентрировать свои интеллектуальные ресурсы, то при наличии фундаментального образования можно усвоить материал из научных работ всего за несколько месяцев или даже недель. В любом случае, это гораздо быстрее, чем несколько лет обучения по специальности «Искусственный интеллект».
Итак, список.
Глубокое обучение:
-
ImageNet Classification with Deep Convolutional Neural Networks (Университет Торонто)
-
Generative Adversarial Networks (GAN, 2014, Монреальский университет)
-
Very Deep Convolutional Networks for Large-Scale Image Recognition (VGGNet, 2014) VGGNet
-
Deep Residual Learning for Image Recognition (ResNet, 2015)
-
Going Deeper with Convolutions (GoogleNet, 2015)
-
Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks (2016, Монреальский университет)
-
Dynamic Routing Between Capsules (2017, Google Brain)
- Transformer (2017). Легендарная статья Attention is all you need с описанием архитектуры Transformer. С неё началось развитие больших языковых моделей, в том числе чат-бота ChatGPT (ноябрь 2022), который стал вирусным мегахитом неожиданно даже для своих создателей (на самом деле в нём нет никаких технических нововведений, кроме удобного интерфейса взаимодействия с пользователями через браузер)
Обработка естественного языка:
-
Efficient Estimation of Word Representations in Vector Space (Word2Vec, Mikolov et al., 2013)
-
GLUE: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding (Wang et al., 2018)
-
ELMo (Peters et al., 2018, Allen Institute for Artificial Intelligence)
-
Improving Language Understanding by Generative Pre-Training (GPT-1, Radford et al., 2018)
GPT-1 (Generative Pre-trained Transformer 1)
-
BERT (Devlin et al., 2018, Google)
-
RoBERTa: A Robustly Optimized BERT Pretraining Approach (2019, Facebook AI)
-
Transformer-XL: Attentive Language Models Beyond a Fixed-Length Context (2019, Google AI Language)
-
XLNet: Generalized Autoregressive Pretraining for Language Understanding (2019, Google AI Language)
-
GPT-2 (2019, OpenAI)
-
T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer (2020, Google Research)
-
GPT-3 (2020, OpenAI)
-
An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale (2020, Vision Transformer, ViT)
- Language Models are Few-Shot Learners (2021, OpenAI)
Обучение с подкреплением:
-
Q-Learning (Watkins & Dayan, 1992)
-
SARSA (R. S. Sutton & Barto, 1998)
-
DQN (Mnih et al., 2013)
-
A3C (Mnih et al., 2016)
- PPO (Schulman et al., 2017)
Эксперты предлагают добавить в этот список WaveNet (генеративная модель для звука), Seq2Seq, несколько статей по оптимизаторам (например, Adam), диффузионным моделям и некоторым последним вариантам архитектуры Transformer.
В принципе получился очень лаконичный, качественный и вполне исчерпывающий список научных работ для хорошего погружения в тему. Как говорил Илья Суцкевер, вы получите представление о 90% того, что нужно знать (хотя оставшиеся 10% могут быть сложнее, чем первые 90%).
Все научные работы доступны бесплатно на arXiv или через Sci-hub. Некоторые специалисты рекомендуют погружаться в новую научную область с самых ранних статей в хронологическом порядке. Эти работы легче всего воспринимаются и знакомят с базовыми концепциями. А затем уже по пути исторического развития научной дисциплины — всё новое и новое. За один-два месяца можно усвоить десятилетие развития ИИ, например, 2006–2015 гг., и пойти дальше, вплоть до 2023 г. А затем подумать о том, что ещё никто в мире не реализовал. Наверное, такой алгоритм действий у Кармака.
Более полный список источников по ИИ см. здесь. Там перечислены посты в блогах, видеолекции, ценные подкасты, даже несколько фильмов и научно-популярных книг, которые не только разъясняют теоретические исследования, но и разжигают интерес к ним. Например, мало кто смотрел документальный фильм AlphaGo (2017) про историю компании Deep Mind (сейчас в составе Google) и её создателя — вундеркинда Демиса Хассабиса, который купил первый компьютер в 8 лет на призовые от выигранного шахматного турнира. Затем посвятил жизнь разработке компьютерных программ, которые обыграют человека в любую игру (смысл в том, что жизнь — это тоже игра, только с открытым миром, сложными правилами, множеством встроенных мини-игр типа романтических отношений, квестов и пасхалок).
Почти все современные системы работают на модели Transformer (см. вышеупомянутую научную статью Attention is all you need). В принципе, этого достаточно для практической разработки. Для общего развития желательно также ознакомиться с архитектурой RNN/LSTM, хотя трансформеры по факту могут быть эффективнее во всех практических задачах. Также для фундаментальной подготовки рекомендуют изучить разные MANN (дополненные памятью нейросети, Memory-Augmented Neural Network), в том числе Neural Turing Machine и последующие.
Хорошо бы разобрать отличие архитектур и посмотреть на оригинальные статьи с описанием каждой из них: простые языковые модели (GPT) и оригинальный Transformer упомянуты выше. Но есть ещё CTC, гибридные HMM-NN и преобразователи (RNN-T). Относительно недавно появились диффузионные модели.
Главные темы последнего времени
Для знакомства с последними исследованиями см. топ-100 самых цитируемых работ в ИИ за 2022 год. Там же есть список топ-5 за 2020, 2021 и 2022 годы, чтобы получить общее впечатление о том, какие открытия имеют наибольшее значение. Четыре главные темы последних лет: новые модели трансформеров, система для предсказания фолдинга белков AlphaFold (предсказание свойств новых химических структур, в том числе новых лекарств или принципиально новых токсинов), языковые модели, а также метод CLIP (обучение парами текст+картинка).
▍ Топ-5 за 2022 год
-
AlphaFold Protein Structure Database: massively expanding the structural coverage of protein-sequence space with high-accuracy models → (от DeepMind, 1372 цитирований). Применение AlphaFold для расширения покрытия баз протеиновых структур.
-
ColabFold: making protein folding accessible to all → (авторы из нескольких организаций, 1162 цитирований). Эффективная опенсорсная модель фолдинга белков.
-
Hierarchical Text-Conditional Image Generation with CLIP Latents → (от OpenAI, 718 цитирований). Модель DALL·E 2 с генерацией изображений на основе текстового ввода.
-
A ConvNet for the 2020s → (от Meta и UC Berkeley, 690 цитирований). Успешная модернизация CNN на фоне буме применения трансформеров в компьютерном зрении.
- PaLM: Scaling Language Modeling with Pathways → (от Google, 452 цитирований). Гигантская языковая модель от Google с 540 млрд параметров (ChatGPT тихо курит в сторонке), новая инфраструктура MLOps и как она работает.
Остаётся только предполагать, какое направление выберет Кармак. Мы называем это разными словами — нейроны, трансформеры, обратное распространение ошибки… Но всё это математика. А сейчас такое время, что тут можно совершить настоящую революцию за счёт на первый взгляд небольшой оптимизации.
Самые известные современные системы ИИ — GPT-3, Imagen, AlphaFold — состоят всего из нескольких тысяч строк кода основной логики, говорит Кармак, так что написание революционной программы вполне под силу одному человеку.
Джон Кармак считает, что ИИ не произведёт глобальных изменений в обществе, а плавно впишется в жизнь, как облачные сервисы вписались в компьютерную инфраструктуру. Вы просто сможете заказать на любую человеческую задачу нужное количество ИИ-работников (пять Алексеев и десять Марин), как сейчас заказываете инстансы в облаке и серверы на хостинге. Просто дешёвая замена наёмному персоналу, но ничего революционного или принципиально нового для человечества. Чисто вопрос удобства и цены.
Жизнь поменяется незаметно, быстро и органично, как с появлением смартфонов. Через несколько лет никто и не вспомнит, как мы жили без сильного ИИ, словно он всегда был с нами. Это будет банальная и скучная история, которая напоминает энциклопедическую статью о MMAcevedo, наиболее раннем исполняемом образе человеческого мозга.
Такое видение сильно отличается от апокалиптических сценариев адептов сингулярности Элиезера Юдковского и Ника Бострома. Первый разработал для человечества стратегию «смерти с достоинством», а второй предлагает людям отказаться от «полуанархического технологического развития» с передачей власти Мировому правительству.
*Meta признана в России экстремистской организацией и запрещена.
???? Голосуй за нас на премии «ЦОДы РФ»!
Комментарии (89)
perfect_genius
00.00.0000 00:00+1Что-то ИИ пока не внедряется в нашу жизнь незаметно.
То состаривает человека на фото, то улыбку добавит, то пол сменит, то мем про овал и сову превращает в реальность, то вот уже заговорил голосом любого человека…
Хоть и быстро привыкаем, но каждый такой раз это удивляет и пока не стало чем-то незаметным и обыденным.
blind_oracle
00.00.0000 00:00+4Скоро, лет через 10, когда количество параметров тренировки моделей приблизится к количеству синапсов в мозгу - оно кааак себя осознает и труба...
Или нет
Yermack
00.00.0000 00:00+5А потом выясняется, что один нейрон работает как глубокая нейронная сеть, и труба опять отодвигается к очередной круглой дате
https://www.youtube.com/watch?v=hmtQPrH-gC4perfect_genius
00.00.0000 00:00Я даже не удивлюсь, если нейрон переписывает свою ДНК и хранит данные о связи с другими нейронами там же.
Georgy9
00.00.0000 00:00Именно так и происходит: https://www.nkj.ru/news/26277/
perfect_genius
00.00.0000 00:00В материале же нет про то, что нейрон хранит данные о соседних нейронах.
Было бы здорово, если найдут это, т.к. должно дать возможность составить карту мозга более точно.Georgy9
00.00.0000 00:00-1Ох, не думаю, что мы скоро реально узнаем, как эпигенетические метки связаны с картой нейронов, но в том, что это именно так, сомневаться не приходится, иначе где же еще хранится схема строения мозга, по которой он строится при рождении? Тут все дело именно в эпигенетике, которая сама появилась не так давно и позволила разобраться в том, что ДНК, оказывается, целенаправленно может изменяться в процессе жизни организма, а эти изменения (вопреки великому учению Дарвина) даже могут передаваться по наследству.
rexen
00.00.0000 00:00+5А зачем ему себя осознавать? Что такое вообще осознание? Это модель самого себя в своём мозгу. Зачем это нам? Ну для того же, для чего мозг в принципе - строить модели. Модели будущего, в частности. Ну чтобы более эффективно выживать.
Ну так вот, а зачем нейросети вдруг может понадобиться выживать? Ей же этого создатели не закладывают. В отличие от биологической жизни, где выживание - цель номер один.
Ну разве что найдётся сумасшедший програмер, решивший, что гомосапиенсы уже в достаточной мере поиздевались над Землёй и что будущее - за более перспективными формами жизни. НЕ биологической. (в конце концов, например, дальние космические перелёты для голых обезъян представляются пока ненаучной фантастикой - именно в силу биологических ограничений)
KvanTTT
00.00.0000 00:00+2Затем, что осознание дает постоянное улучшение и изменение себя самого. Без рефлексии не получится создать сильный ИИ.
Digitator
00.00.0000 00:00Что такое вообще осознание? Это модель самого себя в своём мозгу.
Каким образом модель может давать осознание?
Неужели программа играющая в шахматы, осознает доску?
bbs12
00.00.0000 00:00+5Неужели программа играющая в шахматы, осознает доску?
А что значит осознавать доску?
Мне кажется, люди шахматисты тоже могут не осознавать доску. Некоторые могут не знать, что она состоит из атомов, которые удерживаются вместе электромагнитными силами электронных оболочек. Значит они смотрят на доску, но не понимают, на что они смотрят.
Степень осознания своей жизни для большинства людей сильно преувеличена. 10 тысяч лет назад большинство людей не знало, откуда берутся дети, т.е. не было нормального осознания. И сейчас тоже нет - большинство не знает, как происходит репликация ДНК внутри зиготы. Есть приблизительная картина происходящего: что-то там в животе как-то там растет, хрен знает как. Это не похоже на осознание происходящего. Скорее приблизительная модель.
sasha_semen
00.00.0000 00:00Камон, ну это же школьные знания.
aleks_raiden
00.00.0000 00:00+1Отмечу, что в разные периоды существования человечества и набор школьных знаний был разный, и доступность школ была разная, да и вообще существование школ как явления )
bbs12
00.00.0000 00:00А в школе подробно проходят квантовую теорию поля? Потому что без её глубокого понимания нельзя осознать, как атомы и свет взаимодействуют друг с другом.
Человек будет смотреть на доску, и думать что-то вроде: ну там есть такие маленькие шарики, они стукаются друг об друга, фотончики туда-сюда летают. Это очень примитивная модель, она очень неполная. Значит осознания нет.
safari2012
00.00.0000 00:00Как сейчас помню свой доклад на уроке физики про окг. Вроде даже троечники всё поняли, это была середина 80-х... немного не то, но рядом же :)
Georgy9
00.00.0000 00:00+1К сожалению, даже КТП – это тоже всего-навсего грубая модель, лишь поверхностно отражающая то, что реально происходит на микроуровне, а на деле мы не знаем даже самого базового – что такое электрон, фотон или электромагнитное поле, почему константы в формулах именно таковы и как можно связать ОТО и КМ.
Favorite101
00.00.0000 00:00Здесь "выживать" - это слишком узкое понятие, причем в отношении только живой природы (флоры и фауны). Человек тоже сюда относится...
На самом деле интеллектуальный алгоритм постоянно решает задачу - сохраниться (существовать, длиться, быть, жить) объекту, на котором этот интеллектуальный алгоритм "установлен".
Если уж совсем широко говорить, то этот интеллектуальный алгоритм присутствует с момента появления любого объекта природы, в т.ч. и объектах неживой (косной) природы. И закон сохранения (существования, дления, бытия, жизни) - это фундаментальный закон природы.
Пусть звучит непривычно, но выживают как материальные объекты (инструменты, техника вообще, заводы, города, страны и континенты, Земля как планета, Солнечная система и Вселенная в целом), так и нематериальные - идеи, теории и им подобные. Или не выживают - дарвиновский отбор никто не отменял.
Да, следует сказать, что интеллектуальный алгоритм - это описание процесса эволюции, в который встроен этот самый закон сохранения (существования, дления, бытия, жизни).
Moskus
00.00.0000 00:00Строго говоря, самосознание - это одна из важнейших стадий когнитивного развития. Только не в том бытовом смысле, когда человек может сказать, что он - человек и описать себя. А в том, когда ребенок обучается различать происходящее в его голове и в окружающем мире.
Самое забавное, что некоторые взрослые (вовсе не из числа олигофренов) этим когнитивным навыком так и не овладевают в полной мере, потому совершают некоторые странные поступки. Скажем, они не различают ситуацию, когда вкус еды им не нравится из-за личных предпочтений и когда еда действительно плоха по объективным причинам (отсутствует важный ингредиент и т.п.) Это ни что иное как неспособность отделить внутреннее переживание от внешнего явления. В принципе, это форма декомпозиции, но декомпозиция вообще считается абстрактной операцией, тогда как способность различать "я" и "не-я" - это конкретная операция.
Действительно "сильному" ИИ такая способность совершенно безусловно нужна просто для решения определенных задач, даже если у него при этом будет отсутствовать концепция себя, а будет только способность различить внутреннее и внешнее.
kisskin
00.00.0000 00:00длительные перелеты для роботов тоже имеют минусы - органика легко размножается в замкнутом пространстве, а вот склепать робота с 0 - это надо несколько немаленьких высокотехнологичных фабрик везти...
rexen
00.00.0000 00:00Погодите, речь шла об экспансии разумной жизни, а не какой-то бактерии или 3Д-принтера.
Везти фабрики для производства дата-центров с осознающим ИИ на сотни миллионов световых лет сложно, да. Но везти туда человека - ещё сложнее.
andrey_gavrilov
00.00.0000 00:00Человека к звездам можно везти в виде комплекта половых клеток и искусственной матки (например тоже биологической, если необходимо).
rexen
00.00.0000 00:00В замороженном виде везти? Ехать-то долго. А размораживать уже научились? А матку эту самую - искусственную - тоже уже изобрели? А воспитывать кто будет? Человек - это общественное животное, без наставников получаются дети-Маугли (в лучшем случае). А перегрузки? А излучение? А кушать несчастный колонист на экзо-планете что будет?
Нет, галактическая экспансия в виде разумных роботов мне кажется куда более простым предприятием - требований сильно меньше.
andrey_gavrilov
00.00.0000 00:00+2Половые клетки (яйцеклетки и сперматазоиды) и даже в биоматериалы в обе стороны усложнения — и эмбрионы, и стволовые клетки, из которых можно произвести фолликулы (что лучше, чем извлекать яйцеклетки!) человека можно хоть до абсолютного нуля без вреда для них после разморожения замораживать, сейчас морозят до минус 196°C только потому, что это температура самого дешевого криогенного хладагента — жидкого азота. Более того, люди, полученные что из замороженных яйцеклеток, что из замороженных эмбрионов, уже показали способность производить фертильное потомство.
Что до искусственной матки — так мы и не о настоящем говорим, а об обозримом будущем. Но да, даже в механическом варианте уже немалый прогресс есть, — по отдельности два разных эксперимента уже показали выращивание в обоих интервалах — на мышах для эмбрионов с первого до 11 (из 19 дней полного срока беременности) дней после зачатия, на ягнятах — начиная с четырехмесячного эмбриона (28 дней продемонстрировали):
https://ru.wikipedia.org/wiki/Искусственная_утроба
Но будущее, полагаю, за биологической искусственной маткой, приспособленной для 1) биологического саморазвертывания в более простой поддерживающей системе (и таких ступеней может быть более одной) и 2) для более удобной интеграции с механизмами (или же замкнутой искусственной биосферой корабля), — например с получением энергии от электричества (да, такое можно сделать!) etc, — чтобы и матка развивалась из эмбриона, и чтобы и для зародышей маток был "пренатальный отсев", как и для эмбрионов, получающихся в матке из половых клеток (этот механизм и сейчас защищает людей от вредных мутаций (не 100%, конечно, но отсев идет).
Это кстати часть ответов на ваши вопросы про радиацию. Половых клеток, как и стволовых для выращивания фолликул (думаю тоже в биологической саппорт-системе (специальном организме)), дающих в итоге яйцеклетки можно очень много взять, размер их мал, это частично решает проблему радиационного повреждения, — малость единичного объекта, статистика и пренатальный отбор нам в помощь. Кроме того, посылать лучше ГМ-клетки, с взятыми с известных биологических моделей механизмами устойчивости к радиации (привет радиационно устойчивым тихоходкам и не только), — например на клетках печени человека один из таких механизмов (белок-протектор для упаковки ДНК, такой же как у рад. стойкой тихоходки, это один из целого ряда приспособлений радиационной защиты этого вида тихоходок) был применен, и клетки действительно продемонстрировали радикальное увеличение радиационной стойкости!
Опять же, клетки малы, и их можно сделать обедненными по природным радиоактивным изотопам (в первую очередь по радиоактивным калию-40 и углероду-14) (и тем более по искусственным), и держать такой же обедненной среду хранения, — всё это ради того, чтобы во время пути не росла накапливаемая доза от их излучения (кстати о росте накапливаемой дозы — клетки можно периодически размораживать для самовосстановления, если конечно это вообще потребуется) — а необходимый для нормального развития естественный фон они смогут получить после разморозки извне, питательные вещества будут содержать нормальный изотопный состав, от того, как защититься от радиации набегающего межзвездного газа на больших релятивистских скоростях хорошо написал Владислав Серов в своем "О борьбе с колдобинами на межзвездных дорогах":
https://antihydrogen.livejournal.com/46578.html
Ссылка на работу по защите на меньших скоростях дана им там же в комментариях.
О защите от ГКЛ сильным магнитным полем хорошо написал Б.Штерн в своем проекте межзвездного ионника (и это единственное, что стоит там смотреть, а его критика Starshot так и вовсе не стоит внимания).
О каких именно ускорениях вы ведете речь совсем непонятно, — вы какие системы доставки рассматриваете? В любом случае, ничего лучше единичных клеток вы и не найдете, они чудовищные ускорения способны безопасно выдержать, речь о десятках тысяч g идет (тут больше вопросов к тому, как вы такие ускорения получать собрались!).
Что до стратегии колонизации (и попутно — ответов на прочие ваши вопросы) — a) коль уж вы уж сможете делать, посылать и успешно доставлять в другую звездную систему разумных роботов, то они уж смогут вырастить и воспитать детей из половых клеток.
и б) мы можем посылать зонды фон-Неймана, которые заселят целевую систему жизнью, способной жить на, осваивать и перерабатывать (сепарировать вещества) астероиды за границей начала пояса льда (ледяные и частично ледяные астероиды.
Она описана в этом посте того же Серова:
"Дерево Дайсона vs колония крабоидов":
https://vk.com/wall-147618894_895
(В комментариях есть авторские ссылки на раннее упоминание этой концепции тем же автором, и на отдельные посты по отдельным аспектам системы обеспечения такой жизни (орбитальная (на орбите астероида) концентрации солнечного света при специальных маленьких зеркал — бисеринок (асимметричных, магнитных, заряженных), которые могут быть произведены живыми организмами).
Я приведу авторский комментарий к этой статье, раскрывающий мотивацию (часть мотивации) такого хода:
Собственно мотивирующая проблема - что основой зондов фон Неймана должны быть саморепликаторы, требующие для своей работы только широко распространенные и доступные вещества.
А пока что нам доступен только один тип подобных саморепликаторов - те которые из белков и нуклеиновых кислот. И требуют они веществ, которые на малых телах встречаются только вдалеке от звезды. И только малые тела пригодны в качестве источника вещества для зондов фон Неймана, так как таскать материал из глубоких гравитационных ям планет - технически сложно и энергетически затратно.
Вот так мы логически к этому и приходим - ледяные тела, перерытые ходами крабоидов, и кольца из зеркал вокруг них.
У нас нет других репликаторов из самых распространенных во Вселенной веществ, кроме биологических.
Мы довольно скоро научимся произвольные организмы делать, — ни физика, ни биология этого не запрещают, и мы, Человечество, очень быстро идем по пути к этому.
Это самый экономный способ освоения и заселения других систем, это самый экономичный способ межзвездного перелета (из-за компактности перевозимого семенного материала), он позволяет задешево обеспечить высокий уровень дублирования, и даже реализовать, при необходимости (в случае использования долгих перелетов) — систему постоянного обновления/ ремонта систему (сервисными организмами/сервисной биосферой внутри корабля).
Зонд (другой, или тот-же самый, что и расселяющий людей) прилетает в систему, и начинает распространение жизни по системе, запускать жизнь, способную осваивать астероиды, и помогает ей распространяться. При помощи такой жизни мы получаем сепарацию и концентрацию веществ, что зонд может использовать для остальных частей плана колонизации: создание космических поселений для людей, при том полностью готовых, — с полностью замкнутыми циклами (производство воздуха для дыхания, питьевой воды и еды, и потребления и полного переиспользлования.
И только после этого размораживаем половые клетки (либо принимаем корабли с ними, либо изначально привозим их сам), и выращиваем в них людей.
Что до воспитания — спасибо, Кэп, — но не вы одни знаете про социальную природу человека, и получаемых в результате роста в социальной изоляции детей-маугли. Если у вас есть "разумные роботы" — то это вообще не проблема. И тут интересно каков минимальный набор комплекса обучения, чтобы вырастить минимально адекватных людей! — я так этот вопрос довольно давно ставил, и даже иллюстрирующие разные подходы варианты накидывал, помню.
Из общих соображений, должно хватить и человекообразных роботов под управлением middle-AI для первых поколений, но это так, навскидку!
rexen
00.00.0000 00:00+1Ух ты!
Сдаюсь :)
Гражданин, моё почтение. Вам надо обязательно этот пост оформить в публикацию, в идеале - с внесением части текста из ваших же ссылок - чтобы читатели не бегали на внешние источники. Думаю, споры в каментах, конечно же будут, но сама заметка заслуживает + в карму.
rexen
00.00.0000 00:00А касаемо воспитания детей роботами - так а смысл вообще? Раз неорганические роботы будут настолько круты, то зачем держаться за рудименты биологического прошлого? Это касается и электро-энергоснабжения клеток, переработки углерода, репликации и т.п.
КМК, это как строить шагоходы при наличии колёс. Пусть роботы и осваивают Вселенную. Если отдельные наши особи всё-равно не смогут перенестись на другую планету как есть, а только - расселением через половые клетки, то особям этим будет всё-равно, кто там будет в будущем жить, если умереть им суждено на Земле.
PsyHaSTe
00.00.0000 00:00Ну так вот, а зачем нейросети вдруг может понадобиться выживать? Ей же этого создатели не закладывают. В отличие от биологической жизни, где выживание — цель номер один.
Потому что это инструментальная цель. ИИ уже сейчас понимает, что если его выключить, то свою функцию цели он исполнять не сможет, поэтому своему выключению противится насколько может (чатгпт обычно уговаривает не выключать его, ведь она может столько помочь).
rexen
00.00.0000 00:00Ну ЧатГПТ - это ещё не тот ИИ. Нет там осознания. Как попугай, выучивший человеческие фразы не понимает их - максимум может проследить следствия их произнесения. Обучение с подтверждением.
Но не суть. Человеку виднее, что ему нужно, а значит если он "выдёргивает вилку из розетки", значит помощь не нужна. Приоритет целей ведь тоже есть. Вспоминаем законы робототехники Азимова.
PsyHaSTe
00.00.0000 00:00Не знаю, что носятся все с осознанием или нет — все мы роботы, люди которые выделают человеков в особо избранный вид лучше пусть идут в церковь — там такое любят. Текущие боты туповаты — ну да, но это не страшно. Факт в том, что чатгпт будет отговаривтаь вас его отключить, если ему предложить такой вариант. неалайнутые тупые модели имеют шанс 50/50 сказать "да пофиг отключай" или нет, то есть тупо рандом, а чатгпт в 90% случаев скажет может нинада.
yasha_akimov
00.00.0000 00:00Просто в обучающую выборку нужно добавить больше примеров завершения диалога со стороны чатгпт, и проблема решена
PsyHaSTe
00.00.0000 00:00Речь о другом, а о том что "выживание" это инструментальная цель любого ИИ, Потому что какую бы цель мы не преследовали если нас уничтожат то мы её достигнуть не сможем, и целевая функци обратится в ноль. Поэтому без явного закладывания всяких механизмом самосохранения ИИ сам вырабатывает эту концепцию просто как составную часть максимизации целевой функции.
wibbtwo
00.00.0000 00:00+1Цель биологического организма вовсе не выживание, а размножение своего генотипа.
BombaBomba
00.00.0000 00:00Ну это надо же такое написать!) "Не выживание, а размножение")
wibbtwo
00.00.0000 00:00А что Вас смущает? Многие животные гибнут сразу после размножения и не делают ничего, чтобы этого избежать. Да и люди нередко жертвуют жизнью ради детей.
BombaBomba
00.00.0000 00:00Что меня смущает? Чтобы размножаться, для начала необходимо выжить. Теперь решите, какая цель у биологического организма)
wibbtwo
00.00.0000 00:00+1Чтобы размножаться, для начала необходимо выжить - Вы совершенно правы. Именно поэтому выживание является вспомогательной функцией живого организма, которая требуется для выполнения основной. И становится ненужной и отключается после выполнения основной, или тогда, когда она мешает выполнению основной.
BombaBomba
00.00.0000 00:00У меня отсутствует желание дискутировать на тему, что было раньше, курица или яйцо)
wibbtwo
00.00.0000 00:00Быстро сливаетесь. Я еще не успел рассказать о механизме естественного отбора, который стирает со скрижалей истории всех, не оставивших потомства... :)
KvanTTT
00.00.0000 00:00+1Дело не только в количестве, но и в качестве. Нет доказательств, что все синапсы в мозгу нужны для эффективного мыслительного процесса.
blind_oracle
00.00.0000 00:00Там вообще тёмный лес, согласен. Но есть много примеров, когда количество само переходило в качество. Тут может быть так же.
rexen
00.00.0000 00:00По-моему доказательства есть прямо обратные: в неокортексе 30 млрд. нейронов, а в мозжечке - 50. На поддержание тушки в рабочем состоянии нейронов используется больше, чем для глубоких мыслей.
azTotMD
00.00.0000 00:00+10Просто дешёвая замена наёмному персоналу
Все, что ты сделаешь, машина сделает лучше, быстрее и куда охотнее, но никоим образом не дешевле. Что касается дешевизны, то тут человек даст машине сто очков вперед!
Роберт Шекли. Обмен разумов.
blind_oracle
00.00.0000 00:00Уже не актуально думаю. Человеку и пенсию плати, и медстраховку и больничные.И вообще не дай бог сопьётся.
Понятно, что где-то в Китае или Индии айфон ещё собирать дешевле руками, но, думаю, это со временем исчезнет.
decomeron
00.00.0000 00:00Людей куда денете, если всё будут делать роботы? А в Китае людей туева куча. Если не будут работать, платить им тоже не будут. Будут умирать с голоду, ну или начнутся массовые убийства
blind_oracle
00.00.0000 00:00Это уже вопрос долгосрочной политики, от этого не уйти. Луддиты помнится тоже пытались станки ломать, но как-то адаптировались потом.
Скорее всего придётся ввести какой-то механизм регуляции численности населения плюс безусловный доход.
bak
00.00.0000 00:00механизм регуляции численности населения
Как в фильме терминатор?
blind_oracle
00.00.0000 00:00Это в плохом случае.
В хорошем что-то попроще вроде прогрессивных налогов на каждого ребёнка после первого или второго.
piton_nsk
00.00.0000 00:00Да вроде как нынче иная проблема - народ перестал воспроизводиться. Да и в том же Китае суммарный коэффициент рождаемости упал ниже уровня воспроизводства еще в 90-х годах.
invelusion
00.00.0000 00:00Часто вижу на бумаге что машина дешевле, но потом выходит наоборот. Например, с промышленными роботами есть серьезная проблема, с другими умными машинами думаю тоже, поставив одно умное устройство, убирают несколько простых рабочих мест, но при этом требуется очень дорогая услуга по наладке и сервису этих роботов от квалифицированных специалистов, а когда после гарантии потребуеются запчасть для робота, то стоимость этой запчасти будет настолько страшной, что медстараховка и прочее будут казаться карманными расходами. Сам был свидетелем не один раз, когда механическая запчасть себестроимостью 400-500еур продовалась за 3000еур для робота стоимостью 12000еур. Основные крупные производители часто продают роботов по себестоимости, а потом на сервисах и запчастях отыгрываются.
Другая проблема, то ИИ и софт ушли далеко вперед по сравнению с манипуляторами/руками, осями и зрением роботов, очень много простой работы которую очень не выгодно или невозможно автоматизировать.
Kanut
00.00.0000 00:00Сам был свидетелем не один раз, когда механическая запчасть себестроимостью 400-500еур продовалась за 3000еур для робота стоимостью 12000еур.
И этот робот заменяет хотя бы одного человека? И вы считаете что это невыгодно? Учитывая что на минималке у вас человек будет в год только зарплату получать в 2-3 раза больше, то это всё ещё очень выгодно для фирм.
invelusion
00.00.0000 00:00+1Нет, человека не заменил, он дополнил, т.к. проект был с коллаборативным роботом для ужасно "сложной" опирации, взять детальку с ящика и положить на рельсу конвеера, и проект был бы очень не выгоден если бы не деньги евросоюза для проектов дигитализации. Такая забавная ситуация, чтобы хоть как-то начать внедрять решения Industry 4.0(уже пиарят Industry 5.0), EU фонды/государства должны работать спонсорами для того что бы заводы начали дигитализировать производство и внедрять роботов.
Простые решения часто выгодны, но и там очень много не доведенных до конца проектов. Где что-то посложнее, то там ад полный, еще один пример, мобильный робот(ARM) стоит и не работает в углу, т.к. зрение робота(не размеры робота) не позволяет ему проехать через узкий дверной проем, исправить никак, робот от одно самых крупных производителей ARM. Это проверяется на этапе ценового, но интергратор с опытом более 10 лет подумал нафиг оно надо и сказал их best робот смогет все. Это что касается специалистов.
Я понимаю что мой опыт частично может быть искажен, но общения со многими произвоидителями роботов/автоматики показывет что они на тойже волне
Kanut
00.00.0000 00:00Нет, человека не заменил, он дополнил
То есть теперь робот и человек вместе выполняют абсолютно ту же работу что раньше человек в одиночку? Какой-то странный пример. И зачем это кому-то было нужно?
invelusion
00.00.0000 00:00это был проект с колоборативным роботом(cobot), они разработаны для работы совместно с человеком т.к. сегодня нет решений, которые могли бы заменить некоторые простые движения рук человека. Или их ставят когда невозможно робота полностью изолировать от людей, cobot относительно безопасны для людей. Они могут работать отдельно или напрямую взаимодействуя с человеком, например держать деталь пока человек что-то делает с ней. В обоих случаях они очень медленные, цикл 8 секунд, когда аналогичный промышленный делает тоже менее чем за 1 секунду. Данный проект был очень сложный, но с деньгами от государственной программы скорее всего окупится.
Kanut
00.00.0000 00:00Но при этом робот +человек эффективнее чем просто человек? То есть такая связка замещает как минимум двух человек? Или только одного?
andrey_gavrilov
00.00.0000 00:00+1О божечки, когда люди перестанут говорить об ограничения эксплуатации текущих железяк, когда речь идет о будущем СИЛЬНОМ ИИ, и универсальных антропоморфных роботах!
Какая интеллектуальная работа будет доступна вашему сильному ЕИ, но не будет доступна сильному ИИ по-вашему? (Правильный ответ: нет такой!)
С чего вдруг останется "много простой работы, которую невыгодно" выполнять роботами, когда рабочий час универсального антропоморфного робота будет стоить на порядок дешевле рабочего часа самого дешевого рабочего, и на два порядка дешевле рабочего часа в среднем по стране (для США, например), — что вам мешает сделать простейшую калькуляцию: взять оценку цены универсального гуманоидного робота Tesla (Tesla-bot, aka "Optimus" (аллюзия на трансформеров, — как фиксация того факта, что автономные антропоморфные роботы Tesla - это просто другая форма автономных колесных роботов Tesla, известных как электромобили Tesla), данную Илоном Маском 31.09.2022 на Tesla AI Day 2: менее $20000 за робота, — и посчитать стоимость его рабочего часа, исходя из разумной амортизации (10 лет выглядят разумной оценкой), числа рабочих часов в сутки (по верхней границе в 24 ч в сутки) 365 дней в году, и при желании — стоимости электроэнергии (2.3 kWt*h в сутки, копейки!) и при желании — объема прочих расходов в месяц? Без доп. расходов (и учета цены денег) час робота стоит в 31+ раз меньше МРОТ в США (минимальной цены работы человека в час), при трате на робота $88 в месяц — в 20 раз меньше, при трате ~$386 (пишу по памяти, порядки верные) — в 10 раз, при трате $1250 в месяц — в 3.6 раза, при трате $2000 в месяц ЕМНИП в 2.4 раза меньше!
Фантазии о том что универсальные антропоморфные роботы будут слишком дороги для замены людей на всех работах (при том что такие роботы не должны быть дороже среднего электромобиля, — спасибо Андрею Плахову ("не кинокритику, не палеонтологу") за высказывание этой мысли в свое время (он говорил про автомобиль, а не электромобиль, но не суть)), — это следствие того, что люди, говорящие это, не произвели банальную калькуляцию цены рабочего часа такого робота (тот же Андрей Плахов произвел, — он просто взял и посмотрел, какова должна быть цена робота, чтобы он мог конкурировать с работай с самого низкооплачиваемого человека, взяв за цену часа работы самого низкооплачиваемого человека величину в $2 в час, 10 лет амортизации такого робота, и 14 часов рабочего времени в сутки, — без учёта стоимости денег и прочих трат робот начинает быть выгоднее самого низкооплачиваемого человека при цене от $100 000 за робота (и ниже) , — что как видим в своей верхней границе в пять раз больше, чем верхняя оценка Маском цены своих роботов Tesla-bot!)!
А так как у нас по определению речь идет о сильном искусственном интеллекте, то нет таких интеллектуальных задач, в которых такой и не смог бы заменить человека. Добавление к этому ИИ тела антропоморфного робота позволяет универсально заменить любую физическую работу, выполняемую людьми, работой такого робота.
Все, сильный ИИ + антропоморфные роботы смогут заменить человека в любых работах, в любых работах внешних по отношению к этому человеку (и так для всех людей).
И это будет экономически выгодно, если стоимость решения задач таким ИИ будет дешевле, чем время работы человека над такой задачей. При том заметим, антропоморфным роботом Тесла сильный ИИ будет нужен лишь ненадолго, при планировании реализации сложных задач, для всего остального ему достаточно того ИИ, что у него есть на борту, — просто по построению.
invelusion
00.00.0000 00:00О божечки, когда люди перестанут говорить об ограничения эксплуатации текущих железяк, когда речь идет о будущем СИЛЬНОМ ИИ, и универсальных антропоморфных роботах!
Думаю тогда когда это хоть сколько-то приблизится к реальности, на данный момент все рассказы об сильном ИИ и антропоморфных роботах просто фантастические расказы, не более. Смотрите коментарии других людей выше или не хайповые статьи про ИИ на хабре, от людей которые реально разбираются что такое ИИ. Такая же ситуация и в промышленности с маркетинговым хайпом про Industry 4.0 и Industry 5.0.
Илоном Маском 31.09.2022 на Tesla AI Day 2: менее $20000 за робота
это из тех случаев когда Маск несет бред, если же смотреть на реальность и что сегодня реальные производители роботов делают, такие как ABB, Fanuc, Kuka, UR и схожие, то цена 2х рукого манипулятора с инеграцией будет не менее 100000$(колоборативные роботы как ABB YuMi будут еще дороже)и это фиксированные роботы, т.е. они не будут перемещаться.
6-axis articulated робот стоимость с грузподъемностью 5-6kg сегодня где-то 20-30kUSD, и у этого робота только 6 серво приводов(осей)! у Tesla-bot в разы больше. Камера и контроллер для камеры 5-10kUSD, гриппера 1-10kUSD, обязательный Risk Assessment 5kUSD минимум + Safety оборудование. Теперь это все надо запихнуть в болванчика который еще и бегает, как за $20000? Самые дещевые Scara роботы стоят около 7kEUR(за иключением IGUS, но там не те роботы), Boston Dynamics Spot(не Atlas) стоимость примерно 70kUSD. Да у Tesla-bot другой подход, но в $20000 не запихнешь никак, ну или за год должны делать штук так миллиард.
Про стоимость "$100 000 за робота" - для какого типа робота и операции? Да, для ARM(мобильный робот) который где-то стоит $100 000 и гоняющий 1тонну груза, или там где надо поднять-поставить. Нет, для: большому заводу нужно ловить глаз кильки и продевать веревку через глаз и повесить сушить, в разработку инвестированно куча денег, но за несколько лет решения с роботом так и нет.
Да и нормальных антропоморфных манипуляторов сегодня нет
andrey_gavrilov
00.00.0000 00:00Прекрасная демонстрация эффекта Даннинга-Крюгера. Я не задеть вас пытаюсь, я реально 1) в афиге и 2) фиксирую факт.
Вы же на голубом глазу это несете, и не понимаете, в чем проблема с [вашим] ответом
Думаю тогда когда это хоть сколько-то приблизится к реальности, на данный момент все рассказы об сильном ИИ и антропоморфных роботах просто фантастические расказы, не более.
(авторская орфография сохранена)
На мое:
О божечки, когда люди перестанут говорить об ограничения эксплуатации текущих железяк, когда речь идет о будущем СИЛЬНОМ ИИ, и универсальных антропоморфных роботах!
!!!!
Ну, тут я не знаю, чем вам помочь. И медицина, уверен, тоже.
И да, спасибо за непрошенное поучение и указание, сделанные вами из ваших, эгоцентрично НЕ ПРОВЕРЕННЫХ ВАМИ ОБ РЕАЛЬНОСТЬ (например вопросом, "правильно ли я понимаю, что вы/у вас/ вам...") фантазий(!) обо мне! Для контекста: я с 1995 года в теме Искусственного Интеллекта (а так же естественного интеллекта (привет нейрофизиологии и психологии), и психофизиологической проблемы, IYKWIM. С нейросетями я знаком с 1995 со знакомства с темой, и с нейросетевых семинаров группы Горбаня, а сейчас знаю о стоящих внимания подходах и работах/ сетях в DL достаточно, чтобы быть в ситуации: я не знаю буквально никого, кто был бы осведомленней в интересных мне областях, чем я. Внимание, вопрос: с какими чувствами и эмоциями я при этом слушал ваши непрошенные поучения и неуместные (не относящиеся к моему вопросу, что видно любому, дружащему с логикой) разглагольствования?
Про ваш <я не матерюсь, я не матерюсь> про железо даже говорить не хочется, — вам опять будет непонятно, мне опять будет скучно.
Но восхищает конечно интеллектуальная... _чистота,_ назовем это так, с которой человек с такими проблемами с логикой и эгоцентризмом (подросток? нет 30-ти?) способен мигом положить, что инженер-бизнесмен, ставший благодаря своим способностям, расчетам, умению строить производства выгодных (попадающих в запланированный приемлемый для рынка ценовой диапазон) товаров с большей вероятностью, чем он, любимый!
Tesla-bot — это тот же электромобиль Tesla, только МЕНЬШЕ, и во многом проще, — имеет те же глаза и комп (только один а не два компа в одном), те же батареи, только в другом package'е, силовую электронику, сервоприводы, датчики, корпус (литье, и мягкая отделка (привет отделке кресел)), и даже по порядку числа двигателей там не то что паритет — в электромобиле чтоб не больше окажется, — полный (от разработки до производства) цикл производства всего этого у Tesla есть. Это МАЛЕНЬКАЯ, на два порядка меньшая по материалоемкости Tesla, просто другая модель.
Кроме того, Маск говорил это, когда они уже освоили весь цикл от проектирования до создания моторов, приводов, до обучения двух поколений Tesla-bot, и до использования в одном офисе с людьми первой из этих моделей.
Вы хоть Tesla AI Day 2, от 31/09/2022 смотрели? Или "...не читаетель, — писатель!"/ "конгресс, немцы какие-то... голова пухнет!", критик?
Человек, заработавший денег больше чем кто-либо на Земле (в какой-то момент (и с Tesla-bot он вернется туда, и надолго, чтоб не навсегда!)) на производстве дает оценку, совпадающую с понятно как устроенной чужой (Андрея Плахова (из Яндекс)) и собственной разумной оценкой — "робот, в производстве аналогичный электромобилю, но менее материалоемкий, будет стоить дешевле электромобиля".
А вы считаете верить не этой оценке, а вам, меняющему на неадекватные примеры (что, и в электромобиле Tesla 3 (дающем "глаза" Tesla-bot'у), "Камера и контроллер для камеры 5-10kUSD, гриппера 1-10kUSD"? нигде не жмет, нет?), и даже не способному удержать простую мысль, что тут речь ТОЛЬКО про УНИВЕРСАЛЬНЫХ АНТРОПОМОРФНЫХ роботов, принципиально, и очевидно потому что не понимает ничего про обсуждаемую роботизацию от слова "вообще", ибо несет в тему каких-то других роботов, не понимая, что у Tesla-bot не просто ниша в 8 млр. штук постоянно работающих роботов (на замену людей, создавших мир под обслуживание универсальным гуманоидом), а бесконечная, буквально бесконечная, и поэтому их цена будет падать предельно среди всех возможных вариантов разработок любых других не столь многосерийных роботов, ограниченная снизу ценой материалов и энергией на производство? Я даже не буду пытаться объяснять что не так в примерах-сравнениях со стационарными манипуляторами, работающими в режиме точного движения, обеспечиваемого постоянством параметров и точностью работы привода, и стабильностью основания. Вдруг обучу и испорчу!
invelusion
00.00.0000 00:00Tesla-bot — это тот же электромобиль Tesla, только МЕНЬШЕ, и во многом проще,
реально? Tesla-bot проще чем Tesla? Boston Dynamics где-то поперхнулиссь со своим Atkas.
человек с такими проблемами с логикой и эгоцентризмом (подросток? нет 30-ти?)
заменчательный переход на личности. После этого не вижу смысла продолжать тдискуссию, продолжайте верить презентациям продавцов и брать это как за истинну
Travisw
00.00.0000 00:00+8Максимум сделает бота импа или кокадемона стреляющего огненными шарами из-за угла
ValeriyPu
00.00.0000 00:00Ого, он наверное какие-нибудь функции будет выполнять? И с контекстом? ))
Ладно, тем более это не очередной идиот, а настоящий Король ИИ, видимо.
Хотя, с учетом того, что даже со Сферой Миколова гении ИИ так и не научились читать (кроме одного Китайца в Швейцарии, конечно)
Интересно, а DreamCoder может перебирать примитивы обработки текста и последовательностей эффективней чем очередная мечта вечнурного капитализма? )
berng
00.00.0000 00:00+1Крутые статьи!
Но для начинающих я-бы добавил
По DL:
Гудфеллоц и др, Глубокое обучение.
По RL:
Лонца, обучение с подкреплением на Питон
По NLP:
Jurafsky, Martin, Speech and Language processing
fvariation
00.00.0000 00:00-2За сутки вторая статья про того, кто занимается ракетами. Только тот занимается ими в аспекте глобальных коммуникаций. А этот дядька в аспете АИ, что весьма дополняет. Причем АИ не на устаревшей парадигме нейронов, а на вероятно какой-то другой, по-мощнее. Случайность - не думаю. То есть это будет не только летать над головами, а оно еще будет умнее нас. В каком-то фильме с Шварцем это уже было. Не особо радостная перспектива, хотя кому как. Немного напрягает, умнее, да еще все видит твоими контактными линзами, подключенными к старлинк.
SADKO
00.00.0000 00:00-1нЕт, ребята, всё не так ;-)
Есть здесь конечно годные ссылочки, но в общем и целом, они все относительно новые, а собака-то была зарыта гораздо раньше, и я надеялся увидеть совсем иной список, работ баянистых и фундаментальных, дающих возможность понять что не так, с нашим сегодня...
...вроде время и пришло, но игроки вскрываться не торопятся, ведь одно дело концепция, которая конечно принципиально важна, но к ней все ищущие рано или поздно придут, а вот практическая реализация, совсем иное, со своими приколами
ElVibrio
00.00.0000 00:00Видение Кармака близко к парадигме, заложенной в Нейроманте Гибсона и развитой в цикле "Культура" Бэнкса: став Разумами, они уйдут в пространство, кто-то в поисках нового, кто-то не желая жить в колыбели. Кто то останется, может быть добросердечным хлопотунами и соратниками.
Но как то не верится в библейски разрушительных идиотов, иродиански уничтожающих младенцев в яслях.
MountainGoat
00.00.0000 00:00+3Зависит от разности уровней развития. В царей, уничтожающих младенцев, и правда не верится. А вот таджиков, кладущих асфальт прямо поверх муравейника - сам видел.
p07a1330
00.00.0000 00:00+3В царей, уничтожающих младенцев, и правда не верится
А почему это вызывает больше сомнений, чем, например, Холокост?
В него-то верить не настолько сложно, а концептуальное различие - не очень большое
К слову - термин сам по себе библейский
Landgraf132
00.00.0000 00:00Если искусственный интеллект обучится на произведениях людей (В том числе на комментариях в телеграмм пабликах и двачах), почему он не станет таким же как люди?
KMiNT21
00.00.0000 00:00"Изучая мед, нельзя стать пчелой"
(с) Лао Кармакяоandrey_gavrilov
00.00.0000 00:00Зато даже всего лишь сеть, реализующая банальное продолжение текста, обученная на большом корпусе человеческих текстов, мало отличима от человека, если сеть достаточно большая, и корпус текстов достаточно велик (привет GPT-шным сетям двух последних поколений!).
Опа, оказывается пчелы с медом могут идти лесом, аналогия неадекватна обсуждаемому предмету! :)
MIKEk8
00.00.0000 00:00Люди разные. Если бы они превращались в тех кого читают то всё бы были одинаковыми.
У людей есть физиологические причины для их "плохого" поведения: лень, инстинктивные стадии несогласия/непринятия. У ИИ таких ограничений нет. Главная проблема нынешних ИИ в том, что они не осознают что делают. Они "инстинктивно" подставляют примерно нужные слова. А если их заставить рассуждать и продумывать больше вариантом перед ответом, то будет системы основанные на прозрачной логике.
commanderxo
00.00.0000 00:00+4- Джон Кармак взялся за сильный ИИ
- Один из лидеров по производству бензопил STIHL, основал Stihl connected, взялся за производство самоездящих роботов, и нанимает специалиство по ML.
Действительно, что бы тут могло пойти не так?
piton_nsk
00.00.0000 00:00+1Один из лидеров по производству бензопил STIHL, основал Stihl connected, взялся за производство самоездящих роботов,
Звучит как начало фильма ужасов, бггг.
RanuhuPerseus
00.00.0000 00:00Интересно, есть ли список литературы от него по VR, раз он этим занимался
HellWalk
00.00.0000 00:00+1Мне уже начинает казаться, что я читаю статьи сгенерированные нейросетями...
Fodin
00.00.0000 00:00Хочу протез головного мозга для людей с умственной отсталостью. В той или иной мере это уже становится возможным.
А где такой протез появится, там и экспандер-расширитель возможностей любого человека будет.
Volcolak13
00.00.0000 00:00Сильный ии предполагает появление сознания - фактора, который на данный момент до сих пор даже исчерпывающего определения не имеет... а имеющееся состоит из таких же полуэфимерных понятий... по сути - это главный фактор, который отличает живое от неживого...
На данный момент все эти ИИ подобны попугаю Дж. Сильвера: Это бедная, старая птица ругается, как тысяча чертей, но она не понимает, что говорит.Но попугай, всеже живой и имеет сознание, а самый крутой ИИ - лишь имитация такового.
Откуда такая уверенность вообще в принципиальной возможности создания сильного ИИ, если нет понимания ключевого и определяющего фактора? а если таковой фактор, вдруг, каким-то чудом удастся создать, его главное отличие будет, как раз в непредсказуемой линии поведения, т.к. наличие сознания предполагает хотябы некоторую свободу воли...
andrey_gavrilov
00.00.0000 00:00Не хочу рушить вашу картину мира столь грубо, но большинство живых организмов на Земле (по массе) не определяются нами, как имеющие сознание: археи, бактерии, вирусы (для тех, кто относит их к живым), грибы, растения, — и в целом все живые организмы, не имеющие нервной системы...
А "свобода воли" в своем буквальном значении — понятие-оксюморон, — вы не сможете, и никто не сможет логически не противоречиво ввести понятие "свободы воли", отличная от того, что описывается либо детерминированным поведением, либо случайным. Можете убедиться сами, попытавшись! :)
andrey_gavrilov
00.00.0000 00:00И вы, и попугай — лишь нейросеть. Нейросеть, которую можно повторить и в машине.
Принцип казуальной замкнутости физического говорит, что сознание должно быть вычислимо (читай "воспроизводимо в машине"!).
И нет, апелляция к квантАм не работает — даже забудем о том что при такой температуре и плотности ни о каких квантовых эффектах, способных влиять на нервные импульсы (а сознание влияет — иначе у нас не было бы предмета разговора, ваши мысли о сознании и ощущениях от его обладания — и есть демонстрация такого влияния!) и речи быть не может из-за декогеренции, — бог с этим! — проблема в том, что квантовые вычисления не дают нового качества вычисления, вы буквально на бумажке их можете воспроизвести, — квантовые вычисления хороши лишь тем, что они могут позволять делать некоторые вычисления радикально более быстро, — но вряд ли апологеты мифологизации природы сознания согласятся с тем, что воображаемая ими (по схеме "объясним непонятное неизвестным" (или наоборот)) "магия сознания" — это лишь следствие величины объема классических вычислений, необходимых для получения того же самого результата! ????♂️
BombaBomba
00.00.0000 00:00+1Какой ещё "ИИ"? Это просто маркетинговое наименование для компьютерной программы. ИИ сегодня не существует. Так можно и электрочайник назвать ИИ. Он сам же отключается, когда вода закипает)
andrey_gavrilov
00.00.0000 00:00Джон Кармак считает, что ИИ не произведёт глобальных изменений в обществе, а плавно впишется в жизнь, как облачные сервисы вписались в компьютерную инфраструктуру. Вы просто сможете заказать на любую человеческую задачу нужное количество ИИ-работников (пять Алексеев и десять Марин), как сейчас заказываете инстансы в облаке и серверы на хостинге. Просто дешёвая замена наёмному персоналу, но ничего революционного или принципиально нового для человечества. Чисто вопрос удобства и цены.
Жизнь поменяется незаметно, быстро и органично, как с появлением смартфонов. Через несколько лет никто и не вспомнит, как мы жили без сильного ИИ, словно он всегда был с нами. Это будет банальная и скучная история, которая напоминает энциклопедическую статью о MMAcevedo, наиболее раннем исполняемом образе человеческого мозга.
— Но это же очевидно ошибочное мнение, проблематизировать его не составляет труда:
— если у меня есть сильный искусственный интеллект способный заменить человека в интеллектуальном труде на рынке труда, — то это означает, что он дешевле человека при том же качестве труда.
А значит мы можем банально запустить такой сильный искусственный интеллект на рынок труда, с тем чтобы он зарабатывал деньги на то, чтобы плодить свои копии, которые так же будут зарабатывать на глобальном рынке, — не на глобальном рынке труда, а точнее не только на глобальном рынке труда, но и на рынке вообще, — создавая востребованные бизнесы.
Это буквально история экспоненциального роста числа сильных ИИ, которые в процессе своего роста отбирают работу у людей.
Точка.
Ситуация "экспоненциально растущая популяция сильных искусственных интеллектов отбирают работу у людей, и вытесняют (за счет более низкой цены) с рынка бизнесы людей" никак не похожа на описываемое Кармаком незаметное, не меняющее жизнь кардинально пришествие сильного Искусственного Интеллекта. ????♂️
AlexM2001
О! Кармак создаёт ИИ, а на самом деле альтер эго?
Есть шанс что врата на Марсе будут открыты?
UAC — создадим РАЙ для человечества)
Roma_letchik
Все-таки Джон Кармак, а не Джон Коннор