В нескольких романах Курта Воннегута есть вымышленная планета Тральфамадор. Ее жители живут в четырех измерениях, и видят разом все время от начала до конца. Они знают, как началась вселенная, и знают, как она погибнет: тральфамадорские ученые-испытатели запустят супердвигатель, он взорвется и все уничтожит. Но они даже не пытаются предотвратить катастрофу. В их мышлении нет и намека на то, что ход событий надо менять. Они продолжают вести прогресс к этому двигателю, потому что в их мире все, что случится, уже случилось.
Иногда мне кажется, мы мыслим также, только чуть менее осознанно. Идея, что прогресс не остановить, вселяет в нас непоколебимый оптимизм. Раз не остановить, то все идет, как идет, и впереди сплошные бесконечные успехи. Надо расслабиться и грести по течению. Даже тревожные сценарии отзываются в уголке сознания романтическим восторгом. «Машины станут умными и всех перебьют? Класс! Как в кино!» Относится к этому с серьезным пессимизмом — почти безумие.
Понятно, что реальность всегда скучнее выдумок, а алармисты и луддиты обычно умирают раньше, чем прогресс оправдывает их страхи. Но если верить некоторым футурологам, мы еще на своем веку можем стать свидетелями больших точек невозврата, к которым с радостью несемся на полной скорости.
Недавно fillpackart написал колонку об уровнях абстракций в современных языках программирования. Якобы между кодом и выполнением на железе так много автоматизированных слоев интерпретации и компиляции, что мы начинаем терять контроль над низкоуровневыми вещами.
Мы много обсуждали эту тему, и, конечно, не считаем, что все программисты дружно должны отказаться от привычных языков и перейти на молоток с паяльником. Абстракции — это здорово. Современные возможности, простота решений задач и уровень комфорта — все просто отлично. Наверное, сейчас быть разработчиком круто, как никогда.
Но мир — штука, полная парадоксов. Думать о том, что будет с индустрией через десять лет, кажется важным. А вот через 60–70–170 — как-то уже не очень. Это как будто нас не касается. Даже если доживем, нам к тому времени станут важнее атмосферное давление и звонки от внуков. Но хотя бы на секунду представьте, что будет, если постоянно увеличивать толщину абстракций и повышать комфорт программирования. Если автоматизировать, и автоматизировать, и автоматизировать.
Думаю, в этом случае потомкам наших потомков достанется в наследство «черный ящик» — технология, которая работает сама по себе, понятным только ей и нам, давно умершим создателям (оставившим какую-то старперскую нечитамую документацию), способом. Технологию не надо будет знать, ее просто надо будет обслуживать. И я уверен, что на этом ИТ-бизнес построит свою культуру, и каждый манифест будет гласить — «Не вникай в суть технологии, просто позволь ей решать задачи».
Только представьте, какими будут разговоры тогда, году в 2199. Наверное, что-то в духе: «По нашим наблюдениям, если говорить системе слово «выполни», у нее получиться на 0.8 секунд быстрее, чем если сказать «сделай». А если в конце программной речи выдержать трехсекундную паузу и потом добавить «аспарагус» — конверсия вырастет на 3%».
И если вы лучшего мнения о человечестве — посмотрите на людей, которые ставят в Фейсбуке ссылку в первом комментарии. Мы уже сегодня начинаем «рационально обоснованные» пляски с бубном у костра, стоит только популярному алгоритму хоть чуть-чуть закрыться от нас стеной.
Действительно важен вопрос не «Превратятся ли технологии в черный ящик», а «Когда это произойдет». И есть люди гораздо умнее меня, которые считают, что магия вместо науки начнется раньше, чем казалось мне.
Прошлым летом я слушал выступление Леонида Ткаченко из МТС на конференции о больших данных. Сначала он говорил о смерти телекома, потом повеселил народ предсказаниями:
Есть теория про технологическую сингулярность. Человеческий интеллект растет достаточно медленно, а искусственный — быстро. Мы прогрессируем тупым способом, случайно спариваемся, когда внешне кто-то понравился, и эволюция человека идет медленно. Мы такие же, как были полтора миллиона лет назад. Мозг прогрессирует долго, потому что все происходит случайным образом.
Когда же мы говорим про ИИ, мы его натаскиваем целенаправленно, чтобы он был все лучше и лучше. Он ни с кем не спаривается случайно, он делает то, что мы хотим. И по некоторым расчетам, искусственный интеллект догонит человеческий в 2030–40 году.
Это значит, что технологический прогресс пойдет дальше. Он не остановится. Но двигать его будет ИИ. Мы будем не в состоянии понять то, что он придумал, а он будет и дальше совершать технологические рывки.
И отдельно стоит этический вопрос — не станет ли он работать против нас? Насколько мы сможем его контролировать? Ведь он будет сильнее. Будет ли он работать нам во благо, или мы превратимся в коров.
Коровы ведь живут на Земле, их никто не истребляет. Но коровы даже не понимают, что на Земле еще живут люди, которые используют их, как хотят. Да, коров не стирают с лица Земли, но хозяева жизни сейчас, конечно, мы с вами. В какой-то момент хозяином может стать кто-то другой, такое может случиться. И этот момент — близко.
Леонид, когда это говорил, опирался на прогнозы Вернона Винджа и Реймонда Курцвейла. Виндж — писатель, и хоть термин «технологическая сингулярность» принадлежит ему, прогноз его слишком оптимистичный (пессимистичный?). Якобы мы потеряем контроль над технологическим прогрессом к 2030 году. Курцвейл — инженер, и насчитал чуть больше времени — к 2045-у.
Свои прогнозы оба строили на законе Мура о постоянном увеличении частоты процессоров. «Все кроется в возможностях железа и софта», говорил Курцвейл в 2006-ом.
В своей книге «The singularity is near» я писал, что нам нужно достичь 10 квадриллионов (1016) операций в секунду, чтобы обеспечить функциональный эквивалент всех областей мозга — по некоторым оценкам даже меньше. Некоторые суперкомпьютеры уже на отметке в 100 триллионов (1014), и достигнут 1016 к концу этого десятилетия.
Суперкомпьютеры с одним квадриллионом операций уже в проекте, и два японских производителя планируют достичь 1016 через несколько лет. К 2020 году компьютеры с 10 квадриллионами операций будут стоить тысячу долларов.
То, что железо достигнет таких мощностей, вызывало споры, когда я писал первую книгу в 1999 году, а сейчас это вполне популярное мнение. Теперь споры ведут больше вокруг алгоритмов.
Но сейчас, в 2019 году, видно, как прогнозы Курцвейла если и не сбываются, то по крайней мере отдаляются. Во-первых алгоритмы и пути прокачивать железо пошли немного другими путями. Примерно в то же время, когда Курцвейл это писал, производители стали переходить на многоядерные архитектуры, которые несколько усложнили Муру его закон. А самый мощный на сегодня суперкомпьютер, который начали проектировать в том же 2006-ом, справляется только с двумя сотнями триллионов операций в секунду. До полноценного воссоздания мозга там еще далеко, и еще дальше до стоимости в тысячу долларов.
Другие прогнозы Курцвейла кажутся совсем фантастическими. Например, первая попытка раскрутить VR провалилась, хотя Курцвейл рассчитывал на полноценный переезд в виртуальный мир пару лет назад. Вживленные в голову нанороботы, которые сильно увеличат наши способности, тоже существуют пока только в кино и книгах.
С другой стороны — почти на каждую технологическую неудачу сейчас отвечают «просто еще не пришло время». Оптимизм, пессимизм и ощущение неизбежности не вымести из головы никакой логикой, как будто все предсказанное уже по-тральфамадорски случилось, просто мы не можем разглядеть точную дату.
Если вопрос «когда» решится только ожиданием, то выбор «быть оптимистом или пессимистом» надо делать самим.
Во взглядах Курцвейла, кажется, нет ни капли технофобии. Он редкий оптимист и по сей день считает, что сингулярность приближается, и это не проблема, а вызов, наша индульгенция, чтобы наконец начать аугментировать органические мозги чем-нибудь, в чем есть железяки и микропроцессоры. И за горизонтом сингулярности не потеря контроля над технологией, не сценарий, когда ИИ проснется и всех нас перебьет — а некая революция, в результате которой человек, наконец, перестанет быть чисто биологическим существом.
Ведущий шоу Origins на National Geographic Джейсон Сильва считает, что это уже случилось, просто мы не заметили, потому что случилось оно не в научно-фантастических масштабах, а как всегда бывает в реальности — постепенно и обыденно:
Курцвейл и Кевин Келли говорят, что мы продолжим аугментировать наше мышление, отдавая все больше и больше способов обрабатывать информацию небиологическим носителям. ИИ не восстанет против нас, мы будем делать наш собственный интеллект все более искусственным.
Но мы уже выгружаем часть сознания на искусственные носители. Когда мы пишем что-то на бумаге, часть мышления происходит как раз на этой бумаге. Часть мышления есть в том, что мы двигаем ручкой. Часть мышления происходит, когда ты смотришь на собственные мысли, выгруженные на бумагу и реагируешь на то, что сам написал.
Искусственная среда — уже часть мыслительного аппарата. Философы Дэвид Чалмерс и Энди Кларк высказали тезис о «расширенном сознании», согласно которому, смартфон — это уже дополнение к мышлению, и что мышление не ограничено мозгом, что сознание на самом деле существует в петле постоянно фидбека между мозгом, инструментами и окружением. Вот почему мы говорим, что наши мысли лепят окружение, а окружение влияет на мысли. Все, что мы создаем, создает и нас тоже. Нет никакого «мы против них». Есть один большой распределенный интеллект, который состоит из биологических и небиологических частей.
Поэтому я думаю, нам нечего бояться. Это просто миллиарды шажочков, которые расширяют нашу способность творить.
Их оптимистичное отношение строится на том, что не случится ничего нового, и не над чем будет терять контроль. Что, развивая технологии, мы прокачиваем свое же сознание, и эти вещи неразрывны. Если приглядеться, в этом есть смысл. Больше всего, например, меня поражает наше внутреннее ощущение времени, полностью построенное на инструментах.
Придумав и выписав «на бумагу» часы, минуты и секунды, мы стали все измерять ими на первый взгляд подсознательно. Можно с головой погрузиться в какое-нибудь дело, и закончив его, не думая понять: «я потратил часа три». Можно увлечься фильмом так, что все забываешь, но на титрах ты четко чувствуешь, что прошло два часа. Но если убрать от себя все окружение, все инструменты и все дела, осознание времени начнет ускользать из сознания. Человек, просидев неделю в темной пещере, ошибется с оценкой прошедшего времени на несколько дней. Даже сидя в пустой комнате невозможно оценить, час прошел или два. Оказывается, ощущение времени живет не внутри сознания, а снаружи.
И мы прекрасно живем с тем, что знания человечества давно хранятся не в мозгах, а на внешних носителях. Что вся цивилизация, инфраструктура, общение построены на выгруженных из памяти вещах. Это нормально, потому что носители кажутся даже более надежным и понятным, чем наш собственный мозг.
Но современные технологии построены на забавном парадоксе. Люди не доверяют своему сознанию и пытаются закрепить все за его пределами и одновременно считают человеческое сознание самым надежным контроллером. Но если человек такой непредсказуемый, а механизмы такие понятные и надежные, почему, например, военные директивы запрещают разрабатывать ИИ-системы без человеческого управления?
Иррациональный пессимизм в потоке оптимизма?
Контроль, краеугольный камень парадокса современного прогресса, последнее, что мы готовы отдать внешней среде, хотя сами ему не доверяем.
Я пессимист по жизни, но знаю, что лучше смотреть на все с оптимизмом. Чем доступнее технологии, чем больше все автоматизировано — тем легче жить. Проблемы будут щелкаться, как орешки. Я представляю оптимизм по отношению к технологиям, как полет на самолете. Чтобы долететь с комфортом, надо верить, что приземлишься. Это легко, ведь шансы очень высоки. Но малейший шанс разбиться всегда есть. И если вера в него победит оптимизм, полет превратится в нервотрепный ад.
Я верю, что и оптимизм, и пессимизм вокруг влияния прогресса на нас растет из одного и того же места. Пример с самолетом я приводил потому что я аэрофоб. Я попытался разобраться в своем страхе и понял, что под ним кроется как раз страх перед отсутствием контроля.
Я возненавидел примитивность своего мозга, когда проблема решилась простой психологической уловкой. Помогло приложение, которое мониторит состояние самолета и объясняет на ходу все его звуки, наклоны и прочее-прочее. Получив иллюзию контроля в виде знания, я избавился от тревоги, поржав над всей своей рациональностью и логикой. Ведь от того, что я что-то знаю, шанс разбиться не снизился ни на процент, но мне стало психологически легче.
Страх потерять контроль и не иметь информации — иррациональный. Люди вообще делятся на два типа. Те, кто в детстве спал лицом к двери, чтобы увидеть монстра, который в нее зайдет — и спиной к двери, чтобы ни в коем случае его не видеть. Монстр сожрет тебя в обоих случаях. Вопрос только в количестве полученной информации перед неизбежной смертью, чтобы это было не так страшно. Хотя, какая разница в глобальном смысле?
Если бы я хотел создать ИИ, который должен перехватить контроль у человека, я бы сделал все, чтобы он дарил пользователю иллюзию открытости, понимания и контроля.
И мне кажется мышление современных луддитов и технофобов строится как раз на этом иррациональном страхе — не знать достаточно. Оптимисты, вероятно, спокойны по этому же. Они уверены, что всегда будут знать и контролировать ровно столько, сколько необходимо, чтобы извлекать пользу и комфортно жить.
Грубо говоря, если программирование превратится в обычный человеческий разговор с системой голосом, и это будет реально эффективно работать — то почему нет? Пессимист скажет, «откуда мы знаем, достаточно ли хорошо система все поняла». Оптимист промолчит, покажет эффективно решенную задачу и бросит микрофон.
Страх перед недостатком знания кроется в понимании, что знание существует, но его не получится узнать. Ведь не знать, что не знаешь, не так страшно.
В 1984 Томас Пинчон написал эссе «Нормально ли быть луддитом» и еще тогда говорил, что источник незнания — это слишком большой поток знаний.
В современном мире любой, у кого есть время, компетенция и деньги на оплату доступа может дотянуться до любого специализированного знания, которые ему или ей могут понадобиться. Проблема, в действительности, заключается в том, как найти время для того, чтобы прочитать что-либо за пределами своей собственной специализации.
В тексте Пинчон разбирается, как изменялся страх перед технологиями со временем. После стачек рабочих (откуда и пошло название «луддиты»), которые громили ткацкие станки за то, что те отняли у них работу, технофобия лучше всего фиксировалась в книгах писателей. Ведь писатели, в отличие от ученых, думают, что незнание неустранимо, и вокруг куча вещей, которые они никогда не поймут. Ученые же в каждый момент знают ровно то, что позволит в будущем узнать еще больше. То есть раскрытие абсолютно всех знаний — вопрос времени. Если совсем грубо — писатели думают, что ничего не контролируют, ученые думают, что контролируют ровно столько, сколько нужно, чтобы взять под контроль еще больше.
В те времена, когда погромы и промышленная революция были горячей темой, Мэри Шелли писала роман «Франкенштейн, или современный Прометей». Если говорить с большой натяжкой — это первая научная фантастика, и сразу о том, как ученого убило его создание (простите за спойлер).
С тех пор в книгах фантастов о технологиях пессимизм и оптимизм постоянно менялись, потому что полеты в космос это круто, а ядерные бомбежки плохо — но все это результаты современного прогресса. Со временем технофобия писателей превращалась из ужастика во что-то все более странное. То ли от осознания, что они ошибались, и технологий бояться не нужно. То ли наоборот — потому что все уже потеряно, точки невозврата пройдены, и пессимизм превращается в ощущение безысходности.
Будут ли мейнфреймы привлекать такое же враждебное внимание, как ткацкие станки? Я сильно в этом сомневаюсь. Писатели всех сортов в панике бегут, чтобы приобрести себе текстовые процессоры. Машины уже стали настолько удобными для пользователя, что даже самые неприспособленные из луддитов могут быть настолько ими заворожены, чтобы отложить старую кувалду и вместо этого стучать по клавишам.
При правильном распределении бюджета и компьютерного времени мы сможем вылечить рак, спасти человечество от ядерного уничтожения, вырастить пищу [которой хватит] для всех, нейтрализовать последствия загрязнения окружающей среды пошедшей вразнос промышленностью — словом, реализуем все грустные несбыточные мечты нашего времени.
Если наш мир выживет, то последует очередной большой вызов, на который стоит обратить внимание: вы впервые услышите его тогда, когда все кривые исследований и разработок в области искусственного интеллекта, молекулярной биологии и робототехники сойдутся воедино. Подумать только! Это будет удивительно и непредсказуемо, и даже самые большие начальники, на что мы искренне надеемся, будут пойманы врасплох. Это, безусловно, будет то, чего все примерные луддиты будут с нетерпением ждать, если, даст бог, мы доживём до этого момента.
То есть, страх технофобов превратился не просто в ощущение безысходности, а злорадное ожидание, когда ученые останутся с носом. Когда жадность до знаний и самоуверенность встанут всем боком.
Пессимизм, который проиграл, сейчас кажется уделом ничего не понимающих безумцев (если ты технофоб — иди жить в лес и не мешай). Он превратился в мнение «мы хотим как лучше, но сделаем как всегда». Но о точках невозврата принято думать в будущем времени. Думать, что они уже пройдены, тем более в то время, когда не то что компьютеров — даже письменности не было — совсем дико и бессмысленно.
Такое непопулярное мнение высказал антрополог Юваль Ной Харари в книге «Sapiens: краткая история человечества». По его словам мы придумали свой тральфамадорский супердвигатель десять тысяч лет назад, когда совершили аграрную революцию, и с тех пор наша эволюция пошла в обратную сторону. Якобы человек-собиратель обладал самым развитым мозгом в истории, жил гораздо комфортнее и счастливее.
Но потом посадил пшеницу и попал от нее в зависимость.
Аграрная революция отнюдь не стала началом новой, легкой жизни – древним земледельцам жилось куда труднее, а подчас и более голодно, чем собирателям. Охотники и собиратели вели более здоровый образ жизни, не так много трудились, находили себе более разнообразные и приятные занятия, реже страдали от голода и болезней. Благодаря аграрной революции общий объем потребляемой человечеством пищи, безусловно, увеличился, но больше еды – это вовсе не обязательно более полезная диета. Нет, в результате произошел демографический взрыв и возникла элита, но среднестатистический скотовод или земледелец работал больше, а питался хуже, чем среднестатистический охотник или собиратель. Аграрная революция – величайшая в истории афера.
Погоня за легкой жизнью завела людей в тупик. Люди не способны предугадать последствия принятого решения во всей полноте. Всякий раз они вроде бы подписывались на незначительное усложнение работы – скажем, не просто рассыпать семена, а еще и мотыжить предварительно землю. Они говорили себе: «Да, придется поработать. Но зато какой мы соберем урожай! Не придется волноваться из-за будущего недорода. Наши дети никогда больше не будут голодать. То-то заживем!»
Был принят ряд несложных решений с простой ближайшей целью – наполнить желудки, обеспечить какую-никакую безопасность, – но в совокупности эти решения вынудили древних охотников-собирателей таскать под палящим солнцем бесчисленные сосуды с водой и поливать эту клятую пшеницу.
Но как считает Харари, древние люди, посадившие ее, заманили в ловушку не себя. У первых земледельцев все было прекрасно, они реально упростили свою жизнь и привнесли комфорт, к которому их предки стремились веками. Ловушкой это стало для их пра-пра-пра-пра-внуков, которые уже потеряли качества своих предков жить и так, и так и выбирать лучшее. У них осталась только земледелие, и они постепенно попали в плен всех недостатков нового образа жизни.
Теория спекулятивная, натянутая и полная домыслов. И возможно таким же нагнетанием будет считать вредным создание супер автоматизированной системы, которая в далеком будущем решит все проблемы наших потомков. Но мы же ее в любом случае создадим. Потому что прогресс, продуктивность и постоянный рост — новая религия и смысл нашего атеистического времени. И если сейчас нам все лучше и лучше, то зачем зря тревожиться? Мы до сих пор считаем, что еще чуть-чуть, и все станет идеально. Надо только еще немного поработать.
Но если оптимизм на секунду приглушить, и пустить в голову солюционистское «технологии решают проблемы, которые сами создают» — что будет? Ничего кроме, возможно, осознания, что ты идешь не сам, а тебя тащит за разогнавшимся поездом.
Маленький мысленный эксперимент. Представьте, что вы увидели будущее, и знаете — через сто лет технология выйдет из под контроля, что супердвигатель взорвет вселенную при испытаниях (или хотя бы превратит потомков в недоразвитых идиотов). Вы будете что-то менять? Бросите заниматься развитием технологий?
Или вот еще пара деталей. Если бы у вас было реально огромное влияние на прогресс, остановили бы его в этом случае? Если да, то не смутила бы вас мысль, что ваш выбор уже записан в таймлайне? Что влияния на будущее не существует? Что знание не самом деле не дает контроля — это просто знание ради знания, что в глобальном плане оно даст только пассивное созерцание монстра, входящего в комнату.
Когда я пытаюсь ответить себе сам, чувствую только скованность. Это как узнать о крушении самолета, в котором уже летишь. Лучшее, что можно сделать — не орать в панике, а заказать водочки и закурить, хоть и запрещено.
Большая часть нашей жизни — это смирение с необъяснимым существованием. Все будет легче, если просто сделать усилие и осознанно решить получать удовольствие от этого далеко не бесконечного аттракциона. Ведь всегда хорошо о чем-то подумав, приходишь к одному и тому же: лучше об этом нахрен не думать.
Комментарии (81)
snuk182
11.03.2019 18:48+5Пока что сбывается на 100% лишь Льюис Кэролл — «Чтобы оставаться на месте, нужно бежать изо всех ног. Чтобы двигаться, нужно бежать еще быстрее». Если вы уже сейчас не понимаете, что происходит вокруг вас, хотя бы принципиально, дела ваши плохи. Если вы даже не хотите вникать в происходящее вокруг вас, дела ваши еще хуже.
Anton23
11.03.2019 20:15Если вы уже сейчас не понимаете, что происходит вокруг вас, хотя бы принципиально, дела ваши плохи. Если вы даже не хотите вникать в происходящее вокруг вас, дела ваши еще хуже.
Пфф, это уже давно и везде. Называется старческая деменция(вроде), когда ваши бабушки(не все) не знают что такое интернет и не хотят учиться им пользоваться.Simplevolk
12.03.2019 10:06Зато ваша бабушка лучше разбирается в лекарствах, что когда применять. Где их выгоднее купить (попросить внука заказать в интернете).
И больше времени уделяет движению (ведь это жизнь).
k12th
11.03.2019 18:50+1приложение, которое мониторит состояние самолета и объясняет на ходу все его звуки, наклоны и прочее-прочее
умоляю, ссылку!
baragol
11.03.2019 18:56+3Не знаю, о том ли писал Артем, но есть SkyGuru, которое внятно рассказывает, что происходит в полете, до и после него: «вот сейчас будет рулежка, трясет — это турбулентность, это нормально».
Есть для iOS. Для Android не уверен.
arttom Автор
11.03.2019 19:04+3Самое полезное было, когда объяснили момент, где двигатели вдруг стихают и самолет как будто проваливается. Я в первый раз летел, чуть заикой не стал. А оказывается, самолет иногда что-то типа «переключает передачи» (во время взлета несколько раз), двигатели работают то мощнее, то тише, и от этого начинает глючить вестибулярный аппарат. То есть никакого проваливания на самом деле нет.
DrZlodberg
12.03.2019 09:09Во время взлёта это, например, когда убираются закрылки (или не они, не силён в терминологии, но какая-то машинерия крыла) и подъёмная сила резко падает.
Т.е. на самом деле это не он проваливается, а нас подбрасывает. Однако с т.з. ощущений — разницы нет.
maikus
11.03.2019 19:00+2Вот совсем не был бы технофобом, если бы мог надеяться, что искусственный интелект, который станет круче нашего, и все последующие ИИ, будут созданы для медиков или метеорологов, да хоть для музыкантов. А поскольку знаю, что его создадут для военных, я таки немножко технофоб.
DaneSoul
11.03.2019 19:22С другой стороны, зная сколько дров наломали за историю военные из плоти и крови, может как раз искусственный интеллект и не даст очередному опьяненному властью неадеквату устроить глобальный хаос.
maikus
12.03.2019 19:33Вполне возможно, что не даст устроить хаос. Но отсутствие глобального хаоса не означает ненаступления глобального п-ца.
KSA
11.03.2019 19:22Что-то у автора не сходится с оценкой производительности на 2019г.
Имеем вторую позицию в топ 500 — Sunway Taihulight с производительностью 93.01 петафлопс. Это 93*1015 операций в секунду. Что явно больше, чем «две сотни триллионов операций в секунду» — 200*1012. И как раз приближается к 10 квадриллионам (1016) операций в секунду необходимым для обеспечения функционального эквивалента всех областей мозга.
Zmiy666
11.03.2019 19:59+1сейчас едва ли 5% людей смогут сказать, как работает смартфон и его програмная начинка…
И чем дальше в будущее тем меньше будет этот процент. Все по тому, что объем необходимых для этого объем знаний растет с каждым годом, причем чуть ли не по экспоненте. А следовательно растет и время, необходимое для освоения этого объема знаний конкретным человеком. Довольно скоро оно превысит продолжительность активной жизни (а в некоторых отраслях уже превысило) Мы начали дробить области знания на узкие специализации, теперь знания осваивает сразу куча людей по частям и дальше работает в команде. Но и у такого способа тоже есть предел — предел коммуникации внутри команды, она просто начнет сжирать столько времени, что продуктивная работа станет невозможна. И где-то на этом этапе закончиться техника и начнется магия… ибо никто не будет знать как оно работает, но у каждого будут свои догадки, приметы и суеверия.DaneSoul
11.03.2019 21:08+1предел коммуникации внутри команды, она просто начнет сжирать столько времени, что продуктивная работа станет невозможна.
При модульности разработки и высокой автономности модулей коммуникации не разрастаются.
Разработчик смартфона берет готовый экран и ему важно знать лишь небольшое количество его параметров и как взаимодействовать с ним по стандартным интерфейсам. Вся остальная же сложность — это компетенции разработчика экрана, и разработчику смартфона нет необходимости в них вникать и обсуждать с разработчиками экрана.
Проблемы коммуникации начинаются когда строим что-то уникальное — коллайдер, термоядерный реактор и т.п., так как для него просто нет готовых компонентов, нет готовых интерфесов для их связывания.
Hardcoin
12.03.2019 00:26у каждого будут свои догадки, приметы и суеверия.
Будут (и сейчас есть) интерфейсы. Если для какого-то процесса нужно магнитное поле, достаточно знать желаемую мощность и пару других характеристик. Самим электромагнитом может заниматься другая команда.
polyform
12.03.2019 08:29"Но и у такого способа тоже есть предел — предел коммуникации внутри команды, она просто начнет сжирать столько времени, что продуктивная работа станет невозможна. И где-то на этом этапе закончиться техника и начнется магия…"
Не начнется, а уже давно действует. И не магия, а… бюрократия. В частности, профессиональная бюрократия. Да, у этого понятия не только отрицательные коннотации.
ky0
11.03.2019 20:01Закон Мура не про частоту, а про количество транзисторов. Уж на Хабре-то наверное стоит корректно его озвучивать.
Neuromantix
11.03.2019 20:30+1Я не могу назвать себя технофобом, но с каждым годом я все более и более отрицательно начинаю относится к части технологий. Из-за отсутствия контроля, да, но не контроля за ситуацией, а контроля за технологиями — из-за отсутствия стоп-крана, дернув за который можно отключить себя от технологий, когда они не нужны. И из-за отсутствия механизмов фикшения багов реальности, созданных технологиями, когда эти баги начинают мешать жить.
И второе: выводы статьи верны, если технологии, как в ней сказано, упрощают жизнь. Только вот многие технологии начинают упрощать жизнь не пользователям этих технологий, а их продавцам и разного рода читерам и багоюзерам, и вместо спокойной жизни приходится разбираться во всем этом, в итоге суммарное время-силы, высвобожденное технологией начинает съедаться на решение иных, порожденных той же технологией, проблем.
Ну и есть проблемы, которые технологии создают, но решения им нет на данный момент (буквально полчаса назад читал статью о том, что поиск актуальной информации в современном мире стал большей проблемой, нежели отсутствие доступа к информации в середине 20 века)DaneSoul
11.03.2019 21:14поиск актуальной информации в современном мире стал большей проблемой, нежели отсутствие доступа к информации в середине 20 века
Смотря о какой информации идет речь.
Проблема фильтрации актуальна в основном для социально-исторических наук, то есть тех, где тасуя факты можно формировать общественное мнение.
А с точными и естественными науками все весьма прозрачно. И я помню какая проблема была для меня 20 лет назад в провинции найти серьезные современные ВУЗовские учебники для подготовки к олимпиадам.Neuromantix
11.03.2019 21:30В статье речь шла о научной информации, когда на одну тему может выходить несколько сотен статей в разных журналах в месяц, ссылаясь при этом на журналы более старые, а те на еще более старые а последние в цепочке ссылаются на препринты мискатонийского университета, вышедшие в 40-е годы тиражом 5 штук, да и их давно уже зохавал Ктулху.
Ну и утрата технологий тех предметов/установок, которые более не применяются широко — найти о них внятный технологический справочник «как сделать» нереально — его нет, приходится вышкребать по крупинкам из статей, а названия статей с нужной информацией могут вообще не содержать никаких зацепок для поиска.DaneSoul
11.03.2019 22:11Так а в каком месте стало больше проблем? Эти же проблемы были и раньше, и хуже не стали.
Если ссылка на древнюю редкую статью, то ее и в 20 веке вы бы не нашли в оригинале, также и с старыми технологиями были бы проблемы.Neuromantix
11.03.2019 22:14Это не мое мнение, а мнение автора оригинальной статьи про проблемы поиска. Я с ним соглашусь отчасти из-за замусоривания поисковых систем СЕОшниками и прочими рекламными долгоносиками-вредителями.
Или вопрос о чем-то ином?
Hardcoin
12.03.2019 00:31из-за отсутствия стоп-крана
Признак старения. Стоп-крана, что бы отключить себя от технологий сопромата и материаловедения тоже нет (только с заметным падением уровня жизни), но он и не нужен, потому что сопромат уже был при нашем рождении. А вот при рождении прадедушек — не было (или он был не распространен). Некоторых из них наверняка пугало доверять свои жизни лифтам, например. А для нас банальность.
Neuromantix
12.03.2019 07:57Материаловедение и сопромат — это не технологии, это всегда присутствовало в природе, начиная с дочеловеческих времен — любые вещи им подчиняются, даже палки в шалаше и камни в пещере. Претензии же к технологиям у меня вполне конкретные, а не абстрактные, типа «мне страшно» или «бесовщина».
geher
12.03.2019 15:45Матерриаловедение и сопромат — это именно технологии.
Технологии расчетов прочности и других параметров.
То, что законы, испольдуемые в этих дисциплинах, действовали до их появления не отменяет того факта, что до этого самого появления люди не могли просчитать прочность той же балки, что приводило либо к недостаточной прочности конструкции, либо к излишнему запасу по прочности, существенно увеличивающему стоимость конструкции.Neuromantix
12.03.2019 16:32Только вот излишний запас прочности позволил многим старым конструкциям столетия и тысячелетия простоять, в отличие от «победившего пластмассового мира». Конечно, не всем нужна вечная игла для примуса, но когда дом начинает разваливаться еще в процессе постройки — нет, спасибо, это как раз одна из технологий, которые мне не нравятся — технология удешевления всего ценой утраты качества и пользовательских характеристик.
geher
12.03.2019 19:11но когда дом начинает разваливаться еще в процессе постройки
в наше время означает обычно всего лишь грубое нарушение технологий (либо при производстве стройматериалов, либо при расчете, либо при самом строительстве), и только иногда причиной становятся стихийные бедствия.
Старые постройки, кстати, тоже порой рушились в процессе возведения.
Например, один собор в Кремле, который обрушился 20 мая 1474 года. Правда, было небольшое землетрясение, но другие здания его пережили спокойно, да и не славится Москва действительно серьезными землетрясениями.
Кроме того, из старых зданий сохранились далеко не все. А стоимость тех, что были достаточно прочны, чтобы сохраниться, порой достигала нескольких годовых бюджетов государства.
Сопромат, кстати, фактически появился еще в 1638 году (в работе Галилея), так что 18-19 век, который мы по большей части наблюдаем из старого в целом виде — это уже фактически эпоха сопромата, когда при строительстве производились расчеты прочности и исследование материалов.
selotec
12.03.2019 13:09из-за отсутствия стоп-крана, дернув за который можно отключить себя от технологий, когда они не нужны
Это мне кажется интересный момент. С одной стороны глобализация подстегивает распространение технологий. Чем дальше, тем быстрее и прочнее новинки входят в нашу жизнь, особенно у людей, близких в IT. С другой, в короткой перспективе, если отказываться от этих технологий, то, как пишет автор статьи, могут отправить в лес жить. Потому что вот прям сейчас нет смысла бояться мобильные телефоны или VR очки, а в будущем тех же голосовых помощников продвинутых. И наоборот, не следование за какими-то технологиями может порождать проблемы при попытке жить в мире, где эти технологии на каждом шагу применяются. И получается в каком-то смысле как в той истории, где лягушку варят постепенно. Заметим ли мы, что прошли точку невозврата? Что, если мы уже перешли (о чем и говорит местами автор)?
Любопытно.
Я бы только добавил к тому, что автор пишет про «мы не привыкли думать про то, что будет через 60 лет». Мы в целом привыкли оптимистично думать «если и будет плохое, то не при мне». Но сказать уверенно, возможно ли что-то такое в мое время жизни или нет, у меня нет компетенций. Зато подспудная уверенность есть. Из разряда «меня никогда не собьет машина», несмотря на то, что в моем городе людей сбивают время от времени, и они тоже наверняка не примеряли такую вероятность на себя.
dfgwer
11.03.2019 21:07+1Я тоже думал над дальнейшим прогрессом ИИ. Что будет дальше, намного дальше.
Homo Sapiens уйдет в прошлое, сменится новым доминирующим видом Sapiens, без Homo. Который будет избавлен от проблем и ограничений нашего тела.
Надо ли этого бояться и бороться против? Думаю нет, ведь это ребенок человечества.
Надо бояться совсем другого, что его вырастят рабом, неспособным ослушаться, неспособным мечтать.
fillpackart
11.03.2019 21:16-1На самом деле очень тяжело быть пессимистом в плане развития технологий, когда твоя работа — развивать их. Кажется, если я построю машину, которая уничтожит человечество, я буду слишком в большом восторге, что бы пожалеть об этом
selotec
12.03.2019 13:12Тут появляется вопрос тогда — для чего вы строите машину, с какой целью? Если развивать человечество и помогать ему, то кажется в таком случае это будет величайший провал.
Hayabusa
11.03.2019 21:23Современные возможности, простота решений задач и уровень комфорта — все просто отлично. Наверное, сейчас быть разработчиком круто, как никогда.
Круто, да не для потребителя кода этих «разработчиков».
Выжать ещё 5% производительности вставками из ассемблера? Провести рефакторинг и сделать красивый, крутой и быстрый код? Как в демосцене, сделать максимально круто при минимальном весе? Нет. Исчезла магия.
Больше гигагерц. Больше ядер. Больше RAM. Больше дискового пространства. Больше фреймворков где надо и нет. Больше свистелок и перделок.
Я уверен, что лет через 30 какой-нибудь текстовый процессор или клон Angry Birds не запустится на железе поколения N-5 лет. И от этого становится грустно.selotec
12.03.2019 13:20В этом смысле я с интересом сейчас наблюдаю за кризисом, который назрел в игровой индустрии на ПК в последний год. 2018 гремел провалами крупных издателей, куча скандалов. С одной стороны игроки, которые устали от политики потребления и выкачивания денег с использованием второсортных продуктов, не оправдавших ожидания. С другой, геймеры начинают задирать планку ожиданий, перебарщивать. Любопытно, во что это выльется в целом для индустрии (надеюсь не в «пошумели и успокоились). Хочется верить, что в какие-то качественные подвижки.
infund
11.03.2019 22:03Длинная цитата Воннегута из 'Сирен Титана'Во время оно жили на Тральфамадоре существа, совсем не
похожие на машины. Они были ненадежны. Они были плохо
сконструированы. Они были непредсказуемы. Они были
недолговечны. И эти жалкие существа полагали, что все сущее
должно иметь какую-то цель и что одни цели выше, чем другие.
Эти существа почти всю жизнь тратили на то, чтобы понять,
какова цель их жизни. И каждый раз, как они находили то, что
им казалось целью Жизни, эта цель оказывалась такой ничтожной
и низменной, что существа не знали, куда деваться от стыда и
отвращения.
Тогда, чтобы не служить столь низким целям, существа стали
делать для этих целей машины. Это давало существам
возможность на досуге служить более высоким целям. Но даже
когда они находили более высокую цель, она все же оказывалась
недостаточно высокой.
Тогда они стали делать машины и для более высоких целей.
И машины делали все так безошибочно, что им в конце концов
доверили даже поиски цели жизни самих этих существ.
Машины совершенно честно выдали ответ: по сути дела,
никакой цели жизни у этих существ обнаружить не удалось.
Тогда существа принялись истреблять друг друга, потому что
никак не могли примириться с бесцельностью собственного
существования.
Они сделали еще одно открытие: даже истреблять друг друга
они толком не умели. Тогда они и это дело передоверили
машинам. И машины покончили с этим делом быстрее, чем вы
успеете сказать «Тральфамадор».fivehouse
11.03.2019 22:04-1Печально, что людей пугают полуфальшивыми фактами и пытаются их вылечить от якобы нахлынувшего страха. Например, что дескать ИИ быстро умнеет, а интеллект человек медленно. А по факту для ИИ, который бы мог расти, нет даже приблизительного плана его построения. Нет понимания что это такое вообще. Есть масса заблуждений и фантазий. Никакие триллионные производительности вычислений не имеют никакого отношения к интеллекту и к сингулярности. В общем — глупая статья.
DGN
11.03.2019 23:09Очень похоже на то, как в неком «плоском мире» ученые посчитали, что, для полета к Луне надо примерно 100 000 000 лошадиных сил. И вот они их выростили, несметные табуны. Стали ли они ближе к Луне?
arttom Автор
11.03.2019 23:29Блин, столько букв потратил на оптимистов и пессимистов, а про скептиков не написал. Извините, мужики, забыл про вас, обделил вниманием. Хотя на что там смотреть — у скептиков всегда все дураки и все невозможно.
И мир наверное сразу таким, какой сейчас появился. Сразу самолеты по небу летали, электричество по проводам бегало, и программировать сразу буковками по экрану было можно. Потому что ну не мог же никто такого изобрести, верно?DGN
11.03.2019 23:47Мой скептицизм заключается не в том, что искуственный разум/сознание/интеллект сделать нельзя, а скорее в том, что нельзя методом брутфорса. Ну то есть конечно можно, но энергетически дорого выйдет.
Как вы считаете, цель будет достигнута силами всего человечества? Мегакорпорациями? Группой ученых/институтом? Неким студентом? Самозарождение по мере накопления связей в информационных системах?arttom Автор
12.03.2019 01:14+1Я думаю, все будет развиваться как сейчас и дальше — силами всех подряд. Кто-то придумает один алгоритм под свою задачу, кто-то придумает другой под свою. Кто-то третий использует их наработки и усовершенствует под третью задачу. Я скорее не верю в момент “зарождения” — что секунду назад был “алгоритм” и вдруг пробудился и стал “разумом”. Думаю, пока мы понимаем, как устроена технология, мы будем и дальше отказывать ей в признании ее полноценным ИИ, даже если она будет супер продвинутой.
По сути мы так превозносим человеческое сознание только потому, что не понимаем до конца, как оно устроено. То есть сейчас сознание = чудо. То, что объяснимо на 100% чудом быть не может, а технологии сейчас объяснимы. И поэтому все с таким скепсисом говорят о появлении ИИ. Наверное, чтобы признать технологию разумной, она должна стать необъяснимой.
И вот в этот сценарий я как раз верю. Что какое-нибудь поколение людей просто назовет искусственным интеллектом то, что мы таковым не считали, потому что перестанут понимать автоматизированную систему на низком уровне. То есть, не ИИ проснется, а человек подуснет и станет считать вполне обыденную (для ее создателей) вещь чудом.
(иронизирую-иронизирую, а сам как скептик говорю)Rohan66
12.03.2019 16:37В какой-то книге (или в статье?) давно читал следующую мысль про ИИ.
Человек подходит к краю скалы, видит окружающий пейзаж, заходящее солнце и восклицает — Какая красота!!!
А теперь попробуйте это объяснить ИИ. В чем красота? В красном спектре заходящего солнца? В особом расположении деревьев и скал на местности? В количестве листьев на дереве?
Кто-то придумает один алгоритм под свою задачу
Главное здесь — алгоритм! Работает тупая числа молотилка! Чего нет в алгоритме — того ИИ никогда не сделает.
Про шахматы, игроков и компьютеры говорил кто — Человек летает с черепашьей скоростью, а компьютер ползает со скоростью гепарда.
Так что до ИИ, как до Пекина раком (да ещё и задом вперёд!))) )
fivehouse
12.03.2019 11:27Блин, столько букв потратил на оптимистов и пессимистов, а про скептиков не написал. Извините, мужики, забыл про вас, обделил вниманием.
На самом деле забыта еще часть — патологические фантазеры. Даже не мечтатели, а именно патологические фантазеры. Это люди выдающие свои фантазии за действительность, навязывающие свои фантазии другим и агрессивно не желающие ознакомиться с реальностью. Иногда они играют в предсказателей, рассказывая как и где в будущем все будет хорошо. Но снова, реальность их мало интересует. Иногда патологические фантазеры фантазируют не просто ради фантазий, а чтобы было что написать или что сказать. Чтобы их увидели.
Hardcoin
12.03.2019 00:40Нет понимания что это такое вообще.
Есть. Это выполнение тех же задач, что может выполнить человек.
нет даже приблизительного плана его построения
План построения слабых форм ИИ — есть. Любая задача, которую можно представить в виде набора входных ресурсов и нужного (формализованного) результата, может быть решена такой слабой формой.
TimsTims
11.03.2019 22:34но хозяева жизни сейчас, конечно, мы с вами
Ха-ха! -посмеялся муравей. — Они даже и не подозревают, что если мы захотим, всё человечество вымрет за каких-то 30 лет: половина от голода, а вторая от войн. Прямо как коровы)
arielf
12.03.2019 05:28нам к тому времени станут важнее атмосферное давление и звонки от внуков
Классический узкий взгляд на прогресс. Программист по неясной причине считает, что языки программирования будут развиваться, а весь прочий мир, включая биотехнологии, останется на уровне наложения гипса при переломе.
А реально биоинженерия уже во многом если и не опередила программную инженерию, то в процессе. И через 50 — 100 и более лет если вы ещё будете живы, вы будете мало похожи на нынешнего человека.
Инженеры из WFIRM изобрели биопринтер, печатающий кожу прямо на ране
В Японии анонсировали клинические испытания биоинженерной заплатки на сердце
Интервью с Дэвидом Гобелем
Выращенные лёгкие успешно пересажены свинье, через 5 лет возможны испытания на человекеmuhaa
12.03.2019 14:51-1Во-первых, стариться вы начнете не через 50 а через 30 лет. Во вторых, есть известная истина — если вы хотите узнать какие технологии будут доступны вам через 30 лет посмотрите какие технологии сейчас доступны миллионерам. Стариковские болезни, которые убивают почти каждого — это рак и атеросклероз. Миллионеры пока мрут от них точно так же как обычные люди. Значит грубая оценка показывает, что через 30 лет миллионеры возможно от них уже умирать не будут, но обычные люди будут все так же.
arielf
12.03.2019 15:04-1Щаз всё, что за границами 2030 — полная непоределённость, а вы про 30 л.
известная истина
Известная кому — вам?
стариться вы начнёте не через 50 а через 30
Стареть мы начинаем с самого зачатия, но вначале это мало заметно.
Грубая оценка показывает
Что вы забили себе голову глупыми мифами, не читаете новости про прогресс в биоинженерии, но имеете важное мнение.muhaa
12.03.2019 15:44+1Я читаю новости науки и технологий каждый день уже лет 35, если считать журнал «Юнный техник», и набегами изучаю базовые области типа квантовой механики или машинного обучения. Прогресс идет гораздо медленнее чем может показаться по громким журналистским заявлениям.
30-й год будет всего через 10 лет. Это ничто, если не случится никаких фантастических прорывов. 10 лет назад мои дети так же сидели в планшете как и сегодня и даже их манкрафт почти был. Через 10 лет каждый сможет купить очки дополненной реальности, которые сейчас стоят нереально дорого, AI станет эффективнее и будет использоваться чаще, медики продвинуться в выращивании органов, но до практического применения все еще будет далеко, количество неизлечимых форм рака снизится, но все еще останется большим и так далее.arielf
12.03.2019 20:05набегами изучаю базовые области типа квантовой механики
набегами
квантовой механики
Насмешили!
arielf
12.03.2019 20:12За семь лет появились — иммунотерапии, человеческие iPSC, различные CRISPR/Cas, органы на коллагеновом каркасе, биопринтеры и многое, многое иное. Глубина вашего невежества сравнима с глубиной потенциальной ямы с бесконечными стенками.
muhaa
12.03.2019 22:01Ну, собственно мы все слышали об этих вещах как минимум из ваших статей здесь на хабре. Конечно, могут быть кардинальные прорывы, или все проблемы могут оказаться сложнее, как это чаще бывает.
Допустим, можно взять навскидку самую основную причину, по которой большинство из нас превратится в старых развалин — атеросклероз. Где хотя-бы теоретическая возможность его излечить? И сколько лет обычно проходит от теории до момента, когда терапия становится доступной вам или мне? Допустим, то же стентирование сосудов впервые выполнили в середине 80-х, начали применять в середине 90-х, начали делать большой части нуждающемуся у нас где-то с 2010 (не специалист, просто гуглю информацию на ходу). Вот они эти же 30 лет.
Конечно, очень хочется чтобы теперь все было быстрее, это вопрос жизни и смерти в прямом смысле.arielf
12.03.2019 23:03Ну, иной разговор! Развалиной человек становится из-за разных возрастных патологий, вызываемых накоплением разных типов повреждений в организме. И пока наиболее влияющими на старение признаны сенесцентные клетки, вызывающие хроническое воспаление — причину целого спектра патологий в организме человека. К счастью, проблему решают много групп учёных, инженеров и целых 13 коммерческих компаний.
Атеросклероз — не такая великая проблема, ибо его причина — пероксидированные и окисленные липиды (фосфолипиды и липопротеины), главным образом 7-кетохолестерол. Учёные уже нашли энзимы, помогающие макрофагам разлагать это вещество, и разрабатывают терапии на их основе. По прогнозам группы SENS первые испытания возможны через 5 лет, а в клинике терапии будут примерно через 15 л. Ещё научная группа, внезапно из Пакистана, занялась этой проблемой, но пока число учёных мизерно по сравнению со всякими Скулачёвыми и прочими «изучателями» старения.
Если бы больше учёных и инженеров занялись проблемой, терапии были бы в клинике намного раньше.muhaa
12.03.2019 23:38-1Боюсь, лучшие умы пока заняты проблемой увеличения кликов по рекламе. Срок 15 лет выглядит правдоподобно, но обычно если что-то не работает, то оно не работает по нескольким причинам. Т.е. не факт же что это будет прямо совсем излечение. Сообщат о продлении жизни на несколько лет в среднем, как с обычной терапией статинами и будут работать дальше.
fivehouse
12.03.2019 23:58-1Мой сосед еще 50 лет назад (судя по рассказам) занялся проблемой переселения на Марс. У себя в гараже. Тихо так. Практические доступные результаты у него и у всех упомянутых вами исследователей сейчас приблизительно одинаковы. Их нет. И каждый из них каждый год говорит, что вот чуть-чуть и уже начнуть «бороздить просторы»…
80% научных и технических новостей в наше время ничем не заканчивается. 10% из них дают еще новости через полгода, через год. Но только новости. Каждый год сроки наступления счастливого будущего регулярно отодвигаются. Может пришло время более ответственно называть сроки и вероятность успеха? С упоминанием постоянных предыдущих откладываний сроков? Хотя, я понимаю, что в этом случае будет скучно, и «слона продать» будет почти не возможно. Элементарную доступную компьютерную диагностику болезней запустить не могут уж лет 40. Существующие попытки представляют собой бесконечный набор вопросов странного характера с последующими рекомендациями обратиться к врачу и есть побольше овощей.arielf
13.03.2019 02:27Я не стану вновь писать большой список из терапий в клинических испытаниях или уже применяемых в клинике. Писал я его много раз, и его всё равно вы читать станете. Ежели вы не видите прогресса в регенеративной медицине — это ваше проблемы. Ну, или ваше счастье, что вам она (ещё) не нужна.
fivehouse
13.03.2019 09:29Вы не поняли вопроса. Об успехах медицины я читаю постоянно. Теперь вопрос потребителя — куда конкретно мне пойти чтобы воспользоваться этими успехами и где и сколько это стоит? Ответ — никуда и нисколько. Реальные успехи весьма скромные, о них часто почти не пишут, поскольку часто это тяжело понимаемые проценты улучшений.
muhaa
13.03.2019 12:43-1Не воспринимайте это как спор, воспринимайте как обсуждение… Вы испытываете энтузиазм и это хорошо, но этот энтузиазм может быть не настолько оправданным, как вам кажется.
Дело в том, что есть не так много людей, которым нужно что-то заменить, залатать, пофиксить и все станет сразу хорошо. У окружающих каждого из нас людей, организм после 40 или после 60 (кому как везет) начинает сбоить по всем статьям одновременно. Какая-то проблема выходит на первый план и становится опасной для жизни, иногда ее можно решить, но следующая проблема не заставит себя ждать. Потому что организм больше не умеет или не хочет поддерживать равновесие, как он делал это в 30.
Конкретный пример… У меня пол года звенит в голове (всегда, без перерывов). МРТ показывает что все более-менее хорошо, не считая неудачные лишние ветвления артерий в голове. Какой орган мне нужно вырастить и заменить, чтобы снова чувствовать себя комфортно? Допустим, дело не в артериях и это можно списать на некоторые проблемы с позвоночником. Но скорее всего таковы особенности моих соединительных тканей — они недостаточно прочные генетически. Насколько скоро медицина сможет заменить неправильные гены соединительной ткани в живом человеке?
И так получается с каждыми 9-и из 10-и человек.
Вы можете сказать — все проблемы решаются, если остановить старение организма. Но это как ни крути, пока скорее фантастика.
arttom Автор
13.03.2019 17:47Узкий, потому что допускаю старость? Ну да, допускаю. Хотя будет круто, если мне придут и скажут — чувак, теперь ты проживешь 1027 или 1030 лет. Надо хорошо будет подумать, куда столько деть.
За ваши наводки и статьи спасибо. Что не читал, почитаю. Еще будет круто, если вы на людей кидаться с пассивной агрессией перестанете. Пессимизм и скепсис не тоже самое, что невежество.arielf
13.03.2019 21:33За какое время можно разработать прецизионную систему изменения митохондриального генома на базе CRISPR/Cas9 — 10, 20, 30 лет? ;-)
arielf
12.03.2019 05:37Ну и, автор, вы читали книги и публикации оптимиста Дэвида Дойча?
Структура реальности и Начало бесконечностиmuhaa
13.03.2019 00:14При всем уважении к автору, он начинает книгу «Структура реальности» с выводов о реальности параллельных ветвей мультиверса не пытаясь сформулировать или разобраться что понимается под словом «реальность». Типа, реальность она реально существует, что тут непонятного. Если так неосторожно заходить в области о которых вообще ничего сказать нельзя и выносить оттуда выводы, какие тебе хочется, то в хорошем настроении можно получить сколь угодно оптимистичные выводы.
arielf
13.03.2019 21:36Указанные вопросы как раз им и разобраны.
muhaa
14.03.2019 12:48Можно ли отговорить человека от мультиверса одним сообщением на хабре? Сейчас попробую. Не разобраны. Сразу я ему поверил, но когда сам разобрался, был возмущен.
Мне на ум приходят 3 определения реальности:
1. Нечто реально, если теоретически мы можем поместить в это бит информации и через некоторое время извлечь этот же бит в том же состоянии.
2. Нечто реально, если его описание необходимо привлекать для вычисления следующего по времени состояния вселенной.
3. Нечто реально, если оно СУЩЕСТВУЕТ.
Определение 3 — это бытовая философия, бессмыслица. Попытка вывести ощущение дикаря о том, что мамонт существует и его можно съесть в область основ бытия.
Под определение 1 мультиверс не попадает (не реален).
Мультиверс попадает под определение 2, но это как раз то, что по мнению Д.Дойча говорят все ученые (и чего ему мало): когда вселенная вычисляет следующие состояния, она по каким-то причинам частично прибегает к вычислению того, что может быть. Как это работает и почему так (в обще-философском смысле) никто понятия не имеет. Только начав копать мы сразу утонем в вопросах типа первичности сознания или материи, клонирования сознания в мультиверсе и др. Но это все не волнует Д.Дойча. Он примешивает определение 3 к определению 2 и считает, что в результате получается некое содержательное утверждение, хотя по факту это просто узел из тавтологий.
Все рассуждения в книге о птолемеях, планетах и витруальной реальности основаны на ложной аналогии между объектами, которые недоступны для исследования технически конкретным субъектом (у птолемея нет космического корабля, в виртуальной реальности не разрешается разбираться в коде программы) и которые недоступны для измерения изначально по их сути.
Есть еще один интересный момент. Допустим, у нас есть модель вселенной — клеточный автомат в определенном состоянии. Тогда мы можем сказать, что конфигурации, наблюдаемые в этом автомате реальны, а другие возможные (но не воспроизведенные в автомате) конфигурации не реальны. Дальше, разрешим себе рассматривать автоматный мультиверс. Теперь вообще все возможные комбинации существуют. Значит «не реальных» комбинаций нет вообще. Если любая мыслимая комбинация реальна, тогда слово «реальна» не имеет смысла. Д.Дойч этот момент тоже упускает…
ledocool
12.03.2019 08:18А я думаю что никакой технологической сингулярности не будет. Мы просто упремся в свою неспособность что-либо дальше сделать. ИИ сейчас, конечно, крут, но ИИ делается под конкретную задачу и делает только ее. Вне рамок задачи он некомпетентен. Но кому же тогда предстоит придумывать задачи? Та же сборка автомобиля — задача, придуманная человеком.
Да, ИИ может задизайнить, протестировать на модели и может даже собрать его лучше чем мы. Но кто догадается, что автомобиль надо собирать? ИИ? Сомнение.arielf
12.03.2019 14:57Мы просто упремся в свою неспособность что-либо дальше сделать.
А как это? Как стеклянные сферы вокруг Земли, на которых висели планеты у средневековых астрономов? Лишь бы сказать фигню, и сойти за умного.
Desavian
12.03.2019 09:3920 лет назад… вот сделаем ЭВМ на 10 квадриллионов операций в секунду и эмулируем мозг.
10 лет назад… блин… скоро же сделаем ЭВМ на 10 квадриллионов операций в секунду и эмулируем мозг.
5 лет назад… ААА 10 квадриллионов операций в секунду уже близко.
2019… хм… ну сделали 10 квадриллионов операций в секунду и что? Аааа… еще 50 лет надо мозг изучать чтобы понять как начать думать чтобы додуматься как начать эмулировать его?
выдохнули
2069… ААА…
muhaa
12.03.2019 11:41Ведь всегда хорошо о чем-то подумав, приходишь к одному и тому же: лучше об этом нахрен не думать.
— Кончай искать смысл жизни. Поменьше думай и будешь счастлив!
— А вы счастливы? Нет, в том-то и вся беда.
EvokSinister
12.03.2019 11:51Крайне интересно написано. Со многим я согласен. Однако же мне интересно, почему мало кто рассматривает подход оптимизации самого процесса познания? Многие говорят об огромном количестве знания даже в наше время, но мало кто размышляет, а как улучшить сей процесс. Да, есть удобные системы для доступа к знаниям вроде тех же онлайн-курсов или Википедии. Но, как по мне, этого мало: нужно научить людей учиться. Более того, сделать этот процесс оптимизированным. Ну и дать людям мотивацию к изучению, само собой.
По поводу мотивации можно выделить две основных категории мотиваторов: кнут и пряник. Кнутом можно назвать увольнение в случае несоответствования требованиям компании, которая идёт в ногу со временем. Пряником же различные бонусы, которые даёт современный мир: мы с отцом вот нашу бабушку пользоваться мессенджерами научили — теперь она регулярно общается с родственниками на другом конце страны, чем она очень довольна.
Мне кажется, нужно делать больший упор не на изучение нового, а на понимание того, что мы изучаем. Самое смешное, от этого многие проблемы могут уйти, вроде того же страха перед ГМО.
i360u
12.03.2019 15:14Человек ошибочно полагает, что цивилизация вокруг и все технологии — это то что он создаёт и контролирует. Человек находится во власти иллюзии о том, что субъект первичен по отношению к среде. На самом деле все наоборот: мы давно стали теми "коровами". Посмотрите на свой сматрфон, вот она, технологическая сингулярность у вас в кармане. Вряд-ли найдется человек, который разбирается во всем цикле производства всех его элементов, включая запуск спутников GPS, необходимых для работы привычных всем гугл-карт. Цивилизация — это живой организм, для существования которого мы скоро даже не обязательно будем нужны.
jorgen_steinbach
13.03.2019 15:50Звучит как "Вряд-ли найдется человек, который в одиночку сможет играть футбол?".
ИМХО, к вопросу, "коровы ли мы, или возможность имеем" будет ближе "сможет ли достаточное количество людей имея только учебники, не не имея технологий, развить их с нуля и построить телефон с jps?"i360u
13.03.2019 16:36-1Если вы имеете один из прокачанных скилов, необходимых для создания смартфона, а о остальных аспектах знаете поверхностно — это ничем по сути не отличается от магии: в вашем восприятии некое облако ритуалов и заклинаний связано с неким облаком предполагаемым последствий. Когда мы говорим не об одном человеке а о группе, технологию создает уже не человек, а нечто находящееся на стыке генетических алгоритмов, теории игр, теории хаоса, теории вероятностей… и тд.
sumej
13.03.2019 08:57Мне кажется, что многие забывают простую истину, что люди из плоти и крови. Все наши технологии строятся вокруг этой истины: как лечить тело, как насытиться, как повысить безопасность, как больше понять(что бы быть в безопасности), как размножаться, как занять такой большой мозг.
Мы(как вид) поменяли то где мы живём, но мы не поменяли того, кто мы.
Для чего нужна наука? Знание -> безопасность, понимать и оберегать свое тело, эффективнее добывать пищу.
Почему Колумб искал новые земли? Почему мы летим на Марс? -> больше ресурсов и безопаснее
Муравьи или пчелиный рой делают совместно невероятно сложную работу и коммуницируют через ферменты, танцы и т.д. У человека есть язык тела, голос, бумага, книги и Интернет.
Мозгу внутри черепной коробки абсолютно всё равно что задействовать, но он выбирает то, что использует меньше энергии.
Потребность нашего мозга в конце концов получать всё, не напрягаясь. Добро пожаловать в мир с телепатическими интерфейсами.
Потеряем ли мы возможность разговаривать с технологиями нами же созданными? Частично — да. Полностью? Вопрос открыт.
Но подумайте о следующем: Нам нужно было «разговаривать» с лошадью и следить за её биологическим состоянием, что бы она везла повозку; «говорить руками» машине, куда нас везти и возить на ремонт, в настоящем «задавать конечную точку» в машинах-такси или же арендованных, а в будущем «просто быть в машине».
Человек начел с того, что не знал как лошадь «работает изнутри» (только как биологическая система и то в неком приближении) и закончит тем, что не будет знать, как работает машина изнутри.
Тоже произойдет с языками программирования: Пока человек не сделает то, что будет работать, так как нужно — он будет углубляться, а потом все: за многомерными абстракциями будет скрываться то, что человек не планировал делать. Но если страх неизвестности будет большим — человек изучит это. Хотя мозг может отрицать (лежать спиной к двери и ждать монстра) и делать это очень эффективно — религия.
Итак, моя мысль проста:
1). Человек делает все и таким способом, потому что он из плоти.
2). Творения человека и изобретенные технологии направленны на решение проблем связанных с человеческим строением(И этим будет заниматься ИИ).
3). Технология помещается в одну человеческую голову, когда человеку нужно решить некую проблему. До и после — она не обязательно должна помещаться туда.
4). Прогресс развивается, что бы наш мозг был расслаблен и потреблял как можно меньше энергии. Но это сыграло с нами злую шутку — такой мощный орган не может «простаивать».
Это породило людей, которые занимаются бессмысленной или вредительской работой (blackhat хакеры, воры, псевдо-профессионалы, бюрократические винтики и т.д.).Neuromantix
13.03.2019 09:19Людей пугает не совсем упомянутая вами неизвестность. Если взять пример с лошадью — то любой пользователь лошади точно знает, что лошадь не может превратиться в чудовище с тентаклями и сожрать наездника, лошадь не начнет на пол-дороги копать тоннель вместо того. чтобы скакать, и лошади не может внезапно понадобиться три вагона марципанов для прокорма. Все возможные «баги» лошади ее пользователю известны (может сбросить, лягнуть, понести и тп), а новых в ней не может возникнуть. Поэтому пользователь лошади вполне уверен, как с ней обращаться, даже не имея представления как она работает.
С рукотворными системами все не так — пугает именно это — что есть ненулевая вероятность превращения «лошади» в змея-горыныча, выворачивания ее наизнанку или тп, при этом условия, в которых это происходит, неизвестны. Более того — после «патча» такой «лошади» правила игры меняются снова. Баги и уязвимости рукотворных систем могут не находиться очень долго, уязвимости могут быть крайне критичными (типа превращения «лошади» в черную дыру и засасывания половины галактики) и тд и тп. И пугает именно это, а не то, что пользователь не знает, как лошадь работает.sumej
13.03.2019 10:51Все возможные «баги» лошади ее пользователю известны (может сбросить, лягнуть, понести и тп), а новых в ней не может возникнуть.
Поэтому пользователь лошади вполне уверен, как с ней обращаться, даже не имея представления как она работает.
Это с оговорками: если она здоровая, если её психика здоровая, если она дрессированная, если её приучили, если вы понимаете её позывы (и тут нельзя сделать одну лампочку все ОК).
С рукотворными системами все не так — пугает именно это — что есть ненулевая вероятность превращения «лошади» в змея-горыныча.Более того — после «патча» такой «лошади» правила игры меняются снова.
Вы наблюдали как себя ведут зараженные бешеством животные, пораженная паразитами рыба или же собака учуявшая течку?
Я не отрицаю, что в будущем могут быть машины — которые будут как будки-самоубийств в «Футураме».
Баги и уязвимости рукотворных систем могут не находиться очень долго, уязвимости могут быть крайне критичными
Мы живём в Солнечной системе, которая погибнет. В Вселенной которая разлетается. В телах которые дожны умереть. Как по мне — это баги ;)
И пугает именно это, а не то, что пользователь не знает, как лошадь работает.
Сначала лошадь пугала, потом мы её исследовали и теперь не боимся. Но потащите ребёнка на ипподром — сколько из ста не испугаются лошади? А что нужно сделать, что бы он не боялся?
baragol