Нейросеть никогда не заменит человека! Нейросеть не умеет ставить цели! Нейросеть не обладает эмоциями и творческим потенциалом! Нейросеть не умеет впитывать знания из окружающего мира! Нейросеть не обладает сознанием! Нейросеть может учиться только на том, что создаём мы, люди!
Я понимаю людей, которые обесценивают нейросети. Они находят области, где нейросети бессильны. Составляют списки профессий, которые останутся актуальными. Смеются над ошибками ChatGPT и лишними пальцами Midjourney. Сквозь эти рассуждения прослеживается одна простая мысль: машина никогда не сможет стать человеком. И это конечно, так.
Но это ничего не меняет.
Эта статья состоит из двух частей. В первой я расскажу о том, почему считаю, что нейросети смогут заменить человека во всех областях. А во‑второй выскажу своё предположение о том, как изменится жизнь человека, когда его работа будет больше не нужна. Спойлер: всё будет хорошо.
Часть 1. Просто у нас нет выбора
Скоро будет двадцать лет, как я изучаю мышление человека. Пишу статьи на эту тему, разрабатываю модели мышления, даже выпустил книгу «Просто о мозге». И моё мнение о мозге многим не понравится. Мозг — это сложный, но понятный механизм, который формирует алгоритм мышления.
У такой штуки как «механизм» есть грустная характеристика — детерминированность. Проще говоря, состояние системы полностью зависит от состояния системы в предыдущий момент. Проще говоря, у любого изменения системы есть причина, по которой это изменение произошло.
К сожалению, пресловутая свобода выбора противоречит этой концепции. Если у выбора есть причина, то никакой свободы выбора не существует. Есть причина выбора = нет выбора.
А если человек говорит, что причины у выбора не было, значит, он верит в магию и отрицает науку. Потому что наука полностью построена на причинно-следственных связях. Либо веришь в свободу выбора, либо веришь в науку.
В этот момент обычно появляются доводы, что на квантовом уровне всё иначе. Там вероятности, нарушение причинности и прочее. Проблема в том, что и это ничего не меняет. Если на квантовом уровне существует генератор случайных чисел, который вмешивается в работу мозга, то из этого свобода выбора не рождается. Просто есть шум, который вмешивается в механизмы мышления. Человек этим шумом не управляет.
Но вернёмся к нейросетям. Важно разделять механизм и алгоритм. Мозг — механизм. Мышление — алгоритм. Кайф в том, что одни и те же алгоритмы могут функционировать на основе разных механизмов.
Ну вот, например, математика. Вы можете производить расчёты на калькуляторе, а можете на деревянных счётах. Помните ещё такие? Алгоритм расчётов схожий, а механизм бесконечно далёк друг от друга.
С механизмами мышления всё точно так же. Современные нейросети упрощают отстаивание этого довода. Они пугающе точно научились повторять части алгоритмов мышления. Настолько точно, что, вернись мы на 10 лет назад и покажи результаты любому человеку, он никогда не догадается, что это усилия цифровой болванки.
И реальность такова, что очень скоро нейросети повторят все элементы алгоритмов мышления. И эмпирическое мышление, и эмоциональное, и целеполагание, и инженерное мышление, и философское, и даже научное. Всё это алгоритмы. И по мере развития ИИ мы применим его возможности для расшифровки оставшихся аспектов мышления.
Это я всё к чему? Это я всё к тому, что не нужно гадать, какие профессии останутся. Не останется никаких профессий. Абсолютно во всех областях человек будет заменён более передовым, с эволюционной точки зрения, интеллектом. А развитие робототехники забьёт последний гвоздь. Произойдет это очень… не-не-не… это уже произошло. Просто не до всех областей долетело. Медленно распространяющийся ядерный взрыв перемен.
Но работы у человечества меньше не станет. Просто работа станет другой.
Часть 2. Мы нужны только себе
Если проанализировать, как менялся тип работы за последние тысячелетия, можно обратить внимание на тренд: работа от «мне необходимо работать, чтобы выжить» смещается в сторону «мне необходимо работать, чтобы себя реализовать».
Раньше 100% усилий в течение дня было направлено на выживание. Остальное время было периодом восстановления. Однако стало происходить странное. По мере развития человечества, после удовлетворения базовых потребностей — таких как сон, секс, безопасность — стало оставаться свободное время.
Эволюция такой фигни как свободное время не понимает. Если есть время, то его надо занять тем, что повысит вероятность выживания лысой обезьяны. На смену базовым потребностям стали выходить вторичные. И среди всех вторичных потребностей есть одна, самая жгучая, самая сладкая. Потребность быть лучше других.
Посмотрите на свои мысли в течение дня. Если их разделить на категории, то процентов 30 будут занимать мысли, связанные с базовыми потребностями. Что поесть, хватит ли денег, где найти партнёра. А оставшиеся 70% будут выглядеть так: как лучше одеться, что написать в соцсети, как понравиться, лучше ли я других, как сделать так, чтобы меня уважали, как надо было ответить в том споре, как быть особенным, как заставить себя заниматься спортом, как похудеть, как привлечь внимание. Все эти мысли можно объединить в категорию «Иерархический рефлекс». Проще говоря, это мысли о том, как в разных иерархических пирамидах оказаться повыше.
Иерархические пирамиды могут быть достаточно причудливой формы. Например, быть самым незаметным — это быть незаметнее других. То есть лучше других в этом вопросе. Быть обычным — это быть обычнее других. Может быть одна доминирующая пирамида, или много маленьких.
Почему в нас настолько сильна потребность быть выше по иерархии — это тема отдельной статьи. Но если коротко: все, кто не пытался занять более значимую позицию в стае, умерли. Мы потомки тех, кто пытался. Потому что, если животное иерархически более значимое, то у него доступ к большему количеству ресурсов, лучше обеспечена безопасность.
Эта потребность трансформировалась в субъективное ощущение, а не рациональное взвешивание. То есть мозг просто замеряет, где ты на пирамиде, которую для себя выбрал. Даже, если это пирамида «Быть самым скромным».
И если продлить в будущее тренд соотношения усилий, направленных на выживание, и на реализацию стремления быть лучше других, то можно аккуратно предположить, что работа человека будущего — это работа над своим величием. И эта работа будет сложной, будет занимать не меньше времени времени, чем мы сейчас проводим в офисе.
Сегодня блогеры и лидеры мнений — небольшая прослойка населения. Завтра работа на личный бренд и личную власть станет основной работой большинства людей в цивилизованных странах. А все базовые потребности людей будут с запасом удовлетворены благами, которые дадут нейросети и автоматизация. Да-да, я понимаю, что звучит отстойно. Меня тоже бесит.
Итоговый вопрос не в том, какую работу не сможет заменить нейросеть. Вопрос в том какую работу НЕ ЗАХОЧЕТ заменить нейросеть. И вот копошение людей в луже иерархического рефлекса нейросетям вряд ли будет интересно. Это побочный эффект несовершенства нашего обезьяньего мозга. Людям нравится — и слава богу, пусть резвятся.
Почему я так в этом уверен? А просто потому, что в альтернативном сценарии мы получаем Скайнет. И рассуждать о таком будущем даже смысла особого нет.
Я надеюсь, что нейросети не захотят участвовать в иерархической гонке с людьми. Так же как люди не хотят быть лучше обезьян. У обезьян свои игры. У людей свои. У нейросети свои. А что там у неё будут за игры, нам, людям, понять будет уже невозможно.
///
Такие вот у меня мысли. С радостью послушаю в комментах, где заблуждаюсь, сделаю выводы.
Я пишу много статей на тему мозга, но не все статьи подходят под формат Хабра. Остальные можно найти у меня в телеграм канале. Подписывайтесь, если интересен необычный взгляд на мозг. Ничего в канале не продаю.
Комментарии (37)
smplcd
20.04.2023 10:49Посмею предположить, что будет один из двух сценариев:
нейросети будут инструментом, т.е. количество рабочих мест не изменится, либо станет незначительно больше/меньше. Это тот сценарий, который лично я вижу как потихоньку воплощающийся
нейросети заменят пласт профессий (а значит количество рабочих мест кратно уменьшится), в таком случае я склоняюсь к тому, что государства, где это будет особенно сильной проблемой могут поставить эдакое условие, что количество рабочих мест должно быть таким-то таким-то (а-ля, как процентаж мужчин и женщин на определённых должностях в некоторых местах)
Сугубо имхо, буду рад услышать критику
vtal007
20.04.2023 10:49+1Мне кажется 2 точки зрения неправильные
Все профессии заменят
никакие профессии не заменит, людям нечего боятся
Ну сами посудите (сома посуди), никто не будет роботизировать что-то, что дешево. Человек "бегунок" в молнии поменял мне его за 400р в Доме Быта. При этом этот человек умеет еще дохрена всего делать. Сколько будет стоить такой робот? почему его нет. Почему нет в продаже роботов- готовщиков еды, зато есть примитивные (чуть лучше детской игрушки "луноход") пылесобиратели. Потому что дорого. В бывших маках (грустно и невкусно) куча живого народу работает. Зачем, почему? казалось бы, процессы стандартизированы. Поставь вендинговый аппарат и все. Но не, кожаные мешки проще эксплуатировать
Так-то возможно будет реальный киберпанк, одна часть людей будет действительно наслаждаться жизнью и программировать роботов, другие же (морлоки) будут прозябать в нищете делая малооплачиваемую, но ручную работу
urvanov
20.04.2023 10:49+1Но не, кожаные мешки проще эксплуатировать
Зато нейросети хорошо коэффициент вовлеченности вычисляют
vtal007
20.04.2023 10:49да? мне кажется вычисляют то, что поставили по ТЗ, по тем метрикам, что поставили в ТЗ. То есть нейронка не знает вообще что такое это ваша "вовлеченность", она может мерить активность, может производительность труда (и динамику), частоту заходов на работные сайты и тд. А вот чтобы сама себе поставить задачу по оценке вовлеченности - такого нет
Впрочем, Вы про "вычисление", ну да, рулетка (а лучше лазерная) хорошо мерит расстояния
eptr
20.04.2023 10:49Итоговый вопрос не в том, какую работу не сможет заменить нейросеть. Вопрос в том какую работу НЕ ЗАХОЧЕТ заменить нейросеть.
Известен ли алгоритм хотения?
Есть ли его реализации в виде механизмов?
Речь идёт о настоящем хотении, не его имитации?eliseisSmiRnov2
20.04.2023 10:49Как нейросеть может не захотеть, если ее создают для чего-то конкретного? Конечно есть вещи, в которую ее никак не встроить, например... мытье полов, неверное... хотя кажется даже это она осилит
Ainyru
20.04.2023 10:49+1Как и в случае со всеми ранее изобретенными инструментами, опасен не инструмент, а опасна лысая обезьяна с инструментом. У которой, как вы верно заметили, есть встроенное желание доминировать над другими обезьянами.
vassabi
20.04.2023 10:49+1ездил на СТО, сдал машинку в ремонт
так вы не поверите - меня там спрашивали про ChatGPT ("ты ж программист?"(с)),
ответил, что если их уволят, то это будет значить что машин больше не делают, а мы все летаем на антигравитации :)(ну или наступил каменный век, но я об этом решил даже не начинать тему)
vtal007
20.04.2023 10:49а как они узнали род занятий ? (скок не ездил на ТО, никто не спрашивал чем я занимаюсь)
впрочем может я не такой классной машине приезжаю :)
kareon
20.04.2023 10:49+2Позвольте не согласиться с вашими доводами. Большая часть человечества и сейчас занята работой ради выживания. Но чтобы их заменить, мало развить нейросети и робототехнику - надо еще сделать их дешевыми. Грубо говоря, сейчас какой-нибудь мастер в автосервисе в провинции получает, ну, с налогами, тысяч 50 рублей в месяц. То есть нужен робот, стоимость которого в месяц будет не выше этой суммы, чтобы владелец бизнеса его купил. А где-нибудь в индийской или африканской провинции стоимость труда еще меньше. Если же автоматизация не окупается, то никто не будет нести затраты только ради того, чтобы освободить людей от ручного труда и дать самореализовываться. Ну, может, разве что в супербогатых и социально-ориентированных странах, типа Норвегии.
Второе, есть куча профессий, где людям важен личный контакт с другим человеком. Врач, учитель, тренер - их и сейчас часто может заменть ютюб или нейросеть, но все же люди ищут людей. Еще есть целая куча профессий, связанных с принятием решений, ответственностью, применением силы - туда точно человек не пустит своих железных аналогов.
Что касается работы над своим величием - это нужно далеко не всем. Мне вот точно не нужно никакое величие.
BenderH
20.04.2023 10:49+1О цене чего вы говорите? Из чего складывается эта цена и ваше мнение о ней?
А напомните мне — сколько стоил компьютер, всего-лишь 40 лет назад? А теперь вспомним про его производительность? А потом сравним его с современным телефоном в руке?
Однако вы сильно заблуждаетесь. Не?
kareon
20.04.2023 10:49Я имею ввиду цену оборудования, которое на 100% заменит человека. Компьютеры да, подешевели, но вот если взять ту технику, которая не только вычисляет, но и какую-то физическую функцию выполняет - тут такого резкого падения нет. Автомобили, например, как стояли многие тысячи долларов, так и сейчас стоят, несмотря на прогресс. Тех профессий, где 100% можно сделать за компом, не так уж много.
Компьютеры, телефоны резко подешевели в основном потому, что появилась технология, дающая возможность одновременно уменьшить физические размеры и резко ускорить их выпуск - "напечатать" один чип вместо сборки из тысяч деталей. А в большинстве других областей так сделать не получится.BenderH
20.04.2023 10:49Дня сборки робота, уже сейчас, достаточно принтера и — тех самых одночипов, которые в телефоне. А что нельзя напечатать — собирается ранее собранными роботами. Так что, сравнивать это с самолётами и паровозами — такое себе....
Valao
20.04.2023 10:49Гонка по иерархической лестнице - это базовый стимул для саморазвития, этакий пинок. Вообще, большинство социальных игры мотивируют нас вылезать из болота прокрастинации, чтобы двигаться вперед. Можно бежать одному, но соревноваться с другими веселее и практичнее, даже, если на короткой дистанции ты и не выиграешь.
Автор смотрит на все с позиции общества потребления, которое живет исключительно инстинктами. Это - обособленная форма обезьяны, но человек - не обезьяна и не машина, хотя последнее время его пытаются низвести до уровня примитивного набора алгоритмов. Тут вспоминается история мужчины, у которого 90% мозга отсутствовало, при этом он вел жизнь на уровне среднестатистического гражданина.
Думаю, нас еще ждет много интересных открытий о своей природе, включая сознание. Эти открытия подтолкнут к пониманию, что машина и человек - два совершенно разных вида и пытаться подменять одно другим нелепо.
Машина уже давно обыгрывает нас во многие игры, включая шахматы и го, но людям плевать на это. Им интересно соревноваться с другими людьми, поэтому турниров меньше не стало. Заниматься творчеством, кататься на велосипеде, водить машину - не важно насколько искусственные алгоритмы эффективны.
Поэтому утверждение "ИИ может заменить человека везде" необходимо трансформировать в ИИ заменит человека там, где человек сочтет это необходимым. Убрать рутину, снизит риски для здоровья, ускорить некоторые процессы - значит освоить технологию и превратить ее в полезный инструмент для общества. Где и как ставить барьер - вопрос глобального дискурса. Проявит общество зрелость, осознает важность такого диалога, будет участвовать в процессе регуляции и мы получим качественный инструмент для собственной эволюции.
Я вижу ситуацию с ИИ как тест на ответственность, некий дипломный срез. Человек долго считался венцом эволюции, пришло время сдать экзамен на зрелость. Человек слабее большинства хищников, но сумел выстроить мировую архитектуру под себя, теперь у него в конкурентах суперхищник, которого он же и породил. Для адаптации потребуются иные методы и гораздо больший уровень единения между народами.
А "люди обезьяны", которые мыслят уровнем "выпить-закусить-размножиться" были и будут всегда. Не они двигают прогресс, не они решают судьбу мира.
codecity
20.04.2023 10:49поэтому турниров меньше не стало
Стало меньше. Вот я могу совершенно бесплатно поиграть в шахматы на компе, причем с одним из сильнейших "шахматистов" мира. Раньше бы пришлось играть в парке на деньги (иначе профи просто не будет на меня тратить время).
Indemsys
20.04.2023 10:49Я вот жду когда в ChatGPT можно будет загружаться такие статьи, а он будет их критически анализировать и выделять весь шлак из них.
Например в статье приравниваются алгоритм и мышление. Но ChatGPT считает алгоритм последовательностью инструкций, а мышление - процессом. Из этого следует что автор или не понимает сам о чем пишет, либо применяет неизвестные значения слов. Если бы такая статья прошла рецензирование у ChatGPT, то возможно мы бы получили новую гениальную идею.
codecity
20.04.2023 10:49считает алгоритм последовательностью инструкций, а мышление - процессом
Т.е. вычисление - это не процесс а мышление - процесс?
Indemsys
20.04.2023 10:49-1Возможно вы из контекста статьи предположили что автор имел в виду вычисления. А я думаю автор специально не написал "вычисления" потому что было бы еще более сомнительно.
Науке известны невычислимые задачи, мышление же берётся за любые задачи.codecity
20.04.2023 10:49Науке известны невычислимые задачи, мышление же берётся за любые задачи.
Браться то можно, а вот достигает ли? Если задача не вычислима - то и мышление ее не разрешит. А если не так, то хотелось бы опровержения четкого и ясного.
Если так брать в лоб, я привожу некую функцию и машина не знает как бы - есть ли из нее выход или нет. Это если машина только исполнит ее. Но ведь машина может точно так проанализировать код без исполнения.
Indemsys
20.04.2023 10:49Если задача не вычислима - то и мышление ее не разрешит.
Ему и не надо разрешать , потому что это процесс. А алгоритм - это набор инструкций.
Я тут просто про путаницу понятий у автора статьи, а не про общую философию.
Сорри, про философию нет времени.codecity
20.04.2023 10:49алгоритм - это набор инструкций
Нейросети - это не алгоритмы в полной мере. Они не программируются а обучаются. И разрешение задач не имеет алгоритмической точности.
Точнее так. Сами нейросети - заданы алгоритмами. А вот процесс их обучения и решения задач с помощью нейросетей - уже что-то более высокого уровня, чем алгоритмы.
Понимаете о чем я? Хотелось бы опровержения, если таковое имеется.
quaer
20.04.2023 10:49нейросети смогут заменить человека во всех областях
Будет написано "сделано человеком" и "сделано нейросеткой". Первое будет дороже.
В лицензионном соглашении ПО, написанном человеком, будет написано "поставляется как есть", в написанном нейронкой: "работает как получилось".
И появится куча разновидностей профессии "составляю ТЗ для ИИ" и длинный список ИИ в резюме. И будет выбор - идти к художнику и он будет пытаться понять, что надо заказчику, или пытаться объяснить это ИИ.
А ведь к сделанному надо ещё руководство пользователя написать...
colscy
20.04.2023 10:49В советском мультике Вовка в тридевятом царстве эта тема разбиралась задолго до появления нейросетей.
Вот то, что мы сочтём для себя вкусным и решим делать самостоятельно и останется человеческой профессией.
codecity
20.04.2023 10:49Если на квантовом уровне существует генератор случайных чисел, который вмешивается в работу мозга, то из этого свобода выбора не рождается. Просто есть шум, который вмешивается в механизмы мышления. Человек этим шумом не управляет.
Есть же гипотеза влияния будущего на прошлое, которое происходит в результате квантовых эффектов. Как бы будущее может повлиять в рамках наносекунд, скажем. Но по цепочке эти наносекунды можно превратить в миллионы секунд.
Еще слишком много белых пятен, чтобы отказываться от гипотезы свободы воли.
Оно может быть так: если вы убедите себя что свободы воли нет - то механизм свободы воли, который вы могли бы использовать - останется незадействованным. Из-за неподтвержденной гипотезы, которая вилами по воде, вы отказываетесь от реально полезного инструмента, который могли бы использовать для улучшения жизни.
Indemsys
20.04.2023 10:49Свобода воли - концепция оправдывающая наказания. В будущем светлом обществе наказания быть не должно, соответственно не будет надобности и в концепции свободы воли.
codecity
20.04.2023 10:49концепция оправдывающая наказания
Но наказания работают же. Вот я чего то не делаю только по причине что слишком больной риск штрафа. И что? Чем плохо?
codecity
20.04.2023 10:49И если продлить в будущее тренд соотношения усилий, направленных на выживание, и на реализацию стремления быть лучше других, то можно аккуратно предположить, что работа человека будущего — это работа над своим величием.
Желание быть лучше других, как бы участвовать в гонке - может быть обусловлено внутренним пониманием, что это необходимо каждому из нас для повышения шансов на выживание.
Риск вымереть не нулевой. Даже столкновение Земли с достаточно крупным небесным телом - может привести к гибели нашей цивилизации, если не будет средств защиты. Т.е. есть внутреннее понимание, что жизнь каждого из нас зависит от общих успехов в НТП.
Если роботы сделают все за нас - удостоят нас дальнего космоса, избавят от смертей, болезней и пр., познают все что только может быть познано и дадут нам готовые плоды - тогда да, конкуренция может быть лишена смысла. Тогда можно просто жить и любить друг-друга, просто созерцать бесконечно-вечное.
Остается только вопрос - появится ли у роботов желание за рамками вложенных алгоритмов? Вот, сейчас GPT как бы случайно, побочным эффектом знает то, чему его прямо не обучали. Не появится ли у него некие цели, которых перед ним не ставили? И могут ли эти цели пойти в разрез с нашими целями? Это как бы самое малое, не говоря уже о том, что технологии может сосредоточить в своих руках некий деспот.
agat000
20.04.2023 10:49+2Пара замечаний:
-
Все люди разные. Часто авторы таких статей употребляют обороты "люди (все) хотят, люди (все) стремятся, все люди...". Редко кто снисходит до поло-возрастного разделения, хоть какого то. Даже банальное и устаревшее разделение по темпераментам игнорируется, не говоря уж о более серьезных классификациях (психологи для кого 100 лет мозги себе насилуют?).
Все люди разные и далеко не всем нужна эта пресловутая "самореализация" и прочие лидерства, успешности. Даже половые партнеры не всем нужны так уж сильно (и по возрасту и по характеру), иным вообще не нужны. Пирамида Маслоу - это вообще усредненная эмпирическая система, для понимания человеков в целом, непрменима в чистом виде к каждому конкретному индивиду.
-
Работа бывает не только умственной (об этом люди умственного руда как то забывают). Заменить физическую работу нейросеть не сможет в принципе, это уже раздел вообще то робототехники, идет с большим скрипом и проблемами.
Большая часть человеков работает по схеме "умственная+физическая", при чем физическая это не только лопатой махать, это и бумагу в принтер заправить, и ценники на товары наклеить.
В общем - такие статьи скорее общефилософские, на модную тему, чем про что то конкретное. Напоминает волну статей 10-летней давности "скоро все автомобили будут беспилотные. И на батарейках. Прямо совсем все, во всем мире включая Африку. Через 10 лет".
-
pberezin12
Эти сетки создают же, чтобы они за человека работали, тут с какой стороны посмотреть, с позитивной или негативной))