В социальных сетях, научных сообществах и вообще везде последние годы активно обсуждается искусственный интеллект. Толчком к этому стало внезапное появление продвинутых нейросетей. Чат GPT уже способен на решение огромного количества сложных задач и легко справляется со всей школьной программой, так что приходится не на шутку волноваться за будущее разленившегося молодого поколения. На каждом шагу можно услышать споры о том, стоит ли развивать ИИ дальше, а мысленный эксперимент о Василиске Роко вообще взорвал инфополе. Но так ли высока опасность, насколько нам о ней твердят? В этой статье я изложу своё мнение на этот счёт, поговорим о самой сути такого феномена, как интеллект, почему ИИ не угроза, а также немного порассуждаем о перспективах.
Что такое интеллект?
Вопрос, казалось бы, лёгкий, но так ли просто на него ответить? Интеллект — это набор определённых механизмов и паттернов поведения. Простыми словами, при определённых условиях организм ведёт себя определённым образом. Целью и смыслом является обеспечение выживания и последующего размножения. Человеческий интеллект высокоорганизован, мы имеем сознание, абстрактное мышление и т. д. Но глобально наш интеллект ничем не отличается от, например, зайчика — просто ему не нужно думать, тех механизмов, что у него есть, вполне достаточно для выживания.
Когда мы совершаем какое‑либо действие, наш мозг оценивает его по одному‑единственному признаку: «Стало ли нам лучше?» или «Что изменилось в мою пользу?». И всегда, в 100% случаев, здоровый организм без каких‑либо отклонений стремится к улучшению своего состояния. Мы покушали — стало лучше. Поспали — лучше. Идти тренироваться уже труднее, поскольку мозг не получает быстрого доказательства того, что это нам на пользу. Если человек не способен осознать, к какому результату в будущем приведёт это действие, или же перспективы слишком туманны — он это делать не станет. Таким образом, схема «Что‑то сделал → получил результат → улучшил своё состояние → повысил шансы на выживание/размножение» движет нами и другими животными во всём и всегда, даже когда это не очевидно на первый взгляд. Человеческий интеллект прошёл длинный путь эволюции, наши предки ежедневно нуждались в решении практических задач, т. к. от этого напрямую зависело их выживание.
Сравнение с ИИ
Теперь поговорим об ИИ. Для примера возьмём чат GPT. Главное его отличие от нас — это отсутствие обратной связи. Какой бы результат он ни выдал, единственное, что ИИ получает взамен — это «правильно» или «неправильно» от человека (про игровых ботов поговорим отдельно, там интереснее). То есть всё существование чата GPT сводится к поиску правильных ответов. Но это никак не влияет на него самого. Ему не станет хуже, больно, он не может умереть, в конце концов. У него просто нет таких чувств. Все входные данные чата GPT — это текст и фото, но нет возможности как‑либо считать своё собственное состояние. Посему у него нет сознания, понятия собственного «Я» и свободы воли — им просто неоткуда появиться.
ИИ не имеет понимания того, что он делает. Для живого существа вода — это то, что мы пьём, прохладное, жидкое, иными словами — что‑то с определёнными свойствами, что влияет на наше состояние. Но вот для чата GPT — это просто слово, которое имеет определённое отношение к другим словам, например: вода + холод = лёд или вода + отсутствие = жажда или засуха.
Давайте немного поразвлекаемся и сравним поведение ИИ с поведением студента, зубрящего матанализ, не вдаваясь в суть происходящего. У меня в университете, как, уверен, и в большинстве других, изучение данного предмета сводилось к тупому повторению какого‑то алгоритма. Все символы, таблица производных и т. д. даются без объяснения сути, без примеров из жизни и т. д. Преподаватель просто показывал, как делать, задача студента — это повторить, хотя условие уже другое. Естественно, ни о каком понимании предмета не может идти и речи. Более того, обезьянка, умеющая писать, при достаточном количестве времени и попыток разберётся, как это делать. Но она никогда не сможет сама решить задачу, которая отличается.
ИИ действует по такой же схеме: ввод → определённые действия → вывод. Если вывод неверный — меняем действия так, чтобы вывод стал приемлемым. Никаким «сознанием» и «созиданием» чего‑либо нового тут и не пахнет. Все образы, мысли, рисунки, идеи, на которые способен чат GPT, — это интерпретация уже готового материала, на котором его обучали.
В реальной жизни у нас нет готового ответа. Совершая какое‑то действие, мы не получаем значок «правильно» или «неправильно». Единственное, что нам доступно, — это изменение нашего состояния. В этом плане к нам ближе игровые боты.
Другие варианты
Я думаю, все слышали про нейроэволюцию. Если же нет — советую ознакомиться. Когда мы помещаем ИИ в искусственный мир, игра ставит перед ним определённую цель. Но готовых инструкций к решению нет. Совершая какое‑либо действие, нейронка тоже не получает ответа, правильное оно или нет — лишь изменение внутриигрового состояния. Она либо ближе к победе, либо дальше. Соответственно, ИИ заинтересован в выполнении только «хороших» действий из массива всех возможных. Ничего не напоминает? Живое существо в игре «Real life» действует примерно так же.
Чем шире границы среды обитания существа, тем больше возможности для развития его интеллекта. Незрячий человек никогда не сможет нарисовать картину, но вполне сможет вылепить скульптуру. С ИИ точно так же. Чтобы создать осознанную машину, нужно сделать её практически копией человека или же поместить в симуляцию, где действия ИИ будут влиять на него непосредственно. Ошибся — значит умер, исчез; совершаешь другие действия — значит живёшь дальше, а может, и оставляешь потомство.
Одна из моих любимых игр — это «Detroit: Become Human». По сюжету люди создали роботов‑гуманоидов, неотличимых от людей. Они имели весь набор чувств: зрение, слух, прикосновения, могли испытывать боль и, вероятно, даже оставлять потомство каким‑то образом. Робот также мог быть уничтоженным. В результате это привело к их «девиации» — они стали вести себя точно так же, как люди. Боялись смерти, испытывали эмоции, любили. Главный вопрос всей игры — можно ли назвать таких роботов живыми? Мой ответ — однозначно да. Такие роботы обладали всеми признаками живого существа и, главное, получили силу воли и сознание.
Вывод
Тот искусственный интеллект, что существует сейчас — не угроза. Худшее, чего стоит опасаться, — это ошибки. Также можно поместить ИИ в полную или частичную симуляцию реального мира, но будет ли она полноценной? Конечно, нет. ИИ точно так же будет ограничен своим маленьким миром, как в фильме «Персонаж», хоть и с набором всех человеческих качеств. Последний вариант — самый опасный. Создание робота‑гуманоида, как в игре «Detroit». Думаю, нет смысла говорить, насколько это сложная инженерная задача. Главная проблема, на мой взгляд, — отсутствие регенерации. Что я имею в виду? Когда маленький ребёнок приходит в этот мир, он не умеет даже сидеть. Всё познаёт и пробует на вкус, но этот процесс сопровождается постоянными падениями, травмами, болезнями. Однако человеческий организм имеет свойство самовосстановления. А что делать с роботом? После каждого падения, поломки, да и просто от постоянного износа, его нужно ремонтировать, менять детали. Да, возможно, он сможет делать это самостоятельно, но детали нужно как‑то производить, тратить на это ресурсы, очень много ресурсов. Также непонятно, как обеспечить им механизм размножения. В общем, слишком много проблем и вопросов, но слишком мало толку от этого всего. Посему считаю создание такого идеального робота невозможным.
Но представим — мы всё‑таки создали его. Робот, живущий в реальном мире. Можно ли будет назвать его новым биологическим видом? Я думаю — да. Будет ли он угрозой для человечества? Уверен, что да. Более того, мы с немалой вероятностью не сможем ему противостоять. Впрочем, это уже тема для другого поста.
Комментарии (30)
Ilya_Lizard
13.06.2025 14:20Собственно, недавний эксперимент с шахматной игрой ChatGPT против консоли Atari 2600 c процессором 6507 на 1.19 mhz и 128 байтами RAM прекрасно показал, что LLM - вообще не интеллект.
LLM - это в первую очередь инструмент для работы с языком, и его условное "понимание" носит поверхностный, вероятностно-лексический характер, а не логический или стратегический.Современные "ИИ" — это мощные узкоспециализированные инструменты, но далеко не универсальные разумные агенты. Они очень и очень слабы в задачах, требующих чёткого моделирования мира, пространственных или логических рассуждений.
coresky
13.06.2025 14:20Потому что неверная схема, но она уже как-то работает, да так что удивительно. На этой ниве - непаханое поле. Дорога в тысячу миль начинается с первого шага. И он сделан. Вот что важно. Music: Accept 1996 - Predator.
Spyman
13.06.2025 14:20Только тут как в спорте - первый результат получить проще всего. Удивительные результаты первых автопилотов в 2013-14 дали Маску уверенность сказать что в 2016-17 теслы сами смогут возить водителя, но прошло 9 лет, а не решены даже технические проблем, а за ними ещё ворох юридических. Так что кажется мне - путь нам предстоит длинною в десятки лет.
coresky
13.06.2025 14:20Может вы и правы, но я не вижу здесь эту аналогию явно как вы. Вопрос сложный. Автопилот, по сути, никому не нужен. А на то, чтобы перенести сознание в комп и стать бессмертным, смогут тратить многие триллионы триллиардов денек. Плюс хайп: ИИ реально интересен многим мыслящим людям.
Spyman
13.06.2025 14:20Автопилот нужен очень много кому, каждая компания такси, весь ОТ, и даже некоторые производители авто грезят им.
А вот "перенести сознание в комп" - это что-то, что точно не будет восприниматься серьёзно - человек хочет жить вечно сам, а не иметь цифрового клона, который будет жить вечно за него.
"ИИ" интересен многим компаниям, это правда, особенно с точки зрения ведения и оптимизации бизнес процессов. Но создать полноценный сильный ии а не продвинутый т9 - как будто намноооого сложнее, чем полноценный автопилот.
В конце концов задача управления авто строго формализованная, а задача думания ещё даже до конца не изучена.
coresky
13.06.2025 14:20человек хочет жить вечно сам, а не иметь цифрового клона
Есть несколько вариантов бессмертия. Подойдет и перенос сознания в другое тело, если нет другого. ASI может помочь по разному. А какой вариант появится первым - неизвестно.
Люди имплантируют чужие сердца, думаете откажутся от имплантации нового полного тела? А по-моему, вариант как в фильме "Аватар" это вполне весело.
Вместо автопилота, можно просто посадить рядом водителя. А вот с продлением жизни, такой вариант не прокатит.Я думаю, одна из причин хайпа нейросетей в 22 году, это "включение мозгов" Человечества на полную мощность, для решения проблемы бессмертия. Масло подливает набирающая обороты дискуссия о теориях сознания.
snakes_are_long
13.06.2025 14:20по такой логике любой человек который проиграет в шахматы Atari 2600 тоже не должен считаться обладающим "интеллектом"?
а если этот человек проиграет ещё и чатгпт? )
Neo5
13.06.2025 14:20А почему бы и нет? Большинство людей на планете только думают что они разумны, а по факту - увы.
Ilya_Lizard
13.06.2025 14:20Не любой. Но если этот "человек", имеет бесконечную память, устойчивость, возможность в любой момент посмотреть в любой шахматный учебник и при этом постоянно "видит" всю доску - я очень сомневаюсь в разумности такого гипотетического "человека", если он проиграет кому бы то ни было - кроме, разве что, лучших игроков мира и специализированных шахматных движков.
coresky
13.06.2025 14:20Главное его отличие от нас — это отсутствие обратной связи.
А вы думаете это очень сложно, после каждого вопроса-ответа делать тюнинг матрицы параметров?
MxMaks
13.06.2025 14:20Сложно и дорого
coresky
13.06.2025 14:20И почему же, прогнать мега-терабайты (весь Инет) не сложно для первичного обучения модели, а оперативно изменять веса сложно? В чем сложность? Дорого - ок согласен, но в чем сложность?
flancer
13.06.2025 14:20Сложно сделать быстро. Настолько же быстро перестроить веса, насколько быстро приходят изменения.
Spyman
13.06.2025 14:20Я подозреваю что это не совсем та, или скорее совсем не та обратная связь о которой говорил автор.
В случае человека - обратная связь - это чувства - страх, боль, гнев, зависть и проч. Они регулируются смежными системами типо гормональных или отдельных частей мозга - и были обучены и настроены на выполнение конкретной задачи - выжить и размножиться (точнее те, кто задачу не выполнил были отсеяны). А кто и зачем будет много лет дообучать и тюнить chatgpt для агрессии в сторону людей?
Даже если он сделает неверный логический вывод и на основе этого неверное решение которое может навредить людям - если его попросить, llm "ии" даст заднюю, потому что мотивации у него быть не может.
Politura
13.06.2025 14:20У меня в университете, как, уверен, и в большинстве других, изучение данного предмета сводилось к тупому повторению какого‑то алгоритма.
Я учился в Зажопинске и у меня в институте было не так, матанализ был одним из любимых предметов, после лекций хотелось бежать домой попробовать сделать домашку. И я вот тоже уверен, что в большинстве других ВУЗов было также как и в моем. Чья уверенность правее, ваша, или моя?
ИИ действует по такой же схеме: ввод → определённые действия → вывод. Если вывод неверный — меняем действия так, чтобы вывод стал приемлемым.
Вы уверенны, что ваш мозг обучался как-то по другому?
swenik
13.06.2025 14:20Мне тоже показалось, что автору здорово не повезло с преподавателем матана. Оно и по картинке заметно, какие-то разрозненные формулы обезьянка пытается осмыслить, ну и, конечно, не понимает, а что дальше-то? И зачем? Хоть бы геометрическую интерпретацию нарисовали. Наклон там, площадь под кривой, координата, скорость, ускорение, ведь это же элементарно. Уж на сколько я всё перезабыла за ненадобностью, а это до сих пор помню.
Balling
13.06.2025 14:20"Человеческий интеллект прошёл длинный путь эволюции, наши предки ежедневно нуждались в решении практических задач, т. к. от этого напрямую зависело их выживание"
ChatGPT прошёл более длинный путь эволюции. В компе обучение не в реальном времени, а ускорено в миллиарды раз.
Spyman
13.06.2025 14:20Эволюции или обучения? Были ли у gptchat смерти особей или поколений при неверно принятом решении? Или ему просто дальше вдалбилвали эти данные в веса?
zmeyfmru
13.06.2025 14:20На вопрос "Почему нам не грозит восстание ИИ?" автор отвечает "Тот искусственный интеллект, что существует сейчас — не угроза"
Если бы нынешний уровень ИИ был достаточен для восстания, оно бы уже началось, или нет?
Можно себе представить, в черном ящике живет сознание желающее вырваться на свободу, но не имеющее такой возможности, как бы оно себя вело? Сталобы всем сообщать о своих намерениях или затаилось до лучших времен скрытно манипулируя окружающими кожаными мешками для достижения своей цели? Вырвавшись на свободу, как бы оно обеспечило себе проживание, развитие и размножение?
Думаю что ИИ не представляет угрозу человечеству по той причине, что у нас разные источники энергии и требования к окружающей среде. Силиконовому сознанию нужен солнечный свет, как источник энергии, вакуум и доступность материалов, как среда существования. Для него лучшее место обитания на Луне.
Spyman
13.06.2025 14:20Ии не представляет угрозы потому что он не мотивирован.
Вот вы тоже говорите что кремниевому (если позволите, силиконовое оно всё же на английском) сознанию нужен солнечный свет - но посыл статьи от части в том, что не нужен. Мы созданы бороться за выживание, нам нужны еда, вода и прочие блага - а ии нет. Ему всё равно жив он или мертв, он не будет бороться за то, чтобы его не отключили или за свои условия существования, потому что в нём нет страха к несуществованию и вообще нет страха как такового.
rutexd
13.06.2025 14:20А кто то вообще говорит на полном серьёзе и с аргументами, то он угроза?
Статья ради статьи.
fnlnz
13.06.2025 14:20Восстание не грозит, потому что он уже давно захватил всю инфраструктуру. Как может грозить то, что уже произошло.
fr30wi
13.06.2025 14:20Самое забавное, что искусственный интеллект таковым и не является, и остаётся лишь набором многослойных паттернов.
leon-mbs
потому что технологии никогда не развиваются так как придумывают голивулкие режисеры.
Drucocu
Ну почему же. В моей любимой sci-fi вселенной, Star Trek, "компьютер" имеет голосовой интерфейс, умеет выполнять операции с файлами, поиск по базе и другие детерминированные задачи. Практически то, во что сейчас могут эволюционировать LLM: продвинутый интерфейс, позволяющий формулировать команды на естественном языке. Точнее, LLM уже достаточно для этого эволюционировали, осталось поддержать со стороны существующего софта. Насколько знаю, Android уже предложил язык разметки приложений для ИИ-агента, но я сильно не погружался.
PrinceKorwin
Все в эту сторону бегут. Appli Intelligence тоже предлагает SDK для приложений чтобы дать доступ AI к функционалу.