Придется начать немного издалека. Долгие века основой любого европейского (и, соответственно, российского тоже) мировоззрения была философия. Это был обязательный элемент в кругозоре любого публичного интеллектуала. Фактически, послевоенное поколение стало первым, которое отошло от этой традиции — и это дало свои плоды. Во многих вопросах современные публичные интеллектуалы, не зная истории мысли, выглядят абсолютно невежественными.
Многие концепции, кажущиеся нам банальными, имеют конкретных авторов. Например, естественная для современных технарей мысль о том, что «природа написана языком математики», была высказана Галилеем. До того, веками безраздельно господствовал Аристотель, который выдвинул тезис о том, что миры математики и физики ортогональны, и физика может быть постигнута лишь чувственно. Простейший формальный тезис опередил историю человечества на века.
На данный момент вся наука написана языком математики, а математика — это строгое и стройное здание, построенное на длинной цепочке логических выводов из нескольких самоочевидных аксиом. Мы знаем, что из нескольких формально простых правил дискретной математики и формальной логики выстроена вся инфраструктура IT.
Теперь немного ближе к теме. Несмотря на то что ИИ создан с помощью IT и математики, на самом деле нет понимания того, как он действительно устроен. Конечно, существуют модели трансформеров, различные алгоритмы градиентного спуска, тензоры и матрицы, но мы понятия не имеем, что именно они означают. Определенно, это не модель Галилея. Человеческий мозг и человеческая культура устроены совсем иначе. Все объяснения, которые мне удалось найти о том, почему расчет статистической вероятности следующего токена в цепочке ведет к имитации человеческого мышления, весьма эффективной во многих областях, сводятся к понятию «эмерджентности». Но эта самая эмерджентность почти не фигурирует ни в физике, ни в философии. По сути, объяснение «потому что так сложилось» было бы не менее убедительным.
Фактически, совершенно неожиданно у нас появилась новая модель познания, новая модель мышления, ранее людям не известная, — а значит, и последствия её возникновения нам неизвестны. Подобно тому, как размышления Аристотеля на тысячу лет остановили физику, а мысли Галилея, напротив, возродили её, ИИ принесет масштабные и совершенно непредсказуемые последствия, поскольку его мышление для нас — черный ящик. Мы можем корректировать те или иные параметры, но почему и как это работает — неясно. Точно так же, как у нас есть код ДНК, но мы лишь отчасти понимаем, почему наследственность закодирована именно так, и до полного проектирования живого организма нам еще очень далеко.
Комментарии (22)
Ilya_JOATMON
31.10.2024 15:20Сейчас ученые приходят к мнению, что родной язык и определяет сознание, и без языка полноценного сознания не возможно. Таким образом языковые модели являются с какой-то точностью слепком части человеческого сознания, чем больше параметров модели тем лучше разрешение слепка. НО так как они обучаются на текстах всех людей, то результат выглядит как усредненное лицо всех рас. Такой Капитан Очевидность слегка под веществами.
artemmoscow Автор
31.10.2024 15:20Язык - это одна из ключевых тем философии 20 века, в которою внесли значительный вклад такие философы как Хайдеггер и Витгинштейн
RikkiMongoose
31.10.2024 15:20А как же великий ученик двух упомянутых - Александр Дугин? Что будет, если загрузить в нейросети его идеи?
artemmoscow Автор
31.10.2024 15:20На сколько мне известно Дугин поклонник Хайдеггера, но не очень уважительно отзывался о витгинштейне, плюс философия языка не основная сфера интересов Дугина
RikkiMongoose
31.10.2024 15:20Ну да, тут можно найти соединение этих направлений. Например, у вас в названии статьи написано: "ревлолюция". То есть революция, которая сплошной LOL. Дальше можно подумать о рофлюции.
zagoryanetz
31.10.2024 15:20Возможно я неправильно представляю себе устройство нейронных сетей, но мне казалось, что их суть довольно проста и грубо имитирует, собственно, человеческий мозг.
То есть моделируется связка стимул-реакция и те реакции, которые оцениваются как более соответствующие поставленной цели, закрепляются с помощью механизмов обратной связи, грубо говоря эмоции.
Таким образом мы довольно хорошо представляем как именно это работает.
Другое дело, что мы не в состоянии точно предсказать реакцию на стимул, поскольку самый точный и быстрый прогноз - это собственно прогнать стимул через систему.
Однако я соглашусь с тем, что ИИ может привести если не к революции, то как минимум к ускорению эволюции в познании, пока как помощник, а потом и как самостоятельный исследователь.
artemmoscow Автор
31.10.2024 15:20Во первых, мы не знаем как работает человеческий мозг. Во-вторых - нет, не имитирует. У нас и близко нет в голове ничего, напоминающие "трансформеры". Единственно, что общее, так это то, что связь нейронов в голове можно с натяжкой определить как граф. Сама же топология абсолютно другая
Autochthon
31.10.2024 15:20То есть ученые случайно нашли изумруды там где их теоретически быть не должно?
artemmoscow Автор
31.10.2024 15:20На сколько я понимаю ИИ создали не ученые, а скорее инженеры.
Autochthon
31.10.2024 15:20на днях посмотрел фильм Прометей (из серии чужих) и от слова "инженеры" вздрогнул.
artemmoscow Автор
31.10.2024 15:20Дело не в том, что ИИ как франкеншейн восстанет из небытия и будет ходить и убивать людей с целью захватить мир и тому подобное. Нет никакой методологии что есть ИИ, не понятно какие вообще у него возможности и ограничения, что он может, а чего не может. Все развитие ИИ это пляски с бубном, причем результат мало соотносится с его устройством. При том, что уже очевидно что взаимодейтвие с ИИ - это нечто совершенно другое, чем классическая инженерная работа. Скажем так, что бы было понятнее - раньше были физики, были лирики.. а будут "наркоманы"-погонщики ИИ с неким сращиванием сознания
nikolz
31.10.2024 15:20Почему ревлолюция в нейросетях намного важнее, чем кажется
может быть "революция" ?
e_u_g
31.10.2024 15:20На данный момент вся наука написана языком математики, ..
Как Вы легко и элегантно выкинули всё, что изучается на факультетах гуманитарных и общественных наук. (Там совсем не язык математики, т.е. там - не наука) :-)
Jetstorm
31.10.2024 15:20Неохота нахватать минусов, но не могу не подсказать вектор развития мысли. Есть два фильма "Люси" и "Превосходство" в них заложены интересные идеи. А вот ваши тейки коротки и нуждаются в развитии и раскрытии поподробнее.
artemmoscow Автор
31.10.2024 15:20Вы правы. Куда "Метафизике" Аристотеля до Скарлетт Йонхансон..
Jetstorm
31.10.2024 15:20Метафизика звучит как астрология, ей богу, достаточно почитать научную фантастику - в ней просто кладезь идей для того у кого туго с фантазией. Неохота читать? Можно посмотреть фильмы или сериалы про будущее - от Терминатора до Звёздного пути.
FurySeer
И тут Остапа понесло