Придется начать немного издалека. Долгие века основой любого европейского (и, соответственно, российского тоже) мировоззрения была философия. Это был обязательный элемент в кругозоре любого публичного интеллектуала. Фактически, послевоенное поколение стало первым, которое отошло от этой традиции — и это дало свои плоды. Во многих вопросах современные публичные интеллектуалы, не зная истории мысли, выглядят абсолютно невежественными.
Многие концепции, кажущиеся нам банальными, имеют конкретных авторов. Например, естественная для современных технарей мысль о том, что «природа написана языком математики», была высказана Галилеем. До того, веками безраздельно господствовал Аристотель, который выдвинул тезис о том, что миры математики и физики ортогональны, и физика может быть постигнута лишь чувственно. Простейший формальный тезис опередил историю человечества на века.
На данный момент вся наука написана языком математики, а математика — это строгое и стройное здание, построенное на длинной цепочке логических выводов из нескольких самоочевидных аксиом. Мы знаем, что из нескольких формально простых правил дискретной математики и формальной логики выстроена вся инфраструктура IT.
Теперь немного ближе к теме. Несмотря на то что ИИ создан с помощью IT и математики, на самом деле нет понимания того, как он действительно устроен. Конечно, существуют модели трансформеров, различные алгоритмы градиентного спуска, тензоры и матрицы, но мы понятия не имеем, что именно они означают. Определенно, это не модель Галилея. Человеческий мозг и человеческая культура устроены совсем иначе. Все объяснения, которые мне удалось найти о том, почему расчет статистической вероятности следующего токена в цепочке ведет к имитации человеческого мышления, весьма эффективной во многих областях, сводятся к понятию «эмерджентности». Но эта самая эмерджентность почти не фигурирует ни в физике, ни в философии. По сути, объяснение «потому что так сложилось» было бы не менее убедительным.
Фактически, совершенно неожиданно у нас появилась новая модель познания, новая модель мышления, ранее людям не известная, — а значит, и последствия её возникновения нам неизвестны. Подобно тому, как размышления Аристотеля на тысячу лет остановили физику, а мысли Галилея, напротив, возродили её, ИИ принесет масштабные и совершенно непредсказуемые последствия, поскольку его мышление для нас — черный ящик. Мы можем корректировать те или иные параметры, но почему и как это работает — неясно. Точно так же, как у нас есть код ДНК, но мы лишь отчасти понимаем, почему наследственность закодирована именно так, и до полного проектирования живого организма нам еще очень далеко.
Комментарии (48)
Ilya_JOATMON
31.10.2024 15:20Сейчас ученые приходят к мнению, что родной язык и определяет сознание, и без языка полноценного сознания не возможно. Таким образом языковые модели являются с какой-то точностью слепком части человеческого сознания, чем больше параметров модели тем лучше разрешение слепка. НО так как они обучаются на текстах всех людей, то результат выглядит как усредненное лицо всех рас. Такой Капитан Очевидность слегка под веществами.
artemmoscow Автор
31.10.2024 15:20Язык - это одна из ключевых тем философии 20 века, в которою внесли значительный вклад такие философы как Хайдеггер и Витгинштейн
RikkiMongoose
31.10.2024 15:20А как же великий ученик двух упомянутых - Александр Дугин? Что будет, если загрузить в нейросети его идеи?
artemmoscow Автор
31.10.2024 15:20На сколько мне известно Дугин поклонник Хайдеггера, но не очень уважительно отзывался о витгинштейне, плюс философия языка не основная сфера интересов Дугина
RikkiMongoose
31.10.2024 15:20Ну да, тут можно найти соединение этих направлений. Например, у вас в названии статьи написано: "ревлолюция". То есть революция, которая сплошной LOL. Дальше можно подумать о рофлюции.
Airat007
31.10.2024 15:20Напомню высказывания "великого философа" Дугина
Самые страшные гетто будут созданы для серфингистов, — вот это самое наглое, самое антиевразийское явление. Нет ничего более отвратительного, чем катание с белозубой улыбкой на этой омерзительной доске.
Конец науки наступил, а современные учёные – это свихнувшиеся сектанты, утратившие всякую связь с реальностью, и полезные только для изобретения технических аппаратов, чье производство давно оторвалось от фундаментальной науки"
Если мы хотим спасти науку, надо вернуться назад, отвергнуть атомизм и всё на нем построенное (в физике, химии, политологии и т.д.) и начать всё заново.
"Развитие космонавтики есть вещь богомерзкая и постыдная"
Он еще много чего позожего наговорил
RikkiMongoose
31.10.2024 15:20Ну вот видите. Пока устаревшие учёные пишут научные работы, Дугин генерирует копипасту, которая широко расходится в интернете. Современных учёных почти не знают, зато культовый статус обрели люди-мемы, нередко вообще без образования и научных достижений, сетевые эксперты про всем вопросам - Докинз, Панчин, Хокинг, Луговский, Харрари, Савельев, Убермаргинал. Дугин - одна из ярких фигур в этом ряду.
N3VERZzz
31.10.2024 15:20Сейчас ученые приходят к мнению, что родной язык и определяет сознание, и без языка полноценного сознания не возможно. Таким образом языковые модели являются с какой-то точностью слепком части человеческого сознания...
Поскольку на фото были засняты движущееся предметы, мы можем утверждать что фото двигается
RikkiMongoose
31.10.2024 15:20Более того, на фото может быть занят человек. А значит, фото ещё и мыслит!
zagoryanetz
31.10.2024 15:20Возможно я неправильно представляю себе устройство нейронных сетей, но мне казалось, что их суть довольно проста и грубо имитирует, собственно, человеческий мозг.
То есть моделируется связка стимул-реакция и те реакции, которые оцениваются как более соответствующие поставленной цели, закрепляются с помощью механизмов обратной связи, грубо говоря эмоции.
Таким образом мы довольно хорошо представляем как именно это работает.
Другое дело, что мы не в состоянии точно предсказать реакцию на стимул, поскольку самый точный и быстрый прогноз - это собственно прогнать стимул через систему.
Однако я соглашусь с тем, что ИИ может привести если не к революции, то как минимум к ускорению эволюции в познании, пока как помощник, а потом и как самостоятельный исследователь.
artemmoscow Автор
31.10.2024 15:20Во первых, мы не знаем как работает человеческий мозг. Во-вторых - нет, не имитирует. У нас и близко нет в голове ничего, напоминающие "трансформеры". Единственно, что общее, так это то, что связь нейронов в голове можно с натяжкой определить как граф. Сама же топология абсолютно другая
goldsteinmoshe
31.10.2024 15:20Ваше первое предложение противоречит всему написанному дальше
Kergan88
31.10.2024 15:20Не противоречит. Мы не знаем как мозг работает но точно знаем как он не работает. Как трансформеры - не работает.
То есть ученые случайно нашли изумруды там где их теоретически быть не должно?
По сути так. Балбес Вася построил ракету из говна и палок - а она оп! и не только взлетела, а и долетела до Марса. Все в непонятках, ни кто такого не ожидал. Почему оно не то что долететь до Марса может, а в принципе - летает, ни кто не понимает.
Это не мешает, при том, делать такие ракеты самим, варьировать соотношение говна с палками, слегонца увеличивая таким образом скорость или грузоподъемность.Важным здесь является то, что вот до Марса оно летит, а дальше (ну, до Юпитера там) уже принципиально не может, как раз из-за того что мы не понимаем как работает и можем только в рамках карго-культа повторять сработавшую схему, внося минимальные изменения. Т.е. единственный реальный вариант прорыва - это когда лет через 50 какой-нибудь балбес Петя чисто случайно наткнется на аналогичное открытие.
zagoryanetz
31.10.2024 15:20Постойте, но несмотря на то, что мы не знаем как летают настоящие ракеты до Марса, мы вполне себе представляем, как устроены и летают древесно-фекальные ракеты.
artemmoscow Автор
31.10.2024 15:20Войвайтишники, которые красят кнопки после курсов понимают как устроен компьютер?
Autochthon
31.10.2024 15:20То есть ученые случайно нашли изумруды там где их теоретически быть не должно?
artemmoscow Автор
31.10.2024 15:20На сколько я понимаю ИИ создали не ученые, а скорее инженеры.
Autochthon
31.10.2024 15:20на днях посмотрел фильм Прометей (из серии чужих) и от слова "инженеры" вздрогнул.
artemmoscow Автор
31.10.2024 15:20Дело не в том, что ИИ как франкеншейн восстанет из небытия и будет ходить и убивать людей с целью захватить мир и тому подобное. Нет никакой методологии что есть ИИ, не понятно какие вообще у него возможности и ограничения, что он может, а чего не может. Все развитие ИИ это пляски с бубном, причем результат мало соотносится с его устройством. При том, что уже очевидно что взаимодейтвие с ИИ - это нечто совершенно другое, чем классическая инженерная работа. Скажем так, что бы было понятнее - раньше были физики, были лирики.. а будут "наркоманы"-погонщики ИИ с неким сращиванием сознания
nikolz
31.10.2024 15:20Почему ревлолюция в нейросетях намного важнее, чем кажется
может быть "революция" ?
e_u_g
31.10.2024 15:20На данный момент вся наука написана языком математики, ..
Как Вы легко и элегантно выкинули всё, что изучается на факультетах гуманитарных и общественных наук. (Там совсем не язык математики, т.е. там - не наука) :-)
Jetstorm
31.10.2024 15:20Неохота нахватать минусов, но не могу не подсказать вектор развития мысли. Есть два фильма "Люси" и "Превосходство" в них заложены интересные идеи. А вот ваши тейки коротки и нуждаются в развитии и раскрытии поподробнее.
artemmoscow Автор
31.10.2024 15:20Вы правы. Куда "Метафизике" Аристотеля до Скарлетт Йонхансон..
Jetstorm
31.10.2024 15:20Метафизика звучит как астрология, ей богу, достаточно почитать научную фантастику - в ней просто кладезь идей для того у кого туго с фантазией. Неохота читать? Можно посмотреть фильмы или сериалы про будущее - от Терминатора до Звёздного пути.
agat000
31.10.2024 15:20новая модель познания, новая модель мышления, ранее людям не известная,
Модели "фиг его знает" и "Духи говорят с шаманом" известны очень давно. Из статьи предполагаются именно такие модели мышления относительно ИИ.
Вообще были и другие научные прорывы, которые меняли и ломали прежнюю формальную логику и простое понимание. Но никто вроде не говорил, что оно меняет форму познания и мышления. СТО, квантовая физика, кот Шредингера. Просто новые области, где старые правила не работают - ну и что, продолжаем исследовать и думать.
artemmoscow Автор
31.10.2024 15:20Теория относительности никак не поменяла, Кот Шредеринга - это мысленный эксперимент, призыванный доказать абсурдность некоторых моделей, квантовая физика - да, повлияла на философию, потому что разрушила непоколебимую веру в причинно-следственную связь. Ученые продолжают делать вид, что ничего не случилось, потому что это полностью разрушит науку, которая полностью стоит на этом принципе. До последнего момента (нобелевка прошлого года) верили что могут быть скрытые параметры.
neee3k
31.10.2024 15:20Несмотря на то что ИИ создан с помощью IT и математики, на самом деле нет понимания того, как он действительно устроен. Конечно, существуют модели трансформеров, различные алгоритмы градиентного спуска, тензоры и матрицы, но мы понятия не имеем, что именно они означают.
Проф. Фарнсворт: Это суеверные бредни!
Робот: Может и суеверные, но не бредни! Приблизились ли вы, знатоки современной науки, к пониманию того, как робот ходит или говорит?
Проф. Фарнсворт: Идиот! Коммутационная схема находится на обратной стороне твоей крышки.
Робот: Я просто верю в то, во что запрограммирован верить!
seyko2
31.10.2024 15:20ИИ может работать только на ассоциации: слово или фраза и с какими данными они преимущественно связаны. Обработка исходных данных - в разных ключах и наверняка задаётся фиксированно людьми. Например, стиль такого то писателя. Что определяет стиль произведения? Нам не пишут про детали. Не объясняют, зачем нужно программировать на ,Python если ИИ сам всё распознает..
FurySeer
И тут Остапа понесло