Пока многие опасаются и прогнозируют, что скоро из-за развития ИИ не станет большинства рабочих мест, и машины полностью заменят человека, идеи Ноама Хомского могут прозвучать довольно обнадеживающе. «Какими бы полезными ни были эти программы в некоторых узких областях, машинное обучение в его нынешнем виде никак не может конкурировать с человеческим разумом», — считает ученый. 

Насколько интеллект искусственный вообще отражает интеллект реальный, являются ли разработки в сфере ИИ просто практичным способом нарастить прибыль или реальным научным достижением и может ли вообще человек воссоздать то, что не понимает? Ноам Хомский не раз затрагивал эти вопросы. Разбираемся, что думает об ИИ человек, ставший одним из его родоначальников и критиков. 

Кто такой Ноам Хомский 

Ноам Хомский — выдающийся лингвист и один из основателей когнитивной науки. Он наблюдал за развитием ИИ и в частности NLP (Natural Language Processing, обработка естественного языка) с самого начала. Ученый начал карьеру в середине XX века и прославился как лингвист и политический деятель. Но также он перевернул понимание о том, что представляет собой человеческий язык и способность его усваивать — а эти процессы неоспоримо важны для ИИ. 

Родители Хомского — еврейские иммигранты из Российской империи. Ноам известен как «отец современной лингвистики» и как один из основателей когнитивной науки. То есть его работа еще затрагивает психологию, философию сознания и нейробиологию. Это один из самых цитируемых в академических кругах ученых в мире. После его работ лингвисты стали изучать «язык» — в единственном числе как одно целое. 

Широкое влияние на IT

Основное значение работ Хомского и других когнитивистов заключается в том, что человеческое познание и все когнитивные функции, включая обучение и мышление, стали объяснять с точки зрения вычислительных процессов. В этой метафоре мозг — это аппаратное обеспечение, познание — программное обеспечение, а наши мысли и чувства — результаты. До сих пор более 60 % лингвистов включают аспекты теории Хомского в свои исследования.

Подход Хомского — это связующее звено между поколениями исследователей в области ИИ. Само развитие ИИ возможно, началось в том числе с его коллеги из Массачусетского технологического института Марвина Мински. Это один из организаторов Дартмутского исследовательского семинара 1956 года, с которого начались исследования в области ИИ.

На заре развития ИИ теории Хомского о языке проложили путь к расширению идей о машинном интеллекте в области обработки языка. А концепция «универсальная грамматика + статистика» (UG+stats) сыграла  очень важную роль в понимании и освоении того, как развиваются речевые и языковые системы.

Универсальная грамматика: что это и насколько реальна 

Генеративная грамматика — центральная концепция Хомского. Критикуемый им бихевиоризм считает, что человек учит язык за счет внешних стимулов, поощрения и его отсутствия. Тогда мозг младенца — это «чистый лист», который заполняется окружением ребенка. 

Универсальные правила

Идея же Хомского в том, что человеческий язык порождается изначально заложенной внутренней системой правил и принципов — универсальной грамматикой. Она обеспечивает способность создавать (и распознавать) бесконечное число правильных высказываний при конечном словарном запасе.

И действительно, в человеческом мозге есть образования, которые отвечают за восприятие и отдельно за воспроизведение речи — их нарушения могут избирательно отключить эти функции. Также мозг детей изначально выявляет из общего шума речевые ритмы — без чувства этого ритма у детей возникают задержки речевого развития. Но полноценным доказательством теории Хомского это не назвать. Многие обращают внимание на то, что теории и высказывания Хомского сугубо теоретические и не имеют существенных доказательств. 

Объясняя теорию универсальной грамматики, Хомский обратил внимание на следующее. Можно создать искусственный язык с линейным порядком слов в нем, а потом поменять пару слов местами. Человек решит эту задачку и поймет, что имелось ввиду. Но стандартные языковые области мозга при этом не активируются — будут задействованы другие области, больше как при решении математической головоломки. 

Исключительность человека

Также один из принципов генеративной грамматики заключается в том, что к усвоению любой формы человеческого языка (включая жесты) способен только человек. Младенец начинает из окружающего шума и хаоса выделять то, что относится к языку, а вот животные к этому не способны. Ряд экспериментов над обучением животных языку жестов был призван опровергнуть Хомского. Но среди них не оказалось таких, в которых животное научилось бы самостоятельно составлять именно уникальные высказывания. 

Итак, в теории Хомского понимание языка на основе врожденной грамматики развивается почти автоматически и с минимальной нагрузкой на мозг. У этого есть условие — способность и предрасположенность нашего мозга к полноценной речи, а также наличие универсальной грамматики. 

Язык для мышления, а не общения

Теория Хомского различает поверхностную и глубинную структуру языка. 

1. Поверхностная структура — это конкретное, линейное расположение слов в предложении. Это сенсорно-моторный уровень, связующий нас с внешним миром; 

2. Глубинная же структура — лежащий в основе смысл, а еще словарь, к которому мы обращаемся за подбором нужного слова. Это концептуальный слой, связывающий когнитивные структуры мозга. 

Для Хомского глубинная структура первична и неоспоримо более важна для способности понимать и объяснять. По его мнению в целом язык изначально возник как способ мышления, а не общения. И мыслей существует бесконечное количество и сложная иерархия, а слова и речь — это лишь упрощенная проекция этой сложной системы. 

Критика и взгляды на ИИ

Хомский выделяет ряд несоответствий ИИ, и в частности NLP, реальным речевым системам. Если коротко: 

1. Человек оперирует не таким уж большим объемом данных, а компьютер — огромной базой; 

2. Человек вдумывается в природу вещей и объясняет их, а ИИ лишь выводит статистические корреляции; 

3. У человека есть когнитивная структура, глубинная база, которая и отвечает за речь в ее полноценном смысле. Искусственный интеллект ограничен поверхностными структурами. 

Хомский называет Chat GPT неуклюжим статистическим механизмом для сопоставления с образцом, который поглощает сотни терабайт данных и экстраполирует наиболее вероятный ответ. Он назвал ИИ «дочеловеческой или нечеловеческой фазой когнитивной эволюции». Человеческий мозг же «стремится не выводить грубые корреляции между точками данных, а создавать объяснения».

Ученый признает, что модели могут быть неплохим инструментом, но критикует превалирование эмпирических методов исследований над теоретическими. 

Статистика vs осмысление: как изучать мозг по Хомскому

Основная претензия в том, что в сфере ИИ используют напоминающий бихевиоризм подход, просто в более современной и сложной форме. 

Хомский настаивает на том, что современные ИИ просто обарбатывают много данных, строят корреляции и оперируют вероятностями, но они не способны дать объяснение происходящего как таковое. Он сравнивает это с метеорологией — можно предсказывать погоду на основе того, какой она была в этом регионе раньше. Но нужно-то знать, как работает атмосфера. 

Хомский — адепт подхода Дэвида Марра к изучению мозга. Трехуровневый подход Марра для изучения сложных биологических систем выделяет вычислительный уровень, алгоритмический и уровень реализации. 

На примере зрительной системы это значит сначала задаваться вопросом, какие эта система выполняет вычислительные задачи. Затем искать алгоритм, который мог бы эти вычисления выполнять. И, наконец, механизм, который обеспечил бы работу этого алгоритма. 

Это значит, что чтобы изучить и имитировать человеческий мозг, нужно сначала задаться вопросом «Какие задачи он выполняет». А потом найти минимальную вычислительную единицу, которой он это делает. 

Говоря о неэффективности подхода к изучению чего-либо способом «загрузить как можно больше данных на мощный процессор и выявить закономерности», Хомский указывает на результаты междисциплинарной программы по изучению нематоды Caenorhabditis elegans в Массачусетском университете. У этого крошечного животного едва ли несколько сотен нейронов, и все же после всех исследований нельзя предсказать, «что сделает эта штука». И, может быть, потому, что ищем не там, где нужно. 

Главные опасения Хомского о развитии современного ИИ

Тупиковая ветвь исследований. Главная претензия в том, что современные системы и их популярность останавливают нас на пути к созданию настоящего искусственного общего интеллекта (AGI). Из-за них создание других архитектур ИИ, которые не полагаются на грубую статистическую обработку данных, задержится. 

Ненастоящая наука. По Хомскому нейронные сети (основа большей части современного ИИ) — это изначально неправильная архитектура для воспроизведения человеческого интеллекта. Такие системы, как и сказано выше, не помогают нам по-настоящему изучать вещи и процессы и получать объяснения. 

«Банальность зла». Хомский сетует на то, что раз ИИ не может правда думать и искать объяснения, это совершенно аморальная система. В него можно загрузить любое мировоззрение, он одинаково легко поверит и в то, что земля круглая, и в то, что плоская. В итоге ответы ИИ — «банальность зла: плагиат, апатия и отговорки».

MERGE, 4 типа грамматики и современные ИИ

Ещё один долговременный вклад Хомского — иерархия формальных языков, которую он предложил еще в 1956 году:

1. Тип 0 — рекурсивно перечислимые (самая общая категория: «все языки»);

2. Тип 1 — грамматики, чувствительные к контексту (контекстно-зависимые);

3. Тип 2 — контекстно-свободные грамматики (примерно соответствуют естественному языку в ранней интерпретации);

4. Тип 3 — регулярные грамматики (регулярные языки — удобны для описания простых формальных языков: шаблоны, регулярные выражения).

Эта иерархия имеет ограниченное применение в NLP, но способствовала развитию языков программирования и возможности объяснять естественные языки через искусственные. 

Иерархия грамматик в более математическом виде. Источник: https://www.youtube.com/

В более поздней формулировке Хомский предлагает считать, что языковой модуль оперирует одной базовой функцией — MERGE. Формально: MERGE(x, y) = {x, y}. Это простая бинарная операция, но если аргументом MERGE выступает множество, на выходе получается глобальная асимметричная структура. 

Среди новых моделей ИИ есть такие которые больше соответствуют подходу Хомского, и они даже часто показывают лучшие результаты в сравнении с обычными генеративными моделями: 

Recurrent Neural Network Grammars (RNNG). Модели, которые одновременно строят синтаксическое дерево и генерируют предложение. В них есть явный компонент «дерево + поверхность» (глубинная структура, к которой применяют разные наборы данных). RNNG лучше других справляются с синтаксическим разбором и лучше моделируют язык, чем последовательные РNN-модели.

Latent Neural Grammars — подход к обучению последовательности (sequence-to-sequence) с помощью квазисинхронных грамматик и деревьев. Модель позволяет моделировать распределение по выходной последовательности (y) на основе входной последовательности (x).

Hybrid neuro-symbolic — гибридные нейро-символические системы. Они сочетают нейронные сети и символические системы, и это позволяет решать задачи, которые не решаются с помощью только одного метода. 

TreeGAN — модель для генерации последовательностей с учетом грамматики (синтаксиса) на основе генеративных состязательных сетей (GAN). Позволяют генерировать результаты, которые следуют заданной грамматике, но при этом уникальны и похожи на реальные. Этот подход накладывает жёсткие ограничения, и в итоге гарантирована правильность генерации. Было показано, что использование такой модели сильно повышает качество генерации в контекстно-свободных языках. 

Заключение

Теория универсальной грамматики, иерархия формальных языков и представление о языке как врождённой способности — это те рамки, в которых развивались современные ИИ-системы. Современные гибридные подходы в NLP во многом удовлетворяют видению Хомского и часто оказываются успешнее обычных моделей. 

Критика Хомским современных ИИ подчеркивает, что несмотря на огромные успехи машинного обучения, эти системы остаются статистическими инструментами. ИИ лишен способности объяснять и осмыслять. Это обнадеживает — человеческий мозг все еще когнитивно уникален, и понять, как именно устроен, пока не получается. А значит, эволюция ИИ — не конец человека, а стимул искать новые подходы и глубже понимать собственный  разум.