В последнее время часто звучат мрачные прогнозы (и даже скрытая реклама) о том, что крупные языковые модели (LLM) уничтожат программирование как профессию. Многие обсуждения лишены нюансов, поэтому я хотел бы внести свои пояснения. С одной стороны звучат заявления вроде: «Я использовал $LLM_SERVICE_PROVIDER, чтобы создать маленькую временную программу, и скоро все программисты останутся без работы за $ARBITRARY_TIME_WINDOW». С другой – категорический отказ признавать какую-либо пользу таких инструментов. Думаю, лучше всего прояснить эту ситуацию можно на примере другой отрасли, где подобные технологии появились раньше: перевод.

Google Translate существует уже давно и прошёл несколько технологических этапов. Меня особенно интересуют его последние версии после перехода на нейронный машинный перевод в 2016 году. На протяжении многих лет я часто слышал заявления о том, что теперь профессии переводчика исчезнут. Подозреваю, что люди, говорящие такое, никогда не работали с профессиональными переводчиками. Типичный пример: «Я ездил в отпуск в Японию и везде пользовался Google Translate. Больше не нужно нанимать переводчика или учить японский». Хотя это явно подчёркивает удобство современных технологий машинного перевода, вторая половина этого заявления заслуживает внимания, особенно слово «больше». Я уверен, что люди, произносящие такое, не стали бы нанимать переводчика или учить японский даже в мире без Google Translate. Скорее всего, они бы либо вообще не поехали в Японию, либо поехали бы и просто растерялись бы, как это обычно происходит с туристами.

На самом деле количество вакансий для переводчиков и устных переводчиков за последние годы только увеличилось. Это не значит, что технология плоха – на мой взгляд, она уже близка к своему максимуму в рамках своих задач. И это не значит, что машинный перевод не изменил профессию переводчика: в статье, на которую я ссылался выше, представитель Американской ассоциации переводчиков Бриджет Хайлак говорит: «С появлением нейронного машинного перевода (NMT) в 2016 году, который значительно улучшил традиционные системы вроде Google Translate, мы [переводчики] активно внедряем ИИ в нашу работу».

Чтобы объяснить это противоречие, нужно понимать, чем реально занимаются переводчики, потому что их работа, как и работа программистов, часто неправильно воспринимается людьми со стороны. Обычные люди представляют переводчика как ходячий словарь и грамматический справочник, который легко заменяет слова и структуры одного языка на другой. На самом деле, работа переводчика заключается главным образом в передаче контекста, разрешении двусмысленностей и учёте культурных особенностей. Именно это Google Translate пока не умеет делать.

Например, норвежский язык очень близок к английскому и, казалось бы, должен легко переводиться. У них много общего в словарном запасе, грамматике и культурном контексте; даже идиомы часто переводятся буквально. Однако остаются важные культурные различия, и особенно проблемным является отсутствие вежливых формулировок в норвежском языке. Формально можно сказать «пожалуйста» (vær så snill, или vennligst), но норвежцы предпочитают прямую речь и практически не используют эти слова. За обедом норвежец скорее скажет: «Jeg vil ha potetene» («Я буду картошку», что звучит грубо и высокомерно по-английски), тогда как британец сказал бы: «Could I please have some potatoes?» («Не могли бы вы дать мне немного картошки, пожалуйста?»). Хороший переводчик учтёт этот нюанс (или уточнит, если не уверен), Google Translate же выдаст прямой перевод. Вы, возможно, разберётесь с таким недопониманием за ужином с иностранными родственниками, но становится очевидно, почему нельзя заменять переводчика на Google Translate в судебном процессе. И это ещё простой случай. Возвращаясь к нашим туристам: японский язык сильно отличается от английского, в нём часто опускаются подлежащие, если они ясны из контекста. Google Translate вынужден подставлять подлежащее сам, потому что иначе нельзя построить грамматически правильное предложение на английском. Доверили бы вы компьютеру подставить произвольное подлежащее в ваше предложение?

Это не значит, что Google Translate плохо работает. Если бы мне дали фразу «Jeg vil ha potetene» без контекста и возможности уточнить, я бы дал точно такой же перевод. Может быть, человек действительно хочет быть грубым – откуда мне знать? Я и сам активно пользуюсь Google Translate, но мой случай не «вот текст, переведи его». Скорее, мои задачи более узкие и тонкие: «Я уже знаю, что хочу сказать, как именно и с учётом каких нюансов, но не очень доволен формулировкой, хочу увидеть наиболее статистически вероятный вариант того, как это мог бы сказать другой человек». (Оказывается, именно в этом языковые модели особенно сильны). Думаю, именно это имела в виду Бриджет Хайлак, когда говорила о внедрении ИИ в рабочие процессы (хотя подозреваю, её процессы гораздо сложнее моих).

В программировании ситуация похожая. Нас тоже можно рассматривать как переводчиков: только переводим мы с туманного человеческого языка, полного неоднозначностей и культурных нюансов, на язык компьютеров, которые воспринимают только абсолютные истины. В программировании есть дополнительная сложность: мы постоянно создаём новые абстракции, поэтому машинный перевод в этой области немного отставал от естественных языков. Однако теперь, после того как крупные компании обработали весь открытый код через свои механизмы, мы находимся именно на этом этапе.

Я не исключаю, что в будущем ИИ сможет работать с контекстом и двусмысленностью так же эффективно, как люди, но думаю, до этого как минимум одна ИИ-зима. Особенно учитывая, что сегодняшние лидеры ИИ индустрии, кажется, не способны понимать нюансы и заботятся больше о внешней привлекательности своих продуктов, чем о том, чтобы те работали ответственно.