Дженсен Хуанг в своем выступлении на саммите «Data+AI» сказал: «Генеративный ИИ есть везде, в любой отрасли. Если в вашей отрасли еще нет генеративных ИИ, значит вы просто не обращали внимания на это».

Однако широкое распространение вовсе не означает, что эти модели безупречны. В реальных бизнес-кейсах модели очень часто не достигают цели и нуждаются в доработке. Вот тут-то и приходят на помощь оценки LLM: они помогают убедиться, что модели надежны, точны и соответствуют бизнес-предпочтениям.

В этой статье мы подробно разберем, почему оценка LLM имеет решающее значение, и рассмотрим метрики, фреймворки, инструменты и сложности оценки LLM. Мы также поделимся некоторыми надежными стратегиями, которые мы разработали в ходе работы с нашими клиентами, а также расскажем о лучших практиках.

Что такое оценка LLM?

Оценка LLM - это процесс тестирования и измерения того, насколько хорошо крупные языковые модели работают в реальных ситуациях. При тестировании этих моделей мы наблюдаем, насколько хорошо они понимают и отвечают на вопросы, насколько плавно и четко они генерируют текст и имеют ли их ответы смысл в контексте. Этот шаг очень важен, потому что он помогает нам выявлять любые проблемы и улучшать модель, гарантируя, что она может эффективно и надежно справляться с задачами.

Зачем вам нужно оценивать LLM?

Все просто: чтобы убедиться, что модель соответствует задаче и ее требованиям. Оценка LLM гарантирует, что она понимает и точно реагирует, правильно обрабатывает различные типы информации и общается безопасным, понятным и эффективным способом. Оценка LLM позволяет нам точно настроить модель на основе реальной обратной связи, улучшая ее производительность и надежность. Проводя тщательные оценки, мы гарантируем, что LLM полностью может удовлетворять потребности своих пользователей, будь то ответы на вопросы, предоставление рекомендаций или создание контента.

Допустим, вы используете LLM в службе поддержки клиентов интернет-магазина. Вот как вы можете оценить ее:

Вы бы начали с настройки LLM для ответов на общие запросы клиентов, такие как статус заказа, сведения о продукте и политика возврата. Затем вы бы запустили симуляции, используя различные реальные вопросы клиентов, чтобы увидеть, как LLM справляется с ними. Например, вы можете спросить: «Какова политика возврата для вскрытого товара?» или «Могу ли я изменить адрес доставки после размещения заказа?»

Во время оценки вы бы проверили, являются ли ответы LLM точными, понятными и полезными. Полностью ли она понимает вопросы? Предоставляет ли она полную и достоверную информацию? Если клиент спрашивает что-то сложное или неоднозначное, задает ли LLM уточняющие вопросы или делает поспешные выводы? Дает ли она токсичные или вредные ответы?

По мере сбора данных из этих симуляций вы также создаете ценный набор данных. Затем вы можете использовать эти данные для точной настройки LLM и RLHF для улучшения производительности модели.

Этот цикл постоянного тестирования, сбора данных и внесения улучшений помогает модели работать лучше. Это гарантирует, что модель может действительно помогать реальным клиентам, улучшая их опыт и делая работу более эффективной.

Важность индивидуальных оценок LLM

Индивидуальные оценки имеют ключевое значение, поскольку они гарантируют, что модели действительно соответствуют потребностям клиентов. Вы начинаете с выяснения уникальных проблем и целей отрасли. Затем создаете тестовые сценарии, которые отражают реальные задачи, с которыми столкнется модель, будь то ответы на вопросы службы поддержки клиентов, анализ данных или написание контента, который вызывает нужный отклик.

Вам также необходимо убедиться, что ваши модели могут ответственно обрабатывать такие деликатные темы, как токсичный и вредоносный контент. Это имеет решающее значение для обеспечения безопасного и позитивного взаимодействия.

Этот подход не просто проверяет, хорошо ли работает модель в целом, он проверяет, хорошо ли она работает для своей конкретной задачи в реальных бизнес-условиях. Так вы гарантируете, что ваши модели действительно помогают клиентам достигать своих целей.

Оценки моделей LLM и оценки систем LLM

Когда мы говорим об оценке крупных языковых моделей, важно понимать, что существует разница между рассмотрением отдельной LLM и проверкой производительности целой системы, которая использует LLM.

Современные LLM справляются с различными задачами, такими как чат-боты, распознавание именованных объектов (NER), генерация текста, подведение итогов, ответы на вопросы, анализ настроений, перевод и многое другое. Эти модели часто тестируются на основе стандартных бенчмарков, таких как GLUE, SuperGLUE, HellaSwag, TruthfulQA и MMLU, с использованием хорошо известных метрик.

Однако эти LLM могут не полностью соответствовать вашим конкретным потребностям сразу после установки. Иногда нам требуется точно настроить LLM с уникальным набором данных, созданным специально для нашего конкретного применения. Оценка этих скорректированных моделей - или моделей, в которых используются такие методы, как расширенная генерация данных (RAG) - обычно означает сравнение их с известным точным набором данных, чтобы увидеть, как они работают.

Но помните: обеспечение того, чтобы LLM работала должным образом, зависит не только от самой модели, но и от того, как мы все настраиваем. Это включает в себя выбор правильных шаблонов подсказок, настройку эффективных систем поиска данных и при необходимости настройку архитектуры модели. Выбор правильных компонентов и оценка всей системы может быть сложной задачей, однако крайне важно убедиться, что LLM дает желаемые результаты.

Метрики оценки LLM

Существует несколько метрик оценки LLM, которые практикующие специалисты используют для измерения того, насколько хорошо работает модель.

Дилемма

Дилемма измеряет, насколько хорошо модель предсказывает образец текста. Более низкий балл означает лучшую производительность. Она вычисляет экспоненциальную зависимость среднего логарифмического правдоподобия выборки:

Perplexity=exp⁡(−1N∑log⁡P(xi))

Perplexity=exp(−N1∑logP(xi))

где NN - количество слов, а P(xi)P(xi) - вероятность, которую модель назначает i-му слову.

Несмотря на свою полезность, дилемма не говорит нам о качестве или связности текста, и на нее может влиять то, как текст разбивается на токены.

Оценка BLEU

Изначально оценка BLEU использовалась для машинного перевода, а теперь используется еще и для оценки генерации текста. Она сравнивает выходные данные модели с эталонными текстами, рассматривая перекрытие n-грамм.

Оценки варьируются от 0 до 1, причем более высокие оценки указывают на лучшее соответствие. Тем не менее, BLEU может ошибиться при оценке креативных или разнообразных текстов.

ROUGE

ROUGE отлично подходит для оценки резюме. Она измеряет, насколько контент, сгенерированный моделью, перекрывается с эталонными резюме с использованием n-грамм, последовательностей и пар слов.

Оценка F1

Оценка F1 используется для задач классификации и ответов на вопросы. Она уравновешивает точность (релевантность ответов модели) и полноту (полноту релевантных ответов):

F1=2×(precision×recall) precision+recall

F1= precision+recall2×(precision×recall)

Она варьируется от 0 до 1, где 1 указывает на идеальную точность.

METEOR

METEOR учитывает не только точные совпадения, но также синонимы и парафразы, стремясь лучше соответствовать человеческому суждению.

BERTScore

BERTScore оценивает тексты, сравнивая сходство контекстных вложений из таких моделей, как BERT, уделяя больше внимания значению, чем точному совпадению слов.

Расстояние Левенштейна, или расстояние редактирования, измеряет минимальное количество правок одного символа (вставок, удалений или замен), необходимых для изменения одной строки на другую. Этот показатель ценен для:

1. Оценки сходства текста в задачах генерации.

2. Оценки исправления орфографии и постобработки OCR.

3. Дополнения к другим метрикам при оценке машинного перевода.

Нормализованная версия (от 0 до 1) позволяет сравнивать тексты разной длины. Несмотря на простоту и интуитивность, она не учитывает семантическое сходство, что делает ее наиболее эффективной при использовании вместе с другими метриками оценки.

Человеческая оценка

Несмотря на рост автоматизированных метрик, человеческая оценка по-прежнему имеет важное значение. Ее методы включают использование шкал Лайкерта для оценки беглости и релевантности, A/B-тестирование различных выходных данных модели и экспертные обзоры для специализированных областей.

Метрики для конкретных задач

Для таких задач, как диалоговые системы, метрики могут включать уровни вовлеченности и показатели завершения задач. Для генерации кода необходимо посмотреть, как часто код компилируется или проходит тесты.

Надежность и справедливость

Важно проверять, как модели реагируют на неожиданные входные данные, и оценивать наличие предвзятых или вредных выходных данных.

Метрики эффективности

По мере развития моделей растет и важность измерения их эффективности с точки зрения скорости, использования памяти и потребления энергии.

ИИ оценивает ИИ

По мере того, как ИИ становится все более продвинутым, мы начинаем использовать один ИИ для оценки другого. Этот метод быстрый и позволяет без утомления обрабатывать огромные объемы данных. Кроме того, ИИ может выявлять сложные закономерности, которые люди могут упустить из виду, предлагая детальный анализ производительности.

Однако эта оценка не идеальна. Оценщики ИИ могут быть предвзятыми, иногда отдавая предпочтение определенным ответам или упуская тонкий контекст, который мог бы уловить человек. Также существует риск «эхо-камеры», когда оценщики ИИ отдают предпочтение ответам, похожим на те, которые они запрограммированы распознавать, потенциально упуская из виду уникальные или креативные ответы.

Другая проблема заключается в том, что ИИ часто не может хорошо объяснить свои оценки. Он может оценивать ответы, но не предлагать углубленную обратную связь, которую мог бы дать человек, что может быть похоже на получение оценки без объяснения того, почему.

Многие исследователи считают, что лучше всего работает сочетание ИИ с человеческой оценкой. ИИ обрабатывает большую часть данных, в то время как люди добавляют необходимый контекст и понимание.

10 лучших фреймворков и инструментов для оценки LLM

В Интернете можно найти практические фреймворки и инструменты, которые можно использовать для создания набора данных оценки.

SuperAnnotate

SuperAnnotate помогает компаниям создавать свои наборы данных для оценки и точной настройки для улучшения производительности модели. Его полностью настраиваемый редактор позволяет создавать наборы данных для любого варианта использования в любой отрасли.

Amazon Bedrock

Выход Amazon на рынок LLM - Amazon Bedrock - также включает возможности оценки. Он будет особенно полезен, если вы развертываете модели на AWS. SuperAnnotate интегрируется с Bedrock, позволяя вам создавать конвейеры данных с помощью редактора SuperAnnotate и точной настройки моделей от Bedrock.

Nvidia Nemo

Nvidia Nemo - это облачный микросервис, разработанный для автоматического тестирования как современных базовых, так и пользовательских моделей. Он оценивает их с помощью различных бенчмарков, в том числе из академических источников, заявок клиентов или с использованием LLM в качестве судей.

Azure AI Studio

Azure AI Studio от Microsoft предоставляет полный набор инструментов для оценки LLM, включая встроенные метрики и настраиваемые потоки оценки. Он будет особенно полезен, если вы уже работаете в экосистеме Azure.

Prompt Flow

Prompt Flow - еще один инструмент Microsoft, который позволяет создавать и оценивать сложные рабочие процессы LLM. Он отлично подходит для тестирования многошаговых процессов и итерации подсказок.

Weights & biases

Компания W&B, известная своими возможностями отслеживания экспериментов, также стала оценивать LLM. Это хороший выбор, если вы хотите поддерживать обучение и оценку модели в одном месте.

LangSmith

LangSmith, разработанный компанией Anthropic, предлагает ряд инструментов оценки, специально разработанных для языковых моделей. Он особенно силен в таких областях, как выявление смещения и тестирование безопасности.

TruLens

TruLens - это фреймворк с открытым исходным кодом, который фокусируется на прозрачности и интерпретируемости оценки LLM. Это хороший выбор, если вам нужно объяснить процесс принятия решений вашей модели.

Vertex AI Studio

Vertex AI Studio от Google также включает инструменты оценки для LLM. Он хорошо интегрирован с другими сервисами Google Cloud, что делает его естественным выбором для команд, уже использующих GCP.

DeepEval

Deep Eval - это библиотека с открытым исходным кодом, которая предлагает широкий спектр метрик оценки и разработана для легкой интеграции в существующие конвейеры машинного обучения.

Parea AI

Parea AI фокусируется на предоставлении подробной аналитики и понимания производительности LLM. Он особенно силен в таких областях, как анализ разговоров и интеграция отзывов пользователей.

Бенчмарки оценки модели LLM

Чтобы проверить, как языковые модели справляются с различными задачами, исследователи и разработчики используют набор стандартных тестов. Ниже представлены некоторые из основных используемых ими бенчмарков:

GLUE (General Language Understanding Evaluation)

GLUE проверяет понимание языка LLM с помощью девяти различных задач, таких как анализ настроений, ответы на вопросы и выяснение, логически ли одно предложение следует за другим. Он дает единую оценку, которая суммирует производительность модели по всем этим задачам, что упрощает сравнение различных моделей.

SuperGLUE

Поскольку модели начали превосходить человеческие результаты на GLUE, был представлен бенчмарк SuperGLUE. Это более сложный набор задач, который заставляет модели справляться с более сложным языком и рассуждениями.

HellaSwag

HellaSwag проверяет, может ли LLM использовать здравый смысл, чтобы предсказать, что произойдет дальше в заданном сценарии. Он бросает вызов модели, чтобы выбрать наиболее вероятное продолжение из нескольких вариантов.

TruthfulQA

TruthfulQA - это честность. Данный бенчмарк проверяет, может ли модель избегать ложных или вводящих в заблуждение ответов, что крайне необходимо для создания надежного ИИ.

MMLU (Massive Multitask Language Understanding)

MMLU обширен и охватывает все: от науки и математики до искусства. Он содержит более 15 000 вопросов по 57 различным задачам. Он разработан для оценки того, насколько хорошо модель может справляться с широким спектром тем и сложными рассуждениями.

Другие бенчмарки

Также есть и другие тесты, например:

1. ARC (AI2 Reasoning Challenge): фокусируется на научных рассуждениях.

2. BIG-bench: совместный проект со множеством различных задач.

3. LAMBADA: проверяет, насколько хорошо модели могут угадывать последнее слово в абзаце.

4. SQuAD (Stanford Question Answering Dataset): измеряет понимание прочитанного и способность отвечать на вопросы.

Лучшие практики для оценки LLM

Джулия Макдональд поделилась своими мыслями о практической стороне оценки LLM: «Создание структуры оценки, которая будет тщательной и обобщаемой, но при этом простой и свободной от противоречий, является ключом к успеху любого проекта оценки».

Ее точка зрения подчеркивает важность создания прочной основы для оценки. Основываясь на нашем опыте работы с наборами данных клиентов, мы разработали несколько практических стратегий:

Выбор правильных оценщиков-людей: важно выбирать оценщиков, глубоко разбирающихся в областях, в которых задействована ваша LLM. Это гарантирует, что они смогут заметить нюансы и эффективно оценить выходные данные модели.

Установка четких метрик оценки: наличие простых и последовательных метрик является ключевым фактором. Подумайте о том, что действительно важно для вашей модели, например, насколько полезны или актуальны ее ответы. Эти метрики должны быть согласованы заинтересованными сторонами, что позволит вам убедиться, что они соответствуют реальным потребностям, которым служит LLM.

Проведение непрерывных циклов оценки: регулярные проверки производительности вашей модели помогают выявлять любые проблемы на ранних этапах. Этот непрерывный процесс позволяет вашей LLM оставаться в тонусе и быть готовой к адаптации.

Сравнение с лучшими: крайне полезно знать, насколько ваша модель соответствует отраслевым стандартам, благодаря чему вы поймете, где вы лидируете, а где вам нужно удвоить свои усилия. Выбор правильных людей для помощи в создании набора данных оценки имеет ключевое значение; мы рассмотрим этот вопрос в следующем разделе.

Сложности оценки LLM

Оценка крупных языковых моделей может быть сложной по нескольким причинам.

Данные обучения перекрываются

Нельзя быть уверенным в том, что модель раньше не видела тестовые данные. При обучении LLM на больших наборах данных всегда есть риск, что некоторые тестовые вопросы могли быть частью их обучения (переобучение). Из-за этого модель может показаться лучше, чем она есть на самом деле.

Метрики слишком общие

У нас часто нет хороших способов измерить производительность LLM в разных демографических группах, культурах и языках. Они также в основном сосредоточены на точности и релевантности и игнорируют другие важные факторы, такие как новизна или разнообразие. Это затрудняет обеспечение честности и инклюзивности моделей в плане их возможностей.

Враждебные атаки

LLM можно обмануть тщательно продуманными входными данными, предназначенными для того, чтобы заставить ее потерпеть неудачу или вести себя непредсказуемым образом. Выявление и защита от этих враждебных атак с помощью таких методов, как «красная команда», вызывает растущую озабоченность в области оценки.

Бенчмарки не предназначены для реальных ситуаций

Для многих задач у нас нет достаточного количества высококачественных, созданных человеком справочных данных для сравнения результатов LLM. Это ограничивает нашу способность точно оценивать производительность в определенных областях.

Непостоянная производительность

LLM могут быть как удачными, так и неудачными. В одну минуту они пишут как профессионалы, в следующую - совершают глупые ошибки. Из-за этих взлетов и падений производительности сложно судить, насколько они действительно хороши в целом.

Слишком хороший результат, чтобы его можно было измерить

Иногда LLM создают текст, который так же хорош или лучше, чем то, что пишут люди. Когда это происходит, наши обычные способы их оценки не оправдывают ожиданий. Как можно оценить то, что и так является первоклассным?

Не попадание в цель

Даже когда LLM дает фактически верную информацию, она может полностью упустить необходимый контекст или тон. Представьте, что вы просите совета и получаете ответ, который технически верен, но совершенно бесполезен для вашей ситуации.

Узкая направленность тестирования

Многие исследователи увлекаются доработкой самой модели и забывают об улучшении способов ее тестирования. Это может привести к использованию слишком простых метрик, которые не рассказывают всю историю того, что LLM может на самом деле делать.

Проблемы человеческого суждения

Привлечение людей к оценке LLM ценно, но имеет свои собственные проблемы. Этот процесс субъективный, может быть предвзятым, и его проведение в больших масштабах обходится дорого. Кроме того, у разных людей могут быть очень разные мнения об одном и том же результате.

Слепые зоны ИИ-оценщика

Когда мы используем другие модели ИИ для оценки LLM, мы можем столкнуться с некоторыми странными предубеждениями. Эти предубеждения могут исказить результаты предсказуемым образом, делая наши оценки менее надежными. Автоматизированные оценки не так объективны, как мы думаем. Нам необходимо знать о «слепых зонах», чтобы получать объективную картину того, как на самом деле работает LLM.

В заключение

Вкратце, оценка крупных языковых моделей необходима, если мы хотим полностью понять и улучшить их возможности. Это понимание помогает нам не только решать текущие проблемы, но и разрабатывать более надежные и эффективные приложения ИИ. По мере нашего продвижения вперед сосредоточение внимания на совершенствовании методов оценки будет играть решающую роль в обеспечении точной и этичной работы инструментов ИИ в различных условиях. Эти постоянные усилия помогут проложить путь для ИИ, который действительно будет приносить пользу обществу, делая каждый этап оценки значительным шагом к будущему, в котором ИИ и люди будут беспрепятственно сотрудничать.