В одном из моих последних проектов мы столкнулись с проблемой прогнозирования с очень ограниченными данными. На сбор каждого набора данных у специалиста уходило несколько часов, и результаты не всегда были успешными.
Поэтому мы искали инструмент для решения этих задач, поскольку искусственный интеллект невозможно было обучить на ограниченном количестве необработанных данных. Таким образом, мы обратились к статистическим подходам, а именно к байесовской статистике с помощью пакета Python PyMC. Я объясню теорию, на которой он основан, и опишу ее на примере обнаружения мошенничества с игральными кубиками.
Байесовская статистика
Байесовская статистика — это раздел статистики, который использует теорему Байеса для обновления наших представлений о вероятности гипотезы по мере поступления новых данных. Теорема Байеса гласит, что вероятность гипотезы (H) с учетом некоторых данных (D) равна вероятности данных с учетом гипотезы (D|H), умноженной на априорную вероятность гипотезы (p(H)), деленную на общую вероятность данных (p(D)). Это позволяет нам обновлять наши представления о гипотезе по мере поступления новых данных, а не полагаться только на имеющиеся данные.
Одним из самых популярных пакетов Python для реализации байесовской статистики является PyMC. PyMC — это мощный пакет, который позволяет пользователям легко определять, подбирать и анализировать байесовские модели. Он включает в себя множество встроенных распределений, таких как нормальное, биномиальное и распределение Пуассона, а также множество выборок, таких как Metropolis-Hastings и No-U-Turn Sampler (NUTS). PyMC также включает в себя множество удобных инструментов для диагностики и визуализации результатов вашей модели.
При использовании PyMC важно помнить, что вы должны думать о проблеме с точки зрения распределения вероятностей, а не с точки зрения точечных оценок.
К этому нужно привыкнуть, но это очень важно для точного моделирования сложных систем. Каждый результат, который вы получаете, имеет вероятность. Поэтому доверительные интервалы являются важной частью любых результатов, полученных с помощью PyMC. Это преимущество по сравнению с нейронными сетями.
В байесовской статистике используются термины априорная вероятность и апостериорная вероятность. Априорная вероятность — это распределение вероятностей до того, как были просмотрены какие-либо данные. По сути, он показывает возможный диапазон исходов для всех предполагаемых параметров, полученных путем простого угадывания. Это обозначается как p(H). Апостериорная вероятность, однако, представляет собой распределение с учетом данных, т. е. (D|H), умноженное на p(H).
Бросание поддельного игрального кубика
В качестве примера мы используем PyMC для моделирования бросков игрального кубика.
Мы хотим выяснить, был ли подделан игральный кубик или его можно использовать. Мы задаем, что вероятность выпадения каждой грани (1-6) моделируется распределением Дирихле с равной вероятностью для хорошего игрального кубика.
Мы также предполагаем, что наблюдаемые данные, являющиеся результатом броска игрального кубика, следуют категориальному распределению с параметром p, то есть предполагаемой вероятностью каждой грани.
В отсутствие каких-либо данных это априорная вероятность. Затем мы проводим анализ модели с помощью выборки Марковской цепи Монте-Карло (MCMC) и используем выборки для вывода вероятностей каждого лица, т. е. апостериорной вероятности. Поддельный кубик дает 6 в 7 из 12 бросков — так что это действительно очевидно.
Вот пример кода:
import numpy as np
import pymc as pm
from matplotlib import pyplot as plt
# Определение игрального кубика и подготовка данных
tampered_dice = [1 / 12, 1 / 12, 1 / 12, 1 / 12, 1 / 12, 7 / 12]
good_dice = [1 / 6] * 6
num_rolls = 10000
x = list(range(0, num_rolls, 1))
for idx, dice in enumerate([tampered_dice, good_dice]):
# генерирование данные о бросках костей
p = np.array(dice)
dice_rolls = np.random.choice(6, size=num_rolls, p=p)
# Определение модели игрального кубика
with pm.Model() as dice_model:
p = pm.Dirichlet("p", a=np.ones(6))
# Определение вероятности
face = pm.Categorical("face", p=p, observed=dice_rolls)
# делаем вывод на основе данных
trace = pm.sample(draws=100, tune=100, chains=2)
# выборочные данные, полученные до и после получения данных
prior_predictive = pm.sample_prior_predictive()
post_pred = pm.sample_posterior_predictive(trace)
# представление предварительных прогнозов
fig, ax = plt.subplots()
ax.hist(prior_predictive.observed_data.face)
plt.xlabel("Die face")
plt.ylabel("Occurences in 10k rolls.")
if idx == 0:
plt.title("Tampered dice")
else:
plt.title("Good dice")
plt.savefig(f"prior_predictive_{idx}.png", dpi=100)
plt.show()
# представление апостериорных прогнозов
trace.extend(post_pred)
fig, ax = plt.subplots()
ax.hist(trace.observed_data.face)
plt.xlabel("Die face")
plt.ylabel("Occurences in 10k rolls.")
if idx == 0:
plt.title("Tampered dice")
else:
plt.title("Good dice")
plt.savefig(f"posterior_predictive_{idx}.png", dpi=100)
plt.show()
# рассчет ожидаемой вероятности выпадения честного игрального кубика
expected_probs = np.ones(6) / 6
# вычисляем разницу между апостериорными и ожидаемыми вероятностями
prob_diff = np.abs(trace.posterior.p - expected_probs)
# рассчет среднго значения и стандартного отклонения разницы
mean_diff = np.mean(prob_diff, axis=0)
std_diff = np.std(prob_diff, axis=0)
# установить порог для разницы
threshold = 0.05
# проверить, превышает ли разница между вычисленными вероятностями и ожидаемыми вероятностями пороговое значение
tampered = mean_diff > threshold
if tampered.any():
print("Dice may have been tampered with.")
else:
print("Dice does not seem to have been tampered with.")После запуска, программа проверяет, находятся ли грани кубика в пределах 5 % от допустимого отклонения от идеального кубика.
Вероятно, ваш обычный домашний кубик можно считать подделанным с помощью этого кода, потому что грань №1 тяжелее, чем грань №6. В результате чего грань №6 появляется в среднем чаще, чем грань №1. Для априорной вероятности я выбрал 100 розыгрышей. Розыгрыш — это число угадываний, которые программа делает для получения потенциальных параметров модели. Рекомендуется использовать большие значения, например, 1000, чтобы обеспечить достаточную степень детализации распределения вероятностей.
Почему PyMC?
Итак, каковы преимущества и недостатки PyMC?
PyMC — это мощный пакет, который позволяет пользователям легко определять, подбирать и анализировать модели. Он предоставляет множество встроенных распределений и выборок, подходящих для широкого спектра моделей.
PyMC также очень гибок и может работать со сложными моделями. Однако PyMC — это библиотека вероятностного программирования, к которой нужно привыкнуть. Важно понимать концепции распределения вероятностей и байесовской статистики. PyMC может потребовать значительных вычислительных ресурсов, особенно для больших и сложных моделей, и может не подходить для приложений, работающих в режиме реального времени или для больших наборов данных. Тем более, что PyMC построен на языке Python. Байесовские методы являются мощным инструментом для анализа данных, а PyMC позволяет легко реализовать эти методы в Python. Однако PyMC гораздо более громоздкий и не так хорошо документирован, как Tensorflow, но, опять же, Tensorflow является текущим стандартом.
Альтернативами PyMC с другими требованиями и преимуществами являются:
Stan: Написано на C++ и поэтому работает быстрее, чем PyMC, для больших и сложных моделей.
JAGS: Написано на C++
Edward: Построен на основе TensorFlow, что позволяет использовать модели глубокого обучения. Полезно для байесовских задач глубокого обучения.
Соответствующие приложения можно найти в вероятностном прогнозировании, типе прогнозирования, который предоставляет диапазон возможных результатов, а не одну точечную оценку. Некоторые примеры включают прогнозирование погоды, финансовое прогнозирование и наиболее актуальное в настоящее время в Европе прогнозирование энергетики.
Иногда нейронные сети и глубокое обучение дают результаты, которые появляются как по волшебству. Наиболее яркими примерами на данный момент являются ChatGPT и MidJourney. Как они достигают своих результатов, понятно лишь отчасти.
Байесовская статистика требует от нас размышлений о модели, лежащей в основе наблюдаемых данных, и, таким образом, более глубоко понять проблему. Хотя вероятностные подходы не так мощны, как искусственный интеллект, они могут помочь нам подготовить данные и установить требования для ИИ. Более глубокое понимание проблемы часто является ключевым преимуществом.
Заключение
PyMC — это интересный инструмент в вашем наборе инструментов.
Он использует байесовскую статистику для мощного анализа данных, предоставляя специалисту по анализу данных или инженеру возможности для тонкой настройки модели и поиска наилучшего представления для наблюдаемых данных.
PyMC может быть не таким удобным и мощным, как нейронные сети или подходы глубокого обучения в искусственном интеллекте, но он помогает человеку лучше понять поставленную задачу. Кроме того, он дает диапазон результатов с различными вероятностями, а не точечную оценку. Все это делает PyMC интересным инструментом.