Эпиграф: Это хуже чем преступление. Это ошибка

Искусственный интеллект становится неотъемлемой частью современной жизни. Масштаб и скорость экспансии в различные сферы нашей жизни столь высокие (некоторые даже просят приостановить, что можно смело предположить будущее, где ИИ будет везде.

При этом согласно дорожной карте по развитию общего искусственного интеллекта от OpenAI, состоящей из 5 уровней, мы сейчас находимся на 1 уровне, когда ИИ только советует, а решение и ответственность остаётся за человеком. На следующем уровне он сможет рассуждать на уровне и вместо человека, а на третьем сможет действовать.

Скачок развития больших языковых моделей и нейросетей (технологий в основе ИИ) привёл к тому, что ИИ уже сейчас может говорить, рисовать картины, водить машину и даже пылесосить и мыть полы. Даже дети уже оживляют фотографии с помощью нейросетей.

Справедливо будет сказать, что все мы, согласно опросу ВЦИОМ, возлагаем на него большие надежды:

1. уменьшим затраты времени на рутину

2. повысим производительность труда

3. улучшим качество жизни

4. вырастет уровень безопасности

5. победит мировая революция

Одна из важных отраслей для применения ИИ - Здравоохранение.

В России принята Национальная стратегия в области искусственного интеллекта до 2030 года, в соответствии с которой, должны быть: "сняты отдельные административно-правовые барьеры, препятствовавшие внедрению технологий искусственного интеллекта в отдельных областях, включая здравоохранение, транспорт, государственно-частное партнёрство и другие области;"

Также уже есть ГОСТ Р 59525—2021 Интеллектуальные методы обработки, где более полно приведены типичные случаи использования искусственного интеллекта в различных специальностях медицины.

Цитата из документа: "В связи со сложностью решаемых в здравоохранении задач применение методов интеллектуальной обработки данных является одним из основных направлений повышения качества, уровня и доступности оказания медицинских услуг."

Из всего вышесказанного можно предположить, что какие-то задачи в лечении пациентов в скором времени переложат на ИИ и разрешить ему нас лечить.

Не если, а когда это произойдёт, то хотелось бы избежать, чтобы ошибки и проблемы в ИИ повлияли на качество нашего лечения, как, например, уже известные галлюцинации (можно представить, как ИИ галлюцинировал, что у вас 6 пальцев и нужна операция по удалению лишнего пальца).

Тогда немного разберёмся какие составляющие нужны для нормального функционирования ИИ:
1. технологии и алгоритмы
2. компьютерные мощности (ЦОДы)
3. данные

Все эти составляющие у нас есть и активно развиваются, но разберёмся подробнее с данными. Сейчас данные создаются повсюду, но какие данные нужны для качественной работы ИИ?

Так вот и спросим ИИ в лице YandexGPT: "Какие данные нужны для Искусственного интеллекта в медицине?" и получим следующий набор понятных требований (можете сами спросить, но в целом это очевидные требования со слабой зависимостью от области применения), который привожу здесь в кратком виде:
1. Объём данных;
2. Разнообразие данных
3. Качество данных
4. Метки и аннотации
5. Структура данных
6. Доступность данных
7. Актуальность данных
8. Отсутствие предвзятости
9. Конфиденциальность и безопасность

Отметим, что здравоохранение - хороший кандидат на помощь искусственного интеллекта:

Понятно, почему важна актуальность данных, но возникает неудобный вопрос: качественны ли медицинские данные (замечу что это наши с вами данные): анамнезы, данные обследований, приёмов, назначений, процедур, хирургических вмешательств и так далее.

А теперь мысленно перенесёмся в "кузницу медицинских данных", где все мы бывали, в медицинский кабинет. Здесь довольно часто мы сможем услышать следующие слова: "напишем так для страховой", а под этим понимается, что для выполнения правил страховой компании и одновременного получения возможности помочь пациенту (то есть нам с вами) мы пишем то чего у нас нет или, наоборот, не пишем что есть.

Что это значит с точки зрения будущего применения ИИ в медицине? А то что создаваемые, собираемые и в дальнейшем используемые для (до)обучения данные не являются качественными. На основе этих некачественных данных ИИ будет предлагать некачественные рекомендации по лечению, таким образом, при хорошем варианте потраченные усилия будут бесполезны, а при плохом некорректные рекомендации будут приняты и принесут реальный вред здоровью или даже жизни пациента.

Эту проблему можно попробовать решить с точки зрения организации работы в здравоохранении и страховании: перейти частично на профилактическое лечение, чтобы не было необходимости преувеличивать критичность своего состояния. В это статье я пока не об этом, а о том, что совокупность факторов приводит нас к достаточно масштабной будущей проблеме в применении ИИ.

Теперь давайте соберём все факторы вместе:
1. ИИ будет применяться в Здравоохранении
2. Довольно скоро он может начать не только советовать врачу, но и действовать или советовать напрямую пациенту
3. Данные пациента на основе которых он будет давать свои рекомендации некачественны и постоянно создаются новые некачественные данные

Если у вас возникло ощущение, что я сгущаю краски, то хочу вам напомнить про одну из рассматриваемых проблем: "Сервис прогнозирования индивидуального течения онкологических заболеваний" где ошибка буквально может стоить пациенту жизни.

Конечно, это пока только потенциальная проблема и некоторые учёные уже говорят о необходимости доверять ИИ для использования и действуют в этом направлении, а наши с вами соотечественники справедливо не до конца доверяют ИИ, согласно того же опроса ВЦИОМ.

В качестве заключения хочу сказать что если мы не хотим в ближайшем будущем вместо помощи получить дополнительные проблемы от ИИ, то надо уже сейчас обратить на эту проблему внимание, оценить её и подумать о возможных вариантах решения.

Я уже начал думать, присоединяйтесь!