Чему мы научились у компьютеров? На первый взгляд, постановка вопроса абсурдная. Ведь люди сами придумали информатику, сконструировали компьютерную технику и написали софт. Как можно чему-то научиться у своего детища?

Оказывается, можно. И не потому, что недетерминированная система выдаёт непредсказуемый результат. Наоборот, дело в крайней системности и детерминированности программ. Иногда кажется, что эта железная логика мощнее и сильнее человеческой психологии, эмоций и биологической природы. Поэтому она берёт верх.

Вот некоторые примеры, как изменилась наша жизнь под влиянием компьютерных алгоритмов. Речь о чертах характера, моделях поведения и восприятии окружающего мира.

▍ Нейросеть

Восприятие окружающего мира — это модель обработки фактов/данных в нашем сознании. Раньше человек не знал, что мозг — это нейросеть, которая обучается на определённом массиве данных. Её можно переобучить, перенастроить, у неё есть специфические для нейросетей когнитивные искажения и так далее.

Теперь у нас есть это понимание. И мы примерно представляем, как можно исправить конкретные дефекты этой нейросети:

• физические и психологические зависимости;
  
• необоснованные предубеждения;
  
• агрессию;
  
• и т. д.

Последние научные исследования показывают, что некоторые из этих дефектов не зависят от интеллекта. Например, необоснованные предубеждения (bias) легко заметить в посторонних людях, но очень сложно разглядеть в собственной нейросети, поскольку анализ выполняет она же сама. Таким образом, эти искажения в полной мере присутствуют даже у очень умных людей, хотя и легко заметны со стороны (Cognitive sophistication does not attenuate the bias blind spot, J Pers Soc Psychol, 2012 Sep;103(3):506-19. doi: 10.1037/a0028857).

Исправление (переобучение) нейросети — довольно стандартная задача в ML и AI. В отношении человека эти методы в будущем могут стать общеизвестными, общепринятыми и использоваться с самого рождения ребёнка. Возможно, они и сейчас используются в педагогике, только без серьёзного теоретического фундамента информатики.

▍ Транзисторы — невидимая инфраструктура цивилизации

C распространением компьютеров мир сильно изменился. Сейчас вычислительные устройства пронизывают его настолько плотно, что уже сами стали инфраструктурой, фундаментом для дальнейшего развития. Многие отрасли просто невозможны без информатики, интернета, цифровых файлов и фотографий. Никто уже не помнит, как проявлять коллоидную плёнку.

Транзисторы стали невидимой инфраструктурой цивилизации. Сложно было ожидать такое от радиоэлектронного устройства, которое управляет проходящим через него током, но это ключевое изобретение легло в основу схемотехники и породило целую цифровую вселенную, которая усложняется до бесконечности на этой элементарной базе.

Копия первого в мире работающего транзистора (1947, Нобелевская премия 1958)

▍ Жизнь под управлением алгоритмов

Развитие информатики привело к тому, что сегодня многими аспектами нашей жизни управляют алгоритмы. Они формируют наши предпочтения в сети, помогают выявить болезни, отфильтровать электронную почту. Какие продукты купить, какую информацию прочитать, какие фильмы посмотреть и т. д. Алгоритмы направляют людей.

По мнению специалистов, понимание человеческих намерений станет следующим важным прорывом в ИИ. То есть ИИ станет если не понимать, то хотя бы распознавать те программы, под управлением которых находится человек в данный момент (его цели, жизненные приоритеты, конкретные желания в данный момент). Со стороны это гораздо легче определить, чем самому носителю.

Понимание, что другое существо мыслит иначе, чем ты сам (конструирование модели его сознания в своём мозге с полной эмпатией) — важный шаг в развитии интеллекта. К сожалению, не у всех людей развито такое понимание в полной мере. Кажется, что некоторые умышленно блокируют эту способность (см. ниже: cognitive closure как защитная мера).

▍ Мозг как машина

Согласно современным представлениям когнитивной науки, мозг принимает решения как достаточно детерминированная машина. По одной из теорий, он вычисляет разные варианты будущего и выбирает из них наиболее подходящий.


Это чем-то напоминает квантовую физику. Там реальность объединяет все возможные сценарии и состоит из вероятностей. В буквальном смысле. Например, физическая частица — это облако вероятностей, а её траектория — это облако из всех возможных траекторий, что хорошо показывает эксперимент с интерференционной решёткой.

Это облако вероятностей в каком-то смысле объединяет в себе и прошлое, и будущее, так что вычленить «настоящий момент» затруднительно. И прошлое, и будущее существуют как бы во всех вариантах одновременно.

В исследованиях Хейлброна и других учёных мозг — это постоянно работающая машина для предсказания будущего, которая непрерывно сравнивает свои прогнозы с реальностью и заполняет пробелы. В каком-то смысле это похоже на систему автодополнения кода в IDE или слов в телефоне. Если прогноз и реальность сильно различаются, это вызывает удивление, смех и т. д. (PNAS, Vol. 119, No. 32, doi: 10.1073/pnas.2201968119).

Экспериментальная и аналитическая установка сканирования мозга с использованием GPT-2 для оценки вероятности следующих слов, источник

Доказательства иерархической инференции при фонемном предсказании в человеческом мозге, когда предсказание следующей фонемы зависит не только от частотности, но и от контекста, источник

Согласно ЭЭГ, мозг предсказывает следующие слова и предложения примерно как GPT. Можно предположить, что эта «прогностическая машина» работает не только в отношении текстов, но и в отношении остальных событий окружающей реальности.

Если рассматривать мозг как детерминированную машину, то наши действия становятся обусловленными. В таком случае исчезает понятие «ошибки» и свободы воли. Каждая «ошибка» логично вытекает из других действий, то есть по сути является не ошибкой, а естественным следствием реальных факторов (включая количество сна, психологическое состояние человека и т. д.).

Примерно такую теорию предложил Карл Фристон, британский нейробиолог и специалист по визуализации мозга, изобретатель статистической параметрической разметки (SPM) и воксельной морфометрии (VBM). Это математический принцип свободной энергии, который предполагает, что из множества вариантов действия организм всегда выбирает самый понятный вариант с точки зрения информационной теории (минимизируя непредсказуемые последствия). То есть мозг работает как логическая машина вывода. В такой модели нет места «человеческой ошибке». Есть состояние, в котором вероятность катастрофического решения повышается (например, нажатие «красной кнопки» с уничтожением человечества или выезд на встречную полосу). Но, с точки зрения принципа свободной энергии, это не ошибка. Человека можно ввести в такое состояние умышленно или он может осознанно это сделать с собой, например. И это будет логичное решение для этой конкретной машины вывода.

▍ Блокировка сознания от неприятной информации

Ещё один «компьютерный» навык людей — блокировка сознания от неприятной информации (cognitive closure) и игнорирование рекламы. Понятно, что это древняя защитная техника, которая у людей давным-давно. Но с появлением компьютерных нейросетей стало предельно понятно, как она работает.


Отсекая часть данных, мы можем изменить результат обучения нейросети. Таким образом человек избегает стресса, связанного с пониманием неприятных фактов об окружающей действительности. Это можно использовать в разных целях. Например, чтобы получить стратегическое преимущество перед конкурентами, которые ослаблены этой травмирующей информацией. Или чтобы усилить впечатление от её первичного получения. Есть и другие мотивы, подробнее см. научное исследование в журнале Psychological Review (2017, Vol. 124, No. 2, 179 –196, doi: 10.1037/rev0000055). Можно использовать также опросник, насколько человек нуждается в самозащите с помощью блокировки от неприятной информации (NFCS, The Need for Closure Scale).

Список тем из области когнитивного закрытия в Испании и Германии (то есть вопросы, на которые люди не хотят знать ответы), источник

В случае с игнорированием рекламы напрашивается аналогия со спам-фильтром или блокировщиком рекламы в браузере. Тут всё довольно очевидно.

---

Перепрограммирование (переобучение) мозга как нейросети — немного киберпанковская тема. Сейчас это кажется научной фантастикой, но может стать повседневной рутиной для наших потомков.

Абсолютно продуманное рациональное поведение, без глупых, спонтанных и эмоциональных порывов — это самое ценное, чему мы научились у компьютеров. Кто знает, может быть, крайний рационализм когда-нибудь оформится в форме философского движения или религии. Всё-таки хочется, чтобы наши действия вели к предсказуемым результатам.

Кстати, примерно год назад в мозге человека идентифицировали специальные нейроны для математических операций. Математика настолько проникла в нашу жизнь, что мозг адаптировался буквально на физическом уровне.


Межпробные ответы четырёх нейронов, отвечающих повышенной частотой вспышек на правило «сложения» (A, B) и «вычитания» (C, D) независимо от конкретной подсказки, указывающей на правило (Neuronal codes for arithmetic rule processing in the human brain, Current Biology 32, 1275–1284, 28.03.2022)

Складывается впечатление, что в будущем психологические проблемы человека будут решать специально обученные программисты с математическим образованием, которые хорошо разбираются в переобучении нейросетей.

???? Голосуй за нас на премии «ЦОДы РФ»!