Круговорот возможностей для улучшения
Круговорот возможностей для улучшения

Сейчас очень много размышлений над сильным ИИ, нейросетями, влиянием нейросетей.
Но у нас и так есть миллиарды сильных И в биологическом исполнении. Зачем грезить/бояться/строить теории относительно будущего с сильным искусственным интеллектом, когда есть огромное количество плохо настроенных БИ. Достаточно чуть улучшить их обучение и эффективность и счастье взлетят вверх.

В связи с этим актуальным становится вопрос сравнения ИИ и обычного биологического интеллекта. Ведь если создатели перцептрона вдохновлялись и черпали идей из природы и биологи, то почему бы не черпать идеи из искусственных нейросетей и добавлять эти идеи к обычным. По сути ИИ это грубая модель мозга на основе модели нейрона. Смотреть на модель, анализировать ее - лучше понимать первичный объект и смотреть на объект анализировать его - лучше понимать модель.

Искусственные нейросети уже развиваются довольно давно и по некоторым показателям приближаются к биологическим. У chatgpt5 1 триллион синаптических контактов, у человека 100 триллионов. Числа сопоставимые. Датасет с изображениями ИИ стал определять лучше человека уже в 2015 году. Если рассматривать количество слоев(6 в коре у человека), то ИИ давно уже обошел биологические нейросети. Вполне разумно посмотреть на свое создание.

Отличия биологических нейросетей от искусственных

  • Главное отличие это нейропластичность зависящая от времени. Можно обучить ИИ, оставить его на пол года или на 10 лет, потом прийти и переучить его и скорость с которой будет произведено изменение весов нейросети будет одинаковой как с полугодовалым перерывом, так и с перерывом в десять лет. С человеком все будет по другому. Его нейропластичность в 7 лет отлична от нейропластичности в 25.

  • Отсутствие фиксированности во времени. Обучив ИИ можно его таким и оставить. Обучив биологические нейросети веса в них будут меняться постоянно. Если навык не поддерживается нейронные связи истончатся и ослабятся. Если поддерживается, то они усилятся и произойдет перенастройка. Она будет происходить постоянно.

  • Эволюционно прописанные программы и потребности. Если мы сделаем нейросеть для определения рукописных цифр, она не будет думать "как мне размножиться" "как поесть" "зачем я это делаю" "влияет ли данная деятельность на мою биологическую и социальную успешность" и т.д. ИИ изолирован в своей задаче. Но это если мы говорим о слабом ИИ. Будет ли сильный ИИ размышлять "как мне поесть" или "как мне поспать"

  • Также отдельно стоит отметить, что у биологических нейросетей есть лень. У текущих же ИИ нет лени. Возможно у сильного ИИ она будет. Подобно ленивым вычислениям в языках программирования (например, haskell). Лень это тоже потребность по П.Н. Симонову это потребность экономии энергии и входит она в витальные потребности. Если мозг в его древних структурах(например "подрублен", активируется в случае взаимодействия с изучаемым предметом. «Ученик — это не сосуд, который надо наполнить, а факел, который надо зажечь», как говорил Плутарх. "Огонь" мы видим, засунув человека в фмрт и показывая ему что-то что ему действительно интересно. Видно, что в таком случае биологическая нейросеть символически "горит" желтым и оранжевыми цветами. Активация подкорковых структур при изучении материала это интерес и/или стремление к изучению

  • Обучение чертам характера. Черты характера и личности это также нейронные связи, между нейронами в одном отделе и между несколькими. Например, выученная беспомощность, описанная Мартином Селигманом. Или же "выученное упорство", Ли Даркворт.

  • Генетические предрасположенности и плавание нейросети в коктейле из гормонов.

  • Для биологического интеллекта необходимо поспать, это часть его цикла обучения. ИИ может учиться 24/7.

  • Конкуренция датасетов друг с другом. Биологический сильный И имеет выбор между заданиями по математики и шотсами юутба.

Сходства биологических нейросетей и искусственных

  • Общий принцип. Веса - нейронные связи. Отслеживание ошибки при текущих весах. Усиление/ослабление весов в зависимости от ошибки

  • Тренировочная выборка и тестовая выборка

  • Overfitting

  • Обучение с учителем и обучение без учителя

  • Необходимость датасета достаточного объема и качества

Обучение с учителем эффективнее. Если есть возможность, то стоит обучаться с учителем.

Проблемы

Отсутствует сам процесс обучения

Не вычисляется функция ошибки или ее нет.

Если в процессе обучения отсутствует ситуация с отслеживанием ошибки, то обучение не происходит, как пример можно привести английский в корее-японии. Да и наверняка читатель вспомнит множество случаев из жизни, когда люди делали одну и ту же деятельность пусть даже с точки зрения наработки того или иного навыка концептуально эффективную, но при этом не отслеживали результат и в итоге ничего не менялось.

Нет перенастройки весов.

Если нет отслеживания ошибки, то нет и корректировки. Но даже когда она есть и показана ошибка, биологическая нейросеть может не корректировать веса, хотя данная опция имеется. Возможно и тут вспомнятся ситуации, когда индивид знает что нужно делать, чтобы стало лучше/эффективнее/результативнее, и все равно ничего не делает. Это именно тот случай.

Тем не менее это не самые грустные вариант. Самая печальная ситуация описана далее.

Тренировочная выборка, тестовая выборка и реальные данные отличны друг от друга

То как происходит с AI. Выбирается датасет который максимально похож на то с чем будет работать в последующем нейросеть. Данные делятся на тестовую и тренировочную выборку. На тренировочной осуществилось обучение. На тестовой проверка результатов нейросети. И все, в путь. В случае если датасет был более-менее похож на то с чем прийдется иметь дело нейросети, то все будет замечательно. Но так ли это с биологическим нейросетями?

Люди обучаются по крайне неэффективной схеме. Для примера можно взять обучение английскому, которому посвящено немало статей на хабре, обучающего контента и 10 лет школы, плюс 2 года бакалавра. И теперь вопрос, насколько хорош уровень английского языка в наших странах? Соответствует ли данный уровень тому что можно получить за 10-12 лет изучения языка? В Японии люди изучают английский, проходят грамматику, правила, пишут тесты идеально. Но по итогу, говорить не могут и понимать тоже. В школе/универе человек учится делать задания и быть вхожим в систему. Требуется ли в реальном мире это?? Лучшие варианты это максимально приблизиться к реальным данным и проводить обучение на них. Например, если человек учится программированию на скиллбоксах и прочих курсах, то лучше не идти на них, а просто взять задачу похожую на реальную сделать ее, сделать пару тестовых и влетать на работу, чтобы на ней и учиться наиболее эффективно. В сто раз будет эффективнее тренироваться нейросеть. Также на данных курсах происходит натаскивание на собеседования, собеседование можно в данном случае назвать тестовой выборкой. Но тестовая выборка и реальные данные отличаются! И даже если такой ученик пройдет, то он сложиться при первой же задаче.

Универы и школа. Грустная ситуация - преодоление минимального порога, наиболее дешевое с точки зрения усилий получение оценки(ленивость белковых нейросетей). Происходит тупое натаскивание на закрытие для необходимого минимума контрольной/зачета/получения оценки и т.д. Подхалимство для получения оценки. И именно данному качеству учится нейросеть. Лучше бы вообще не училась, чем вырабатывать такое
Лучшая ситуация при текущем варианте. Старательное выполнение. В таком случае, может выучиться терпению, усидчивости, системному мышлению. Но все равно, какая часть обучения полученного из самого тренировочного датасета пригодиться? Индивид научился хорошо вписывать описывать окружности в треугольник, а надо общаться и коммуницировать. Научился применять теорему Менелая, а работать в цифровом пространстве не научен. Что чаще пригождается? Какой навык сам по себе более ценен?

Ситуация с значительным различием тренировочных данных и реальных данных это самый грустная вариант. Ибо значительно количество сил и усилий потрачено на обучение, изменение весов - процесс дорогой и еще более энергозатратный.

Overfitting

Человек учит один пример и распространяет его на все. Он суперсильно его обдумал, а по сути провели сигнал в своей голове сотни раз по одним и тем же путям и как следствие усилил их. И после применения подхода из данного примера к второму ничего не работает!

Рис 1. Три вариант обучения
Рис 1. Три вариант обучения
Рис 2. Оптимальная точка обучения
Рис 2. Оптимальная точка обучения

На рисунке 2. показан график зависимости кривой ошибки от количества времени и сил потраченных на него. В биологических нейросетях склонность к overfitting имеют тревожные индивиды. Тревога находится в миндалине это подкорковая структура, она сильно активна и подстегивает обучение, мозг "активируется". Это мотивационный компонент, описанный в различии биологических нейросетей и ИИ. В свою очередь underfitting, происходит в тех ситуациях, когда просто без разницы, подкорка не особо активна. Хотя возможна ситуация нехватки времени, сил.

Нехватка датасета, низкое качество данных

Такая ситуация также возможна. Когда у ИИ происходит обучение без учителя, но датасет все равно подготовлен и очищен, то все равно учитель пусть и не говорит ученику, что он сделал так или не так, но косвенным образом он присутствует, заботливо подготовив ученику материалы.

Если же сильный биологический И будет готовить сам себе датасет, то что он наготовит? Может хорошо и равномерно подберет себе материал, может нет. Скорее всего датасет будет не репрезентативный, подобран с перекосом в сторону поверхностности и первой попавшейся информации. Это тема для отдельного материала.

Потенциальное превосходство ИИ и интеграция искусственных нейросетей в белковые

Дешевле открыть приложение сказать фразу и получить перевод тем же голосом. Это дешевле чем учить язык. Дешевле писать статьи с chatgpt чем прокачивать навык писательства. Дешевле сгенерить картину, чем рисовать ее. Общим словом, энергетически дешевле использовать искусственные нейросети которые обучались сотни часов на огромных датасетах, чем взращивать эти нейронные связи у себя в голове.

Что происходит? Кто виноват? Что делать?

На первый вопрос дан ответ выше. Второй вопрос не столь актуален. Третий особо актуален.
Учитель одновременно играет роль и подготовителя датасета, и описывает методику обучения, и показывает что правильно, что нет и самое главное в значительной части случаев помогает активизации подкорковые структуры. Роль Учителя тут большая чем. Под Учителем в бековых нейросетях могут проявляться: педагог(родитель, препод), другая социальная среда, культурная среда, информационное пространство(что в большинстве случаев сегодня почти полностью является интернетом). В общем варианте Учитель это среда. Самая первая и одна из наиболее импактовых это первичная социальная среда, которая почти полностью состоит из родителя. В большинстве случаев родитель не имеет педагогических компетенций. Необходимо сделать так, чтобы базовые педагогические компетенции были у каждого человека потенциально имеющего возможность заводить детей. В преподы надо брать лучших из людей. Особенно в преподы детсадов и младших классов. Кривая Хеккмана тому подтверждение

Рис 3. Кривая Хекмана
Рис 3. Кривая Хекмана


Снести полностью систему образования и переписать ее в соответствии с принципами нейронаук. Ввести основы нейронаук как отдельную дисциплину в школе/универе. Ввести навыки работы в цифровом и информационном пространстве. Ввести сексуальное образование, как говорил Игорь Кон. Ввести курс логики и мышления(отсылка на Эдварда де Боно). Тестовая выборка не всегда будет близка к реальной по понятным причинам, но в максимальной степени ее приблизить к реальным данным. Реальные данные генерит сама жизнь.

Менять культурную среду и следить за ней. Что ценно, что не является ценным. Куда направлять свою энергию. Что значимо, что нет. Что престижно, что нет. Все это находится на стыке культуры и информационного пространства также составляет Учителя, который и показывает БИ что правильно, а что нет.

P.S.

На создание статьи меня вдохновил Константин Анохин, на одной из лекций сказавший, что мы видим в мозге и ии одни и те же процессы. Также overfitting, который очевидно мы наблюдаем и в людях.

Вполне возможно статья является посредственной. С грамматическими, синтаксическими, пунктуационными ошибками(писать в личные сообщений). Тем не менее тема сравнения нейросетей друг с другом очень интересна и актуальна. Если и далее будет размышление на эту тему, то и нейронауки и сфера AI получат от этого значительную выгоду. Если есть дополнение/идея по поводу темы, то это замечательно, определенно стоит написать его в комменты.

Моя скромная идея заключалась в том, что человек содержит невероятный потенциал и основа данного потенциала и самого человека это мозг, это он и есть. И смотря, то насколько много внимания уделяется ИИ и насколько мало людям, появляются вопросы, а стоит ли так фиксироваться на прогрессе ИИ, когда собственные нейросети обучены неэффективно. И достойна ли будет человеческая жизнь в том мире, где его значимость постоянно падают как абсолютно, так и в сравнении с ИИ.

Комментарии (10)


  1. longtolik
    04.01.2024 07:33

    Вот была книга: "Нейроинтеллект: от нейрона до нейрокомпьютера". Ещё в 1989 году. Кстати, попала, например, в библиотеку конгресса, хотя, что называется, сделана в СССР.

    Немного непонятно про 15 триллионов, если нейронов 15 миллиардов, то у каждого по 1000 аксонов? То есть, связей с другими.


    1. appet1te Автор
      04.01.2024 07:33
      +1

      Спасибо за информацию. Думаю, что у познания нет границ и это выгодно брать и перенимать от всех уголков мира, то что эффективно и несет ценность. Конгресс, похоже, тоже так посчитал.
      По количеству от 1000 до 10000 аксонов с одного нейрона. Я ссылался на Дубынина, он говорил про 5000 и 15 трлн синапсов. Но как-то не получается при подсчете, если клеток 100 млрд, то даже при 1000 получится 100 триллионов.


  1. saege5b
    04.01.2024 07:33
    -1

    Биологическая сеть - [сетка [сеток сеток]...]


  1. Samr1
    04.01.2024 07:33

    Спасибо за статью, прочитал с интересом.

    энергетически дешевле

    Так и есть, наша биоИИ стремится к экономии ресурсов: когда реактивный стресс - угнетается пищеварительная система, когда рутина - включается быстрое мышление, когда конфликтоген - прокрастинация, и т.д. Более того, эти эволюционные инстинкты перенеслись в управление, и конечно образование.

    Ввести основы нейронаук как отдельную дисциплину в школе/универе

    И я с Вами полностью согласен, и рад, что в школе появилась такие полезные и повсеместные предметы как финансовая грамотность, например. Но не приведет ли это к:

    Конкуренция датасетов

    До этого были "Введение в марксизм" и прочие, учили их до зачета.

    Менять культурную среду и следить за ней. Что ценно, что не является ценным

    Часто ругают современное образование, что там чего-то нет, и чего-то слишком много, но похоже здесь рекурсия. Проводники изменений - "учителя" со своими датасетами и с overfittings сделали то, что мы имеем, но вот как качественно это изменить с учетом "нейронаук"?


  1. Andrey_Epifantsev
    04.01.2024 07:33
    +1

    Люди обучаются по крайне неэффективной схеме.

    Люди обучаются невероятно эффективно. Современному ИИ до них ещё расти и расти. Сколько картинок собак и кошек нужно показать человеку, чтобы он научился отличать кошку и собаку? А сколько для той же задачи картинок нужно показать ИИ?

    Также отдельно стоит отметить, что у биологических нейросетей есть лень.

    Неправда. Вы путаете понятия. Есть совокупность нейросетей в мозгу аналогичная современным искусственным нейросетям - так называемая Система 1. У неё нет лени, она работает постоянно, автоматически и она не контролируется сознанием. Попробуйте сознательно не читать слово в конце этого предложения и не представлять себе его образ: БЕЛЫЙ МЕДВЕДЬ. Получилось? Вы смогли не понять это слово? Образ в мозгу не возник? Это работа нейросетей. Они не ленятся, они постоянно работают, более того, вы не можете выключить их сознательно.

    А есть Система 2. Она отвечает за логические рассуждения. Она расходует очень много энергии и человек старается её лишний раз не включать. Это и есть проявление так называемой лени. И пока люди не смогли воспроизвести работу похожую на работу Системы 2 искусственно на компьютерах.


    1. appet1te Автор
      04.01.2024 07:33
      +1

      Люди обучаются крайне неэффективно по сравнению с тем какие у них возможности. Иначе бы человек за 12 выучивал бы английский, хотя бы до неплохого разговора.
      В иных сферах и у отдельных людей вообще нет прогресса, только усилия и время уходит, но ничего не меняется.

      Кроме игрового варианта формирования навыков, все сознательное формирование навыков это система 2. Вы сами сказали, что в ней и кроется проявление лени(она же потребность в экономии сил). Ну и вот, получается что индивид обучаясь(кроме игровой формы), регулярно сталкивается с такого рода дилеммой
      Ежели ИИ представлять как систему 1, то тут снова все соответствует описанию. Если, у нее отсутствует лень. То и у ИИ тоже ее нет.


  1. fivlabor
    04.01.2024 07:33
    +1

    >В преподы надо брать лучших из людей. Особенно в преподы детсадов и младших классов

    Громкое утверждение. Все таки мозг человека работают не как компьютерные нейросети и самый лучший датасет скорее вреден.

    Водить машину учат меньше сотни часов + пара тысяч часов из детства, когда закладывается хоть какой-то глазомер и понимание, что от удара больно. Одноглазый дальтоник не затормозит, приняв Луну за светофор и не проигнорирует разворачивающийся грузовик.


    1. appet1te Автор
      04.01.2024 07:33

      Это было сочетание идей Жан Жака Руссо, плюс кривая Хекмана. Последняя показывает изменение нейропластичности с течением жизни. Скорость изменения весов меняется со временем потому именно старт жизни является наиболее ценным для обучения


      1. riv9231
        04.01.2024 07:33

        Я бы с этим тоже поспорил. С нейропластичностью не все так однозначно. Например большие нейросети сейчас доучивают с помощью технологии LORA, которая подразумевает изменение не всех весов а не большого количества дополнительных. Во первых LORA экономически намного выгоднее, во вторых даже если не использовать LORA, то дообучение целой нейросети на прежней скорости стирает исходную память, по этому дообучают "chekpoint" на низкой скорости. LORA тоже может обучить нейросеть какому-ту не большому нюансу знания, но как правило, большего и не требуется, т.к. большая сеть после базового обучения уже многое сама знает.

        Что касается людей, то тут тоже утверждение про низкую скорость обучения из-за низкой нейропластичности требует доказательств. Как мне кажется из бытового опыта, скорее у человека с годами растет круг обязанностей, уровень ответственности и на новую деятельность уже не хватает ресурсов. Но если человек новое знание считает перспективным, то обучается ему очень быстро. Например у меня есть приятели которые в 30 лет с нуля сделали быструю и головокружительную карьеру в программировании, один из них до этого вообще таксистом работал. Я бы сказал, что однозначно мешает обучению недостаток мотивации, а вот как недостаток нейропластичности мешает, я не замечал.

        Другими словами, у меня создается впечатление, что понижение нейропластичности - это адаптация процесса обучения к возросшему объему знаний мозга/нейросети и есть аналог этого явления в машинном обучении.


  1. runaway
    04.01.2024 07:33

    Человеческий интеллект обучен естественным отбором, он справляется со своей задачей: человеков расплодилось более чем, они есть на всех континентах. С этой точки зрения он эффективный.

    Если вам надо быстроту обучения или знание английского в качестве критерия - это другое дело. Критерии эффективности - вот в чём вопрос.