Алгоритм обратного распространения ошибки уже давно доминирует в сфере обучения нейронных сетей. Несмотря на свою популярность и эффективность, у него есть свои недостатки, в частности, различие в работе с человеческим мозгом.
В конце прошлого года Джеффри Хинтон, пионер Deep Learning, на конференции NeurIPS 2022 предложил новый алгоритм обучения нейронных сетей — Forward‑Forward — как альтернативу методу обратного распространения ошибки. FF более гибок и использует меньше памяти, чем backpropagation в архитектурах с множеством скрытых слоев, а его основная отличительная черта в том, что он основывается на современном понимании устройства человеческого мозга.
В данной статье мы рассмотрим: что способствовало появлению данного алгоритма, принцип его работы, а также обучим с его помощью простейшую классифицирующую нейросеть на датасете — MNIST.
Истоки
Алгоритм backpropagation имеет ряд ограничений: необходимость сохранять активации на каждом слое, а также граф вычислений, без которого расчет правильной производной невозможен. Кроме того, на время вычисления производной необходимо делать остановку, то есть перестать принимать поступающие данные. Человек способен производить инференс и обучение в реальном времени без остановки на расчет ошибки. Исследователи склоняются к тому, что мозг не может учиться с помощью алгоритма backpropagation. А Джеффри Хинтон хочет сделать все как в мозге. Хинтон полагает, что алгоритм обратного распространения ошибки плохо мимикрирует процессы, проходящие в мозге человека во время обучения. Его известная цитата об этом алгоритме: «Я считаю, что нужно выбросить все и начать сначала. Будущее зависит от выпускника, который глубоко сомневается во всем, что я говорю». Не дождавшись выпускника, Джеффри сам предлагает новый подход к обучению.
Принцип работы
Алгоритм является процедурой обучения многослойных нейросетей, вдохновленный принципом работы машины Больцмана. Идея заключается в замене стандартной комбинации прямого прохода и обратного распространения ошибки на два прямых прохода, которые отличаются только данными и противоположными целевыми функциями. Положительный проход производится на реальных данных и настраивает веса для увеличения добротности (goodness) в каждом скрытом слое. Негативный проход использует искусственные данные для уменьшения добротности в каждом слое. Измерять добротность можно по‑разному: как сумму активаций в квадрате или негативную сумму активаций в квадрате.
Представим, что функция добротности для слоя — это сумма квадратов ReLU активаций в этом слое. Цель обучения — сделать добротность гораздо выше некоторого порога для реальных данных и ниже — для искусственных.
Есть нюанс в обучении каждого слоя по отдельности. При передаче активаций из первого во второй слой определение добротности из первого слоя для второго становится тривиальной задачей, так как он может ориентироваться на длину вектора. Нет необходимости обучаться новым фичам. Для решения этой проблемы в каждый слой была введена нормализация. Таким образом, длина вектора используется в текущем слое для определения добротности, а в следующем слое после нормализации остается только направление этого вектора.
Обучение без учителя
Для построения векторов, представляющих изображения, нам не обязательно иметь разметку, достаточно иметь искусственные данные. Таким образом, мы можем получить сеть, которая кластеризует похожие и разделяет разные изображения в векторном пространстве. В дальнейшем можно использовать обученные скрытые слои для решения различных задач: например, обучения линейного слоя с softmax для классификации изображений. Искусственные данные можно получить многими путями — в статье рассматривается размытие реальных изображений.
Эксперименты с таким подходом оказались удачными и показали ошибку 1,37% в нейросети с линейными слоями и 1,16% — cо сверточными.
Обучение с учителем
Теперь перейдем к примеру с обучением сети для классификации с использованием алгоритма FF на PyTorch. Ноутбук доступен в репозитории.
Для начала импортируем все необходимые библиотеки и определим — на каком устройстве мы будем проводить вычисления:
import torch
import torch.nn as nn
from tqdm import tqdm
from torch.optim import Adam
from torchvision.datasets import MNIST
from torchvision.transforms import Compose, ToTensor, Normalize, Lambda
from torch.utils.data import DataLoader
import numpy as np
DEVICE = 'cuda'
# DEVICE = 'cpu'Из‑за специфики используемой нами функции потерь, мы не можем просто передать лейбл как отдельное число, так как его необходимо закодировать во входных данных. Для этого создадим функцию, кодирующую лейбл в первых (слева сверху) пикселях изображения. Так как у нас всего 10 классов, нам нужно выделить для этого 10 пикселей. Сами лейблы предстанут в виде one‑hot векторов.
def overlay_y_on_x(x, y):
x_ = x.clone()
x_[:, :10] *= 0.0
x_[range(x.shape[0]), y] = x.max()
return x_Также нам понадобится функция для создания негативных данных, в качестве которых будут поданы те же самые изображения, только с неправильными лейблами. Таким образом, разница между позитивными и негативными экземплярами состоит только в лейбле и сеть будет игнорировать признаки, которые с ним не коррелируют. В «теле» функции убираем класс, к которому действительно принадлежит картинка, из списка всех возможных классов. Таким образом, мы не сможем случайно получить изображение с правильным классом.
def generate_negative_data(x, y):
y_neg = y.clone()
for idx, y_samp in enumerate(y):
allowed_indices = [i for i in range(10)]
allowed_indices.pop(y_samp.item())
y_neg[idx] = torch.tensor(np.random.choice(allowed_indices)).to(DEVICE)
return overlay_y_on_x(x, y_neg)
Перейдем к определению слоя сети. За основу берем линейный слой, в конструкторе задаем функцию активации ReLU и оптимизатор. Здесь же мы определяем новый гиперпараметр — порог разделения реальных и искусственных данных. Этот порог выбирается эмпирическим путем. Необходимо указывать количество эпох, так как каждый слой обучается отдельно.
В методе forward мы прежде всего избавляемся от длины вектора, вычисляя ее по каждому экземпляру в батче и меняем shape, чтобы без труда провести деление входных векторов. Данная реализация нормализации соответствует описанной в статье: среднее значение не вычитается перед делением из исходных векторов. Во избежание деления на ноль при нулевой длине вектора прибавляем к делителю небольшой эпсилон 1e-4. Далее все как в обычном линейном слое — перемножаем нормализованный x на веса, прибавляем байес и прогоняем через функцию активации.
Вот мы подошли к методу train. Напоминаю, что все слои учатся по отдельности: в начале вычисляем функцию добротности для положительных и отрицательных данных. В нашем случае она очень простая — значения pos_loss и neg_loss нужно минимизировать. Потом соединяем полученные тензоры и применяем к ним трюк log exp для предотвращения затухания или взрыва градиента, после чего берем среднее значение. Считаем производную методом backward (в данном случае он считает только производную на одном слое и не распространяет ошибку по графу) и делаем шаг оптимизатора. Возвращаем вывод слоя, предварительно отвязав его от графа вычислений. Вывод понадобится нам для подачи в следующий слой.
class Layer(nn.Linear):
def __init__(self, in_features, out_features,
bias=True, device=None, dtype=None):
super().__init__(in_features, out_features, bias, device, dtype)
self.relu = torch.nn.ReLU()
self.opt = Adam(self.parameters(), lr=0.03)
self.threshold = 3.0
self.num_epochs = 1000
def forward(self, x):
x_direction = x / (x.pow(2).sum(dim=1).sqrt().reshape((x.shape[0], 1)) + 1e-4)
return self.relu(
torch.mm(x_direction, self.weight.T) +
self.bias.unsqueeze(0))
def train(self, x_pos, x_neg):
for i in range(self.num_epochs):
g_pos = self.forward(x_pos).pow(2).mean(1)
g_neg = self.forward(x_neg).pow(2).mean(1)
pos_loss = -g_pos + self.threshold
neg_loss = g_neg - self.threshold
loss = torch.log(1 + torch.exp(torch.cat([
pos_loss,
neg_loss]))).mean()
self.opt.zero_grad()
loss.backward()
self.opt.step()
return self.forward(x_pos).detach(), self.forward(x_neg).detach()Теперь определим саму модель. Метод train очень прост — по очереди обучаем слои и передаем результат в следующий слой. Необычный метод используется при инференсе — нужно посчитать метрику добротности для каждой комбинации входных данных и возможных классов, после чего возвращается класс с наибольшей добротностью. Можно использовать и softmax, но в таком случае результаты классификации будут менее точными.
class Net(torch.nn.Module):
def __init__(self, dims):
super().__init__()
self.layers = []
for d in range(len(dims) - 1):
self.layers += [Layer(dims[d], dims[d + 1]).to(DEVICE)]
def predict(self, x):
goodness_per_label = []
for label in range(10):
h = overlay_y_on_x(x, label)
goodness = []
for layer in self.layers:
h = layer(h)
goodness += [h.pow(2).mean(1)]
goodness_per_label += [sum(goodness).unsqueeze(1)]
goodness_per_label = torch.cat(goodness_per_label, 1)
return goodness_per_label.argmax(1)
def train(self, x_pos, x_neg):
h_pos, h_neg = x_pos, x_neg
for i, layer in enumerate(self.layers):
h_pos, h_neg = layer.train(h_pos, h_neg)И, наконец, мы можем приступить к обучению. Загружаем датасет, создаем трехслойную сеть и запускаем обучение. Для формирования входных данных используем ранее заданные функции.
torch.manual_seed(1234)
train_loader, test_loader = MNIST_loaders()
net = Net([784, 512, 512])
for x, y in tqdm(train_loader):
x, y = x.to(DEVICE), y.to(DEVICE)
x_pos = overlay_y_on_x(x, y)
x_neg = generate_negative_data(x, y)
net.train(x_pos, x_neg)С данной конфигураций ошибка на тренировочных данных составила 2,04%, на тестовых — 4,74%. Нейросеть, обученная в статье, показала ошибку 0,64%. Однако, автор обучал сеть с 4 скрытыми слоями по 2000 нейронов в каждом на аугментированных данных. Кроме того, при подсчете метрики добротности он не использовал первый скрытый слой. Такой сетап только ухудшал мои показатели, и ошибка была на уровне 11%, так что результаты статьи воспроизвести не удалось. Обучение с аугментацией протестировано не было. Предлагаю вам поэкспериментировать с кодом и посмотреть что получится.
Мы можем визуализировать активации в скрытых слоях и увидеть, что на положительных данных активность «нейронов» выше, чем на отрицательных. В данном случае мы подавали в сеть картинку цифры семь с лейблами 0 и 7.
Джеффри в своей статье также провел эксперимент на датасете CIFAR-10. При использовании backpropagation ошибка уменьшалась значительно быстрее и с FF точность была немного ниже.
FF как альтернатива GAN
GAN (генеративная состязательная сеть) использует многослойную сеть для генерации данных и обучает свою генеративную модель с помощью многослойной дискриминативной сети для отличия сгенерированных данных от настоящих. На практике они генерируют достаточно правдоподобные изображения, но страдают от так называемого схлопывания мод (mod collapse): может появиться такое пространство изображений, в котором они ничего не генерируют. Кроме того, они обучаются алгоритмом backpropagation, так что сложно представить их работу в коре головного мозга.
FF можно рассматривать как частный случай GAN в котором каждый слой дискриминативной модели принимает свое собственное решение о правдоподобности данных, так что нужды в обратном распространении ошибки нет. Также нет необходимости использовать backprop для обучения генеративной сети, потому что она может переиспользовать веса дискриминативной модели. Единственное, чему должна научиться модель — как преобразовать скрытые представления в генерируемые данные, и нет необходимости в backpropagation при использовании линейного преобразования для вычисления softmax логитов. Такой подход поможет избавиться от схлопывания мод и от проблемы, когда одна модель учится быстрее другой.
Сон
Алгоритм Forward‑Forward гораздо проще было бы представить, если бы положительные данные обрабатывались во время бодрствования, а негативные — создавались нейросетью и обрабатывались во сне.
При использовании суммы квадратов активаций как функции добротности, чередование между тысячами обновлений весов на реальных данных и тысячами обновлений на искусственных данных работает только в случае очень низкой скорости обучения и очень высокого импульса. Возможно, что другая функция добротности позволит отделить положительную фазу от отрицательной и это, пожалуй, самый важный вопрос о FF как биологической модели.
Было бы интересно увидеть при разделении положительной и негативной фазы, как приостановка обучения на искусственных данных вела к эффекту, похожему на серьезный недостаток сна.
Смертные вычисления
С точки зрения затрат электроэнергии эффективный способ умножения активаций на матрицу весов — реализовать активации как напряжение и веса — как проводники. Их произведение — накапливающиеся со временем заряды. Это выглядит более разумно, чем гонять транзисторы с высоким электропотреблением для моделирования отдельных бит в двоичном представлении числа и выполнять O(n^2) побитовых операций для умножения двух n‑битных чисел. К сожалению, алгоритм backprop сложно реализовать так эффективно.
Современные компьютеры были спроектированы для безоговорочного следования инструкциям и с четкой границей между софтом и железом — так, чтобы программу, написанную на одном компьютере, можно было перенести на другой. Это делает программу бессмертной: знания не умирают, когда умирает железо.
Разделение софта от железа — один из фундаментальных принципов Computer Science, который дает множество преимуществ. Можно изучать программу, не влезая в тонкости электротехники или написать программу и скопировать ее на миллион компьютеров. Либо возможно вычислять производные на большом датасете, используя несколько копий модели, запущенных параллельно. Если вы готовы отказаться от бессмертности, тогда вы сможете сэкономить на электричестве и производстве компьютеров. В будущем возможно появление таких компьютеров, которые нужно обучать под конкретные задачи. Параметры, обученные на этих компьютерах, нельзя явно скопировать на другие компьютеры, так что их вычисления смертны — они умирают с железом.
По мнению Хинтона, если вы хотите, чтобы ваша нейросеть была энергоэффективной, то вам стоит использовать смертные вычисления. Такие вычисления осуществимы только с алгоритмом обучения, который может эффективно работать на аппаратном обеспечении, чья точная конфигурация неизвестна. Forward‑Forward в данном случае — многообещающий кандидат, хотя еще только предстоит узнать, как он поведет себя в больших архитектурах.
Пути развития
Исследование Forward‑Forward (FF) алгоритма только началось и многие вопросы остаются открытыми:
Может ли FF воспроизвести генеративную модель изображений или видео, которые достаточно хороши для генерации негативных данных для обучения без учителя?
Какую функцию добротности лучше использовать? Минимизация суммы активностей без возведения в квадрат, судя по последним результатам, тоже работает неплохо.
Какую функцию активации лучше использовать? Пока была исследована только ReLU.
Для пространственных данных — может ли FF выиграть от нескольких функций добротности, вычисляемых на основе отдельных областей изображения?
Для последовательных данных — можно ли использовать быстрые веса (fast weights) чтобы мимикрировать упрощенный трансформер?
Официальной реализации алгоритма пока нет в открытом доступе. Хинтон писал свой код на матлабе и не хочет делиться им с широкой публикой.
В 1986 году Хинтон с коллегами опубликовали статью об использовании backprop в обучении нейросетей. Все относились к этому алгоритму довольно скептически до появления GPU с возможностью обучения на больших датасетах. Возможно, звездный час FF наступит гораздо раньше.
Теперь вы знаете, как работает алгоритм Forward‑Forward, какие преимущества и недостатки имеет, а также — как он симулирует поведение настоящих нейронов в мозге. Если в вас живет дух исследователя, уверены, что вам захочется разобраться в этой теме подробнее и модифицировать алгоритм для решения своих задач.
Комментарии (14)
VPryadchenko
00.00.0000 00:00+1А так же интересно мнение: чем это принципиально отличается от старого доброго Хебба?
neoflex Автор
00.00.0000 00:00Кажется, что идея очень похожая на Хебба, однако, в правилах Хебба нет порога для отделения положительных и негативных образцов, не говоря уже про остальные элементы современных нейросетей, которые перекочевали в алгоритм FF. Кроме того, в самой статье Хебб не упоминается.
VPryadchenko
00.00.0000 00:00Порог сути дела не меняет - если брать градиент от целевой функции в FF методе мы увидим, что связи между одновременно активируемыми нейронами усиливаются для позитивных примеров и ослабляются для негативных.
phenik
00.00.0000 00:00+1Человек способен производить инференс и обучение в реальном времени без остановки на расчет ошибки. Исследователи склоняются к тому, что мозг не может учиться с помощью алгоритма backpropagation.
Эволюция возможно экспериментировала в этом направлении, исследования феномена продолжаются, но из-за разных издержек, включая энергетические, пошла по другому пути ассоциативного (хеббовского) обучения, которое реализовалось в виде STDP, с учетом импульсного режима функционирования биологических сетей. Для ИНС обучения с обратным распространением ошибки стал основным благодаря реализации на компьютерах с классической архитектурой, для которых требования к энергопотреблению не столь критично, как к биологической реализации. Однако ситуация, в последнее время, меняется с ростом размера сетей (числа параметров) и объемов их обучения, что сказывается на их энергоэффетивности 1, 2.
Возможно в перспективе могут найти применение нейроморфные решения, которые, в силу импульсного режима работы, обладают намного большей энергоэффективностью. К тому же они используют обучение на хеббовских принципах. Обзор нейроморфных решений по разработчика, в связи с проблемой разработки ИИ.А Джеффри Хинтон хочет сделать все как в мозге…
То что написано в самой статье на нейробиологическую тематику похоже на использование принципов предиктивного кодирования, нисходящих top down эффектов управления, в последнее время, очень модной темы в нейробиологии, в связи с работами К. Фристона. Хотя в самой статье он, и его принцип свободной энергии, в прямую не упоминаются. Это несколько странно, учитывая их давние связи и обмен идеями.
Идея заключается в замене стандартной комбинации прямого прохода и обратного распространения ошибки на два прямых прохода, которые отличаются только данными и противоположными целевыми функциями. Положительный проход производится на реальных данных и настраивает веса для увеличения добротности (goodness) в каждом скрытом слое. Негативный проход использует искусственные данные для уменьшения добротности в каждом слое.
Алгоритм расчитан на традиционную архитектуру компьютеров, и это конечно отдаляет его от биологических прототипов, не смотря на желания и заявления Хинтона. Чтобы продемонстрировать это приведу пример.Алгоритм Forward‑Forward гораздо проще было бы представить, если бы положительные данные обрабатывались во время бодрствования, а негативные — создавались нейросетью и обрабатывались во сне.
А в импульсных сетях нечто подобное уже продемонстрировано несколько лет назад (статья :)
При использовании суммы квадратов активаций как функции добротности, чередование между тысячами обновлений весов на реальных данных и тысячами обновлений на искусственных данных работает только в случае очень низкой скорости обучения и очень высокого импульса. Возможно, что другая функция добротности позволит отделить положительную фазу от отрицательной и это, пожалуй, самый важный вопрос о FF как биологической модели.
Было бы интересно увидеть при разделении положительной и негативной фазы, как приостановка обучения на искусственных данных вела к эффекту, похожему на серьезный недостаток сна.
Впрочем, в недавней статье на Хабре автор привел доводы, что по крайней мере в текущем десятилетии, проблем с электричеством и ростом производительности оборудования для нейросетей не будет, а так называемый закон масштабирования, установленный на тестах самих существующих сетей;) только путем роста числа параметров моделей решит проблемы создания ИИ любой сложности. Может и алгоритм обучения FF Хинтона удастся приспособить.neoflex Автор
00.00.0000 00:00Спасибо за развернутое дополнение к статье!
По поводу того, что алгоритм рассчитан на традиционную архитектуру – тут Джеффри как раз указывает, что алгоритм был бы более эффективен на специализированном компьютере, который он называет «смертным».
Rewesand
00.00.0000 00:00Я считаю, что нужно выбросить все и начать сначала.
А вот это правильно. Уже три года этим занимаюсь. Очень зациклились на "тренировка весов", но при этом мало заботятся о формировании структур хранения и "генерации" знаний.
В мозгу ключевым моментом является это формирование знаний - кластеризация и классификация. И походу решать это необходимо с введение новых алгоритмов работы НСок.
Также хочу отметить. Проводя некоторые эксперименты по типам нейросетей а также проводя обширное моделирование био-нейронов, могу уверить, что на данный момент нет необходимости в аппаратной реализации по принципам био-нейросетй. Дело обстоит в первую очередь в разработке принципов обработке данных и формировании образов для последующей обработке интеллектом (модели по типу трансформеров). В эпоху цифрового представления и цифровой комуникации между сервисами нужно переосмыслить структуру образов знаний в пригодную для цифровых технологий.
Мы биологически ограниченны в структуре знаний. Мы не способны представить полноценно трехмерную модель кубика, т.к. наш мозг работает с трехмерным пространством только через 2д перспективу наложенную на время. И чтоб представить куб, мы будем его ресовать в 2д и пытаться крутить для отрисовки всех сторон куба в воображении. Но реального 3д моделирование нам не доступно, т.к. мы ни когда не видели куб одновременно со всех сторон.
Так же и как тот факт, что мы не умеем обрабатывать напрямую цифровые данные. Нам нужно это написать в тетради, или услышать в аудио-формате и нарисовав у себя в голове.
Принципиально иной формат данных и также методы их обработки изменить реальность в понимании системами ИИ и расширит возможности за пределы понимания человеком.
Концовка какая то эпичная вышла.
phenik
00.00.0000 00:00Проводя некоторые эксперименты по типам нейросетей а также проводя обширное моделирование био-нейронов, могу уверить, что на данный момент нет необходимости в аппаратной реализации по принципам био-нейросетй.
С ростом требований к производительности оборудования под нейросети такая специализация сама сложится. Это уже сейчас видно по производителям железа, которые проектируют его с учетом использования в таких задачах. Поэтому логично двигаться навстречу, разное оборудование займет, скорее всего, свои ниши. Датацентры на специализированном железе будут использоваться в обучении и облачной эксплуатации традиционных архитектур сетей на формальных нейронах большой производительности, но стационарных, энергоемких. Возможно для этих целей также будут интегрированы квантовые компьютеры. А встроенные, автономные системы в перспективе логичнее делать на нейроморфных технологиях. Они намного компактнее, энергоэффективнее традиционных, поддерживают динамический, асинхронный режим работы и возможность непрерывного обучения.В эпоху цифрового представления и цифровой комуникации между сервисами нужно переосмыслить структуру образов знаний в пригодную для цифровых технологий.
Те не менее отбор решений в этой области идет в строну соответствия когнитивным архитектурам (обзор). В среде разработчиков ИИ это называется биологической инспирированностью разработок. Хинтон также делал разработку в этом направлении, и отхода от BP. Это логично, результаты работы таких технологий должен быть понятны человеку, расчитаны на его возможности, дружественны. Если рассматривать решения за пределами когнитивной архитектуры то возникают такие мысли (часть под спойлером).Дело обстоит в первую очередь в разработке принципов обработке данных и формировании образов для последующей обработке интеллектом (модели по типу трансформеров).
Тут есть над чем подумать. Функции биологических нейронов моделируются целыми сетями 1, 2, 3. Если заменить формальные нейроны на модели биологически более правдоподобных, то это может упростить архитектуры сетей и уменьшит число нейронов в них (параметров модели), без уменьшения эффективности их работы.Мы биологически ограниченны в структуре знаний.
Это не проблема, используя технологии ВР, тем более нейроинтерфейсов можно расширять возможности восприятия и сознания, как то так например.Принципиально иной формат данных и также методы их обработки изменить реальность в понимании системами ИИ и расширит возможности за пределы понимания человеком.
Это уже для другого вида, который может начать конкурировать с человеком, нам это нужно?)Rewesand
00.00.0000 00:00Приятный диалог складывается. Продолжим?
С ростом требований к производительности оборудования под нейросети такая специализация сама сложится.
Да. Немного разбираясь в аналоговой схемотехнике и обсуждая тему со знакомыми разработчиками аналоговых и цифровых процессоров, мы пришли к выводу о гибридной структуре системы в целом. Железным нейросетям быть, это однозначно.
Это уже сейчас видно по производителям железа, которые проектируют его с учетом использования в таких задачах. Поэтому логично двигаться навстречу, разное оборудование займет, скорее всего, свои ниши
Полностью согласен. Мы разрабатываем структуры, которые в будущем можно будет перевести посредством самих же нейросетей в "железо". Авто-пилоты, CV.. VR-интерфейсы преобразования "знаний" ИИ в понятный для человека способ восприятия тоже будет на "желе". Вообразив скорости тактирования НС в Гигагерцы, вместо 200-1000Гц у человека, это бударажит разум. Это не такое уж далекое будущее. Вопрос лишь в том, что переносить в железо?!
Если заменить формальные нейроны на модели биологически более правдоподобных,
А вот здесь не все так просто. Мы не изучили полный цикл взаимодействия протеинкиназ, G-белков, РНК и другие аспекты. Не ясна система взаимодействия нейрона и примыкающих синапсов, посредством обмена через нейроглию. Я проводил ничтожные попытки создать обширную модель процессов. Это привело лишь к пониманию, что проще аппаратно-программно проводить этот процесс. Это как применение калькулятора во время подсчета. Сложность полного биоцикла также накладывает замедляющий эффект на скорость обработки слоев. Тут простые модели с нейронами на "relu/htan" и синапсами являющиеся произведением матриц, без обширной гаммы нейромедиаторов, как это в реальных нс, занимающие мене терабайта вызывают сложности. То эти модели в десятки раз сложнее. Также не понимаю до конца участие РНК в этом цикле. "А нейросеть памяти адрессная?!" - возникло рассуждение от Констанина Анохина на лекции Павла Балабан-а, когда тот упомянул эксперимент: "Одну улитку кормили морковкой, и после этого её били током. Потому пересадили субстанцию содержащую РНК другой улитке, и обнаружили что вторая улитка стала боятся морковку, которую она так любила."
Еще давно я был поклонником полного моделирования процесса, но сейчас понимаю, что нуобходимости в этом нет. Нужно лишь алгоритмически вопспроизвести принципы функционирования значимых контуров мозга. Для работы автопилота не принципиален "уровень сахара в крови" или "дофамина".
Поэтому логично двигаться навстречу, разное оборудование займет, скорее всего, свои ниши. Датацентры на специализированном железе будут использоваться в обучении и облачной эксплуатации традиционных архитектур сетей на формальных нейронах большой производительности, но стационарных, энергоемких. Возможно для этих целей также будут интегрированы квантовые компьютеры. А встроенные, автономные системы в перспективе логичнее делать на нейроморфных технологиях.
На данный момент как раз и занимаюсь формирование платформы стандартов, протоколов и интерфейсов для реализации раздвоения систем. Да, именно так. Первый этапом будет это центральные датацентры сильного ИИ с обучением. Пользовательские модели могут обращаться в центральные датасеты в режиме реадонли, но иметь локальные (или защищенные облачные) хранилича под приватные адаптации и кластеры данных для каждого пользователя. Так сказать индивидуальные ИИ, с облегченным кодом. После формирования структур моделей пригодных для прикладного применения, автопилоты, системы обработки данных путем выделения из центральных ИИ в отдельные модели, но уже без обучения. Третий этап гибритизирование, реализация в железе контуров ИИ которые уже не требуют обучения и являются достаточно обученными. Опять же, автопилоты, системы обработки данных, ассистенты, но уже в железе.
phenik
00.00.0000 00:00А вот здесь не все так просто. Мы не изучили полный цикл взаимодействия протеинкиназ, G-белков, РНК и другие аспекты. Не ясна система взаимодействия нейрона и примыкающих синапсов, посредством обмена через нейроглию. Я проводил ничтожные попытки создать обширную модель процессов. Это привело лишь к пониманию, что проще аппаратно-программно проводить этот процесс…
Да, с биохимией процесса сложности, нейромедиаторами, и тд. С другой стороны эволюция оттачивала свои решения миллиарды лет. И как не посмотришь на мытарства разработчиков ИИ, которые заявляют об особом пути развития ИИ, отличном от нейробиологических исследований, даже таких видных, как ЛеКун, а затем заглянешь в их статьи и предложенные решения, они почти всегда инспирируются нейробиологией, и проверяются на соответствие ей. Как быть с активирующей системой мозга, например? Нужен какой-то ее аналог для динамического, активного ИИ, а не статического, как сейчас? Не хочется опять писать партянку, поэтому отошлю к готовому коменту) см. эту ветку.
Вопрос лишь в том, что переносить в железо?!
На данный момент как раз и занимаюсь формирование платформы стандартов, протоколов и интерфейсов для реализации раздвоения систем.
Грандиозно… удачи вам!Rewesand
00.00.0000 00:00С другой стороны эволюция оттачивала свои решения миллиарды лет. И как не посмотришь на мытарства разработчиков ИИ, которые заявляют об особом пути развития ИИ
Полностью с вами согласен. Я не пытаюсь уйти от принципов и структур био-сетей. А наоборот, заявляю о том, что как раз в приближение к принципам био-нейросетей и состоит решение и развитие ИИ. Говоря про замену на программную замену принципов, я имел ввиду замену полного моделирования процессов, на облегченную математическую модель работы нейронов но при этом достижения тех же основных принципов структурирования, хранения и обработки информации.
Я ознакомился с приведенной вами коментарием. Очень интересный и содержательный материал и во многом солидарен и имею схожее видение в решении вопроса разработки ИИ.
Сделаю малую расшифровку касательно некоторых выводам в результате, экспериментов. Если мы глубже рассмотрим принципы взаимодействия нейронов, то мы понимаем, что:
Импульсная природа обусловленная перехватами Ранвье служит для вытеснения нейромедиаторов. Наполнение постсинаптического тела различными медиаторами имеет ПИМ (Плотностно-Импульсную Модуляцию) характеристику. Остановимся пока на глутамат и ГАМК (как основные активирующие\тормозящие). Мы увидим, что имеет место быть конвертация ПИМ от аксона в количественное (числовое) отношение глутамата к ГАМКУ и последующие обратное преобразование, посредствоам переключения потенциала покоя на потенциал действие, в формат ПИМ. Мы можем упустить промежуточные ЦАП-АЦП преобразования и выполнять прямую передачу результатов численного состояния потенциала нейрона.
Да, я помню о фазной характеристике. В том коментарии что вы привели, вы упомянули о тактах. Тетта ритмы и тактирование является обязательным механизмом в системах ИИ. Единственное, что для моделирования фазно-синфазного принципа мы попросту увеличиваем частоту дискретизации увеличивая точность обработки информации.
Ну и естественно мы помним, что одним "+" и "-" нейрон не управляется. Имеется достаточное количество нейромедиаторов, формирующих дополнительные функции нейрона, помимо просто активирующих. К примеру медиаторы увеличивающие\уменьшающие количество возвращаемых глу\гамк, предварительно сработавшим синапсам (возможно так работает природа усиления\ослабления связей?) Медиаторы маркеры для прикрепления белка в нейронах памяти для формирования эффекта триггера и реализации функции "длительной памяти" и многое другое.
Я как программист по основному роду деятельности, изучая нейрофизиологию\психологию с детства (у меня мама врачь, папа инженер), пытаюсь совместить эти две науки и прекрасно понимаю, что именно изучение вопроса ИИ с разных аспектов и научных направлений даст действительные решения.
Грандиозно… удачи вам!
Премного благодарен. Благодаря активности ученных и таких пользователей как вы, мне становиться проще разбираться в аспектах и точнее разрабатывать концепцию проекта.
azTotMD
00.00.0000 00:00return self.forward(x_pos).detach(), self.forward(x_neg).detach()
у вас эта штука стоит внутри цикла, хотя в репозитории всё норм. А тесты как проводились? Может поэтому точность такая низкая получилась?
neoflex Автор
00.00.0000 00:00Добрый день! Это опечатка при форматировании статьи, тесты проводились на корректном коде.
VPryadchenko
Переводы оригинальной статьи не попадались на хабре?
neoflex Автор
На Хабр нашими экспертами не были найдены статьи по данной теме.