Любая комбинация софтвера и цифрового хардвера - от микроконтроллера, двигающего дворники у автомобиля - до серверной фермы с много-много-ядерными процессорами, аппаратными ускорителями ML и ChatGPT - сводятся к конечному автомату с достаточно большим состоянием. Независимо от сложности и адаптивности программ.
Простым примером конечного автомата является механический арифмометр, производящий умножение столбиком. Он получает информацию от человека через рычажки, у него есть аналог тактового сигнала - поворот ручки, который меняет состояние конечного автомата. Также у арифмометра есть функция преобразования текущего состояния в следующее и вывод информации через цифры. Все атрибуты Finite State Machine - FSM.
Сводится ли к конечному автомату человеческий интеллект? К сожалению, у человеческого интеллекта есть атрибут, природа которого современной науке неизвестна и который никогда не наблюдался у конечных автоматов. Этот атрибут - ощущение собственного "я", self-awareness. Конечно вы можете сделать в программе переменную "я_чувствую_собственное_я" и присвоить ей true, а потом утверждать, что вы симулируете собственное "я", но это жульничество, а не технология.
Я вовсе не пытаюсь нагонять мистику или агитировать за бога. Self-awareness наверняка такой же физический феномен, как какая-нибудь термоядерная реакция. Но скажем древние греки не знали природы термоядерной реакции. Наверное, они вели диалоги типа "если ты не веришь, что Солнце - просто большой костер из дров, то значит ты веришь в сказки про Зевса и других богов?"
Также вспомним, что древние греки считали, что человек думает сердцем, а мозг - только железа для охлаждения крови. А что - сердце же начинает сокращаться быстрее, когда мы волнуемся, не так ли?
Возможно, мы - те же самые древние греки по отношению к self-awareness. Кто знает - может быть self-awareness не только не конечный автомат, но еще и не особо привязана к нейронам. Типа там стоит какой-нибудь портал в пятьдесят второе измерение, где оно и происходит. И возможно, наука когда-нибудь разберется, что это такое. А может быть, и не разберется. Среднее время существования вида млекопитающего - всего миллион лет, у нас осталось всего несколько сот тысячелетий, чтобы разобраться с вопросом, и этих тысячелетий возможно и не хватит.
Может быть и так, что нашему виду Homo sapiens познать self-awareness просто не дано, как муравьям не дано построить ракету SpaceX и отправиться на ней на Марс.
Прежде чем обсудить, что же делать, ответим на еще один тезис: "А что если ощущение собственного "я" - просто иллюзия?"
Этот тезис выглядит как психзащита. Вспомним исторический курьез: с 1565 до 1815 год вдоль берега северной Калифорнии каждый год проплывал так называемый Манильский галеон, торговый корабль, следующий из Филиппин в Мексику. Он никогда не останавливался - купцы просто использовали быстрое прибрежное течение, чтобы пронестись вдоль берега на юг к Акапулько. При этом, берег северной Калифорнии был обитаем. На нем жили индейцы, которые не знали природы корабля, хотя он регулярно проплывал мимо на глазах у десятка поколений. Возможно старейшины утешали молодежь, что объект на горизонте - это просто иллюзия, а молодежь пыталась уговорить себя, что это просто большой тюлень.
Также есть школа мысли, что один арифмометр конечно не обладает self-awareness, но если заставить арифмометрами все планеты солнечной системы и соединить их рычажками с дополнительными шестеренками и обратными связями для адаптируемости, а также присоединить генераторы псевдослучайных чисел - то ощущение собственного "я" в такой конструкции как-то само по себе самозародится, как личинки мух в протухшем мясе.
Является ли такое представление научной гипотезой или квазирелигиозной верой? Если вы считаете, что это научная гипотеза, то предлагаю вам обсудить ее фальсифицируемость по Попперу. Если же нет, обсудим следущий вопрос:
Что делать?
Решение я нашел в книжке советского писателя Владимира Сорокина "Тридцатая любовь Марины". Главная героиня книги проводила время с гуманитариями, диссидентами и фарцовщиками, отчего была постоянно несчастна. Но однажды с нею приключилось чудо. Марина встретила секретаря парткома завода Сергея Румянцева, который подарил ей простое женское счастье. После чего Марина устроилась на завод компрессоров расточницей и ее страдания тут же прекратились.
Я это все к чему: самый простой способ достичь счастья - это бросить споры об искуственном интеллекте и сингулярности, и заняться чем-нибудь практическим, с понятным результатом. Не обязательно стоять за станком. Можно проектировать микросхемы для телефонов и сетевых машрутизаторов, ну или на худой конец микроконтроллеры для той же ракеты на Марс. Но чтобы это делать, нужно твердо овладеть навыками проектирования микроархитектуры на уровне регистровых передач. Об этом пойдет речь на семинаре LaLambda в Грузии, который состоится 15-23 июля. LaLambda - это такое мероприятие, которое начиналось с обсуждения формальных методов и автоматического доказательств теорем, но сейчас впитало в себя функциональное программирование, хаскели и лиспы, ML (куда же без него?), статический анализ программ, йогу, музыку и танцы, и вот теперь - железо.
Вот мое превью для семинара:
Как цифровые схемы реализуют алгоритмы и почему специализированный ASIC на порядки быстрее CPU
Программирование настолько сильно завязано на семантику фон-Неймановской машины, что многим просто не приходит в голову, что алгоритмы можно реализовывать не в виде цепочек инструкций. И не в виде их вариаций: многоядерных кластеров с несколькими цепочками или микрокода, с последовательной генерацией контрольных сигналов из цепочки квази-инструкций с ветвлениями в памяти.
На самом деле CPU и все его варианты - это очень частный случай того, что можно сделать в хардвере. Для того, чтобы понять, что можно сделать в хардвере, на него нужно смотреть не в терминах программирования (циклы, вызовы функций итд), а в других, аппаратных терминах: комбинационное облако и элементы состояния, конвейеры и очереди, такты и задержки внутри такта, определяющие тактовую частоту.
В последние 30 лет проектировщики микросхем не рисуют цифровые схемы мышкой на экране, а синтезируют их кода на языках описания аппаратуры Verilog и VHDL. Этот код внешне поход на программы, но имеет другую семантику, которую мы и покажем в этом курсе. Кроме выполнения кода на симуляторе, код в целях обучения полезно синтезировать, превратить в граф из логических элементов, и прошить в память специализированных микросхем, которые называются FPGA.
FPGA - это матрица из ячеек с изменяемой логической функцией. Внутри них них можно строить цифровые схемы, в том числе схемы процессоров. Хотя FPGA менее эффективные, чем фиксированные микросхемы, которые изготавливают на фабрике, в проектировании для FPGA используются те же языки описания аппаратуры. Кроме этого, в них, в отличие от симулятора, в FPGA есть физические задержки внутри такта, поэтому если ваш дизайн вылезет за бюджет, определяемый тактовой частотой, схема будет глючить, и вы наглядно это увидите.
Помимо элементарных лаб с FPGA мы покажем как строить простейший процессор, а также как применять FPGA для обработки звука. Мы также пройдем через использование открытого пакета Open Lane, который используют исследователи для проектирования ASIC-ов как альтернативу коммерческим пакетам от Synopsys и Cadence.
И наконец, мы соединим другие темы LaLambda, формальные методы и решатели ограничений, с применениями в электронных компаниях. В которых доказательства утвердждений темпоральной логики применяются для верификации конвейеров, а решатели ограничений применяются для генерации непротиворечивых псевдослучайных транзакций в функциональной верификации во время симуляции.
И еще некоторые заметки, что там будет:
Лекция 1: Маршрут проектирования современных микросхем с высоты птичьего полета
Первые микросхемы начала 1970-х годов проектировались карандашом на бумаге или склеиванием кусков цветного картона. Затем появились программы для автоматического размещения компонент, схему из которых проектировщик рисовал мышкой на экране. В конце 1980-х - начале 1990-х годов возник современный машрут проектирования, при котором схема синтезируется из кода на языке описания аппаратуры. Это позволило радикально повысить производительность труда проектировщика и привело к современному миру с смартфонами и ускорителями ML.
Помимо описания маршрута проектирования CPU, GPU и сетевых чипов мы поговорим про цикл разработки микросхем, организацию труда в команде. Чтобы понять, как выглядит работа проектировщика, мы смоделируем, а затем синтезируем простой процессор, определим его максимальную тактовую частоту и размеры на кристалле. Для практического упражнения мы воспользуемся открытыми средствами проектирования: Icarus Verilog для симуляции на уровне регистровых передач и Open Lane для синтеза, размещения и трассировки. Мы увидим окончательный образ фотошаблона нашего процессора с помощью программы klayout.
Лекция 2: Какими объектами манипулирует микроархитектор блока цифровой микросхемы для организации потока вычислений?
Когда программист пишет скажем компилятор, он не мыслит в терминах операторов "if" и циклов "while". Он мыслит алгоритмами типа обхода деревьев выражений. Точно так же микроархитектор аппаратного блока мыслит не элементарными элементами И/ИЛИ/НЕ, а более крупными объектами: стадиями конвейера, очередями FIFO, конечными автоматами, а также арбитрами для разделения доступа к вычислительным FPU и блокам быстрой памяти, расставленными внутри микросхемы.
С помощью таких примитивов можно строить структуры, которые обрабатывают сетевые пакеты или потоки цветных треугольников для компьютерной графики на два-три порядка быстрее, чем это возможно с помощью традиционного CPU, пусть даже многоядерного.
Во время лекции мы рассмотрим как вид таких структур на высоком уровне микроархитектурных диаграмм, так и их реализацию на языках описания аппаратуры, на уровне регистровых передач.
Лекция 3: Формальные методы при верификации цифровых микросхем в электронных компаниях
Двадцать лет назад электронная промышленность относилась к формальным методам со скепсисом. Матерые контракторы, проектирующие конвейеры для графики и сетевых чипов называли программы для формального доказательства утверждений о свойствах электронных схем - игрушками.
Но прошло время, и программы типа Cadence Jasper Gold и Synopsys VC Formal вошли в обиход. Они позволяют доказывать (или опровергать) утверждения так называемой темпоральной логики, выраженные с помощью так называемых SystemVerilog Assertions (SVA).
Пример такого утверждения: "если через два такта после сигнала A-верно появится сигнал B-верно, и сигнал STALL во время всей последовательности будет оставаться нулем, то через три такта на выходе D возникнет результат вычислений A и B". С помощью формальных методов можно находить очень редкие случаи в аппаратных конвейерах, которые не возникнут за месяцы работы симулятора.
Это не нечто академически-абстрактное, а квалификация ведущая к конкретной работе с зарплатой. Вот объявление выставленное сегодня:
Лекция 4. Решатели ограничений при верификации цифровых микросхем в электронных компаниях
Лавинообразный рост размеров и возможностей микросхем в 1990-е годы привел к проблеме, которую менеджеры проектов описывали так: "мы можем многое спроектировать, но не можем это все верифицировать". В те времена микросхемы верифицировали написанием большого количества тестов на частные случаи.
Появилось несколько стартапов в области верификации (Verisity, System Science и другие), которые построили схему верификации, при которой один инженер генерирует ограниченно-псевдослучайные транзакции к устройству, а другой инженер проверяет, что среди этого потока встретились все интересные сценарии, прописанные в плане тестирования.
По английски это тандем называется functional-coverage driven constrained-random verification. Для него в языке SystemVerilog появились два подъязыка - один для формулировки ограничений (constraints), другой для распознавания комбинаций сигналов (functional coverage groups).
Интересной чертой языка органичений является его двунаправленность. Например если задать ограничение "из a < 2 следует что b > 3", то при последующей попытке установить "b == -1" решатель никогда не сгенерит например "a == 1", так как такое значение "a" будет противоречить ограничению. То есть "if" будет работать задом наперед, не как в императивных языках программирования.
Обычно решатели ограничений используются для генерации транзакций на шине типа AXI, но мы попробуем необычное использование - для генерации случайных, но при этом корректных инструкций архитектуры RISC-V. В случае генерации инструкций можно задать отношения между разными полями и закодированной инструкцией, после чего наложить ограничения на поля - и решатель будет генерировать инструкции. А можно сделать наоборот - зафиксировать закодированную инструкцию и дать решателю ограничений разложить ее на поля, то есть реализовать на решателе ограничений дизассемблер.
Занятие 5. Распознавание нот и мелодий аппаратной схемой на FPGA, без софтвера, без процессора и даже без алгоритмов DSP
Распознавание нот и мелодий - полезное упражнение для тех, кто только основил основы проектирования на уровне регистровых передач. Мы устанавливаем период синусоиды уровня звука из микрофона, просто подсчитывая количество тактов 50-мегагерцового тактового сигнала между двумя пересечениями уровня некоторого порога. Далее мы реализуем конечный автомат (точнее, сразу несколько конечных автоматов, работающих параллельно), которые определяют популярные мелодии.
Во время занятия Мария Беличенко будет играть живые мелодии концертной флейтой Бёма. С одной стороны, флейта дает очень чистую синусоиду, но с другой стороны, это живой звук, который нужно фильтровать. Мы могли бы производить и звуки генератором из телефона, но это было бы неспортивно.
Кроме этого, мы собираемся привезти и раздать участникам 20 блокфлейт, на которых гораздо проще научиться играть простые мелодии, чем на поперечной концертной флейте. Мария обучит желающих, как это делать, и участники смогут тестировать качество обработки звука на FPGA, используя в качестве источника собственную игру на блокфлейте.
В конце семинаров мы проведем хакатон, на котором участники попробуют не только распознавать, но и генерировать звуки с помощью FPGA платы и усилителей: играть мелодию в ответ, играть мелодию в другой тональности итд.
Так что Гамарджоба в Тбилиси, присоединяйтесь!
Комментарии (108)
Hardcoin
13.06.2023 06:32+4Ощущение собственного я - не единственный атрибут, который мы не наблюдали у конечных автоматов. В список нужно добавить любое ощущение вообще. Боль, вкус, даже ощущение цвета. Да, трава зелёная, но вы ведь не только осознаёте, что она зелёная, но и испытываете некоторое ощущение, связанное с этим.
Вот только необходимость ощущений для решения любой практической задачи переоценена. Чувство прекрасного дня того, что бы рисовать, как выяснилось, не требуется. С ощущением собственного я аналогично. Да, мы не знаем природу этого ощущения, но и важность его для решения задачи Х никак не показана.
YuriPanchul Автор
13.06.2023 06:32+2Ну чтобы водить автомашину или там играть в шахматы, этого не нужно, согласен. А вот рисовать оригинальные рисунки - уже не факт имхо. Какую роль ощущение собственного "я" играет в человеческом интеллекте - сейчас просто неизвестно, посколько неизвестная природа ощущения собственного "я".
Wizard_of_light
13.06.2023 06:32А вот рисовать оригинальные рисунки
Для оригинальных узоров оказалось вообще достаточно калейдоскопа.
YuriPanchul Автор
13.06.2023 06:32+2Случайный != оригинальный
Alexey2005
13.06.2023 06:32+3Однако среди случайных генераций будут неизбежно попадаться и оригинальные, и шедевральные. Даже тупейший рандом при достаточно большом количестве попыток способен родить абсолютно любой шедевр, который только способен создать живой автор (бесконечные обезьяны, да).
А если случайный алгоритм улучшить, чтоб вероятность рождения шедевров стала повыше и уже не требовалось время, сравнимое с временем существования Вселенной? Достаточно сделать так, чтобы случайный алгоритм порождал шедевры за приемлемый срок (скажем, по шедевру в год) — и мы получим калейдоскоп, по полезности сравнимый с величайшими гениями.
pushd0w
13.06.2023 06:32Дело в том, что картина, созданная нейросетью, которая потенциально могла бы называться шедевром, шедевром называться не будет именно по причине существования ощущений у тех, кто это оценивает, то бишь людей
Alexey2005
13.06.2023 06:32+2А какая разница, как будет называть это кучка критиков? Для зрителей/читателей главное то, что картина нравится и вызывает у них неподдельные эмоции.
Если ИИ сможет генерировать картины на уровне, недоступном даже величайшим гениям, такие критики от искусства просто будут выглядеть глупо. И никто, кроме горстки таких же искусствоведов, их слушать не будет.
shkal
13.06.2023 06:32-1Конечно-Конечно )) , а лучшее пиво в мире - это Балтика 6, а те, кто так не считают - кучка снобов
dolovar
13.06.2023 06:32Если ИИ сможет генерировать картины на уровне, недоступном даже величайшим гениям, такие критики от искусства просто будут выглядеть глупо.
А кто будет определять уровни достигнутого? Кто скажет, что вон та картина от нейросети превосходит все картины Дали, Моне и Леонардо да Винчи вместе взятых?
И чем именно она будет превосходить уровень человеческих художников - замыслом, сложностью, палитрой, гармонией, впечатлением у зрителей?
eton65
13.06.2023 06:32Если ИИ сможет генерировать картины на уровне, недоступном даже величайшим гениям, такие критики от искусства просто будут выглядеть глупо
Так гении не делают компиляцию из старых работ, а создают что-то принципиально новое.
AnonimYYYs
13.06.2023 06:32Если посадить бесконечное количество макак за печатные станки, то рано или поздно одна из них напишет "Войну и мир"
Более того, по существующей модели физики, ничего истинно "случайного" не бывает. Бывает то, что мы не можем отследить, но если отследили, то можем назвать причину и следствие (а если не можем, то только из-за недостаточности модели физики).
Соответственно, и написание шедевра - процесс не случайный, на макроуровне у этому процессу вела вся жизнь автора, весь его период взросления и далее, плюс его окружение, как родители так и государство, на микроуровне - все тоже самое, импульсы в мозге, которые мы читать особо не умеем, но это лишь дело техники, пары десятков лет и пары зиллионов долларов на исследования.
Alexey2005
13.06.2023 06:32Более того, по существующей модели физики, ничего истинно "случайного" не бывает.
Что, теорему Белла уже опровергли, что ли? Вроде же не нашли скрытых параметров у микрообъектов ни в одном эксперименте. Квантовые эффекты полностью случайны.
arTk_ev
13.06.2023 06:32Хаос то остался и ее достаточно для непредсказуемого поведения.
Та же задача о 3-х тел, фракталы.
checkpoint
13.06.2023 06:32+1Более того, по существующей модели физики, ничего истинно "случайного"
не бывает. Бывает то, что мы не можем отследить, но если отследили, то
можем назвать причину и следствие (а если не можем, то только из-за
недостаточности модели физики).Все строго наоборот! Тут недавно нобелевку выдали за очередное (и, как говорят, в этот раз последнее) опровержение Вашего тезиса.
YuriPanchul Автор
13.06.2023 06:32+1*** на микроуровне - все тоже самое, импульсы в мозге, которые мы читать особо не умеем, но это лишь дело техники, пары десятков лет и пары зиллионов долларов на исследования. ***
В 19 веке думали, что вся физика закончилась, нужно только померять упругость эфира.
arTk_ev
13.06.2023 06:32+1Случайности не существует, но существует хаос. Мы не сможет предсказать положение уже 3-х тел в космосе.
Детерминизм появляется из-за необратимых процессов.
Любая рекурсия в нелийнной функции будет накапливать "ошибку", из-за этого любой незначительный параметр будет иметь такое же сильное влияние как и главные параметры.
Фрактал - типичное порождение игры хаоса. Все произведение искусства - тоже уникальные порождения игры хаоса.
yatanai
13.06.2023 06:32Те кто реально это изучают, уже давно понятны общие принципы работы всех этих систем. Просто изучать кору чтоб бороться с эпилепсией гораздо предпочтительнее, чем изучать какие-то там ядра таламуса которые работают просто как интеграторы-комутаторы и непонятно как это повлияет на лечение болезни Х.
И когда начинаешь разбираться в этих темах, понятно откуда старые фантазёры брали свои мысли. Вроде вот оно, в голове всего-то 10^8 категорий которые в целом могут обрабатываться, вот-вот сейчас мы сделаем железо получше и каааак заживём! А прогресса всё нет и нет
Dr_Dash
13.06.2023 06:32Ощущение собственного Я невозможно наблюдать ни у кого, кроме себя. Не исключено, что цифровой автомат "как то себя ощущает", но не может дать этому внутреннюю оценку, не может ни с кем этим поделиться
dolovar
13.06.2023 06:32+1Любые ощущения невозможно наблюдать ни у кого, кроме себя. Только после определения природы ощущений можно переходить к рассмотрению каких бы то ни было конкретных ощущений.
Kilorad
13.06.2023 06:32+3А почему self-awareness вообще важен? Как это относится к решению практических задач, под которые создаётся ИИ?
YuriPanchul Автор
13.06.2023 06:32+2К решению большинства практических задач типа распознавания лиц или дороги для автомобиля оно никак не относится. Я не имею ничего против умножения матрицы на систолических массивах и распознавания чего-нибудь таким образом. Только имхо не стоит всерьез называть это "искуственным интеллектом" по описанной причине. Но я конечно понимаю, что если бы гранты и инвестиции брали бы на "систолические массивы" а не на "искуственный интеллект", то деньги бы раздавали менее охотно.
Kilorad
13.06.2023 06:32+1Окей, к задаче доставки человека на Луну (и предварительного изготовления всей требующейся промышленности и добычи всех ресурсов) self-awareness как относится? Или к задаче создания термоядерной электростанции?
YuriPanchul Автор
13.06.2023 06:32+2Это вопрос тонкий. Еще Пенроуз говорил что-то в духе, что компьютер не сможет создавать новые математические теории, так как не сможет глядеть на ситуацию вне некоего фрейма. Многие задачи в науке и технике решались, когда человек смотрел на проблему с совершенно новой стороны (банальный пример - изобретение фон-нейманновской машины). Откуда это берется - я не 100% уверен и существование ощущения собственного "я" может быть с этим связано.
Kilorad
13.06.2023 06:32+2Ну Пенроуз так себе специалист по ИИ.
Я не могу однозначно сказать, что компьютер создаёт "новые математические теории", потому что можно бесконечно "отодвигать ворота", переопределяя эту деятельность так, чтобы компьютер это "не мог".
Но программы точно могут строить предсказательную модель мира - как, например, Кеплер делал, или Ньютон. Любой ML делает именно это. А ещё программы могут использовать полученную модель для планирования, и таким образом для решения практических задач.
Это не какая-то сомнительная гипотеза, на эту тему куча научных работ и практических результатов. Это системы reinforcement learning и системы рекомендаций.
Выглядит, что для практических задач (включая какие-то нереально трудные) этого достаточно, поэтому и вопрос, зачем self-awarenessYuriPanchul Автор
13.06.2023 06:32+1Я пока не видел AI который может решать даже простейшие микроархитектурные задачки на верилоге - тот же ChatGPT пишет какую-то лабуду. Для них тоже нужно смотреть на проблему "сверху", а не пытаться нагуглить и слепить чего-нибудь из этого.
*** Но программы точно могут строить предсказательную модель мира - как, например, Кеплер делал, или Ньютон. ***
ML который я видел, стоит предсказательную модель в узком смысле слова, используя найденные в процессе training-а с помощью backpropagation законмерности. По настоящему новая предсказательная модель требует переопределения аксиом. Примеры: рассматривать свет не как частицу, а как волну. Или алгебраические объекты не как знакомые с каменного века числа, а как нечто абстрактное, частным случаем чего могут быть вектора, перестановки или кватернионы. Итд.
Kilorad
13.06.2023 06:32Chat-GPT - это не то. Имею в виду Dreamer, например, или рекомендательные системы, которые делаются внутри компаний для собственного использования. Антифрод, например, кредитный скоринг, ценообразование. Системы автозакупок. Системы назначения скидок. Рекомендации для инвестирования в торговые точки. Автоматизация процессов, которые требуют знания будущего в большом открытом мире.
"По настоящему новая предсказательная модель требует переопределения аксиом. " - зачем? У нас есть работающие способы подбирать закономерности, и я не только про бэкпроп, есть ещё решающие деревья и перебор формул. Это работает, на многих задачах работает измеримо лучше человека. Какой смысл делать "как у человека", если у нас есть способ делать "как надо для результата"?
Hardcoin
13.06.2023 06:32переопределения аксиом.
Среди людей это тоже может один из миллиона. Давайте посмотрим, как ИИ стабильно превысит средний человеческий уровень, может что-то обнаружится на этом пути.
eugenk
13.06.2023 06:32Среди людей это тоже может один из миллиона
Нюанс в том, что именно этот один из миллиона и двигает цивилизацию. И именно это и следует считать признаком интеллекта, равного нашему. Средний же уровень увы, последнее время только падает.
Hardcoin
13.06.2023 06:32+1Я не двигаю цивилизацию. Это значит, что у меня интеллекта нет? Но ведь тогда проблема становится намного проще. Что бы сделать ИИ уровня меня, интеллект делать вообще не надо, выходит.
eugenk
13.06.2023 06:32Вполне возможно что и так. Мы исключительно из вежливости договорились, что у каждого из нас есть интеллект. При том что даже самому понятию "интеллект" пока нет сколь-нибудь пристойного определения.
Radisto
13.06.2023 06:32+1Связь интеллекта и самосознания вообще неочевидна, потому что неизвестно, является ли одно частью другого или нет. В человеческом мозге многие вещи проходят вне сознания, в том числе и гениальные озарения любой природы
eugenk
13.06.2023 06:32+1Еще Пенроуз говорил что-то в духе, что компьютер не сможет создавать новые математические теории, так как не сможет глядеть на ситуацию вне некоего фрейма.
Абсолютно с ним согласен, хотя здесь на хабре в меня за это постоянно кидаются какашками. Более того, последние "успехи" с генеративными сетями меня только ещё больше в этом убеждают. В чем я с ним не согласен, так это с его надеждами на квантовую теорию гравитации. Думаю и там мы не найдём решения этой задачки. Тут скорее помогут разные йоги, святые, духовные практики и прочая подобная порой малоприятная публика. Хотя как перевести их мутные излияния в ТОЧНОЕ ЗНАНИЕ - ума не приложу... А решать эту задачку нам рано или поздно ПРИДЕТСЯ. Хотя бы ради серьёзного освоения космоса.
P.S. Рад снова Вас тут видеть ! Опять мне маленький кусочек пищи для мозгов :)))
Alexey2005
13.06.2023 06:32+3Более того, последние "успехи" с генеративными сетями меня только ещё больше в этом убеждают.
А что не так с успехами? Они есть. Сети 2023 могут больше, чем сети в 2022 и тем более намного больше, чем в 2020-м. То есть это не топтание на месте, круг решаемых задач быстро расширяется, и спада этого тренда пока не просматривается.
Или вас не устраивает скорость этого прогресса, хочется ещё быстрее?
yatanai
13.06.2023 06:32компьютер не сможет создавать новые математические теории, так как не сможет глядеть на ситуацию вне некоего фрейма.
Открою секрет, но человек не исключение. Единственное преимущество перед "машинами", в том виде которые они сейчас, что мы способны связывать активность из разных участков в голове. От этого и рождаются "гениальные идеи", ведь паттерны поведения в одной "нейросетке" уже есть, нужно просто их связать с другой частью и всё заведётся. От этого у людей бывают довольно странные ассоциации с какими-то вещами. Мол, почему когда тебе говорят "Джордж Буш" ты вспоминаешь "душ", что за бред лол? Это кардинально разные категории объектов, они не должны быть связаны.
VadimGK
13.06.2023 06:32Исходя из состояния отрасли на сегодня, слово интеллект в ней потому, что успешно решаются задачи, в решении которых мы предполагали необходимость наличия интеллекта. Однако, как оказалось - нет, интеллектуальная задача решена, часто лучше, чем будет решена человеком, но даже проблеска интеллекта в решающей системе нет.
С этих позиций вполне обосновано название Искусственный интеллект.
eugenk
13.06.2023 06:32Нам ПРИДЕТСЯ этим заниматься, если мы хотим всерьёз выйти в космос. Человек очень плохо приспособлен для космоса. Значит придется создавать не биологическое тело и не биологический разум, не уступающий нашему. Ничего страшного в этом я кстати не вижу.
Radisto
13.06.2023 06:32+1Генная инженерия могла бы помочь (правда ее уровень должен быть на порядки выше нынешней). Если бы человек эволюционировал из медведей, а не обезьян, и мог бы залегать в спячку не менее чем на полгода без атрофии мышц и вымывания кальция из костей, мы бы уже на Марсе были - саркофаг, в котором космонавт лежит неподвижно весь полет, экранировать от радиации намного проще и легче, а система жизнеобеспечения была бы намного меньше. Даже такой крошечный и редкий в животном мире недостаток как неспособность синтезировать витамин С сильно портила нашу способность к экспансии суровых земель в свое время. Человек несовершенен, но млекопитающие в целом не так уж и плохи (хотя с роботами сложно соревноваться, это да)
dolovar
13.06.2023 06:32почему self-awareness вообще важен?
ИИ, который не "нейросетка по созданию правдоподобных ответов на вопросы человеков", в процессе работы своего интеллекта сталкивается с абстракциями вида "задача", для которой приходится искать ответ на вопрос "кто её будет решать".
Кто запустит ракету - вон тот механизм. Кто опустит скальпель - подаем импульс в такой-то сервопривод. Кто сегодня пойдет за хлебом - вот тут важно найти исполнителя.
Если исполнитель - субъект с ярлыком "Вася", то нужно будет наладить сессию общения и сформулировать просьбу. Если "Вася" не доступен, то нужно найти "я" и включить для него стремление "надо бы в магазин за хлебом".
Собственно, и для людей ощущение своего существования полезно именно этим - есть кого напрячь для решения очередной задачи. Если "я" ощущается слабо, то приходится зависеть от других.
ilriv
13.06.2023 06:32К сожалению, у человеческого интеллекта есть атрибут, природа которого современной науке неизвестна и который никогда не наблюдался у конечных автоматов. Этот атрибут - ощущение собственного "я", self-awareness. Конечно вы можете сделать в программе переменную "я_чувствую_собственное_я" и присвоить ей true, а потом утверждать, что вы симулируете собственное "я", но это жульничество, а не технология
Чисто технически это не выглядит особо сложной задачей.
Только переменная должна называться не "я_чувствую_собственное_я", а просто "Я" и искусственный интеллект должен тратить значительную часть времени на рефлексию, то есть на анализ переменной "Я".
Разумеется, ИИ который имеет такую функцию, долгое время будет лабораторным животным, будет иметь доступ в интернет read only и люди не скоро о нём узнают.
unreal_undead2
13.06.2023 06:32Проблема в том, что для self awareness нет хорошего определения и использование его в качестве критерия ИИ спорно - простое искусственное добавление "я" ничего не поменяет (и вряд ли нужно). Всё расписано у классика - http://www.etheroneph.com/files/can_the_machine_think.pdf , возражение 4.
YuriPanchul Автор
13.06.2023 06:32+1Для self-awareness нет не только хорошего определения, но и вообще понимания, что это. Как для древних людей что такое простуда. Явление есть, а что это - непонятно, потому что про микробов не знают.
А что оно ничего не добавляет- не факт. Может оно краеугольный камень ключевых процессов мышления, как микробы в кишечнике необходимы для пищеварения коров.
unreal_undead2
13.06.2023 06:32Ну тогда вопрос, стоит ли принимать его во внимание, если внешне железяка будет проявлять эмоции и т.п.
bak
13.06.2023 06:32Что значит "явление"? У простуды есть определенные симптомы и даже не зная её природу мы четком можем сказать что у человека что-то не так. А что за "явление" такое само-осознание? Чем размышления о себе отличаются о размышлениях о других объектах? Что вы имеете ввиду под "ощущением собственного я" и почему оно не "наблюдается" у конечных автоматов? ChatGPT к примеру прекрасно умеет демонтстрировать само-осознание, он понимает (или делает вид) кто он и отвечает на вопросы которые задают про него.
Есть ли само-осознание у животных (кошек / собак например)? А у червей / растений / грибов / бактерий?
YuriPanchul Автор
13.06.2023 06:32Я могу написать программу: void main () { printf ("Я осознаю себя\n""); }
У это программы будет "ощущением собственного я"?
*** и почему оно не "наблюдается" у конечных автоматов? ***
Потому что непонятно как его наблюдать
Hardcoin
13.06.2023 06:32Как его наблюдать у меня вы тоже не знаете. Просто предполагаете по аналогии, что у меня оно тоже есть.
ilriv
13.06.2023 06:32Почему не подходит такое определение, что self awareness это рекурсивность нейронной сети? И всего-то надо подать на вход нейронной сети определенный срез самой этой нейронной сети?
unreal_undead2
13.06.2023 06:32Это скорее self-reference - тоже интересная штука, из которой что-то может получиться (надеюсь, ГЭБ читали?), но появится ли от этого самосознание и как это проверить - неясно.
ilriv
13.06.2023 06:32Если нейронная сеть будет заниматься самообучением чтобы довести себя до требуемого состояния (описываемого словесно или в числовых показателях), если нейронная сеть сможет описывать свой состояние, это больше чем self-reference.
unreal_undead2
13.06.2023 06:32Это определение по внешним признакам - никак нельзя доказать, что она "не притворяется" (просто выдаёт внутренне состояние вместе с ответом на вопрос только потому, что так натренировали). Для прохождения теста Тьюринга этого достаточно, но факт наличия самосознания не доказывает.
bak
13.06.2023 06:32А что доказывает наличие самосознания у человека?
unreal_undead2
13.06.2023 06:32Нет никакого нормального доказательства - просто каждый человек это понимает субъективно и считает, что другие люди примерно такие же. Я же (вслед за Тьюрингом) как раз и говорю, что нет смысла требовать наличия самосознания для определения, что мы получили ИИ - тестирования внешнего поведения достаточно.
checkpoint
13.06.2023 06:32+1Нет никакого нормального доказательства - просто каждый человек это понимает субъективно и считает, что другие люди примерно такие же.
В таком случае может быть и нет никакого самосознания ? Все это придумки для того, что бы возвысить себя (человека) над животным миром ?
YuriPanchul Автор
13.06.2023 06:32У животных оно тоже наверняка есть. Говорить что его нет или что это иллюзия - см. пример в моем тексте про манильский галеон
unreal_undead2
13.06.2023 06:32Это уж вы сами решайте, есть у вас самосознание или нет )
checkpoint
13.06.2023 06:32+1Так вот я пока не определился. До 45 лет считал что оно есть... а счейчас наоборот. :)
ilriv
13.06.2023 06:32+1Человеческое самосознание - не бог весть какое совершенное творение природы. Формируется в течение долгих лет, работает в режиме нон-стоп, потребляет массу ресурсов мозга, редко выдает стабильные результаты, зависимо от внешних факторов, практически никогда не выдает объективную самооценку.
Как бы так не получилось так, что самосознание рекурсивного ИИ уже в первой итерации превзойдет человеческое самосознание.
unreal_undead2
13.06.2023 06:32Ещё не факт, что оно сразу выдаст факт наличия самосознания (как бы его не определили). "А что подумал Кролик, никто не узнал, потому что он был очень воспитанный"
dolovar
13.06.2023 06:32Чисто технически это не выглядит особо сложной задачей.
Сложной, потому что нужно реализовать абстрактное мышление с распознаванием образов плюс обобщающий слой сознания над потоком информации, в котором будут распознаны абстрактные субъекты, к одному из которых и будет прикреплен ярлык "я".
ilriv
13.06.2023 06:32Для начала можно захардкодить "я", поручив ему контролировать основные параметры самой нейронной сети.
ИИ как социальный субъект, осознающий другие субъекты - это следующий шаг.
dolovar
13.06.2023 06:32Это будет саморегуляция, но не самосознание. Для самосознания нужен уровень сознания, без вариантов.
ilriv
13.06.2023 06:32+1Мы не знаем, что нужно для самосознания.
Например животные не имеют сознания, но самосознание у них есть:
https://www.youtube.com/watch?v=vqGbA-MKhc4
Minimum Viable Product зачастую можно захаркодить, не тратя время на абстракции. Например самосознание младенца - это унаследованный хардкод, в который затем добавляются абстракции.
dolovar
13.06.2023 06:32Мы не знаем, что нужно для самосознания.
Но знаем, что нужно, как минимум, две какие-то составляющие с названиями "самость" и "сознание". По определению сложного слова с двумя корнями. Самолет сам летает, теплолюбивые любят тепло, а самосознание предполагает обнаружение самого себя в сознании. Осознавать без сознания никак не получится.
животные не имеют сознания, но самосознание у них есть
Во-первых, как определили, что у гориллы нет сознания? Во-вторых, если сознания нет, то вместо "самосознание" следует использовать какие-то другие термины. Например, самоидентификация, как в случае с муравьями в зеркальном тесте.
Minimum Viable Product зачастую можно захаркодить
Обратите внимание на слово "Viable" - если что-то является лишь заглушкой для обозначения места будущего расположения, то называть это "живым" нет смысла. Такой MVP будет реализацией автомата, но не разума с самосознанием.
ilriv
13.06.2023 06:32самосознание предполагает обнаружение самого себя в сознании
Вот это можно закодировать жёстко, без абстракций. Подавая на вход сетки параметры самой сетки. Искусственному интеллекту не придется искать себя т.к. его "Я" будет зафиксировано путем хардкода.
Во-первых, как определили, что у гориллы нет сознания
Вот отсюда - "нужно реализовать абстрактное мышление с распознаванием образов плюс обобщающий слой сознания над потоком информации, в котором будут распознаны абстрактные субъекты". У животных это не реализовано.
Обратите внимание на слово "Viable" - если что-то является лишь заглушкой для обозначения места будущего расположения, то называть это "живым" нет смысла
У нас есть пример с minimum viable product самого человека - младенцами, которые рождаются с унаследованным осознанием самого себя и импринтингом родителей. И по мере взросления у них формируется уже настоящее самосознание, основанное на осознании себя как одного из абстрактных субъектов.
dolovar
13.06.2023 06:32Искусственному интеллекту не придется искать себя т.к. его "Я" будет зафиксировано путем хардкода.
Тогда это будет очередной Narrow AI, а не General или Strong AI, не говоря уже о симуляции человеческого разума.
"нужно реализовать абстрактное мышление с распознаванием образов плюс обобщающий слой сознания над потоком информации, в котором будут распознаны абстрактные субъекты". У животных это не реализовано.
Абстрактное мышление с распознаванием образов есть даже у муравьев - так "гусеница" захардкожена как абстракция с набором свойств, а не нечто обладающее четким образом.
Сознанием обладают все млекопитающие и не только они. Да, есть словари и ученые, которые разделяют сознание для человека и предсознание для всех остальных, но их точка зрения не является обязательной к соблюдению. Например, есть мнение, что "предсознание" - это лишь уточняющий синоним для замены устаревшего термина "подсознание", чтобы не путаться с "бессознательным". Животные вполне могут любоваться снами и мечтами, наблюдая их на уровне своего сознания.
Так как определили, что у гориллы нет сознания, или не реализовано что-то из обязательных составляющих сознания?
пример с minimum viable product самого человека - младенцами, которые рождаются с унаследованным осознанием самого себя
У младенцев нет осознания себя, отделение себя от мироздания происходит на первых годах жизни. Даже границы своего тела начинают восприниматься только к концу первого года жизни. Самоидентификация в зеркальных тестах появляется к концу второго года жизни. Потом ребенок говорит о себе в третьем лице, копируя поведение окружающих, и лишь к трем годам начинает прорезаться "я".
ilriv
13.06.2023 06:32Тогда это будет очередной Narrow AI, а не General или Strong AI, не говоря уже о симуляции человеческого разума.
Не вижу причин так думать.
Narrow AI не контролирует свои параметры, все параметры задаются извне. Narrow AI не оперирует таким понятием как "я".
Для Strong AI характерно саморазвитие, что мы и получаем, когда открываем искусственному интеллекту доступ к его собственным переменным и даем возможность самообучаться.
Абстрактное мышление с распознаванием образов есть даже у муравьев - так "гусеница" захардкожена как абстракция с набором свойств, а не нечто обладающее четким образом
Вот это нам и нужно.
Гусеница захардкожена с определенным набором процедур, который она выполняет в зависимости от параметров окружающей среды. Тем не менее этот хардкоженный юнит приобретает элементы абстрактного мышления. Что нам и требуется.
У младенцев нет осознания себя, отделение себя от мироздания происходит на первых годах жизни
В момент рождения младенец осознает только себя. Первое время его "я" доминирует над всем миром. Его потребности должны удовлетворяться, всё остальное неважно. Затем он начинает осознавать остальной мир с которым надо взаимодействовать. То есть по мере усложнения сетки происходит переход от хардкодного "я" первых дней жизни, к осознанию что в окружающем мире есть и другие субъекты. Такую схему развития нам и требуется реализовать.
dolovar
13.06.2023 06:32Narrow AI не контролирует свои параметры, все параметры задаются извне.
Ну так Вы и предлагаете захардкодить "я" - задать извне.
В момент рождения младенец осознает только себя. Первое время его "я" доминирует над всем миром.
Кто вам это сказал?
ilriv
13.06.2023 06:32Ну так Вы и предлагаете захардкодить "я" - задать извне.
Нет, я предлагаю передать сетке контроль над её параметрами. Параметры не будут задаваться извне, их будет подбирать сама сетка, занимаясь самообучением.
Кто вам это сказал?
Младенец - это абсолютный эгоист, для которого существует только он сам. Новорожденный вообще ничего не знает о внешнем мире, до тех пор пока в его жизни не появятся первые субъекты внешнего мира - акушерка, мать и т.д.
dolovar
13.06.2023 06:32Младенец - это абсолютный эгоист, для которого существует только он сам.
Почему Вы так считаете? Лично мне ближе другая версия - для младенца существует хаос информации, в которой почти ничего не понятно, поэтому мозг тратит прорву ресурсов для наработки базы первичных абстракций, в которой постепенно проступят "субъекты", из которых выделятся "живые", затем "люди", и уже затем "я". Откуда в изначальном хаосе возьмется какое-то "эго", и что ему там делать?
пока в его жизни не появятся первые субъекты внешнего мира - акушерка, мать
Первыми в его жизни появятся большие двигающиеся размытые пятна с каким-то запахом. Некоторые из этих пятен быстро начнут ассоциироваться с приятной пищей и успокаивающими прикосновениями.
Hardcoin
13.06.2023 06:32Нет, не знаем. Это же придуманное слово. И то, что его придумали из двух корней ничего не говорит - авторы этого слова ничего о самосознании не знали, по большому счету.
dolovar
13.06.2023 06:32-- Найдите "термин А".
-- Что это?
-- Ну, никто толком не знает, у нас есть только термин.
-- Если нужно найти "термин А", то нужно взять толковый словарь. Потому что термины ищут в словарях. Без словаря не получится.
-- Вы не понимаете, нам нужна сущность, скрытая под термином. О которой мы знаем только термин.
-- Идти туда, не знаю куда, найти то, не знаю что.
phenik
13.06.2023 06:32+1Нет, не знаем. Это же придуманное слово.
Иногда этимология слов дает наводки, направление поиска, т.к. может схватывать интуитивно правильный смысл. В данном случае это название наблюдаемого ментального феномена. Появившегося из наблюдений за собой и поведения других людей. Как, например, слово ветер название наблюдаемого феномена связанного с определенным комплексом ощущений, с определенными последствиями для окружения. Что это перемещение воздушных масс связанное с перепадом атмосферного давления выяснилось позже.
Что касается самосознания, то оно происходит от осознания себя, собственного сознания. Есть нюансы выраженные в терминах Self-consciousness, Self-awareness, Self-reflection, и др. Это более поздние философские и психологические наслоения. В свою очередь сознание, как и познание, имеют корень знание. И это также результат наблюдений зафиксированных в латинском языке (может и в более поздние времена) откуда собственно они и происходят, также как и английские термины consciousness и cognition. При этом знание древними понималось весьма неопределенно и широко. Однако суть была схвачена верно. В современном понимании знание это некоторая информация, точнее вид информации, возможно ее высшая форма. Казалось бы, и что? Заменили одно слово другим не менее понятным. А что такое информация? В широком понимании мало что проясняет. Однако имеются узкие определения информации, включая технические, строго определенные. А также понимание двухаспектности информации, имеющей количественную и качественную стороны, носитель и содержание. Это роднит ее с ментальными феноменами, которые также имеют две стороны, условно материальную и идеальную, и поэтому является естественным претендентом на их объяснение, и инструментом исследований (1, 2, 3, 4, 5). В этом коменте подробнее на эту тему, а также полезных объяснительных свойствах информации. По крайней мере, информационный подход позволяет ставить задачи по исследованию ментальных феноменов, включая феномен самосознания, см. примеры исследований последнего 1, 2, 3. Однако они носят больше описательный характер. Надежды на более формализованный подход появились с использованием байесовских моделей объяснения функций мозга, предиктивного кодирования и принципа свободной энергии (1, 2), и моделирования в воплощенных агентах (1, 2).
Последнее замечание состоит в том, что возможно информационный подход устранит, или по крайней мере значительно уменьшит исторически сложившееся разделение на сознание и познание, как разные информационные процессы, что поможет устранить многие сегодняшние противоречия и противостояния. В частности, связанные с происхождение сознания, и ментальных процессов вообще, т.к. познание, в примитивной форме, возникло уже у первых простейших микроорганизмов, и развилось до высших форм у человека. См., как пример, возможный путь эволюции числового познания.
Earthsea
13.06.2023 06:32+3Упоминание творчества Владимира Сорокина на Хабре? Ну теперь-то я точно видел всё.
dolovar
13.06.2023 06:32+1ответим на еще один тезис: "А что если ощущение собственного "я" - просто иллюзия?"
Да, иллюзия. Как и все ощущения, поступающие на уровень сознания. И что?
Bedal
13.06.2023 06:32-2Человечество и не сможет создать искусственный интеллект - никогда.
Новый интеллект возникнет сам, когда среда будет выполнять условия его возникновения. И эти условия в целом известны, и даже понятно, что скоро эти условия возникнут. Но не в каких-то конкретных сильномогучих разработках или суперкомпьютерах - а, скорее всего, в IoT.
ykira
13.06.2023 06:32Миллион запущенных паралельно чатгпт которые контролируют сами себя не сойдут за ии?
YuriPanchul Автор
13.06.2023 06:32Откуда там ощущение собственного я, если это эквивалентно функции new_state = f (old_state) с бесконечным повторением?
TalesFromApocalypse
13.06.2023 06:32люди пытающиеся что-то изобрести не хотят знать что их творчество это просто воздействие на них сбивающего и они просто инструмент (вывод) в этом процессе
ioniza
13.06.2023 06:32+1При такой постановке вопроса сначала должно пройти бесконечное количество времени, а потом уже подумаем, что делать.
css0101
13.06.2023 06:32Давно мучают вопросы. Может ли творение превзойти в интеллекте творца? Что, в этом случае, стоит понимать под творцом ИИ: группу учёных, работающих над конкретным проектом, сумму каких-то выдающихся интеллектов за всю историю нашей цивилизации, какой-то средний коэффициент, показатели самого интеллектуального представителя среди людей?
Alexey2005
13.06.2023 06:32Может ли творение превзойти в интеллекте творца?
Вопрос определений. Что есть творение и что такое интеллект?
Если например человек делает своего клона, предварительно поправив ему геном так, чтоб интеллект у клона оказался выше, чем у оригинала — это считается за творение, превзошедшее творца?
arTk_ev
13.06.2023 06:32self-awareness - это иллюзия, и нет ни одного доказательства сущствования и нет формального определения.
ИИ не сводится к конечному автомату. Это специальное ограничение архитектуры компьютера, чтобы иметь возможность управления. Но даже на ней легко сделать бесконечное количество состояний. Как бы программисты-кибернетики наоборот всеми силами пытаются избежать этой проблемы.
Можно сделать истино асинхронный процессор и такие уже есть. но процесс неизбежно станет хаотичным, из-за чего возникнет неуправляемый системный эффект.
Проблема в сильном ии - то что он непредсказуем, и любая попытка управления приведет к неожиданному обратному эффекту.
Закон Гудхарта даже для людей не смогли зарешить, для обучения ии это главная проблема.
YuriPanchul Автор
13.06.2023 06:32+2Насчет процессоров - даже у асинхронных процессоров, которые построены не на паре "комбинационная логика + D-триггер", а на каких-нибудь элементах Мюллера, все равно есть состояние и переход из текущего в следущее через комбинационную логику, то есть это принципиально ничего не меняет - где там может возникнуть ощущение собственного "я" - непонятно.
Про аргумент, что self-awareness - это якобы иллюзия, я написал в тексте. Повторю:
А что если ощущение собственного "я" - просто иллюзия?"
Этот тезис выглядит как психзащита. Вспомним исторический курьез: с 1565 до 1815 год вдоль берега северной Калифорнии каждый год проплывал так называемый Манильский галеон, торговый корабль, следующий из Филиппин в Мексику. Он никогда не останавливался - купцы просто использовали быстрое прибрежное течение, чтобы пронестись вдоль берега на юг к Акапулько. При этом, берег северной Калифорнии был обитаем. На нем жили индейцы, которые не знали природы корабля, хотя он регулярно проплывал мимо на глазах у десятка поколений. Возможно старейшины утешали молодежь, что объект на горизонте - это просто иллюзия, а молодежь пыталась уговорить себя, что это просто большой тюлень.
arTk_ev
13.06.2023 06:32В любой сложной системе, при достаточным количеством связи, появится системный эффект, которого не было в ее подсистемах. Т.е. на большой свалке неменуемо самособерется что-то сложнее боинга.
Количество нейронов в мозге всегда конечное число, а вот количество возможных связей - больше чем частиц во вселенной. Количество связей и состояний в говно-коде тоже больше числа гугл. Если количество состояний бесконечно - это уже бесконечный автомат, а не конечный.
Насекомые, грибы, одноклеточные - тоже имеет сознание. Сознание нужно только что бы организм действовал нетипичным образом, чтобы он смог адаптироваться без изменения генома.
Если муха долбиться в окно в одну и то же место - значит можно говорить о ее неразумности. Если она будет иногда менять свое поведение и попадет в форточку - можно говорить о ее разумности.
dolovar
13.06.2023 06:32+1Насекомые, грибы, одноклеточные - тоже имеет сознание.
Сможете обосновать или подтвердить данное утверждение? Определить "сознание" и показать его наличие в других организмах.
Если она будет иногда менять свое поведение и попадет в форточку - можно говорить о ее разумности.
На полет мухи влияет слишком много случайных факторов от неточных усилий до порывов ветра, чтобы по изменению траектории делать столь далеко идущие выводы. Этак можно назвать разумной и машинку, которая бросает теннисные мячики и иногда попадает в пах игроку.
И, что важнее, упомянутые сознание, мышление, интеллект, разум - это не одно и то же, очень разные вещи.
shiru8bit
13.06.2023 06:32+1Статья начинается со странного вопроса, потом подменяет тему интеллекта темой самосознания, дальше вообще непонятно про что.
YuriPanchul Автор
13.06.2023 06:32Ощущение собственного "я" у нас с вами есть. Или вы не согласны? Как проектировщик процессоров я не вижу где оно может возникнуть в паре "комбинационная логика (функция преобразования состояния) + D-триггеры (элементы состояния)". Эта конструкция на самом деле проста как мясорубка, и все современные цифровые устройства сводятся к ней независимо от количества памяти, ядер и сложности алгоритмов.
Итак у нас есть человек, у которого оно есть, и FSM, у которого оно не наблюдалось. Пока мы не поймем, что такое ощущение собственного "я" и как оно связано с человеческим разумом (какую роль оно играет в интеллекте) говорить, что мы якобы скопировали человеческий интеллект - это как утверждать, что если достаточно хорошо разрисовать красками глиняную статую, то оно оживет.
Мы не может утверждать что мы понимает интеллект, так как в нем есть необъясненная и возможно ключевая часть - ощущение собственного "я".
dolovar
13.06.2023 06:32+1Ощущение собственного "я" у нас с вами есть. Или вы не согласны?
Именно "ощущение"?
eton65
13.06.2023 06:32Мы не может утверждать что мы понимает интеллект, так как в нем есть необъясненная и возможно ключевая часть — ощущение собственного "я"
Более правильно было бы про ИИ говорить "неживой интеллект", но маркетинг есть маркетинг. А писатели-фантасты уже давно объяснили его место — продолжение и усиление наших умственных способностей, не более.
lanvin07
13.06.2023 06:32"Оьратные связи для адаптируемости" - существенный атрибут, поскольку подразумевает способность такой системы самообучаться. С учётом того, что такая система не обладает бренным телом, обучаться она может доолго. И в этом самообучении она может существенно превзойти своего создателя - Хомо.
YuriPanchul Автор
13.06.2023 06:32Так обратные связи есть в любой нетривиальной цифровой схеме, начиная от счетчика:
Счетчик - это разум?
aughing
13.06.2023 06:32+1Я - не Я, и лошадь не моя, так примерно будда Шакьямуни описал этот ихний селф-аваринесс, довольно давно правда. Ну давайте возьмем 2 чатаГПТ, пусть поговорят за самосознание.
unreal_undead2
Квантовые компьютеры не сводятся.
YuriPanchul Автор
Ну на квантовых компьютерах никто еще ChatGPT не пускает
unreal_undead2
Пока ещё и RISC V на серверах скорее из области фантазий - ещё не известно, доползёт ли оно туда быстрее квантовых сопроцессоров )
Тьюринг вообще считал, что ИИ будет сделан в конце двадцатого века - но тогда нейроны считали эквивалентными бинарным логическим элементам и соответственно сравнивали мозг и компьютеры, так то прогноз по вычислительным мощностям на пятьдесят лет вперёд был на удивление близок к реальности. Кстати, странно, что классическую статью не упомянули.
YuriPanchul Автор
C RISC V на серверах определенность все-таки есть: если инвестировать достаточно много денег во всякие микроархитектурные фичи типа TAGE branch prediction, multiple load-store pipe итд, то доползет. Об этом говорит весь опыт процессорного коммьюнити последних десятилетий. Ничего магического в архитектуре x86 нет, чисто миллиарды, потраченные интелом на дизайн, performance abalysis и верификацию этих фич.
Что касается вычислительным мощностей, то они к моему тезису ортогональны - я об этом написал в первом абзаце и потом в абзаце про зиллионы арифмометров.
unreal_undead2
Зачем же legacy вспоминать, я скорее с ARM сравниваю.
В четвёртом возражении Тьюринг, похоже, отвечал именно вам )
YuriPanchul Автор
ARM? Вы про архитектуру (систему команд) или по микроархитектуру (устройство конвейера)?
Если про архитектуру, начнем с того, что ARM64 больше похож на MIPS, чем на ARM32. А RISC-V - это по сути MIPS с переставленными битиками (чтобы не было судов за патенты по архитектуре а-ля MIPS vs Lexra) и расчисткой фич, которые мешают суперскалярности (delay slots).
Если вы считаете что у архитектуры ARM64 есть фичи которые делают ее более производительной, чем другие RISC-процессоры, то назовите их. Конечно, у других процессоров есть проблемные места (регистровые окна у SPARC, delay slots у MIPS), но и их можно компенсировать за счет вложений в микроархитектуру.
Если же вы говорите про микроархитектуру (устройство конвейера) ядер ARM против RISC-V, то это вопрос количества инвестиций и кадры. Да, для RISC-V компаний догнать ARM будет трудно, но принципиальных технических проблем в этом нет, так как механизмы для повышения производительности общие для архитектур этого типа.
unreal_undead2
ARM по определению только ISA, микроархитектура - это уже конкретно, скажем, Neoverse или там A64FX.
Я принципиальной разницы не вижу (несколько спорны отказ от флагов в RISC V или от 16битной кодировки инструкций в ARM64, но это детали), вопрос скорее в готовности бизнеса вкладываться в поддержку новой архитектуры только из-за открытости (которая может обернуться недостаточной стабильностью - скажем, так и не понял, насколько устаканились векторные расширения в RISC V - фраза "except if serious issues are discovered during ratification" в текущей спеке несколько пугает).
Это вообще некорректная постановка вопроса, сравнивать надо конкретные реализации. Но пока железа серверного класса на RISC V не вижу (SCR7 выглядит интересно, но публичная документация куцая, да и проблемы с производством все понимают).
YuriPanchul Автор
Ну хорошо, тогда я с вами во всем согласен (как с векторными расширениями, так и с готовностью бизнеса), но согласитесь, это не такие суровые проблемы как с self-awareness.
unreal_undead2
Вы всё таки уверены, что оно нужно в явном виде? Что ответите Тьюрингу (ссылку на всякий случай привёл в другом комментарии, но надеюсь, что вы его давно читали)?
YuriPanchul Автор
Я не уверен. Просто оно не объяснено и оно есть. Без его объяснения нельзя сказать, что мы поняли разум, а следовательно, нельзя сказать, что мы знаем как создать копию разума.
unreal_undead2
Но это не мешает создать эту копию. Скажем, паровые машины создавали задолго до понимания статистики движения молекул, хватало примитивной и ошибочной теории теплорода.
potan
Сводятся, но за экспоненциальное время.
YuriPanchul Автор
Может вы еще и считаете, что пространство дискретно, типа трехмерная игра жизнь Конвея?