- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Признайтесь, что с таким быстрым развитием технологий, разработкой квантовых компьютеров и повсеместным использованием нейронных сетей, то вы и мы в последние годы ждем уже появления SkyNet?
А может быть вы наоборот считаете, что до реального искусственного интеллекта еще так далеко и что нам, на нашем веку, можно вообще не беспокоиться. Ведь для реальной интеллектуальной деятельности машин нужны гораздо большие вычислительные мощности!
Сегодня, на примере еще одного стартапа Илона Маска, под названием OpenAI, мы с вами посмотрим насколько далеко от нас реальный SkyNet и расскажем вам о том, в каком состоянии находится разработка ИИ в принципе прямо сейчас.
Сегодня мы с вами узнаем может ли робот написать симфонию или нарисовать шедевр?
Что такое ИИ?
Для начала давайте поймем, что такое искусственный интеллект?
Согласно одному из определений — это искусственно созданная система, которая может решать творческие задачи, способна к саморазвитию, самопостроению и самоулучшению себя и себе подобных.
В принципе само понятие ИИ — это скорее философское понятие. Мы никогда не увидим громких заголовков, вроде “Изобретён Искусственный Интеллект!”, человечество будет идти к нему медленно, но уверенно.
К сожалению, нет абсолютно точного определения, что такое искусственный интеллект, но есть тест. Знаменитый тест Алана Тьюринга, который он описал в 1950 году в философском журнале Mind. Суть теста заключается в том, что человеку и компьютеру задаются различные вопросы, а третий человек слушает их ответы. Главное, что человек слушающий ответы не знает, кто именно отвечает и, если у компьютера получилось обмануть человека, то считается, что компьютер победил и прошел тест Тьюринга.
Этот тест был впервые пройден компьютером в 2014 году. Специальная программа Eugene, или Женя Густман, с использованием пяти суперкомпьютеров, смогла обмануть 33% собеседников, что превысило необходимые 30% для прохождение порога.
Кстати, тест Тьюринга работает в две стороны. Есть и обратный тест, тест на человека, и его наверняка проходил каждый смотрящий это видео — это знаменитая Captcha — Completely Automated Public Turing test to tell Computers and Humans Apart или по-русски — полностью автоматизированный публичный тест Тьюринга для различения компьютеров и людей.
И казалось бы, тест пройден, вот он искусственный интеллект, но на самом деле все гораздо сложнее.
В общем, есть два подхода к созданию ИИ:
Первый — нисходящий, считайте сверху-вниз, то есть создание, баз знаний и систем, имитирующих реальные психические процессы человека, такие как мышление, рассуждение, эмоции, творчество и так далее.
Второй, который, опять же, знаком большинству из вас: восходящий или снизу-вверх, когда изучаются нейронные сети и так называемые эволюционные вычисления. Создаются простейшие нейронные модели, сочетание которых в итоге моделирует интеллектуальное поведение.
Это и есть те самые нейронки, о которых мы уже вам раньше рассказывали! Это именно те самые нейронки, которые занимаются улучшением ваших фотографий и подбором видео в TikTok.
Основная идея в том, что в будущем, объединив множество нейронных сетей, предназначенных для разных целей, можно построить фактически самостоятельно думающий компьютер, уровень самообучаемости и знаний которого будет такой, что он будет саморазвиваться! Это и есть ИИ.
Что сейчас?
О современном состоянии ИИ сказать не просто. Ведь есть множество областей, где нейронные сети и ИИ применяются очень активно. Хорошим примером является автопилот машин Tesla!
А есть области, где только планируется начать активное внедрение, и тут можно вспомнить о медицине. Только подумайте — нейронная сеть, которая может в автоматическом режиме производить анализ результатов и давать советы по лечению, например, обработка рентгеновских снимков или анализы крови!
Вообще за последние пять лет интерес к области искусственного интеллекта вырос более чем в 3 раза, а количество стартапов только в период с 2015 до 2018 год выросло на 113 процентов.
А поскольку это очень активно развивающаяся область, то и количество ежегодных научных публикаций за последние 20 лет выросло раз в 8!
Огромным скачком стало и развитие нейронных модулей в процессорах, и рост инвестиций в эту область огромный!
В общем, вы поняли — развитие области не просто идет, оно летит вверх!
И знаете, что самое интересное? На вопрос героя Уилла Смита о том может ли робот написать симфонию, уже можно ответить — Да, может!
OpenAI
Илон Маск и еще 5 инвесторов в 2015 году организовали стартап под названием OpenAI, основная суть которого была в том, чтобы увеличить контроль над развитием и созданием ИИ.
Основатели OpenAI говорили о ней именно как о некоммерческой организации, которая не связана финансовыми обязательствами акционеров, чтобы исследователи могли сосредоточить свои силы на создании положительного воздействия ИИ на человека.
Сам Маск говорил, что считает ИИ одной из главных угроз человечества и для его лучшего контроля он активно поучаствовал в создании стартапа, который как раз занимается исследованиями в области ИИ.
«Если не можешь победить что-то — возглавь!», судя по всему именно этим они и руководствовались! И их результаты удивляют.
Вы наверное помните новость о том, что нейронная сеть обыграла команду OG, чемпионов International 2018 и 2019 годов в DOTA 2! Так вот эта нейронная сеть была создана командой OpenAI. Билл Гейтс тогда написал, что это очень важное событие, так как игра требует сложного командного взаимодействия.
Всего за время разработки OpenAI представили несколько нейронных сетей. Например, Jukebox — специальная программа, обученная на более чем 1 миллионе песен всех жанров, которая способна самостоятельно писать музыку, осмысленный текст, и даже синтезировать вокал! Так что да — и симфония, написанная машиной, уже возможна!
Только послушайте примеры! В принципе, большинство современных рэп-исполнителей больше не нужны.
А как вам нейросеть DALL·E, которая способна просто по текстовому описанию, рисовать картинки? Она способна сама понимать контекст написанного, например человек задает “a collection of glasses sitting on the table” и давайте посмотрим, что выдает нейронная сеть?
Если переводить с английского, то изначальное описание можно сформулировать двумя вариантами — первый это “набор очков на столе”, и мы видим, что нейронка рисует различные картинки, при этом есть и совсем нереалистичные. Но так же это описание можно перевести и как “набор бокалов на столе”, соответственно нейронная сеть рисует варианты и с бокалами!
Но как это стало возможным? Все благодаря специальному обучению алгоритма обработки естественного языка, под названием GPT-3. Это третья версия алгоритма представленная в 2020 году. Первая была анонсирована в 2018, для обучения которой была использована текстовая база в 5 Гигабайт, вторая версия спустя год уже изучила 40 гигабайт, а третья использовала базу в 500 ГБ текстов, данных, и 175 миллиардов различных параметров.
И такое количество данных позволяет ей делать уникальные вещи, например, понимать смысл прочитанного, писать большие структурированные тексты или, например, стихи!
Как же это работает?
На входе мы спрашиваем у программы вопрос! То есть мы фактически просим робота понять, что мы только что у него спросили и выдать нам ответ.
Алгоритму мы подаем один пример, где указываем лишь признаки и просим его предсказать, что будет дальше.
В процессе обучения будут ошибки, но внутренние алгоритмы рассчитывают ошибку в предсказании и обновляют нейронку до тех пор, пока ответ не улучшится.
hsto.org/webt/32/w2/bu/32w2bu4fmycoja-kapw6juep9oa.gif
И так несколько миллионов раз. Теперь представим, что наша нейронка уже обучена, то есть она уже скушала эти 500 ГБ текстов, которые взяла из книг и статей в интернете
Далее, после задания вопроса сети, начинаются сложнейшие многоуровневые преобразования. Заданные слова преобразуются в набор цифр и попадают в специальный 96-уровневый декодер, на каждом уровне этот набор чисел проходит через 1,8 миллиарда параметров для вычислений.
Чтобы было чуть более понятно — это авторегрессионная модель, то есть такая модель, которая учитывает результаты предыдущих вычислений и основывается на них на следующем кругу расчетов. И вот пройдя все эти круги в конце выдается ответ, который имеет наименьшую вероятность ошибки на основе предыдущего обучения! Далее выдается ответ.
И вы спросите а какие перспективы? Они огромные. Фактически GPT-3 способна решать любые задачи на английском языке уже сейчас. И не только…
Стоит сказать, что все совсем не так гладко с этой открытостью и светлым будущим ИИ. Дело в том, что Илон Маск покинул проект в 2019 году так как мог возникнуть конфликт интересов. И уже в 2020 году он открыто критиковал подход руководства организации в закрытости и непрозрачности, что, как мы помним, напрямую противоречит принципам заложенным в основе стартапа, да и даже в самом его названии!
А в середине 2020 года произошло что-то совсем странное. Microsoft выкупила эксклюзивные права на тот алгоритм GPT-3, что также подверглось жесткой критике со стороны Маска и сообщества.
Конечно, в самой компании заявили, что это никак не повлияет на доступ независимых разработчиков к GPT-3 через API компании, но определенно все эти новости вызывают недоверие и опасения.
Вывод
В любом случае все это развитие впечатляет. Еще пять лет назад никто и подумать не мог, что телефоны, со своими маленькими матрицами будут способны снимать астрофотографии, так как это делают современные смартфоны Pixel.
А скажите 15 лет назад кому-то, что автомобили самосто смогут самостоятельно безопасно ездить по улицам городов, на вас бы вообще как на сумасшедшего посмотрели!
Сегодня все это уже реальность с развитием нейронных технологий и искусственного интеллекта! И это только начало пути нейронных сетей.
Нам лишь остается верить, что все эти системы будут хорошо контролируемы и защищены от возможных внешних воздействий. Ведь в таких важных вопросах, которые уже непосредственно касаются жизни людей, безопасность и надежность важнее всего.
А как мы с вами знаем даже всесильные три закона робототехники, легко обходятся!
zazar
Не впечатляет.
С появлением первой камеры на мобильнике я мечтал об увеличении разрешения матриц фотоаппаратов в линейной прогрессии, спроецировав на них закон Мура, который появился за десяток лет до моего рождения (уже тогда люди мечтали), в 1965.
И вряд ли один я такой на планете мечтатель.
Такие эмоциональные преувеличения делают мне зубную боль, ребе. Об этом писали фантасты ещё в 19 веке! Это норма — так фантазировать. Это не сумасшествие.
Следует заменять искусственный интеллект на словосочетание "перемножение матриц", чтобы всё вставало на свои места. До появления искусственного разума, о чём, собственно, проецирования на каждом углу в таких статьях, ещё очень нескоро.
hjornson
Тут надо заметить что матрицы в массовых фотоаппаратах, афаик, так особо и не выросли, причем похоже что чисто из соображений маркетинга, разделения рынков, и общей лености производителей.
А та красивая картинка которую снимают соверменные смартфоны это, если быть честным, всё ближе к «рисунку по мотивам» сделанному софтом, чем к честному снимку…
Nehc
>>>До появления искусственного разума, о чём, собственно, проецирования на каждом углу в таких статьях, ещё очень нескоро.
«Летательные аппараты тяжелее воздуха невозможны», – лорд Кельвин, 1895. В 1903 году состоялся первый полёт братьев Райт.
hjornson
Походу вы ошиблись куда отвечать. ;)
Впрочем замечу что Кельвин был не только ученым но и администратором, сиречь политиком, а политик далеко не всегда говорит то что думает, у него на это 100500 причин имеется.
Что же касается ИИ — то замечу что в 50х-60х годах прошлого века был бум ''кибернетики' и крайне оптимистичные взгляды что вот-вот у нас уже будет ИИ и надо думать как нам с ним жить. Оказалось что нифига подобного, миллиарды транзисторов вовсе не то же что миллиарды нейронов. А по самым последним новостям склоняются к тому что каждый нейрон сам себе нейросеть, которые еще и активно взаимодействуют друг с другом, и реализации такого на кремнии — даже и в оптимистичных прогнозах не видать…
Nehc
Есть такое, да… Отвечал на пост выше…
Я не столько хочу сказать, что мы уже на пороге (есть у меня ощущение, что сейчас все-таки немного не то же самое, что в 60х, но отстаивать это ощущение аргументированно — лень! ;) ), сколько то, что почти всегда подобные прорывы неожиданны, особенно для тех, у кого все это просто «перемножение матриц». ;)
zazar
Математика такая же, что и тогда, у нас просто вычислительные мощности появились достаточные, каких не было в 60-х. А математика та же. Просто глянцевый хайп одушевляет бинарный код, что суть суеверие в чистом виде. Люди не понимают разницы между искусственным интеллектом и искусственным разумом, путая интеллект с разумом в конкретных контекстах. А это кардинально разные вещи. ИИ — это имитирование разума при помощи «чёрного ящика с коэффициентами». Сам разум человечество пока не изучает, не имеет модели, не знает, что и как имитировать/моделировать, так как нет формального описания, перекладываемого на язык математики.
P.S. Ну и кстати, автономные машины пока остаются мечтой (что бы там автор ни писал в тексте выше) — разработки сворачиваются, концерны продают свои подразделения автопилотов, где-то увольняют целыми департаментами. Оказалось, что задача неразрешима в том окружении, которое есть сейчас. Если совсем просто: нет инфраструктуры под автопилоты, они возможны только на закрытых подготовленных территориях, а не везде, где только человек ездит.
Nehc
>>> Математика такая же, что и тогда, у нас просто вычислительные мощности появились достаточные, каких не было в 60-х.
Математика, она строго говоря со времен Архимеда та же. ;) Чего вы сразу на матрицы замахнулись, брали бы сразу основы: все построено на 0 и 1, что тут нового-то?
По факту же довольно много технологий хоть и были описаны раньше — были фактически неприменимы в силу технологических ограничений (те же CNN, SGD, LSTM). ЭТо я у жне говорю о современных глубоких сетях с вниманием на базе трансформеров.
>>>Люди не понимают разницы между искусственным интеллектом и искусственным разумом
Ну да — люди же глупенькие, вообще ничего не понимают, а у вас спросить не догадались… )
На самом деле проблема не в том, что не понимают, или идей нет — до фига и больше. Тут на хабре каждый
второйну может пятый имеет свою концепцию разума вообще и его технической реализации в частности!Проблема в том, что это «понимание» не часто удается воплотить в железе, а до этого момента в рассуждениях подобного рода очень сложно найти единомышленников. Взять хотя бы вас: я вам могу тут сутки расписывать свое понимание разума, мышления, интеллекта — вам же это все не интересно и вы сочтете это все бредом ровно до тех пор, пока я вам работающую систему не продемонстрирую, так ведь? И будете в общем-то правы. Потому, что рассуждения к дела не пришьешь — практика нужна.
Судя по тем достижениям, которые есть у топовых контор (Google, Facebook, Open AI) — все там в порядке с пониманием. Они в целом идут с правильном направлении: они провели декомпозицию, разбили глобальную задачу на отдельные технические преграды и их постепенно решают…
А впрочем, возможно вы даже правы, почему нет! ) Ну нет у человека окончательной схемы реализации. Но технические средства развиваются так, что как только у кого-то случится «озарение» — все уже к нему будет готово. Вы проснетесь в новом мире.
>>>разработки сворачиваются, концерны продают свои подразделения автопилотов, где-то увольняют целыми департаментами
Мы с вами наверное в разных реальностях живем… Сейчас только ленивый не разрабатывает свой автопилот, включая Яндекс и Камаз (причем даже тот же яндекс во всю тестирует на дорогах общего пользования, а уж про Теслу с Гуглом я и не говорю). Где там чего сворачивается и кого увольняют целыми департаментами — не помешали бы пруфы! )
zazar
Вы мне мои слова пересказываете.
Я писал: пока не будет ФОРМАЛЬНОГО описания, переводимого на язык математики. То есть, определений. До этого все рассуждения и концепции суть махание языком и выбивание бабок из глупых кошельков.
ru.wikipedia.org/wiki/%D0%A4%D0%BE%D1%80%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5_%D0%BC%D0%B5%D1%82%D0%BE%D0%B4%D1%8B
Этим и отличается инженер с вузовским академическим системным образованием от энтузиаста, воспитанного на глянцевом нау-попе. В науке есть модель, по ней создаются теории и гипотезы, проводятся эксперименты, часть теорий отбрасывается, часть остаётся, производится уточнение модели, выдвигаются новые гипотезы, снова проводятся эксперименты. Они перепроверяются независимыми командами. Снова совершенствуется модель… Это системный научный метод.
В случае изучения разума он полностью отсутствует, модель полностью отсутствует, нет научного подхода. Нет модели разума на планете. Есть имитация некая, по сути, являющаяся «чёрным ящиком» с весами (коэффициентами). Что вы там предполагаете, что есть у Гугла и ИБМ — это оставим на вашей совести, ничего у них нет. В плане искусственного разума, а не искусственного интеллекта, понятное дело.
Недавно на Хабре проскакивало. И ещё.
Ещё процитрую:
До широкой общественности, и в первую очередь инвесторов, наконец дошло, что автопилот без инфраструктуры — это тупиковая ветвь развития
На The Verge вышла (https://www.theverge.com/22423489/autonomous-vehicle-consolidation-acquisition-lyft-uber) статья, которая решила вскрыть гнойный нарыв автопилотируемых подразделений многих техногигантов. Перевод статьи можно почитать здесь (https://vc.ru/transport/245073-mnogo-obeshchaniy-malo-rezultata-pochemu-bespilotniki-ne-stali-povsemestnym-transportom-kak-obeshchali-razrabotchiki).
Если очень кратко: менеджмент откровенно дурил инвесторов, которые вкладывали триллионы долларов в тупиковую технологию. Инженеры все прекрасно понимали, но зачем отказываться от денег и возможности набраться интересного опыта?
Правда, индустрия (читай техноаферисты) не сдается и обещает большие результаты в нишевых отраслях (стройка, предприятия, горнодобывающая промышленность, сельское хозяйство). В общем, закрытые территории, где мало людей и ответственность за происшествия можно перекинуть на самих покупателей техники.
Что ж, автопилотную зиму можно считать начавшейся. Больших денег там больше не предвидится на ближайшие 2-3 года.
Я даже со 100% точностью могу предсказать, что будет дальше. Они еще 2 года повозятся с автопилотами для тракторов и вагонеток и в итоге скажут: надо создавать 6G инфраструктуру и на нее уже вешать автопилотируемый транспорт.
Просто масштабы внедрения и, соответственно, прибыль у инфраструктурного пилота совершенно не интересная для венчурных инвесторов.
Это сложный и муторный процесс. У инвесторов в венчуре вообще рвотный рефлекс на все с приставкой инфраструктура, потому что там всегда очень мало прибыли и очень много забот и рисков. Именно поэтому в мире большая часть инфраструктуры строится через госзаказ (налогоплательщик все стерпит).
Инвесторам очень нравится то, что имеет много патентов, сложно повторить и очень легко растиражировать. Автопилотное такси на камерах можно было произвести в Китае и отправить хоть в Финляндию, хоть в Нигерию — и оно бы везде работало (так им рассказывали, а у них в глазах крутился счетчик потенциальной прибыли). Но реальность оказалась суровой.
В общем, ждем государство в теме автопилота. А до тех пор кутаемся в шубы и пережидаем автопилотную зиму.
Nehc
Вот это внятное, полноценное и аргументированное изложение позиции. Принимается.
На счет формальных методов, ну я не знаю. Я довольно много чего в своей жизни реализовал от идеи до работающей системы и как-то более менее обходился без «ФОРМАЛЬНОГО описания, переводимого на язык математики». Полагаю, что это актуально для 95% проектов — формальное писание получается ПОСЛЕ реализации для того, что бы удовлетворить скептиков и критически настроенную часть сообщества… Если это вообще нужно.
>>> Этим и отличается инженер с вузовским академическим системным образованием от энтузиаста, воспитанного на глянцевом нау-попе. В науке есть модель, по ней создаются теории и гипотезы, проводятся эксперименты, часть теорий отбрасывается, часть остаётся, производится уточнение модели, выдвигаются новые гипотезы, снова проводятся эксперименты. Они перепроверяются независимыми командами. Снова совершенствуется модель… Это системный научный метод.
Вы вот сейчас серьезно? Вот так оно все и происходит? Так работали люди, двигавшие всю ИТ-индустрию все это время? Да половина отцов-основателей начинала в гараже, с минимальными знаниями, за то с кучей идей и желанием изменить мир!
>>> В случае изучения разума он полностью отсутствует, модель полностью отсутствует, нет научного подхода. Нет модели разума на планете.
Ну у вас нет. У меня есть. Я думаю у многих есть. Реальная ли модель, заведется она или нет — без понятия. Но это и не важно. Невозможно работать над чем-то не имея модели. Можно быть романтиком-идеалистом, наивным мечтателем, не понимать всей сложности, упрощать то, чего упрощать не следует — заблуждаться в конце концов! Но это не значит НЕ ИМЕТЬ МОДЕЛИ. Это всего лишь значит — иметь хреновую и не рабочую модель.
Относительно ваших пруфов: вы их привели, вопросов к вам нет. Первые две ссылки — неудача одного конкретного испытания (представляете, сколько их было у братьев Райт?) и очередной фейл по срока у Маска (ну так он колонию на марсе через 4 года обещает — и что теперь? Это же не значит, что его проекты не состоятельны в принципе?). Еще вы привели пару мнений пару авторов… И они вполне резонны: действительно, на волне хайпа чего бы не взять денег у инвесторов? Я даже готов с вами согласится, что тема перегрета и нас ждет суровая зима автономных автомобилей! Но это не важно. Т.е. это не хорошо, ибо может сильно ослабить вливания, но не думаю, что фатально. Видите-ли, в процессе работы над такими вещами прорабатывается огромное количество технических вопросов, каждый из которых найдет применение в будущем. Кто-то из тех, кто будет решать возможно совсем другую задачу возможно получит ответы на свои вопросы, благодаря этим разработкам…
Еще раз говорю: скорее всего появление сильного ИИ будет полной неожиданностью для большинства. Просто у кого-то пазл сложится и все.
zazar
Я вам не зря намекал про отсутствие системности (и наличие лозунговости). Отцы-основатели — не Гейтс и Джобс (это точка зрения глянцевого мейнстрима, клише из которого вы демонстрируете в каждом абзаце), а Винер и фон Нейман. Они шли системно и научно.
Это вы. И вами легко манипулировать, потому что у вас нет базы, которая даётся при академическом образовании. Это не оскорбление, мне просто вот это повторение лозунгов в речи как половником по голове. Так вот, нейросети я отлично писал ещё в 1991 году, по ним были классные советские учебники. Просто мощности i286/i386 компьютера для них не хватало. А так всё то же самое. Результат же стал отличен от примитивного, когда дешевизна вычислений это позволила.
Или не найдёт. Их предпочтут не развивать, а сделать заново, чтобы не платить патентные отчисления.
И вопрос вообще не в инженерии, а в инфраструктуре. Нет возможности возить с собой в машине мейнфрейм, а для обработки данных на стороне нужно очень быстрое соединение, для чего нужны трилиардные вливания в инфраструктуру по расстановке везде сот 6G поколения, которое ещё даже не в проекте. Причём, частой расстановке. Даже в пустынях. Через каждые пару десятков метров. Иначе не поедет робот. Или поедет, но огромным трейлером с ЦОД внутри.
Это не говоря уже про лидары и прочую дорогую электронику.
Nehc
У вас хорошая аргументация и вы можете быть правы. Нас рассудит только время. ;)