Китайские комнаты нейросетей на всех парах изрыгают ремиксы и компиляции. За потоком картин в стилях классиков, фактов о лягушках и синтетических мелодий скрывается нечто. Нечто готовое рвануть в превосходящем масштабе ещё до того, как стихнет эхо первого информационного взрыва.
Неумолимая машина по приумножению информации уже тикает. Мануфактуры сетевых троллей, гострайтеров и копирайтеров сменяет блестящий автоматизированный конвейер — на дворе заря мгновенной промышленной революции в разрезе массовой культуры.
Последствия будут похожи если не по сути, то по масштабу. Получим ли мы генератор бесконечного инфошума? Катализатор для культурной и научной революции? Досрочную зарю сингулярности? И то, и другое, и третье?
Оценить возможные последствия, все равно что представить масштабы космоса. Упираешься в стену благоговения на границе осознания. Со временем все окажемся по ту сторону, но пока что эксперты пытаются описать будущее с разных ракурсов:
Третья магия (eng) — размышления о том, какое влияние нейросети могут оказать на прогресс. Первая «магическая» сила, человечества в интерпретации автора — это способность записывать и кодировать знания в языке, вторая — научный метод, как способность добыть знания, проверить и применить их. Третьей, как он утверждает, будет способность интерпретировать чрезвычайно сложные и взаимосвязанные события, наборы данных и экстраполировать их с определенной степенью точности, даже не понимая, почему прогнозы верны.
Расширяющийся темный лес и генеративный ИИ (eng) — описывает то, как алгоритмы уже сейчас захватывают Интернет и вытесняют из него людей.
The Great Logging Off (eng) — что произойдет, когда большая часть онлайн-контента сбудет создаваться машинами? Автор утверждает, что многие люди, особенно те, кто может себе это позволить, уйдут из глобальной сети.
Конец программирования (eng) — а что, если общепринятый подход к написанию программ находится на грани исчезновения, и все, кроме очень специализированных приложений, будет заменено системами, которые обучаются, а не программируются?
Жизненный цикл неудобных технологий (eng) — крупные технологические сдвиги вызывают сопротивление, страх и отторжение у многих людей, но это уже происходило раньше, и у нас есть дорожная карта.
Подводные лодки умеют плавать? (eng) — предсказывала ли научная фантастика, что ИИ, будет ненадежным, часто нелогичным и даже брехливым? В художественной литературе это предзнаменование чего-то очень неправильного: ИИ сломался или стал злым. Но в 2023 году это кажется нормальным режимом работы чат-ботов с искусственным интеллектом, таких как ChatGPT или Sydney. Современный ИИ склонен к дикому полету воображения, но иногда не может сделать простых логических выводов. Но это же компьютер, машина, буквально состоящая из логики! Это повод тщательно обдумать, что умеет ИИ, а что нет, чтобы понять его потенциал без неуместной антропоморфизации.
ChatGPT — это размытый JPEG в интернете (eng) — статья писателя Теда Чана, где он рассматривает языковые модели, как об алгоритмы сжатия с потерями.
ChatGPT для робототехники (eng) — исследователи из Microsoft пишут о том, как с помощью ChatGPT управляют такими платформами, как роботы-манипуляторы, дроны и роботы-помощники.
Роботы показывают нам, кто мы (eng) — чему мы можем научиться у машин с воображением и культурой? Интервью с Аланом Уинфилдом об этике искусственного интеллекта и использовании машин для ответов на вопросы о «разуме, эволюции, жизни и культуре».
Преподавание с помощью ChatGPT (eng) — было интересно наблюдать за волной апокалиптических заголовков, связывающих ChatGPT c крахом всей системы образования. Сейчас, когда пена улеглась, некоторые педагоги пишут, что эта технология является огромным благом, а не экзистенциальной угрозой для их профессии. Это одна из таких статей, в которой Томас Рид пишет об опыте прохождения курса по анализу вредоносных программ, который учитель решил вести «совместно» с ChatGPT — здесь много интересных примеров использования.
Представьте, что безграничное творчество у вас под рукой (eng) — древние философы перевернутся в гробу, но чтобы заниматься творчеством — генерировать что-то новое — нужен только правильный код. Мы можем встроить его в крошечные устройства, которые пока бездействуют, или применить творческий подход к большим статистическим моделям или внедрить творчество в процесс поиска лекарств. Для чего еще мы можем использовать синтетическое творчество?
Когда машины меняют искусство (eng) — в истории уже появлялись технологии, которые меняли то, как мы создаем искусство. Некоторые из них автоматизируют (или кажется, что автоматизируют) этапы художественного процесса. Что общего у них и современных нейросетей?
Страх простоты (rus) — Михаил Калашников о том, почему генеративные нейросети пугают людей. Никто же не боится роботов-пылесосов.
Самый важный век (eng) — серия статей о том, почему XXI век может стать самым важным веком для человечества. Автор утверждает, что развитие передовых систем искусственного интеллекта приведет к взрывному росту и научному прогрессу, ведущему нас в будущее, которое невозможно представить.
Роботы сделают нас лучше (eng) — Основная причина, по которой мы миримся с потоком технологий, постоянно приносящем новые вызовы, в том, что технологии делают нас лучше. Так было всегда.
P.S. Хотите знать больше? Читайте телеграм.
Комментарии (7)
gans_2
16.04.2023 08:07+1Все мечтали, что роботы будут работать за Вас. А роботы работают вашими надсмотрщиками гораздо лучше Вас. Они не будут сочувствовать и лениться. Они будут генерировать порядок. Уже генерируют. И Вы, оценивающие их достижения , приближаете их успех.
phenik
16.04.2023 08:07За историю человечества было много технологических прорывов, особенно в последнее столетие. Несмотря на разнообразие со временем выявились их закономерности, которые, в первом приближении, с точки зрения теории динамических систем, можно представить в виде переходного процесса с обострением и выходом в новое устойчивое состояние
Можно найти подтверждение этому в недавней истории? Да, напоминает историю с технологиями VR/AR приблизительно десятилетней давности. Тот же вал восторженных статей, те же апокалиптические прогнозы — все будут ходить в очках и шлемах ВР, производство будет забито виртуальными ассистентами, общество буде жить в виртуальном мире в интернете, и тп. И где все это? Мы уже в будущем) Очки благополучно слились, что-то там копашится в своей нише. Шлемы в основном геймеры используют, что-то делается для виртуальных миров и инете с пока непонятным исходом, есть применения на производстве. Погорлопанили с целью привлечения инвестиций, молодые повысили свою важность бренькая новыми гаджетами, и постепенно все вернулось в область реальных возможностей технологии и потребностей. Обещанного апокалипсиса не произошло, и вряд ли произойдет в обозримом будущем. На работе также использовали эту технологию для виртуальных тренажеров, однако постепенно, по нескольким причинам, первую очередь из-за ограниченной пропускной способности беспроводного канала связи и недостаточного разрешения, развитие сошло на нет. Возможно в перспективе появятся подходящие коммерческие решения.
Были и другие компании — 3d печать перевернет промышленность, строительство и донорство. Еще был блокчейн, а еще раньше в 90-х был ажиотаж вокруг экспертных систем. Самому довелось поучаствовать, что-то делал, и даже со статистическими методами обучения, но все это не прижилось, т.к. требовало серьезной поддержки. Конечно сейчас есть инфраструктура, которой тогда не было, и сильно выросла производительность оборудования. Но люди и механизмы внедрения новаций остались теми же. Просто появилось новое поколение, и они это воспринимают, как откровение, как возможность.
Чем история с ЯМ может кончится? Если исходить из того, что архитектура останется прежней, трасформерной, и будут расти только размеры и объемы обучающей выборки? Она упрется в потолок своих возможностей. А они такие, исходя из того, что уже озвучено и как-то исследовано.
-
ЯМ принципиально не могут делать обобщения языка, как это делает человек развивая его, вводя новые термины и меняя их смысл. Для учета такого развития нужно учить модели заново, или дообучать, что имеет ограничения в существующих способах обучения.
-
Отсутствие обобщения сравнимого с человеком будет приводить к проблемам с обучением формализованного материала — логического, математического, которое требует точности результатов и повторяемости. ЯМ всегда будут делать ошибочные выводы для операций с данными такого рода, которых не было в обучающей выборке. Напомню, например, для чисел и операций с ними такое число примеров бесконечное, для вещественных даже несчетное. Будут только частные обобщения в виде аппроксимаций, здесь подробнее написано. Использование плагинов для вызова специализированных мат. пакетов также не решит проблему принципиально из-за того, что ЯМ могут неправильно ставить им задачи. Нужно всегда перепроверять ответы, поэтому легче использовать эти мат. пакеты напрямую.
-
Захламление обучающих выборок предыдущими генерациями ЯМ. Объем знаний человечества огромный, но ограниченный, и не может расти быстрее, чем это позволяют когнитивные способности человека и коллективов из них.
-
Рост энергозатрат, особенно при обучении 1, 2. Со временем возможен переход на энергоэффективные нейроморфные решения. К тому же они могут обладать другими достоинствами, чем специализированная аппаратная поддержка сетей.
Со временем все эти факторы приведут к выходу на потолок возможностей этой технологии. Конечно трансформеры, и ЯМ на их основе, не приговор, а лишь ограниченные модели мышления человека, конкретно только ассоциативной формы мышления. Это делает их хорошими кандидатами на роль интеллектуальных ассистентов нового поколения. У человека форм мышления много, включая логическую, критическую, образную, и др. Но с точки зрения архитектуры их моделирование требуют перехода к иерархически организованным рекуррентным сетям, как это приближенно организовано в мозге человека. Это позволит использовать их не только, как интеллектуальных ассистентов, но и продвинутых агентов, включая воплощенных. Но это будет уже новая технология, с новым хайпом, и новыми героями)
-
mst_72
Терзают смутные сомнения, что надо или маркировать сгенерированные тексты (как-минимум), или начать их жёстко банить.
SantrY Автор
И картинка тоже не настоящая! В комменты призываются эксперты по семантическому анализу и распознаванию фейков. Этот пост может быть интересным упражнением.
А вообще, в конечно не поверите, но вы видите сгенерированный текст там, где его нет. Люди так тоже умеют (серьезно, если бы это написала сетка, я бы так и сказал, потому что это прикольно). Кстати, в последнем абзаце введения заложена отсылка к посту Тима урбана Religion for the Nonreligious.
vassabi
вы не сможете маркировать все сгенерированные тексты.
максимум что возможно - маркировать несгенерированные "написанные натурально" тексты (при помощи живых свидетелей, которые видели как вы его пишете на бумаге)
agat000
Угу, тем более, что гуглоперевод "мясных" текстов не особо то отличается от чисто "тостерных", даже после беглой обработки.
Интересно, как скоро запилят очередной токен, генерируемый при ручном вводе текста, подтверждающий его "мясное" происхождение?