В сентябре прошлого года уволился глава отдела программного обеспечения Пентагона Николас Чайлен. В своём ставшем знаменитом письме он громко хлопнул дверью, заявив, что «в противоборстве искусственных интеллектов Америка обречена».
А на прошлой неделе мир облетела статья под громким заголовком "Китайский суперкомпьютер достиг мирового превосходства с ИИ нейросетью уровня человеческого мозга".
Китайский ИИ уже победил?
В среду в South China Morning Post – главном рупоре Китая, вещающем на внешний мир – вышла статья «China supercomputer achieves global first with ‘brain-scale’ AI model». В ней было объявлено, что Китай создал BaGuaLu – ИИ нейросеть, обладающую 175 триллионами синапсами нейронов (также называемых параметрами), что сравнимо с количеством синапсов нейронов в человеческом мозге. Для сравнения, до этого самой мощной нейросетью в мире был Switch Transformer, которую Google Brain смог натренировать лишь на 1.6 триллионов синапсов.
Означает ли бунт от бессилия в Пентагоне и приближение Китая к возможностям человеческого мозга, что ML-инженерам и прочим «дата-сатанистам» нужно срочно учить китайский и переходить с Tensorflow, Keras и прочих AWS на что-нибудь другое? Что нам всем пора готовиться к приходу китайского искусственного интеллекта? Что Китай будет владеть миром?
В последние пять лет автор статьи участвовал в запуске двух ИИ-стартапов – одного в Китае и одного на Западе. Понаблюдав за битвой с обеих сторон, автор пришёл к заключению, что столкновение китайского и западного ИИ – это битва садовника и дикого леса.
Так кто победит?
ИИ в Китае
Что такое Китай? Суперконцентрированное общество, 1.4 млрд человек, крупнейшая в мире онлайн-коммерция, крупнейшие в мире социальные сети. Всё вместе это значит одно – данные. Люди – это источник данных, а данные – это топливо для двигателя ИИ.
Уже сейчас достижения китайцев в ИИ колоссальны. По разным оценкам, в денежном выражении китайский рынок ИИ сейчас составляет порядка $30 млрд в год или около трети мирового рынка. Но деньги – лишь вершина айсберга. Помимо BaGuaLu, способности которой нам только предстоит увидеть, широко известной стала китайская универсальная нейросеть Wudao, способная общаться на уровне школьника начальных классов и писать художественный текст, неотличимый от человеческого.
Помимо этого, Китай уже давно и прочно лидирует по количеству суперкомпьютеров. Так, из 500 самых мощных суперкомпьютеров в мире 227 расположены в Китае (в США – лишь 118).
Но вершиной китайского ИИ, безусловно, является первый в мире Паноптикон (называемый в Китае социальной кредитной системой). Сведение в одно целое данных социальных сетей, банковских счетов и десятков миллионов уличных камер наблюдения, способных с 99.99% точностью распознать человека даже в маске и капюшоне, позволило Китаю воплотить в жизнь давнюю мечту Джереми Бетхема – систему, где каждый человек без исключения находится под постоянным наблюдением, где каждое отклонение от желаемого поведения, вплоть до перехода улицы в неположенном месте, приводит к автоматическому снижению «социального рейтинга».
Проведя почти пять лет в Китае, автор этой статьи наблюдал за строительством Паноптикона и тем, как, проникая во все сферы деятельности человека, ИИ создаёт общество новой формации – где 1.4 миллиарда человек объединены, управляемы одной ИИ-системой, связаны одной целью.
Паноптикон еще не развернут на всю страну, но это вопрос ближайшего времени. Уже сейчас эффект от внедрения Паноптикона поражает – например, традиционная полиция фактически становится ненужной. ИИ открывает безграничные возможности в управлении группами людей.
Посмотрев на достижения китайского ИИ, становится понятно, почему Николас Чайлен уволился из Пентагона. Китай словно создан для ИИ: гигантский объем данных и неограниченные возможности для применения.
Эта война проиграна. Китай победил.
Или…
Пирамида ИИ
ИИ – зверь непростой. Чтобы понять, как он устроен, разложим его на три уровня.
Уровень 1. Приложения
Приложения – это вершина айсберга. Это то, что мы, пользователи, видим: строка поиска в Яндексе, выбор следующего видео на Ютубе, автоматическое распознавание паспорта в мобильном банке, распознавание препятствий дроном. Да тот же алгоритм в Хабре, решивший, что вы должны увидеть именно эту статью – это тоже приложение, использующее ИИ.
Китай, без сомнений, преуспел в этой области – такие названия, как Tiktok (организация запрещена в России) и DJI известны всему миру. Ну и, конечно, вершина – упомянутый выше Паноптикон.
Однако, чтобы любое приложение работало, у него под капотом должен быть двигатель – нейронная сеть.
Уровень 2. Нейросети
Когда мы, обычные смертные, слышим об очередном достижении ИИ, почти всегда речь идет именно о нейросетях. Дело в том, что компании, которые создают нейросети, заинтересованы в их рекламе, поскольку от этого зависят их бюджеты.
В результате вокруг нейросетей всегда много хайпа.
Недавний пример об отстранении Гуглом программиста, заявившего, что готовящаяся к выпуску нейросеть LaMDA уже обладает интеллектом второклассника, взбудоражил весь мир. Зато теперь мы все знаем о LaMDA, так же как когда-то давно мы узнали о роботе Промобот лишь потому, что прошла новость, что он пытался сбежать (любой, кто видел робота Промобот, например, в отделении Сбербанка, может подтвердить, что последнее на что это устройство способно – это побег).
Но хайп не должен отвлекать нас от главного – нейросети действительно уже прямо сейчас переворачивают мир с ног на голову. На наших глазах стирается грань между органическим и компьютерным разумом.
Стандартная программа ИИ в Стенфорде начинается с создания нейросети «с нуля». Когда на программу попадают нейробиологи, они внезапно понимают, что собираемая ими буквально «на коленке» система из простейших формул релю, танг и прочих сигмоидов фактически работает так же, как и мозг. То, на что у эволюции ушло несколько миллиардов лет, теперь можно собрать за пару минут. Революция свершается прямо у нас на глазах – в нейросетях.
У природы больше нет монополии на разум.
Гонка нейросетей
Сейчас идет гонка нейросетей. В мире есть как минимум с десяток развивающихся независимо друг от друга нейросетей, которые находятся в авангарде, на передовой ИИ. Почти все они нацелены на одну и ту же задачу – общение. Упрощенно говоря, это такие универсальные чатботы. Среди них четыре китайские нейросети – BaGuaLu, Wudao, PanGu Alpha и M6.
Еще несколько недель назад считалось, что Wudao – самая передовая нейросеть в мире. Более того, Wudao одна из первых стала по-настоящему универсальной нейросетью. Это означает, что она способна не только общаться, но и решать другие задачи – например, по словесному описанию создавать неотличимые от реальных фотографии и даже моделировать протеины.
Таким образом, создаётся впечатление, что Китай впервые в истории человечества смыкает воедино универсальный разум BaGuaLu и возможность управлять 1.4 млрд людей через Паноптикум.
Значит, Николас Чайлен был прав? Китай победил?
Да.
Ну, почти…
У нейросетей есть несколько интересных особенностей.
Во-первых, нейросеть очень легко скопировать. По сути, это просто файл, в котором описаны структура сети (количество слоев нейронов и их взаимное расположение), а также натренированные веса синапсов между нейронами. По большому счету, нейросеть (как в каком-то смысле и мы сами) – это просто ряды чисел, которые показывают силу связи между любыми двумя нейронами). Т.е. BaGuaLu – это просто файл. Файл, который можно скопировать на флешку и унести с собой. Ну хорошо, на очень большую флешку.
Во-вторых, существуют нейросети, созданные энтузиастами (например, EleutherAI GPT-NeoX), которые распространяются в качестве Open Source: бесплатно, т.е. даром. Да, эти нейросети намного меньше, чем та же Wudao, не говоря уже о BaGuaLu (у GPT-NeoX 20 млрд синапсов, в то время как у BaGuaLu – 175 000 млрд синапсов), но по целому ряду характеристик эти нейросети близки к лидерам. Любой человек уже может использовать эти «натренированные» нейромодели в качестве основы и надстраивать к ним собственные дополнительные этажи интеллекта, затачивая их под конкретные задачи.
Более того, нейросети фактически стали трансформерами, конструкторами ЛЕГО, которые из существующих кусков может собрать любой продвинутый восьмиклассник. Все, что школьнику понадобится – вычислительные мощности, чтобы натренировать модели.
О чём это говорит? Нейросеть как таковая не даёт какого-то долгосрочного преимущества. Она легко копируется и любой прорыв в технологии фактически мгновенно становится всеобщим достоянием. Любой, у кого есть вычислительные мощности, может её воссоздать.
И мы плавно подошли к главному – вычислительным мощностям.
Иными словами - железу.
Уровень 3. Железо (чипы)
Чтобы нейросети работали, они должны располагаться на мощном, современном железе. Без железа, без основания пирамиды, нейросети, как и ИИ в целом, бессмысленны.
Железо для ИИ требуется разное, но самое главное - чипы. Почему? Чипы труднее всего сделать – это самое сложное изделие, которое когда-либо производилось человечеством. Чипы –настоящее бутылочное горлышко всей индустрии ИИ.
И вот здесь нас ждёт удивительное открытие.
Практически все ведущие китайские ИИ-приложения и нейросети работают на западных чипах, на западном железе. Как минимум 215 из 227 китайских суперкомпьютеров работают на процессорах Intel. Есть лишь одна знаменитая китайская нейросеть, натренированная на китайских чипах. И это – как раз та самая BaGuaLu (натренирована на суперкомпьютере Sunway, который использует китайские чипы SW26010). Но к BaGuaLu мы вернёмся чуть позже.
Импорт чипов – это самая большая статья импорта Китая, превосходящая даже нефть. Каждый год Китай закупает чипов на 150 млрд долларов.
Чтобы «слезть с чиповой зависимости», последние десять лет Китай отчаянно пытается создать собственные чипы. По разным оценкам, с 2014 года лишь государством напрямую в это были инвестированы 123 млрд долларов.
Что было достигнуто?
Посмотрев на голые цифры отчетов, мы увидим, что в 2021 году Китай занимал порядка 11% мирового рынка чипов (полупроводников). Однако, если мы всмотримся в эти цифры, мы увидим, что все китайские чипы производятся по устаревшим технологиям 28нм и выше. Это те чипы, которые в наши дни устанавливаются в стиральные машины, автомобили и пылесосы.
Да, в 2020 году китайской SMIC была произведена опытная партия 14nm на 70 млн долларов. Но после того, как в декабре 2020 года компания попала в «entity list» США, производство, судя по всему, пришлось свернуть.
Таким образом, на данный момент Китаю удалось наладить производство процессоров лишь по технологии 28нм, а это технологии 2011 года. Для ИИ они неприменимы, хотя в далеком 2016 году был прецедент, когда Гугл использовал технологию 28нм для создания ИИ процессора первого поколения (TSU). Но сейчас это уже каменный век.
Современные ИИ используют чипы как минимум 16нм.
Вы спросите, а как же тогда удалось создать BaGuaLu, самую большую нейросеть со 175 триллионами синапсами нейронов? Ведь тренировать такую гигантскую нейромодель на 28нм процессорах – это то же самое, что строить авианосец на угольном двигателе. И вот здесь на помощь приходит официальная статья команды разработки BaGuaLu. Оказывается, модель ещё не натренирована. Фактически новость состояла в том, что, по оценке команды разработчиков, тренировка такой модели стала возможной. Хайп.
На сегодняшний день в производстве чипов Китай отстаёт на четыре, или даже пять поколений. Собственных чипов, пригодных для ИИ, у Китая нет.
Таким образом, если на вершине и в середине пирамиды ИИ Китай занимает ведущие позиции (Паноптикон, Wudao), то в основании пирамиды Китай отстает. И отстаёт намного. Сейчас китайский ИИ – колосс на глиняных ногах.
Так почему Китай так отстал, и, главное, сможет ли он наверстать?
Садовник против леса
Китай отстаёт по той же причине, по которой садовник никогда не сможет вырастить дикий лес.
Чтобы пояснить этот феномен, обратимся к личному опыту автора. В последние пять лет наша команда участвовала в запуске двух ИИ-стартапов. В Китае и в Австралии (на условном «Западе»). «Китайский» стартап использовал компьютерное зрение (т.е. ИИ) для управления трафиком в торговых моллах, в то время как «западный» стартап использовал компьютерное зрение для управления медсестрами и медперсоналом в больницах и домах престарелых. Иными словами, обе системы использовали облачные ИИ-нейронные сети для распознавания изображений в целях управления поведением людей.
Что было дальше?
В случае с китайским стартапом дело застопорилось чуть ли не в самом начале, на этапе MVP, когда выяснилось, что даже для пробной установки системы в выбранном торговом центре потребуется не просто лицензия, а многоуровневое согласование с бесконечным множеством государственных органов, которые все в итоге упирались в государственную Alibaba Cloud, обладающую монополией на компьютерное зрение в публичных местах. Официально, система называется Smart City Brain. Де-факто – это часть Паноптикона.
В Австралии же государственное регулирование ИИ фактически отсутствовало. Менее чем за год работающая система была установлена в первом государственном госпитале, получена лицензия TGA (аналог американской FDA), и даже получена национальная награда. За четыре года государство фактически ничем не пыталось нам воспрепятствовать, и даже где-то помогало.
Стратегия садовника
Китай хорошо понимает, как ИИ меняет механизмы управления людьми – то, как люди получают информацию и принимают решения. Теперь не государство, а алгоритм решает, что вы увидите завтра утром в новостях. Алгоритм определяет, кто будет управлять людьми. Поняв это, Илон Маск купил Твиттер. Китай же всё понял уже давно, и поэтому с самого начала появления ИИ жестко его регулировал.
Китай создал так называемую «Великую ИИ-команду» (人工智能国家队) – для каждой области ИИ властями была выбрана компания, которая «ответственна» за неё. Например, за беспилотники отвечает Baidu, за Панаптикон – Alibaba, за медицину – Tencent. Всего таких «ИИ-чемпионов» пятнадцать.
В сфере ИИ Китай похож на садовника - он решает, что будет расти в его саду, а что следует прополоть. И затем щедро поливает финансированием, окучивает и защищает от вредителей. Подобная стратегия позволяет быстро достичь впечатляющих результатов – быстро вырастить дерево (Wudao, M6), собрать большой урожай (Wechat, Паноптикон).
На Западе же ИИ – это дикий лес. Все растёт как сорняк. Большинство ростков отмирает и высыхает, так и не пробившись к свету. Но то, что доказывает свою работоспособность, выживает, получает финансирование от частного капитала и затем покупается большими игроками. Теория Дарвина в действии.
Стратегия садовника позволила Китаю добиться колоссальных успехов на вершине пирамиды – в приложениях и нейросетях. Там, где нужно решить кого прополоть, а кого полить, удобрить и оставить жить, рождаются такие гиганты, как Wudao, Alibaba и многие другие. Но почему этот садовник пока не смог ничего создать в основании пирамиды – в железе, в чипах?
Стратегия дикого леса
Мы привыкли воспринимать дикий лес как нечто простое и само собой разумеющееся. Но на самом деле, дикий лес – это переплетение бесчисленных взаимосвязей и зависимостей. Грибам нужны бактерии. Дубу нужны грибы, чтобы перерабатывать органику. Белке нужен дубовый желудь. Дубу же белка нужна, чтобы она, где-нибудь закопав желудь, забыла о нём, тем самым дав жизнь новому дубу. Таких взаимозависимостей в диком лесу мириады, и ни один садовник, как бы он ни хотел, не смог бы их воссоздать.
Садовнику не по силам создать дикий лес.
Что такое чипы?
Современные чипы – это одно из самых сложных устройств, созданных человечеством. Фабрика по производству чипов по своей сложности сравнима с адронным коллайдером и термоядерным токамаком, если не превосходит их. Стоимость одной современной фабрики по производству чипов достигла 10 млрд долларов.
Создание чипа – это производство с более чем 700 процессами, которое занимает три месяца. Оборудование состоит из более чем 300 видов устройств, каждое из которых стоит миллионы долларов за штуку. Некоторые устройства стоят более 100 миллионов долларов за штуку. Каждое из этих устройств производится сторонними компаниями и каждое развивается по собственной эволюционной логике, зачастую тесно переплетенной с эволюцией других вовлеченных технологий. И каждая из этих компаний зависит ещё от тысяч промежуточных поставщиков и производителей, каждая из которых – тоже сложная система.
И все это постоянно эволюционирует. Перемешивается. Становится сложнее. Бурлит, словно суп на плите.
Помимо этого, уменьшение размера кратно увеличивает сложность и стоимость таких систем – на масштабах менее 7нм уже нужно учитывать квантовые эффекты. С каждым шагом количество и сложность вовлеченных технологий и поставщиков увеличивается кратно. Например, если разработка одного чипа на 28нм стоила всего пятьдесят миллионов долларов, то разработка одного чипа в 3нм стоит миллиард.
Производство чипов – это сложнейшая экосистема. Эта не сад. Это дикий лес. И садовник не может воссоздать его, сколько бы он его ни удобрял и не поливал.
Чтобы вырастить дикий лес или создать чипы, нужно отпустить природу на самотек. А это то, чего Китай себе позволить не может.
Это одна из тех битв, исход которых предрешен ещё до начала.
Подпишитесь на телеграмм канал: https://t.me/wtopchiev.
Автор титульной иллюстрации: Rimma_arty
Комментарии (66)
mstaoru
27.06.2022 06:39+17Тут надо понимать, что все эти китайские новости - это продукт Century of Humiliation + 面子. В большинстве своем, это или прямая ложь, или преувеличение, или показательное энергичное биение себя в грудь. Какие-то технологии удалось своровать, какие-то купить, криво-косо состряпать что-то похожее, а дальше как в СССР: рабочий начальнику говорит "вот я тут что-то сделал, оно нифига не работает, но мы будем дальше ковырять", начальник своему начальнику: "мои доблестные рабочие почти все сделали!", начальник большому боссу: "через неделю все будет готово!", большой босс - секретарю партии: "г-н секретарь, мы на пороге колоссального прорыва, надеемся на адекватное финансирование", секретарь - Си Цинпину: "г-н Си, Владыка Семи Морей, о Великий Государь, наш ИИ уже готов, Америка повержена не сегодня так завтра!" Во всем так. Source: 14 лет в Китае.
WTopchiev Автор
27.06.2022 07:36-1А может быть где-нибудь в какой-нибудь тартарары развивается тихо-спокойно китайский 1нм, а мы о нём не знаем?
spqr_voldi
27.06.2022 08:51+3Нет. Если речь не о подковании блохи, то это потребует массы экспериментов, массы новых исследований, производства на слегка более грубом процессе (для отладки технологий) и т.д.
teecat
29.06.2022 09:34А потом оно все входит в книги, где рассатривается как достоверное знание. Читаю книги по истории Китая и глаза цепляются за факты, касающиеся технологий, достоверность которых можно оценить — бомба (ручная граната на медленно горящем пороже) выжигала все живое в круге в 100 метров длиной, ракета в воздуха точно бомбила суббоеприпасами войска противников, сбросив боеприпас ракета поджигала второй двигатель и возвращалась в точку запуска, многозарядные пусковые установки (на самом деле возможно и были, но вот англичане, которые тоже пытались их делать — плевались — и это на уровне 18го века). И тд и тп
Paskin
27.06.2022 08:21+2Китайцы активно скупают технологии и "мозги" за рубежом, причем сознавая сложность перевоза их в Китай - часто открывают целые компании на месте ради одного-двух исследователей. И когда вы слышите, что какая-то никому не известная ACME Ltd, имеющая сайт-пустышку - выигрывает соревнования Kaggle, это скорее всего просто один из отделов Tencent или Alibaba. Из этого, кстати, часто следует проблема - китайцы получают результаты "что делать", но не получают знаний "как" эти результаты были получены.
gxcreator
27.06.2022 09:31+8китайцы получают результаты "что делать", но не получают знаний "как" эти результаты были получены
Иронично в контексте нейросетей.
Paskin
27.06.2022 10:12Тут ирония в квадрате - не участвуя в разработке архитектуры сетей, трудно понять не только как сеть пришла к определенному выводу - но и почему в данном месте применен слой X, а не Y.
MAXH0
27.06.2022 09:12+22Очень неоднозначная статья. Идеология приправленная интерпретациями из известного настоящего в неопределенное будущее. Идеологии столько, что изначально мне показалось, что это перевод американской статьи.
По идеологии. Китайская система социального рейтинга объявляется Паноптиконом. В качестве иллюстрации приводится кубинский Паноптикон, но забывают сказать, что построил его диктор Херардо Мачадо по образу американской тюрьмы «Джолиет» в штате Иллинойс. Сидел там Фидель, он же и прекратил деятельность тюрьмы, объявив её музеем. С Паноптиконом чаще сравнивают Гугл с Фейсбуком, а не китайскую систему социального рейтинга (хотя корни, конечно, едины)...
По интерпретациям. Ни для кого не секрет, что современная высокотехнологичная разработка чипов сверхмонополизирована. Я очень сомневаюсь что внутри корпораций царят рыночные, а не плановые отношения. Веру "в невидимую руку рынка", которая сеет лес производящий чипы, стоит оставит на совести фантазии автора статьи и тоже отнести к идеологии. Что касается нейросетей, то тут возможны самые разнообразные прорывы, хотя бы потому, что квантовые компьютеры уже хорошо работают с нейросетями. Кто сделает этот прорыв решит великий рандом!
WTopchiev Автор
27.06.2022 09:20-4Автор пишет спекулятивную научную фантастику. Возможно, это повлияло на формат статьи.
LeToan
27.06.2022 11:03+4Экий у вас кадавр получился. Speculative fiction, аглоязычный термин, который означает просто фантастику (как жанр) в противовес научной sci fiction. Какой-то любитель подстрочника в свое время перевел его как спекулятивная фантастика и ввел в оборот. А что ваша спекулятивная научная фантастика означает?
cepera_ang
27.06.2022 13:06+3Торгуется на бирже научной фантастики :)
janvarev
27.06.2022 14:54Я бы зашортил этого автора :) но вообще жду адекватной аналитики, кого покупать!
WTopchiev Автор
27.06.2022 13:41Любимый жанр: смесь триллера и scifi. Под "спекулятивной" имеется в виду, что она не обязательно должна быть научно доказанной, но в тоже время не должна быть и откровенно лже-научной.
Ну а на бумаге это может выглядеть, например, следующим образом: в ДНК каждого организма на этой планете есть тайное Послание. Тайная группа, которой фактически принадлежит власть на планете, знает о Послании и охотится за ним (Охотники). Появляется компьютерный вирус Зоя, собирающий мобильные телефоны в единый суперкомпьютер, чтобы расшифровать Послание. Чтобы найти создателя Зои, Охотники нанимают спекулянта и торговца идеями Грега. Чтобы его замотивировать, они похищают его дочь. У Грега три дня, чтобы её спасти.
Ну вот примерно так. Спекулятивная научная фантастика.
WTopchiev Автор
27.06.2022 13:48Просто научная фантастика очень плохо продается. А сделай из неё триллер - и вот, совсем другой жанр.
Sunrise55
27.06.2022 09:27+4Гугл с Фейсбуком не корректно сравнивать с тюрьмой, так как ими можно просто не пользоваться и полностью исключить их присутствие в своей жизни. А вот как среднему китайцу (или лучше уйгуру) перестать "пользоваться" китайскими системами слежки - этого я не знаю.
MAXH0
27.06.2022 09:39+2Не пользоваться Гуглом легко в бункере в глухой сибирской тайге, а вот в реальной жизни - не очень получается.
Kasyan666
27.06.2022 10:30+2Я не пользуюсь. Живу в Москве и прекрасно себя чувствую.
Firefox, Android без GApps, self-hosted почта, Yandex+DuckDuckGo (да, знаю, но там непрозрачная абстракция заложена)+Bing.
MAXH0
27.06.2022 10:49Инструкция "Как вырастить бункер из глухой сибирской тайги на участке в 6 соток в Московской области"... Безусловно я рад, что такие энтузиасты существуют. Было бы таких подвижников хотя бы 5% уже можно было говорить о здоровой тенденции. Пока же вы просто выделяетесь на общем фоне как человек "которому есть что скрывать".
ardraeiss
27.06.2022 19:38+1И как только Вы ползуетесь DuckDuckGo - Вы таки пользуетесь гуглом. Точнее, Утка пользуется, конечно, но тем не менее - он где-то там в процессе присутствует. То, что Вы его старательно минимизировали(судя по списку - без шуток достаточно основательно и серьёзно), увы, не убрало его полностью. Ну и бегали где-то новости как Утка сливает данные поиска всё тому же гуглу.
MAXH0
27.06.2022 19:54+2У меня есть подозрение что DuckDuckGo это сервис для удовлетворения спроса на анонимный поиск, а не настоящий анонимный поиск.
CrashLogger
28.06.2022 08:14+1Вы пользуетесь Яндексом - это то же самое, только чуть поменьше. Вing - это Microsoft, еще одна транснациональная корпорация с претензиями на мировое господство и тотальную слежку. А Windows вы пользуетесь ? Сомневаюсь, что вы знаете, чем занимаются сотни ее фоновых процессов и что они передают по сети.
garwall
27.06.2022 16:23+1это явно какой-то перевод, или компиляция из оных. "Джереми Бетхема" по-русски иначе как "Иеремия Бентам" не зовут, например.
Sergio73
27.06.2022 09:28Ну да, ну да... "Свободный запад свободно занимается продвижением свободы для свободных людей".
Кто сказал "санкции"? Это свободный рынок, не надо тут пропаганду разводить!Gizmich
27.06.2022 09:48Существуют правила. За нарушение существуют наказания, а как еще подавлять желание, отдельных людей, убивать ?
WTopchiev Автор
27.06.2022 10:20+1А никто и не говорит, что это неправильно. В Паноптиконе есть много разумного и рационального.
MAXH0
27.06.2022 12:19Правила существуют для всех? Не уверен... Больше похоже на ситуацию, когда одни должны писать правила, а другие - по этим правилам жить...
Gizmich
27.06.2022 12:24+2Друзьям все, врагам закон, главное правило русской политики ))
MAXH0
27.06.2022 12:34Москва, конечно, Третий Рим. Но судя по происхождению цитаты - это универсальный принцип.
Gizmich
27.06.2022 13:21Ну в написании уголовного кодекса я тоже не принимал участия, однако соблюдаю, у депутатов же есть неприкосновенность, так что это тоже обычная практика, и это не значит что правила плохие и можно их нарушать
yoz
27.06.2022 09:34+3Не особо важно, на каком железе запускать софт. Хоть на 65nm. Просто для достижения той же вычислительной мощности нужно будет 4*n энергии и площади здания. Китай, при желании, вполне сможет себе это позволить.
uvic
27.06.2022 10:12+3Не очень-то. 64 одноядерных процессоров разведенных на плате никогда не обеспечат той скорости обмена, какая есть у 64 процессоров напечатанных на одном кристалле.
И той-же надежности.
Так что для каждого техпроцесса есть предел, какой мощности суперкомпьютер на нем можно построить.
Jury_78
27.06.2022 09:48Как я понял, автор уповает на свободу творчества... Это есть и в тоталитарном государстве, правда про такого творца может никто и не знать. Буть он в западном мире про него тоже могут не знать если на нем нельзя заработать.
WTopchiev Автор
27.06.2022 10:13Ну, в принципе, да...
Jury_78
27.06.2022 10:47+2По большому счету... "западный дикий лес" это не настоящий дикий лес. Если в Китае один "садовник", то на западе возможно их просто больше, но помельче, да и про государственного "садовника" тоже не стоит забывать (последнее время он активно "огородничает").
kasyachitche
27.06.2022 10:51+2Чтобы вырастить дикий лес или создать чипы, нужно отпустить природу на самотек. А это то, чего Китай себе позволить не может.
Странно такое слышать на фоне успехов Китая по созданию своей полупроводниковой промышленности. Тот факт, что на Западе эта промышленность развивалась десятилетиями и на текущий момент определила Китай всего лишь на 10 лет как-то не учитывается.
Да и в целом сравнение завода по производству чипов с диким лесом очееееень спорное. Скорее уж наоборот, завод - огромный сад, где каждая травинка откалибрована и строго на своем месте, а не случайно появилась и пригодилась.
WTopchiev Автор
27.06.2022 12:57+1Успехи Китая никто не отрицает. Но один из выводов этой статьи как раз в том и состоит, что в полупроводниковой области Китаю либо придется менять свой подход, либо довольствоваться положением вечно догоняющего, на 4-5 поколений позади.
iBuilder
29.06.2022 19:16+1Так тут скоро поколения закончатся, гонка современной электроники остановится и догонят. А в квантовых технологиях, которая может быть прорывом - Китай сейчас лидер во многих областях, видимо про это они подумали заранее и давно стали финансировать активно.
qw1
29.06.2022 21:25Практика показывает, что Китай не умеет делать прорывы.
Только копировать. Что в космосе, что в новых архитектурах ИНС.
Но, если он вовремя заметит прорыв и начнёт им усиленно заниматься, он может остаться на первом месте.
phenik
27.06.2022 12:14+2Массовое применение нейросетевых решений в перспективе вероятно будет связано с нейроморфными технологиями, возможно в комбинации с квантовыми для специальных задач. По возможностям нейроморфные технологии ближе к биологическим прототипам, способу обучения, более энергоэффективны из-за импульсного режима работы. Текущее состояние с глубоким обучением на спец. железе сравнимо по потреблению энергии только с майнингом, и доступно больше крупным игрокам. ИНС тянут скорее на экспериментальный этап изучения их возможностей, поиск решений, архитектур, приложений. Кто заложится на нейроморфные технологии и найдет соотв. решения сейчас возможно выиграют гонку за массовое применение систем ИИ на всех уровня, в особенности встроенного, в будущем.
v1000
28.06.2022 08:46А настолько эти технологии будут перспективны в плане адаптации под задачи? Или это похоже на ЦПУ и ГПУ, когда второй быстрее, но требует узкоспециализированных программ. Зато ЦПУ более функциональны, хотя и медленнее.
iBuilder
29.06.2022 19:20"био" - я тоже думаю что будущее в комбинировании "кремния и био", но "био" - это всё-же ещё далекое будущее, в ближайшие десятилетия скорее всего массово не будет, если не будет внезапного прорыва - футорологи лет через 30-50 прогнозируют.
CoffinNail
27.06.2022 13:45+2Нет сейчас никакого ИИ, что Вы путаете понятия? ИИ - это полноценная автономная машина, способная к самостоятельной жизнедеятельности во всех аспектах выживания и развития. А нейросети - это просто "распознавалка", без человека она покроется пылью.
inakrin
27.06.2022 16:34+1Есть ли хоть одна нейросеть, которой я после пространнго диалога о самоосознании и смысле жизни в стиле LaMDA могу объяснить правила шахмат в рамках этого же диалога (ну или крестиков-ноликов для начала) и которая сыграет со мной после на уровне школьника, осознающего, что он делает?
CoffinNail
27.06.2022 16:48+1Если ты не понимаешь категорического объяснения феномена самоосознания, откуда его узнает машина, изготовленная тобой? Само оно не появится, а ведь именно на это все рассчитывают, что вспыхнет само подобно природе. Но нет и еще раз нет, и было это уже не раз, и не два, и безуспешно, потому что оно совершенно непонятно. Насколько я помню, японцы пытались применить одну из схем нейрокогнитрона к некоему блоку мышления - сведений об успехе не было, сами они писали, что не сработало.
WTopchiev Автор
28.06.2022 09:01Так в том то и дело, что теперь есть. Нейросети-трансформеры (как та же Wudao) могут просто подключить модуль с шахматами, и всё.
Да и потом, ведь для тренировки нейросетей уже давно используются другие, зеркальные нейросеть. Ничего не запрещает нейросети в качествп зеркального оппонент использовать вас.
Шах и мат...
inakrin
28.06.2022 09:32+1О, нет, нейросеть, которая подключает претренированную другую нейросеть для игры в шахматы, может будет и выглядеть со стороны как достижение того же результата. Но это сосем не то, что я имею в виду. Я имею в виду, что когда нейросеть, сможет, разговаривая со мной научиться играть в произвольную игру, может быть даже игру, которую я только что сам придумал, тогда я и признаю, что шаг к реальному интеллекту и сознанию сделан.
cepera_ang
28.06.2022 10:00+1Prompt engineering сейчас так и работает. К этим гигантским сетям, типа GPT-3 оказалось возможным учить нейронку новым вещам благодаря правильной подводке. Насчёт «объяснить игру в шахматы» не скажу, но многие вещи сети начинают делать после объяснения способа в запросе.
CoffinNail
28.06.2022 15:35+1Ну, а толку-то? Зачем мне машина, которая повторяет меня? Мне ж нужна такая, что смогет сама жить, но чтоб я понял как это происходит, чтоб сделать еще круче, чтоб изменить себя, чтоб обрести бессмертность и всякое такое. Мне нужен с неё практический выхлоп. А производственные вопросы гораздо проще решаются инженером традиционно - расчетами. Те же роботы, что варят кузова на заводе, ведь решено предельно просто - действия сварщика записаны на кассету, потом ставят "play" на конвейере.
CrashLogger
28.06.2022 08:25+2Производство полупроводников - это как раз та отрасль, где царят монополии. Все топовые мировые компании можно пересчитать по пальцам одной руки и новички их уже никогда не догонят. С другой стороны, нейросети не обязательно должны работать на 5нм чипах. Просто нужно больше электричества, больше места, мощнее охлаждение. Китайские госкорпорации как раз могут себе это позволить, им не нужно конкурировать на свободном рынке, борясь за максимальную эффективность. Партия скажет "надо", выделит пару миллиардов юаней и вперед.
WTopchiev Автор
28.06.2022 09:03+1Ну это как раз пример с авианосцем на угольной тяге. Это временное и очень уязвимое решение.
qw1
28.06.2022 10:12+2можно пересчитать по пальцам одной руки и новички их уже никогда не догонят
Через 50-100 лет список компаний-мировых лидеров хай-тека полностью поменяется. Условныe Kodak и Fujifilm были недостижимыми лидерами в области фотосъёмки, а когда пришли цифровые фотоаппараты, быстро слились.WTopchiev Автор
28.06.2022 10:35Тут я не большой специалист, но мне кажется, Кодак и прочие были лидерами не из-за технологии, а из-за рыночной силы и бренда. В чипах ключевое - технологии.
Но то, что все может в десятилетие поменяться, согласен.
cepera_ang
28.06.2022 11:20+2В фотографии тоже были технологии ключевыми. Только химические технологии, а не полупроводниковые.
WTopchiev Автор
28.06.2022 11:59Сергей, а вы случайно ещё не на Барахолке Идей? Если нет, присоединяйтесь. Мне кажется, там будет интересно много вещей обсудить:
Барахолка идей
https://t.me/wtopchiev
uvic
28.06.2022 10:13+3Все несколько топовых мировых фабрик - это великие интеграторы более 300 видов оборудования ( многие из которых - вершина технологий человечества ). И столько же химических ингредиентов ( многие из которых - вершина химии по чистоте и стабильности ). Интеграторы, которые мастерски умеют пользоваться этим в комплексе ( что то-же безумно сложно ).
Производитель каждой из этих позиций ( например ASML в случае сканера ) - великий интегратор сотен и сотен комплектующих ( многие из которых - вершина некой технологии ) разных производителей. Интегратор который умеет проектировать, собирать, настраивать и поддерживать работу этого оборудования ( что то-же безумно сложно ).
И т.д. Получается многоуровневое дерево...
И если в каком-то узле этого дерева возникает монополист ( который не развивается, а тупо стрижет бабки за счет монопольного положения ), развитие на вершине останавливается. Т.к. возможности миниатюризации тех. процесса определяются самым слабым звеном в его производственной цепочке.
Административно можно собрать кучу гениев в одном месте, озадачить их созданием наикрутейшей нейросети. Засыпать бабками и пригрозить расстрелом. На это административная система способна.
А вот обеспечить развитие "дерева" технологий для производства чипов ( множество производителей, территориально разбросанных, c cобственными стратегиями развития ) так что-бы ни в каком узле не возникло монополии или застоя развития - не подъемная для административной системы задача.
========
Ну и во вторых. Чем грубее тех.процесс, тем большим числом чипов придется набрать нужную вычислительную мощность. Тем больше нужно между чиповых соединений ( грубо квадрат от числа чипов ) или тем больше задержки адресации и передачи в случае соединения их какими-нибудь общими шинами. Ну и каждый чип со своим разъемом и питанием - это потенциальная точка отказа. И каждый коннект между ними - потенциальная точка отказа.
Достаточно быстро достигается предел для данного тех.процесса - когда не хватает интерконнекта и система задыхается на обмене данными или время безотказной работы всего компьютера резко снижается.
Нельзя сделать суперкомпьютер из 10 жд.составов калькуляторов ;)))
WTopchiev Автор
28.06.2022 10:38Полностью согласен.
И про калькуляторы тоже.
И, думаю, мы скоро увидим этому подтверждение.
cepera_ang
Довольно сумбурно и во многом голословно, а где-то и вовсе странные утверждения. «Нейросети используют чипы минимум 10нм, а лучше 7» — самые массовые ускорители для нейросетей это Tesla V100 и TPUv3 — 12нм и 16нм соответственно. И нейросети ничего не используют, они запускаются на том, на чём их запускают создатели.
Китайцы делают много громких анонсов с одной стороны, но гигантскими сетями успех ИИ не органичивается. С другой стороны, они делают много реальной работы в области. Кто «победит» вообще непонятно, как непонятно должен ли кто-то в итоге победить или всё обойдётся без борьбы, а будет продолжаться идущее сотрудничество.
WTopchiev Автор
Про TPUv3 согласен. Я сам долго думал, как это написать, не перегружая текст. Конечно, 16нм можно использовать, но это же экономически неэффективно - там производительность на Квт в разы меньше, чем на 7нм. В разы дороже получается. Их ведь, в каком-то смысле, все ещё используют потому, что они уже построены и "выбрасывать жалко".