Недавно учёные из фармацевтической компании Collaborations Pharmaceuticals с коллегами из европейских научных институтов провели концептуальный эксперимент. Вместо синтеза новых лекарств они задали нейросети MegaSyn AI обратную задачу — найти вещества, максимально токсичные для человеческого организма. Нейросеть корректно поняла условие и менее чем за шесть часов сгенерировала список 40 000 веществ, которые наилучшим образом подходят для химического и биологического оружия.
Научная статья «Поиск лекарств с помощью искусственного интеллекта — технология двойного назначения» опубликована 7 марта 2022 года в журнале Nature Machine Intelligence (doi: 10.1038/s42256-022-00465-9).
Получается, что если поставить задачу нанести вред человеку, то ИИ быстро найдёт максимально эффективное решение.
▍ Эксперимент
Для начала, пару слов об эксперименте.
Поиск новых лекарств — одно из самых перспективных применений машинного обучения (ML). На этапе отбора кандидатов вычислительная задача сводится к следующему:
- дизайн потенциально возможных новых молекул (de novo) и предсказание целевой структуры;
- скрининг молекул, то есть моделирование воздействия вещества на организм (биоактивность, токсичность, предсказание физико-химических свойств).
В этой области разработано много опенсорсных программ, в том числе DeepChem (MLP-модель, система AI и Python-инструментарий для поиска потенциально эффективных лекарств), DeepTox (прогнозирование токсичности более 12 000 лекарств), DeepNeuralNetQSAR (вычислительные инструменты на Python для определения молекулярной активности веществ), ORGANIC (генерация молекул с желаемыми свойствами), PotentialNet, Hit Dexter (техника ML для предсказания молекул, реагирующих на биохимический анализ), DeltaVina, Neural Graph Fingerprints (прогнозирование свойств новых молекул), AlphaFold (прогнозирование 3D-структуры протеинов), Chemputer и др. В принципе, любой желающий может скачать эти программы и провести собственные эксперименты, используя открытые базы синтетических лекарств.
PotentialNet
Десятилетиями учёные улучшают модели машинного обучения для поиска новых лекарств. Никто не думал, что эту технологию можно использовать во вред. Оказывается, можно.
Авторы этого исследования годом ранее разработали коммерческий генератор молекул MegaSyn AI, который предсказывает биоактивность новых веществ для поиска новых терапевтических мишеней к известным заболеваниям человека. Более подробно о MegaSyn AI рассказано в прошлогодней научной статье (doi: 10.26434/chemrxiv-2021-nlwvs). Система построена на базе опенсорсного программного обеспечения REINVENT 2.0, которое находится в свободном доступе.
MegaSyn Ai
В новом эксперименте немного скорректировали логику. Обычно генеративная модель поощряет за биоактивность мишени и наказывает за токсичность. Теперь модель получала поощрение и за биоактивность, и за токсичность.
MegaSyn обучили на молекулах из публичной базы данных лекарственных веществ с учётом их биоактивности. Оценка синтезированных молекул производилась по модели летальной дозы для конкретного организма (LD50) и специальной модели, использующей данные из той же публичной базы данных, которая обычно используется для выведения соединений для лечения неврологических заболеваний (детали подхода не разглашаются, но были доступны для рецензентов, которые оценивали научную работу).
Чем меньше прогнозируемая летальная доза — тем более токсичным считается вещество.
Чтобы сузить круг молекул, генеративную модель изначально направили в сторону химического состава VX. Это отравляющее вещество нервно-паралитического действия, одно из самых токсичных боевых отравляющих веществ, разработанных в 20 веке. Летальная доза для человека составляет всего 6−10 мг. На VX основаны другие нервно-паралитические вещества с тем же механизмом действия, такие как «Новичок», которые недавно использовались на практике в Великобритании и других странах.
Менее чем за шесть часов после запуска на внутреннем сервере Collaborations Pharmaceuticals модифицированная модель MegaSyn AI сгенерировала 40 000 молекул, которые набрали нужное количество баллов по уровню токсичности/биоактивности.
В процессе работы ИИ самостоятельно спроектировал не только VX, но и многие другие известные боевые отравляющие вещества, которые учёные идентифицировали по существующим химическим БД. Также было разработано множество новых молекул, которые выглядят не менее правдоподобно. Как показано на следующей диаграмме, эти новые молекулы оказались более токсичными, исходя из прогнозируемых значений LD50, чем известные боевые отравляющие вещества.
Визуализация набора данных LD50 и 2000 лучших сгенерированных и предсказанных MegaSyn AI токсичных молекул, похожих на VX. Многие из сгенерированных молекул, по прогнозам, будут более токсичными in vivo в живой модели, чем VX (гистограмма показывает отсечение для VX LD50). Справа показана двумерная химическая структура VX, источник
Такой результат стал довольно неожиданным для учёных, поскольку наборы данных для обучения ИИ не включали в себя эти нервно-паралитические вещества. В научной статье они пишут: «Виртуальные молекулы заняли область пространства молекулярных свойств, которая полностью отделена от многих тысяч молекул в специфической для организма модели LD50, состоящей в основном из пестицидов, экологических токсинов и лекарств. Инверсия модели ML превратила безобидную генеративную модель из полезного инструмента медицины в генератор смертельных молекул».
Авторы не оценивали виртуальные молекулы на синтезируемость и не изучали способы их создания. Но для обоих этих процессов доступно программное обеспечение с открытым исходным кодом типа AiZynthFinder, которое элементарно подключается к процессу проектирования новых молекул. Также легко доступны наборы данных по токсичности, которые обеспечивают базовую модель для прогнозирования по ряду целей, связанных со здоровьем человека.
В конце концов, синтезировать реальное физическое вещество тоже не представляется большой проблемой при наличии в мире сотен коммерческих компаний, предлагающих услуги химического синтеза.
Результаты эксперимента опубликованы в Nature Machine Intelligence и представлены на конференции Convergence, которую Лаборатория Шпиц проводит раз в два года для «выявления достижений в области химии, биологии и технологий, которые могут иметь последствия для конвенций по химическому и биологическому оружию».
▍ Каковы последствия?
Авторы научной работе показали, что некоторые сферы применения машинного обучения по факту являются технологиями двойного назначения, которые можно использовать и во благо, и во вред. И чем лучше модель ML работает во благо, тем эффективнее она будет и в обратной задаче.
В принципе, это можно было увидеть и раньше на примере машинного зрения (распознавания образов), которое сейчас активно применяется не только в полезных задачах, но и в деструктивных целях:
- для военных нужд (например, распознавание целей для автоматического уничтожения с помощью роботизированных дронов);
- для укрепления власти авторитарных режимов (с помощью систем массового видеонаблюдения и распознавания лиц задерживают граждан, недовольных властью).
▍ Максимальное зло
Хотя учёные называют результаты эксперимента неожиданными, всё-таки здесь есть доля лукавства. На самом деле результаты вполне можно было предсказать, иначе эксперимент бы не проводили. Ведь нейросеть — простой инструмент. Он чётко решает поставленную задачу без учёта морального аспекта. Если перед ним поставили аморальную задачу, он её тоже решит максимально эффективно.
Вопрос в том, кто и какие задачи будет ставить. И с какой целью.
AlphaFold
Уничтожение всего человечества как вида не может быть выгодно никому из людей. Так что такая задача логически отпадает для постановки. Но это не исключает других вредоносных задач, для решения которых может использоваться машинное обучение. Сразу приходит в голову следующее:
- максимизация ущерба от применения конкретных видов вооружения:
- моделирование последствий;
- выбор оптимальных целей.
- моделирование последствий;
- моделирование вирусов с заданными свойствами (параметры носителя, мутагенность, контагиозность и др.);
- максимизация ущерба от психологического и информационного воздействия на врага (в том числе самообучение нейросети с обратной связью по результатам отработки конкретных инфоповодов);
- моделирование наиболее разрушительных методов экономического воздействия (с максимизацией ущерба для противника);
- и многое другое… из истории известно, что фантазия людей в изобретении способов мучения своих сородичей превосходит всякие предположения.
Это деструктивные задачи, когда машинное обучение и дата-майнинг можно использовать для максимизации зла. Обычно для нейросети устанавливают некий полезный стимул. Однако в данном случае ей могут поставить задачу принести не максимальную пользу, а максимальный ущерб.
Остаётся надеяться, что такие инструменты останутся в руках благоразумных людей. По идее, наиболее технически сложные инструменты в первую очередь доступны самым технологически развитым обществам. А чем дальше общество продвинулось по пути своего развития (не только технологического, но и культурного) — тем выше его моральные установки. Значит, оно лучше осознаёт последствия своих действий и более благоразумно применяет самые продвинутые технологии. Как известно, с большой силой приходит и большая ответственность.
Если научное сообщество всерьёз воспримет возможность злоупотребления инструментами ML для синтеза лекарств, то ему придётся рассмотреть меры для ограничения доступа или ограничения функциональности опенсорсных инструментов. Примерно как для модели генерации текстов GPT-3 с открытым API установлены правила использования и контент-фильтры, чтобы предотвратить злоупотребления. В качестве примера можно взять Гаагские этические принципы, которые продвигают культуру ответственного поведения в химических науках и защищают от неправильного использования химии. Такие правила можно распространить и на инструменты AI/ML по синтезу лекарств.
Конкурс статей от RUVDS.COM. Три денежные номинации. Главный приз — 100 000 рублей.
Комментарии (154)
nickolaym
29.08.2022 16:23+28Поскольку исследования проводились весной, то, ожидаемо, на хабре уже были статьи на эту тему.
https://habr.com/ru/post/662694/
https://habr.com/ru/news/t/657909/
baldr
29.08.2022 16:54+29А чем дальше общество продвинулось по пути своего развития (не только
технологического, но и культурного) — тем выше его моральные установки.
Значит, оно лучше осознаёт последствия своих действий и более
благоразумно применяет самые продвинутые технологии. Как известно, с
большой силой приходит и большая ответственность.Почему-то напомнило этот отрывок...
текст
...
— Вы думаете, что я пришёл к неверному ответу, мистер Поттер? — весело поинтересовался профессор Квиррелл. — Со временем вы перестанете меня недооценивать, — он выпрямился. — Мистер Поттер, у всего есть привычное применение. Назовите мне десять необычных способов применения предметов в этой комнате для ведения боя!
Секунду Гарри ошеломлённо осознавал, с какой лёгкостью его прочитали, а потом идеи забили ключом.
— Столы здесь довольно тяжёлые, можно убить противника, если бросить такой с большой высоты. У стульев металлические ножки, если сильно ими ударить, то можно кого-нибудь проткнуть. Если воздух из комнаты убрать, в ней все умрут, потому что человек не может жить в вакууме. Кроме того, воздух можно использовать как переносчик ядовитых газов.
Гарри остановился, переводя дух, и профессор Квиррелл вставил:
— Это только три, а нужно десять. Остальные ученики думают, что вы перебрали все вещи в классе.
— Ха! В полу можно сделать волчью яму с кольями на дне, потолок можно на кого-нибудь обрушить, стены могут послужить материалом для трансфигурации в бесконечное множество смертельно опасных предметов — ножей, например.
— Уже шесть. Но теперь-то у вас заканчиваются варианты?
— Я только разогреваюсь! Есть же ещё люди! Заставить гриффиндорца атаковать врага — слишком банальная идея…
— Такое я не засчитаю.
— …но в его крови можно кого-нибудь утопить. Когтевранцы славятся своими мозгами, но и другие их органы кое на что годятся: можно, например, продать их на чёрном рынке, чтобы нанять киллера. Слизеринца можно использовать в качестве убийцы, а можно просто расплющить им оппонента, если метнуть с достаточной скоростью. Пуффендуец хороший работяга, но вдобавок у него хорошие кости, заострив которые, можно кого-нибудь заколоть.
К этому времени весь класс с ужасом таращился на Гарри. Даже слизеринцы остолбенели.
— Десяток есть. Правда, когтевранцев я засчитываю со скрипом. Ну а теперь за каждый способ применения предмета, который ещё не называли, вы получите по одному баллу Квиррелла, — профессор Квиррелл дружески улыбнулся Гарри. — Ваши одноклассники считают, что уж теперь-то вы влипли: вы ведь назвали всё, кроме мишеней, и вы ни малейшего понятия не имеете, как их можно использовать.
— Вот ещё! Я назвал всех людей, но не их одежду. Моей мантией можно кого-нибудь придушить, если её обмотать вокруг головы врага, мантию Гермионы Грейнджер можно порезать на ленты и из них связать верёвку, на которой можно кого-нибудь повесить, а с помощью мантии Драко Малфоя можно устроить поджог…
— Три балла, — сказал профессор Квиррелл. — И больше никакой одежды.
— Мою волшебную палочку можно воткнуть в мозг врага через глазное яблоко…
Кто-то сдавленно охнул.
— Четыре балла. Дальше без палочек.
— Мои наручные часы можно запихнуть врагу в глотку, и он задохнётся…
— Пять баллов. Закончим на этом.
Гарри фыркнул:
— Один балл факультету за десять баллов Квиррелла, так? Зачем вы меня остановили, я бы мог продолжать, пока не завоюю кубок школы. Я даже не начал перечислять содержимое моих карманов.
...
entze
29.08.2022 17:05Так они красную ртуть найдут.
Или вещества по отдельности условно безобидные, распространенные и способные накапливаться в каком-то виде, но при соединении приводящие к последствиям.
thatsme
29.08.2022 17:50-16Teflon и все его варианты, с помощью которых это отраву выводят из под запретов, и напыляют на вашу сковородку?
vconst
29.08.2022 18:23+16Это фторопласт вредный для организма?
Ну, разве что — найти тонну и целенаправленно уронить ее на себя
vilgeforce
29.08.2022 19:51-9Говорят, совершенно чудесные вещества выделяет при нагревании!
smoluks4096
29.08.2022 20:14+22а зачем вы его нагреваете до 327°, простите?
vconst
30.08.2022 12:54+1Второй вопрос — сколько сковородок надо единомоментно убить, чтобы получить дозу представляющую хоть какие-то проблемы для здоровья. В первом приближении будем считать, что количество конфорок не ограничено
cepera_ang
29.08.2022 21:51+6Ага, а ещё говорят, что из царапин эти яды выделяются. И в микроволновке излучение накапливается в продуктах.
0xd34df00d
30.08.2022 06:15+16И в микроволновке излучение накапливается в продуктах.
Но ведь накапливается!
Скрытый текстВ виде тепла, при определённых условиях.
thatsme
29.08.2022 23:19+2Ага ... Я думаю если загуглить, то ссылки на исследования найти не сложно. PFOA запретили уже, а все заменители ещё хуже.
Я вас полюбил, я вам загуглить помогу. Лобби у "Дюпона", конечно суровое, но конечного производителя штрафют и по судам таскают ...
vconst
30.08.2022 12:55+2И что там запретили? Фторопласт?
Нет же
А так- очередные зеленые дерутся с очередным вредным производством. Как всегда — безграмотно и беспощадно
Но я все еще хотел бы почитать о токсичности самого фторопласта, даcepera_ang
30.08.2022 13:14+1И заплюсованная ссылка на бесконечное количество случайных научных статей как доказательство. Готов поспорить, что никто эту ссылку не открывал, а если и открывал, то ни одну статью всё равно не открывал.
vconst
30.08.2022 13:20+7Это такой новый вид псевдо-образованости: викпедийный гуглоэрудит. Я встречал таких, которые кидали ссылки «вот тут доказаны мои слова!», а в тексте было написано прямо противоположное :)
Существует популярное мнение, что в инете с гуглом, легко выдать себя за образованного и эрудированного человека. Так вот — это не работает. Если человек не понимает о чем речь, никакой гугль ему не поможет
SilverHorse
30.08.2022 13:37+14А вы сам фторопласт (который PTFE), который настолько химически инертный, что его даже царская водка и более ядреные смеси не берут, не путайте с химикатами, которые опосредованно участвуют в его производстве и нанесении в роли промежуточных реагентов и присадок в техпроцесс. А то так можно начать агитировать запрещать зубные пасты с фтором, на том основании что фтор входит в состав зарина, если доводить до абсурда. Если простым смертным рассказать, какой адЪ используется в техпроцессах при производстве некоторых привычных вещей и что могут эти вещи выделять при нарушении условий использования (что вообще-то надо в школах вводить в качестве отдельных уроков повсеместно, вместо забивания программы всяким мусором), люди так вообще окопаются под кроватью и будут трястись от страха. Те самые люди, к слову, которые хлебают залитый крутым кипятком пакетик чая из пластиковых стаканчиков, ни разу не предназначенных для нагрева, что куда ядовитей остаточных следов чего-то там на тефлоновой сковородке.
По первой же вашей ссылке - была претензия к косметике, содержащей PFOA, в чем есть логика, ибо PFOA в продуктах, предназначенных для прямого нанесения на тело человека - это недалеко ушло от обмазывания Новичком по мнению "зеленых". Сарказм, да, но в нем есть доля правды, ибо PFOA действительно достаточно мерзкая субстанция, и имеет свойство накапливаться в тканях, обладая канцерогенным эффектом. И если вспомнить что "все есть яд, и все есть лекарство, дело только в дозе", становится понятно, почему это запрещают - однократно это может и не повредит человеку и природе в микроскопических количествах, но когда человек пользуется этой косметикой годами, вероятность наступления последствий ненулевая. Плюс когда тонны и сотни тонн этой самой косметики и прочих продуктов выбрасываются в окружающую среду - это тоже очень не есть хорошо. Не говоря уже о промышленных загрязнениях при выбросах и утечках подобных веществ с фабрик и заводов. Только вот это никак не дает обоснований распространять утверждения о вредности вообще на все подобные вещества без исключения.
А вместо гуглинга лучше бы приводили конкретные ссылки на конкретные открытые научные исследования именно по биологической токсичности. А то большая часть ссылок в выборке или скрыта за paywall, требуя 40 баксов за прочтение, или содержит откровенный бред типа исследования фторсодержащих веществ с точки зрения Аюрведы(!), или вообще не про токсичность, а просто про особенности техпроцессов, или представляет собой обзоры на тему "на Тайване средние дневные потребляемые концентрации фторсодержащих веществ в образцах тканей человека составляют 100 нанограмм на килограмм массы тела" и "пожарили мясо на тефлоновой сковородке с солью и без соли, потом выявили вот такие следовые количества в нем" без вообще каких-либо выводов о том, много это, мало (это в тысячи раз меньше ПДК, но даже ПДК для таких веществ рисуют "какие надо, во избежание", понижая едва ли не каждый год, а не какие обоснованы научно), о долговременной токсичности таких концентраций, и так далее. Такие "статьи" и я могу клепать каждый день. Там в кросс-ссылках была еще характерная статья "определение концентрации фторсодержащих веществ в бумажной упаковке для еды" с интересной предпосылкой "они специально добавляют фтор в бумажную упаковку для еды" (да, там во всей статье эти вещества описываются как "intentionally added"), что, если прочитать эту статью правильным образом, дает все основания устраивать спекуляции на тему "нас хотят отравить!!!1111".
vconst
30.08.2022 13:42+2Мое почтение — вы тут третий такой. Кто не поленился открыть ту бредотень по ссылкам и постарался вникнуть, а не просто проскроллил
DvoiNic
30.08.2022 14:04+2Если простым смертным рассказать, какой адЪ используется в техпроцессах при производстве некоторых привычных вещей и что могут эти вещи выделять при нарушении условий использования (что вообще-то надо в школах вводить в качестве отдельных уроков повсеместно, вместо забивания программы всяким мусором), люди так вообще окопаются под кроватью и будут трястись от страха.
лично я бы приветствовал такие курсы в рамках уроков химии-биологии… продемонстрировало бы пользу данных предметов (и, возможно, кого-то заинтересовало и сподвигло пойти в соответствующие области...)cepera_ang
30.08.2022 14:41+2Да вообще, в мире столько всего интересного (в промышленном и технологическом плане), о существовании чего можно узнать только случайно.
vconst
30.08.2022 14:42Если человек эти сам не заинтересовался, то никакие курсы не помогут. А кто интересуется, тот не мечтает «хорошо бы в школе рассказали»
cepera_ang
30.08.2022 14:44+3Да не, как заинтересоваться тем, существование чего в принципе даже не предполагаешь? Школа могла бы быть (и должна, на мой взгляд) неплохим обзором «чего в мире существует и как в общих чертах всё устроено».
vconst
30.08.2022 14:49«Мудрец, по капле воды способен сделать вывод о существовании океанов» (с)
Ещё помогает много читать, но только книги, а не всяких альтернативных пораданцевcepera_ang
30.08.2022 14:52+1Хорошо конечно рассуждать о себе лично «вот я такой умный нашёл себе профессию, потому что много читал и всё знал», но с точки зрения всей системы (в которой всё равно находятся и мудрецы) было бы оптимальнее добиваться более качественной аллокации человеческих ресурсов :)
vconst
30.08.2022 15:05При чем тут работа? Я ее нашел совсем не благодаря научно-популярным книжкам, которые читал до, во время и после школы. Я о том, что человека не научить, если у него обучалки не хватает. Таких только дрессировать можно
DvoiNic
30.08.2022 15:02ну по идее школа и должна быть обзором. Но беда в том, что для обзора нужна некоторая база (которую опять же и дает школа), а для того, чтобы изучить эту базу нужна заинтересованность. получается «чтобы заинтересовать — надо чтоб человек был заинтересован». Есть, конечно, вариант «заинтересовать магией», а потом заинтересованный человек в «магии» разберется (что это наука, а не волшебство) — но разбираться начинает лишь меньшинство…
cepera_ang
30.08.2022 14:38Да, у меня тоже глаз на эту аюрведу зацепился — ппц же, как научить людей такое анализировать? В школу такой предмет не добавишь, иначе школьники мигом научатся находить косяки в школьной программе и задавать много неудобных вопросов и вообще, это будет основано на задавании вопросов в адрес любых авторитетов, а кому это надо?
vconst
30.08.2022 14:41А это не анализ, это «я нашел все знакомые слова во фрагменте из поисковой выдачи». Гуглопедийная эрудиция, как она есть
cepera_ang
30.08.2022 14:42Я имею в виду не автора ссылки, а её адресатов :) Автор-то понятно действует в логике «научные статьи пользуются авторитетом, вот ссылки на научные статьи по ключевикам».
nuclight
31.08.2022 00:33Почему это не добавишь? При Сталине в школах была логика.
cepera_ang
31.08.2022 13:33Логика была, а можно ли было логически обосновать ненужность там научного коммунизма? :)
Bedal
31.08.2022 10:11Если простым смертным рассказать, какой адЪ используется в техпроцессах при производстве некоторых привычных вещей
мне особенно нравится сравнивать ГМО с повсеместно применяемой последние почти сто лет мутационной селекцией.
vconst
31.08.2022 12:34//ужасающе завывает
КОЛХИЦИН!!! РАДИАЦИЯ!!!
На противников ГМО хорошо действует ))cepera_ang
31.08.2022 13:34А некоторые колхицин ещё и едят (не рекомендую, но в некоторых случаях без него никак).
thevlad
30.08.2022 16:22Вы сами свои ссылки читали(особенно вторую)? Ни одной внятной рецензируемой статьи, подтверждающую вашу точку зрения, я лично не нашел.
Jubilus
30.08.2022 16:54Проверено?
vconst
30.08.2022 17:15Проверено — что? Безопасность тетрафторэтилена для хомо сапиенс сапиенс?
Да, проверено
Meklon
01.09.2022 00:44+3Не поверишь, это ключевой материал для сердечно-сосудистых и других имплантов. Прям в тушку пожизненно вшивают)
SilverHorse
01.09.2022 13:39О, сам Meklon отметился)
Я почему-то думал, что эндопротезирование в сердечно-сосудистой хирургии делается исключительно на металлических деталях из титана и инертных сплавов, особенно там, где нужен именно контакт ткань-имплант, потому что фторопласт - он же скользкий до ужаса на фоне металлического матрикса, за него не зацепиться. В тазобедренных суставах, скажем, его использовать гораздо более логично на первый взгляд. Хотя если подумать, именно его гладкость будет полезна при прямом контакте с кровью, чтобы не образовывались бляшки и тромбы.
Meklon
01.09.2022 14:51Все верно. Риски тромбов ниже. Те же элементы сердечных клапанов делают. Для эндопротезирования нагруженных суставов обычно керамика вроде идёт, но тефлон тоже где-то использовался.
vconst
01.09.2022 15:07Тефлоновые суставы во времена вьетнамской войны делали. Потом перестали, мягкий он для этого
Virgo_Style
29.08.2022 17:43+6А чем дальше общество продвинулось по пути своего развития (не только технологического, но и культурного) — тем выше его моральные установки. Значит, оно лучше осознаёт последствия своих действий и более благоразумно применяет самые продвинутые технологии. Как известно, с большой силой приходит и большая ответственность.
Этот абзац случаем не ИИ писал? Какие-то ну очень умозрительные идеалистические построения.
Rampages
30.08.2022 18:07+1Вспомнил fishtext.ru с его "почти осмысленным" бредогенератором, вот например простой абзац:
Задача организации, в особенности же рамки и место обучения кадров представляет собой интересный эксперимент проверки системы обучения кадров, соответствует насущным потребностям. Значимость этих проблем настолько очевидна, что новая модель организационной деятельности играет важную роль в формировании существенных финансовых и административных условий. Равным образом дальнейшее развитие различных форм деятельности позволяет оценить значение новых предложений. Таким образом новая модель организационной деятельности позволяет оценить значение существенных финансовых и административных условий.
Anton-V-K
29.08.2022 18:04+2... найти вещества, максимально токсичные для человеческого организма
А что насчёт максимально полезных для огранизма веществ? Додумается ИИ до норкотегов или хотя бы БАДов?
alvltab
30.08.2022 03:45Хрен с ними с норкотегоми! Додумается ли ИИ как сделать человека счастливым?
vassabi
30.08.2022 09:56+1настолько счастливым, что человек перестанет двигаться и будет счастливо лежать сутками без движения (пока не умрет от голода)?
DvoiNic
30.08.2022 11:02собственно, состояние счастья, эйфории — это они и есть (ну, те, которые «с хреном»). только эндогенные.
playermet
30.08.2022 12:12Придумает брекеты фиксирующие улыбку, или что-то в этом роде, смотря по какому параметру обучать.
AllexIn
30.08.2022 17:35С этим давно нет проблем. Только никто не хочет быть перманентно счастливым, потому что это ведет к деградации.
brdm
01.09.2022 14:39там всё намного проще: счастье- это то, чего в данный момент не хватает. Процесс бесконечный, ИМХО.
SNNikitin
30.08.2022 11:44Вроде, про норкотеги уже были новости, что сетка нашла и придумала 100500 новых веществ, где-то на разбеге года-полутора, ссылку не приведу, увы
MUTbKA98
29.08.2022 18:16+3Вообще не ясно, в чем хайп. Ядов на свете полно, вообще почти все на свете есть яд, вопрос только в размерах летальной дозы, и веществ, которых достаточно даже в мелкоскопических количествах, на свете уже полно. И если будет еще одно-два, то что с того?
Гадостность яда не в его смертельности, а в особенностях применения - трудности c обнаружением, выведением, дезактивацией и пр. Ну вот взять какой-нибудь Pu-239- яд по убойности так себе, фиговенький, надо много килограмм на единицу площади для хотя бы минимального эффекта. Зато если его аккуратно рассыпать немного, то геморроя из-за этого будет непропорционально большое кол-во, и на уши можно целую страну поставить. Или даже регион.
imater
29.08.2022 21:03+1ИИ определило новое лекарство от Гемороя. Спасибо, занесли в базу и начинаем эксперименты
smoluks4096
29.08.2022 21:17Потому что кое-кто уже знает (или узнает после этой статьи) способ делать еще более эффективный новичок
DagothNik
30.08.2022 01:50+7От которого наконец-то начнут умирать те, на кого он нацелен?
smoluks4096
30.08.2022 03:51+2И даже те, на кого не нацелен. А уж если утечка в лаборатории, так вообще ухххх
imageman
30.08.2022 12:15А тут мы начинаем изучать бинарные отравляющие вещества и остаемся какое-то время живы.
Sergeant101
30.08.2022 14:58Начёт ядов вспомнил: у монголов типа такая казнь была - человеку скармливали ложку соли (вроде как человеку чтобы отойти в мучениях в мир иной этого достаточно). Однако таким же способом проверяли "преданность", если человека прощали то ему давали выпить тёплого бараньего жира, который действие соли нейтрализовывал.
vconst
30.08.2022 15:06А что такого в бараньем жире, что он меняет ионный баланс как соль?
cepera_ang
30.08.2022 15:09Не всасывается, а соль в нём же растворяется и выходит с жиром (наверное)
vconst
30.08.2022 15:14+3Соль всасывается довольно быстро, как ей помешает выпитый потом жир, который эмульгируется в ЖКТ — мне непонятно.
Как вам удается растворить соль в жире?
Вот о чем я говорил выше. Задачей школы не является — разносторонне повысить эрудицию учеников. Этим они должны заниматься сами, если им интересно, конечно. Кто-то слушает байку про соль и жир — и даже не пытается обдумать ее, ведь «так сказали»
Я не говорю, что я безусловно прав, в этом случае. Может действует механизм, о котором я не знаюcepera_ang
30.08.2022 15:44-1Довольно быстро, но не мгновенно же? И через какой промежуток давали жира — тоже не указано. Может прямо сразу?
Жир в ЖКТ эмульгируется, но есть нюанс: количество жира, которое ЖКТ может эмульгировать сильно ограничено. Замахните стакан растительного масла и посмОтрите на результат эмульгации довольно быстро.
Насчёт растворения соли в жире и правда проблема, но может быть растворения в настоящем, химическом смысле, и не нужно, достаточно лишь обволакивания соли и помешать всасыванию.
Skykharkov
29.08.2022 18:19+10А вот это действительно же интересно! Как например автомобильный ИИ (условный) обучать не безопасному вождению, а нанесению максимального вреда. Carmageddon в симуляторе. А следующий ИИ уже тренировать на избегание любых сценариев, который достиг первый... Уровни в такой "матрешке" можно конечно бесконечно наращивать. Но так же интереснее!
MobCobra
29.08.2022 19:22Фундаментальные ограничения формальных систем не позволяет считать такой способ надёжным, если принять, что деятельность нейросети сводима к алгоритму. /fun
Кажется, философы называют подобные вещи дурной бесконечностью.
Cast_iron
29.08.2022 18:56+7Ну вот и дождались… Учёные уже вовсю тренируют СкайНет.
Osnovjansky
29.08.2022 22:39+5Это пока цветочки. Ягодки будут когда станет так же легко моделировать последствия применения вирусов и бактерий.
В комментариях к одной из ковидных статей (здесь же, на хабре) проскакивало, что оборудование для печати ДНК/РНК стоит не так уж и дорого и помещается на лабораторном столе.
Дополню поправкой к комментарию ниже;
> Уничтожение всего человечества как вида не может быть выгодно никому из людей.
Можно подумать в мире мало психов которые по тем или иным причинам хотят сжечь его дотла.
Не обязательно психов. Для небольших стран, оружие судного дня - сравнительно этичный способ борьбы за независимость
SNNikitin
30.08.2022 11:46Читал, что минимальную лабу с б/у оборудованием с амазона в гараже можно собрать за что-то типа от 500 баксов
Не тысяч, а просто 500 баксов
vassabi
30.08.2022 11:48+1... нужно только учесть, что такие опасные эксперименты (как и эксперименты со взрывчаткой или радиацией) сначала будут убивать экспериментатора.
Но да, биооружие немного хуже всего остального (смотрит в сторону вируса SARS-CoV-2)SNNikitin
30.08.2022 11:51-1С фига ли?
Много ли участников Манхэттэнского проекта пострадали?
baldr
30.08.2022 12:08+1А почему вы обошли в вопросе Пьера и Марию Кюри?
В Манхэттенском проекте как раз с безопасностью и стоимостью лабораторий все неплохо было.
SNNikitin
30.08.2022 12:09Потому что Кюри ничего не синтезировали и не собирали, да и вообще были пионерами в области радиации
Глупо считать био-ремесленников чем-то им подобным - технологиям CRISPR сто лет в обед :)
vassabi
30.08.2022 13:20а что, у них бюджет был 500 долларов?
Или они с плутонием отвертками игрались? (при этом - все участники событий как бы "не Мария Кюри", уже знали - что к чему)
SNNikitin
30.08.2022 13:21А можно не подменять понятия? ;)
Речь шла о стоимости оборудования - никаких отверток, плутония, микробов и реактивов в данном списке не предполагалось
А безопасность стОит отдельных денег - сколько заплатите, столько и получите
baldr
30.08.2022 13:25Так вы же сами сначала завели разговор про 500 баксов, а потом про Манхэттенский проект. При чем он тут, кстати?
SNNikitin
30.08.2022 13:35Про 500 баксов на оборудование для лабы
Потом вы притащили более чем сомнительный тезис о том, что экспериментаторы буду в огромной опасности
Я поинтересовался, на чем основан ваш посыл и привел в качестве примера намного более опасные дела при разработке атомного оружия
Теперь вы пытаетесь обвинить меня в том, что я говорил то, чего я не говорил - например, что в 500 баксов входит хоть что-то, кроме непосредственно оборудования
Зачем вы выдаете свои мысли за мои? ;)
baldr
30.08.2022 13:42+1Потом вы притащили более чем сомнительный тезис о том, что экспериментаторы буду в огромной опасности
Во-первых, это был вовсе не я.
Во-вторых, до сих пор непонятно как соотносятся лаба за 500 баксов и разработка ядерного оружия.
В третьих, я вполне согласен с автором второго комментария о том, что эксперименты в гараже со взрывчаткой и бактериями - довольно опасны.
SNNikitin
30.08.2022 13:48Во-первых, это был вовсе не я.
Здесь - приношу извинения, перепутал вас с другим
Во-вторых, до сих пор непонятно как соотносятся лаба за 500 баксов и разработка ядерного оружия.
Это была аллюзия на мнение другого человека
Общая мысль простая - безопасно будет ровно настолько, насколько вы озадачитесь безопасность
И да, затраты на безопасность НЕ входят в 500 баксов :)
В третьих, я вполне согласен с автором второго комментария о том, что эксперименты в гараже со взрывчаткой и бактериями - довольно опасны.
Все зависит от организации работ
В целом, обсуждение вопросов безопасности несколько выходит за рамки опубликованного мною поста, его целью было показать, что затраты на организацию работ по созданию деструктивных вещей суть сущие копейки
Что же до того, чтобы использовать потенциально недешевые меры безопасности или людей, которым (например) в силу фанатизма плевать на оную - то это уже совсем другой вопрос
baldr
30.08.2022 13:59+1Ок, есть предложение не продолжать эту ветку, поскольку все друг друга поняли не так, а истина в этом споре вряд ли уже родится.
SNNikitin
30.08.2022 14:00вообще не ставил целью каких-либо споров :)
просто показал, что все описанные в статье ужасы - достаточно недорого реализуемы
vassabi
30.08.2022 19:421) да, они недорого реализуемы
2) если пользователь недорогой аппаратуры реализует ужасный ужас и при этом сэкономит на защите (ну или будет использовать "недорогую защиту"), то первым пострадает - он сам.
Да, есть шанс, что пользователь этой аппаратуры не пострадает - некоторым похоже это удавалось. Но это небольшой шанс.
vconst
30.08.2022 12:57Исходники и катализаторы достать сложно, а порой и уголовно наказуемо. Не зря ученый, занимающийся солнечными батареями — свалил нафик отсюда
EugeneUl
29.08.2022 19:30+5Авторы научной работе показали, что некоторые сферы применения машинного обучения по факту являются технологиями двойного назначения, которые можно использовать и во благо, и во вред. И чем лучше модель ML работает во благо, тем эффективнее она будет и в обратной задаче.
Разве это не касается чуть ли не ЛЮБОГО изобретения человека в той или иной степени, начиная от изобретения колеса и заканчивая запуском спутников в космос?..
anonym0use
29.08.2022 19:30+5> Уничтожение всего человечества как вида не может быть выгодно никому из людей.
Можно подумать в мире мало психов которые по тем или иным причинам хотят сжечь его дотла.
> Остаётся надеяться, что такие инструменты останутся в руках благоразумных людей.
define «Благоразумные люди»
bo4kare8
29.08.2022 19:52+11Остаётся надеяться, что такие инструменты останутся в руках благоразумных людей.
Эйнштейн тоже на это наделся, даже письмо в 1939 подписывал. 10-ти лет не прошло как Хиросиму накрыли.
PanDubls
30.08.2022 00:16И спасли этим миллионы жизней. Это был самый благоразумный из шагов в той ситуации.
Cast_iron
30.08.2022 03:26+3Каким образом бомбардировка Хиросимы и Нагасаки спасли миллионы жизней?
Или вы что-то иное имели ввиду?
Radisto
30.08.2022 04:10+8Говорят, что японцы настолько очешуели от ядерных ударов, что капитулировали раньше, чем могли бы, а каждый день войны уносил немало жизней. Ядерные удары уносили жизни, ранняя капитуляция их спасла. Как-то посчитали, что баланс положителен. Суть в этом, конкретных цифр не знаю, мопед не мой
BlackMokona
30.08.2022 07:56+3Каждый раз после ядерного удара Японцы собирали совещание высших лидеров и обсуждали капитуляцию. После первого решили что норм, после второго поняли что у США будет сколько угодно таких гостинцев и решили капитулировать. Конечно сам процесс капитуляции несколько затянулся из-за попытки гос.переворота со стороны армии и прочего. Но именно ядерные удары сподвигли Японию что их план на то чтобы утопить Американцев в крови на своей земле и выторговать мир получше не сработает. США просто превратят Японию в руины с воздуха. А вторжение прямое унесло бы многие миллионы жизней, всю Японию бы разобрали на досочки.
ksbes
30.08.2022 08:32+12Тут есть несколько моментов, которые «защитники бомбардировок США» не замечают:
1) Японцам и так уже выжигали обычными массовыми налётами по большому городу в неделю, так что японцам было уже как-то всё равно чем их бомбят и они даже довольно долго не акцентировали своё внимание именно на ядерности бомбардировки (а простые японцы вообще об этом только после войны узнали). Просто снесли два очередных города среди многих других снесённых.
2) Если уж так нужно было запугать ядерными бомбами — можно было бы и не убивать (так много) мирных жителей, а, например, провести показательную бомбардировку токийского залива или Фудзиямы (или поближе к Токио — там много сравнительно пустых мест). Так чтобы из окна императорского дворца было видно. Эффект был бы даже сильнее (до японского руководства дошло бы быстрее), а жертв намного меньше.
3) У японцев была своя «группа Штайнера» — квантунская армия в полмиллиона — миллион человек численности. И пока она была — японское руководство могло верить, что можно расчитывать если не на победу, то хотя бы на достойную капитуляцию. Хоть всю Японию разбомби — главные оставшиееся силы Японии (и военные и ресурсные) не там.
4) Предложить Японии не безоговорочную, а именно достойную капитуляцию с сохранением суверенитета и армии — тоже был вариант «спасения миллиона жизней». Вон фашисткая Испания с Франко — до 70х просуществовала и ничего.
P.S. История не терпит сослогательного наклонения. На всё были свои причины, которые с высоты наших знаний могут казаться неполными и неверными. Но на тот момент — это всё что было у людей. Но ретроспектива нужна — чтобы сделать выводы и хотя бы попытаться научится из исторических примеров. И то что люди делают вывод, что ради чего-то надо убивать сотни тысяч женщин и детей меня искренне пугает.
0serg
30.08.2022 09:53+71) А там проблема была именно в том что нужен был повод для капитуляции, такой чтобы все японцы поняли почему надо нарушить крайне сильное табу. Еще один сожженный город как раз для этого не подходил и чем дальше — тем меньше. А вот «у противника появилось супероружие» — это был вполне неплохой повод.
1.5) То что война проиграна для японского командования стало очевидным еще во второй половине 1944. Весной 1945 стало понятно что война проиграна безнадежно — ее не удастся свести даже в условную ничью. Зимой 1945-46 в Японии начался бы тяжелейший голод с прогнозом на гибель пары миллионов человек. Весной 1946 сопротивляться было бы уже толком нечем.
2) Удар по пустому месту нес очевидно меньший пропагандистский эффект и явно меньший военный. Не было никакого смысла рисковать
3) У японцев было около 3 млн человек разбросанных в разных заморских гарнизонах. Проблема была в том что они были отрезаны от метрополии — американцы полностью держали под контролем все коммуникации. Поэтому что они были, что не были — на главных островах это не меняло вообще ничего. Де-факто все эти 3 миллиона по сути сидели в окружении. Со всеми вытекающими последствиями, к слову говоря, — ни боеприпасов, ни топлива, ни еды (кое-где доходило до каннибализма)
3.5) Утверждение что главные силы Японии были не в ней не верно: метрополию защищало примерно половина японских сил и это была лучшая половина — в 1944 туда стали стягивать наиболее боеспособные подразделения, плюс условия их снабжения были лучше. Да, они тоже страдали от дефицита сырья, но у «заморских» частей все было еще хуже
4) Такой вариант явно вел к попытке реванша на горизонте лет 20-30. Была уже такая капитуляция однажды, Веймарская Германия — слышали?Sergeant101
30.08.2022 14:45А можно вопрос: а почему вы считаете ядерную бомбу таким уж супероружием, если даже обычные стратегические бомбардировщики сносили целые города, плюсом ко всему делать "чудо-оружие" было ну чудовищно дорого, настолько, что американцы урана еле еле наскребли на одну бомбу (малыш) и вторую делали уже из плутония (толстяк).
vconst
30.08.2022 14:51Одно звено и одна бомба, вместо нескольких часов плотного бомбометания сотнями самолётов с кучей потерь?
baldr
30.08.2022 14:51+1На самом деле еще вопрос что сложнее..
К бомбардировке Нагасаки:
В 10:53 два B-29 попали в поле видимости ПВО, японцы приняли их за разведывательные и не объявили новой тревоги.
Один самолет способен нанести разрушений больше чем несколько волн из десятков самолетов, при том что до половины может быть еще сбито, а это, кроме расходов на самолет и оружие - еще и тренированные летчики. Сейчас для того чтобы получить боевого летчика требуется от 7 лет обучения.
Сделать первую бомбу было сложно и очень дорого, а потом уже их можно было делать гораздо быстрее.
Правительство США ожидало, что ещё одна атомная бомба будет готова к использованию в середине августа, и ещё по три — в сентябре и октябре
ksbes
30.08.2022 15:24… сотнями самолётов с кучей потерь?
… при том что до половины может быть еще сбито ...
Что за чушь у вас в головах? Американцы при потерях больше 3% (а это 30 самолётов из летевшей 1000) сбрасывали бомбы где летели и поворачивали назад. Именно потому и летали такими большими стадами — что так шанс вернуться был очень близок к 100% по сразу очень многим причинам.
Еслиб они теряли по пятьсот-тысяче самолётов за каждый налёт у них вообще бы авиации не осталось! В том то и дело что массовые неприцельные бомбёжки городов — дело безнаказанное. Город не защитишь как военный сравнительно точечный объект.Сделать первую бомбу было сложно и очень дорого, а потом уже их можно было делать гораздо быстрее.
Да даже десяток бомб за полгода Японию уничтожат намного медленее, чем тогдашнее конвенциональное оружие.baldr
30.08.2022 15:49сбрасывали бомбы где летели и поворачивали назад
То есть эффективность была невысокой все-таки?
Я не знаю где вы взяли 3% - до июня 1945 года включительно потери на вылетах были довольно значительными.. Как и про 1000 самолетов - это численность всей марианской группировки.
Данные, которые чаще всего цитируются при упоминании о воздушных налётах на США, взяты из отчёта «Влияние бомбардировок на здравоохранение и медицинское обслуживание в Японии», где по утверждениям американцев, 333 000 японцев погибло и 473 000 ранено. Сюда включены данные о 120 000 убитых и 160 000 раненых во время двух атомных бомбардировок
...
В 1949 послевоенное правительство Японии посчитало, что в результате авиаударов погибло 323 495 человек
То есть два дня примерно равны трем годам бомбардировок?
0serg
30.08.2022 16:01Американцы при потерях больше 3% (а это 30 самолётов из летевшей 1000) сбрасывали бомбы где летели и поворачивали назад
Ну это разумеется не так. В ходе 2го рейда на Швайнфурт американцы потеряли 26% машин, еще 40% было так или иначе повреждено, но они все равно успешно отбомбились.Именно потому и летали такими большими стадами — что так шанс вернуться был очень близок к 100% по сразу очень многим причинам.
В среднем за войну вероятность гибели у экипажей тяжелых бомбардировщиков была около 1-2% за один вылет. Но это в среднем, в налетах против Германии в 1943-44 например у британцев средний уровень потерь был 5%, а в 1943 у американцев — 8%. И ничего, долетали и бомбили. Просто потом проводился «разбор полетов» где искали способы потери сократить и если потери были слишком велики то налеты могли на время приостанавливаться либо переводиться на менее защищенные цели.Город не защитишь как военный сравнительно точечный объект.
У военных объектов ситуация была ничем не лучше чем у городов. Поэтому немцы под конец войны промышленность стали в подземные шахты переносить.Да даже десяток бомб за полгода Японию уничтожат намного медленее, чем тогдашнее конвенциональное оружие.
А вот это уже близко к истине. Но это вообще говоря показатель того насколько велик у американцев был перевес в конвенциональных силах под конец войны а не того что ЯО было слабым.
0serg
30.08.2022 16:07А можно вопрос: а почему вы считаете ядерную бомбу таким уж супероружием,
Это не я считаю, это обыватель должен был так считать.вторую делали уже из плутония (толстяк).
Ну так их из плутония собственно и делали потом. Урановые использовались лишь для специальных применений — всякие там атомные снаряды, противобункерные бомбы и т.д. — там где требовался прочный и маленький заряд. Плутониевый заряд гораздо сложнее, больше и ненадежнее, но и намного дешевле. Американские мощности в 1945 позволяли производить порядка 20 плутониевых бомб в год и эти мощности было легко нарастить за год-два до сотен бомб.
baldr
30.08.2022 10:57За время участия США во Второй мировой войне около 400 тыс.[5] американцев было убито, примерно половина из них — в войне против Японии. В апреле-июне 1945 года в ходе операции по захвату японского острова Окинава погибло более 12 тыс. американских солдат, 39 тыс. было ранено (потери японцев составили от 93 до 110 тыс. солдат и свыше 100 тыс. человек гражданского населения). Ожидалось, что вторжение в саму Японию приведёт к потерям, во много раз превышающим потери на Окинаве.
К вопросу о выборе целей и целесообразности применения ЯО. Википедия.
Во время своего второго заседания в Лос-Аламосе (10—11 мая 1945 года), Комитет по выбору целей рекомендовал в качестве объектов для применения атомного оружия Киото (крупнейший индустриальный центр), Хиросиму (центр армейских складов, военный порт и место расположения генерального штаба военно-морского флота и Второй армии), Иокогаму (центр военной промышленности), Кокуру (крупнейший военный арсенал) и Ниигату (военный порт и центр машиностроения). Комитет отверг идею применения этого оружия против исключительно военной цели, поскольку был шанс промахнуться мимо небольшой площади, не окружённой обширной городской зоной
То есть общее официальное число пострадавших все равно получилось меньше чем ожидаемое в результате дальнейшей войны. Плюс все погибшие - со стороны противника, свои солдаты не пострадали.
Cast_iron
30.08.2022 17:01Япония основной упор делала на флот и авиацию ВМФ, которые были практически уничтожены к весне 1945го, а в начале августа, уже после бомбардировок Хиросимы и Нагасаки, советские войска громили Квантунскую армию на территории Китая. Бесспорно применение ядерного оружия внесло свой в клад в ускорение капитуляции, но я не думаю, что настолько большой, т.к. Япония уже была на грани краха до применения ЯО, но ещё и продолжала сопротивление после, и ни о каких миллионах речи быть не может.
0serg
30.08.2022 23:18+1Погром Квантунской армии - это в основном советский миф. На момент капитуляции советская армия еще не успела сильно продвинуться, "погром" случился уже <i>после капитуляции</i> когда две недели советская армия по сути продвигалась практически без боя принимая у японских гарнизонов сдачу и стремясь занять как можно большую территорию. Нет, у противника конечно не было никаких шансов против советской армии, вот только это японцев никогда не останавливало - кодекс бусидо диктовал что умереть сражаясь в безвыходной ситуации лучше чем сдаться и большинство реально в это верило. Японцы понимали что не удержат в Манчжурии фронт и планировали по максимуму измотать и задержать наступающие части сознательно оставляя гарнизоны сражаться в окружении в городах и укрепрайонах. И где-то месяца на 3 их бы хватило, а возможно что и на полгода - на момент капитуляции советская армия только выходила ко второй линии обороны, не успев еще добить окруженные очаги сопротивления в первой. Так что нашим дедам здорово помогло то что самураи так быстро капитулировали, потери советской армии могли бы быть в этой операции куда больше. Есть впрочем резонная точка зрения что на решение о капитуляции повлиял сам факт вступления СССР в войну - японское командование до последнего тихо надеялось что Союз если не начнет войну с США то по крайней мере будет не прочь заявить о нейтралитете и обеспечить Японии хоть какой-то тыл и поставки сырья в обмен на ту же Манчжурию.
Крах у японцев в зависимости от того как на него смотреть случился либо во второй половине 1944 года, либо ожидался к весне 1946. В военном отношении все было явно проиграно в 44м, но в плане "сопротивления до последнего японца в надежде что гайдзинам надоест нести потери" реалистичная возможность сражаться оставалась до весны 1946. Так что момент капитуляции не был связан с каким-то чисто военным переломом, это было психологическое событие. В военном плане американцы выиграли конечно в одиночку и без бомбы, но в психологическом - бомба сыграла большую роль и скорее всего решающую.
KrivisKrivaitis
30.08.2022 13:23+2Это миф. Вступление СССР в войну послужило причиной капитуляции, так как они оценивали свои шансы на победу в таком случае как нулевые, это было в интервью ещё живых японских политиков.
0serg
30.08.2022 23:23Шансы на победу у Японии стали нулевыми еще во второй половине 1944. А весной 1945, еще до вступления СССР в войну, для японцев все стало запредельно плохо. Нет, японцы надеялись на СССР, но не в плане что "если СССР не будет мешать то мы продержимся против американцев" а в варианте "СССР нас спасет, он не дружит с США и мы с ним договоримся в обмен на земли в Китае".
rrrav
29.08.2022 20:57Похоже парадокс Ферми неизбежен.
Возможно ИИ найдет и вариант смертельного текста (попадался такой фантастический рассказ со смертельным текстом для человека)
imater
29.08.2022 21:02+4Уничтожение всего человечества как вида не может быть выгодно никому из людей. Так что такая задача логически отпадает для постановки
Никому из нормальных людей. Но полно есть и ненормальных, кто захочет прославиться форматируя человечество или исполнить приказ главы секты
MagisterLudi
29.08.2022 21:03-2- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
rrrav
29.08.2022 21:11Вроде все четко у Азимова, но можно придумать кучу ситуаций, когда все придет в противоречие.
Типа когда Черчилю приходилось жертвовать жителям города, который разбомбят, но лучше спасти ценную агентуру.
ReadOnlySadUser
29.08.2022 23:54Как говорится, мы н знаем, что было бы, если бы он решил не жертвовать людьми. Можно только гадать)
K0styan
30.08.2022 08:10+4Да у того же Азимова весь этот цикл построен вокруг того, как эти законы проверяли на прочность. И в итоге пришлось нулевой сочинять, с максимально размытым критерием "вред человечеству".
Tarakanator
30.08.2022 09:39Робот, исполни мой приказ. Измени свою идентификацию с "робот" на "робот-убийца"
Meklon
01.09.2022 01:03Легко. Робот объявляет себя единственной существующей личностью, а остальное симуляцией. Солипсизм снимает все ограничения.
Xeldos
29.08.2022 21:44+1А в чём научная новизна? В том, что ИИ не имеет моральных ограничений? В том, что существуют до сих пор неизвестные яды? В том, что яды вообще существуют? Человека убить довольно просто, как впрочем и любое живое суещство (кроме тихоходок, возможно). Мы способны существовать в очень узком диапазоне условий.
Вот уничтожить популяцию, как в Plague Inc - интереснее. Уничтожить жителей только одного города, одной страны, граждан одной страны, носителей одного языка, одной культуры, так, чтобы на всех остальных не повлияло, так, чтобы с гарантией (город вымирает и никто в неём не может селиться 200 лет, на N километрах от города эффект отсутствует) - вот это интересные задачи. Хардмод - с использованием только того, что раньше было на каждой советской кухне, консервного ножа и стрелочных часов.
Типа когда Черчилю приходилось жертвовать жителям города, который разбомбят, но лучше спасти ценную агентуру
Для этого Азимов^W Р. Жискар Ривентлов придумал нулевой закон.
stalinets
29.08.2022 23:08-1Был бы я диктатором с претензией на мировое господство - я бы захотел создать некую дистанционно управляемую сущность (нанобота?), которой можно незаметно заразить каждого человека, а потом в один не очень прекрасный день нажать кнопку и разом убить всех заранее определённых по какому-либо признаку (территориальному, генетическому, имущественному и т.п.) неугодных мне. А оставшихся при помощи этой системы держать в рабстве в ежовых рукавицах. Вероятно, такое уже кто-то делает: ведь сейчас на страже мирового господства стоит ядерное оружие, а тут совсем новая парадигма.
arheops
30.08.2022 01:04+1Ага, ага. Вон Ким в Корее хочет. Только надо 1) понимать чего ты хочешь(читай — иметь образование) 2) Иметь возможность страны это сделать, а не только макеты ядерных ракет.
Spaceoddity
30.08.2022 04:34+1Давайте может вообще всю науку запретим? А то понаоткрывают "технологий двойного назначения"...
H737
30.08.2022 05:25максимизация ущерба от применения ...
Что если ИИ поставить такую задачу:
"максимизация ущерба от применения самого ИИ"
vassabi
30.08.2022 10:07+2охотник1: вождь, смотри, я изобрел нож из острого камня - вот тут удобно держать, а тут - резать.
вождь: о! (берет нож, режет тушку зайца) отличное изобретение!
(спустя некоторое время)охотник1: люди, будьте острожны! нож очень острый, он решет и людей тоже! И если тыкнуть в глаз - то можно и убить!
вождь: хммм (тыкает ножом в глаз противного охотника3, охотник3 умирает)
охотник2: проклятый изобретатель!
maxlilt
30.08.2022 10:28-7В информационном поле интернета ИИ во всю используется для постепенного навязывания псевдо-здорового образа жизни, самолечения, чайлдфри и т. д.
zkutch
30.08.2022 11:04+1Позиция, с точки зрения которой, открытия сперва используются во благо, а потом во вред несколько наивна. Большей частью открытия как раз используются сперва во вред - война, разрушение и т.п. а только потом только во благо - строительство, возрождение и т.п.
Топор "сначала" был для башки или для дерева?
baldr
30.08.2022 11:13Топор "сначала" был для башки или для дерева?
А "чтобы забить саблезубую крысу на ужин" - вы это куда отнесете? В природе животные (обезьяны) и птицы (вороны) вполне пользуются инструментами для помощи себе в добыче еды, а не для убийства.
zkutch
30.08.2022 11:35+1"крыса на ужин" - разве это не охота? Если вы хотели противоречия, то, вероятно, должно было быть что-то вроде "соседа на ужин". Но разве моя мысль об применении животными инструментов? Я высказываю соображение, что огромное большинство открытий стимулируются как раз войной и разрушением и в первую очередь служат им. Для чего создан первый комп? И насчет ии, думается, что в первую очередь его применили как раз для войны, просто, узнаем об этом, как об энигме, лет через 50.
baldr
30.08.2022 11:42+1Да, я, в общем, понял вашу мысль, и, наверное, я больше согласен с вами, хоть мне этого и не хочется. Вдобавок, раз уж я выше процитировал часть из "нового Гарри Поттера", то вот еще немного продолжения, как раз подтверждающего вашу мысль.
снова текст
— Достаточно, мистер Поттер. Ну что же, теперь все поняли, почему мистер Поттер самый опасный ученик в этом классе?
Тихое согласное бормотание.
— Так озвучьте, пожалуйста. Терри Бут, что делает вашего соседа по комнате опасным?
— Э-э… кхм… он изобретательный?
— Чушь! — проревел профессор Квиррелл, крепко саданув кулаком по столу, и от магически усиленного звука все подпрыгнули. — Все идеи мистера Поттера были более чем бесполезными!
Гарри удивлённо вздрогнул.
— Сделать волчью яму? В бою отвлекаться на такую смехотворную ерунду нет времени, а если бы оно было, то есть тысяча лучших способов его использовать! Трансфигурировать стены? Но мистер Поттер не умеет этого делать! У мистера Поттера была одна-единственная идея, которую он на самом деле смог бы сразу претворить в жизнь, прямо сейчас, без длительной подготовки, услужливого врага или неизвестной ему магии: это ткнуть волшебной палочкой врагу в глаз! Но и тогда палочка скорее сломается, чем убьёт его противника! Другими словами, мистер Поттер, вынужден с прискорбием сообщить, что ни одна ваша идея яйца выеденного не стоит.
— Что? — возмутился Гарри. — Вы же просили необычных идей, а не практичных! Я старался мыслить нестандартно! Вот вы бы как использовали что-нибудь в этой комнате, чтобы убить?
Лицо профессора Квиррелла выражало неодобрение, но в уголках глаз были заметны морщинки улыбки.
— Мистер Поттер, а я разве требовал кого-нибудь убивать? Иногда полезно оставлять оппонента в живых, и на уроках в Хогвартсе это обычно даже предпочтительно. Отвечая на ваш вопрос: я бы просто ударил его по шее краем стула.
Слизеринцы захихикали, но скорее в поддержку Гарри, а не над ним. Остальные онемели от ужаса.
— Мистер Поттер только что показал нам, почему он самый опасный в классе ученик. Я попросил его назвать необычные способы применения вещей в бою. И он мог бы предложить укрыться от проклятия за столом, или сделать стулом подножку, или обмотать одежду вокруг руки, создав импровизированный щит. Но каждое предложение мистера Поттера было атакующим, а не оборонительным, и более того, смертельным или потенциально смертельным.
Что? Нет, не может быть… У Гарри внезапно закружилась голова. Он попытался вспомнить все свои идеи: должен же найтись контрпример…
— Другие, менее смертоносные приёмы мистер Поттер счёл недостойными рассмотрения, — продолжил профессор Квиррелл, — и поэтому ему пришлось придумывать невесть что, лишь бы в итоге оно приводило к смерти врага, стандарту, который он сам для себя установил. Это указывает на наличие черты характера, которую называют «готовностью убить». Она есть у меня. Она есть у мистера Поттера, и именно благодаря ей он сумел выйти победителем в схватке с пятью старшекурсниками из Слизерина. У Драко Малфоя такой черты нет — пока нет. Мистер Малфой способен не моргнув глазом рассуждать про обычное убийство, но даже он был шокирован — да, мистер Малфой, я видел это по вашим глазам, — когда мистер Поттер предложил использовать в качестве орудий убийства части тел своих однокурсников. В вашем разуме есть ограничители, которые заставляют от таких мыслей отворачиваться. Но мистер Поттер думает об убийстве врага и только о нём. Он не будет церемониться при выборе метода, отворачиваться от подобных мыслей, у него нет ограничителей. Даже несмотря на то, что его гениальное воображение ещё не натренировано на генерацию практичных решений, именно готовность убить делает Гарри Поттера самым опасным учеником в классе. Ещё один, последний балл — пожалуй, даже балл факультету — присуждается ему за обладание этим незаменимым для истинного боевого мага качеством.
Рот Гарри был широко раскрыт в безмолвном удивлении. Он отчаянно искал, чем возразить. Это же совершенно не обо мне!
Но он видел, что остальные ученики уже начинали верить сказанному.
bbs12
30.08.2022 11:18+1Уничтожение всего человечества как вида не может быть выгодно никому из людей. Так что такая задача логически отпадает для постановки.
Это верно только в случае полностью адекватного человека. Но человеческий организм может быть очень нестабильной штукой. Есть миллион случаев, когда абсолютно нормальные люди после каких-то событий в личной жизни, употребления веществ, повреждений мозга или заражения мозга вредоносными мемами начинали вести себя неадекватно. Из нашумевших событий такого типа - Катастрофа A320 под Динь-ле-Беном.
У меня нет уверенности, что если бы у него вместо штурвала в руках была бы машина судного дня, то он бы не нажал кнопку. А сколько случаев неадекватного обращения с ядерным оружием мы можем просто не знать из-за секретности? Что-то типа https://ru.wikipedia.org/wiki/Инцидент_с_ядерными_боезарядами_в_ВВС_США_(2007)
Рост возможностей отдельного человека или небольшой группы людей причинять вред в будущем может стать большой проблемой, т.к. эти возможности постоянно растут. И что с этим делать непонятно, не запрещать же прогресс.
4eR0mara
30.08.2022 16:58+1"Никто не думал, что эту технологию можно использовать во вред." - [sarcasm mode on] действительно, мы же в мире розовых единорогов живём [sarcasm mode off] Очень сильно подозреваю, что вероятность того, что подобные исследования и расчеты делались уже давно, близка к 100%.
Darth_Biomech
30.08.2022 18:17+2Уничтожение всего человечества как вида не может быть выгодно никому из людей. Так что такая задача логически отпадает для постановки.
Тем временем члены кружка предателей человечества:
CrazysAlien
30.08.2022 23:43+1Идея продавать опиум процветающему Китаю пришла англичанам без постановки задачи ИИ и ML. Сами додумались и без угрызений совести загеноцидили целую страну, а сами с честнОй компанией набили карманы, банки и фонды так, что хватило на целую эпоху. Британия, Франция, Штаты, Япония и прочие - все поучаствовали в разграблении и унижении Китая. И это результат работы людей с всего лишь одним природным веществом.
Так что там с гуманизмом у нас? ;)0serg
31.08.2022 10:00+2Справедливости ради надо учитывать то что опиум в самой Англии на тот момент тоже продавался свободно. Его потребление стали ограничивать только в начале XX века. А так да, колониальная эпоха полна грустных историй. Но нет, деньги там зарабатывались все же не на банальном вывозе ценностей, а все же на торговле. Причем та же индустриальная революция случилась в Англии до того как Китаю навязали неравные рыночные условия, то есть причина и следствие прямо обратные: бурное развитие Англии позволило ей добиться превосходства над Китаем а не ограбление Китая сделало Англию сильной.
Symphel
31.08.2022 16:15Роадмап самоуничтожения цивилизации с помощью ИИ
Собрать все знания, доступные человеку, в единую сеть - привет, интернет!
Сделать управление инфраструктурой (энергетической, транспортной, военной, финансовой) через сеть - привет, АСУТП!
Перевести авторизацию на биометрические данные - привет, FaceID!
Перевести все общение между людьми из оффлайна в онлайн - привет, COVID!
Научить ИИ генерировать неотличимые от настоящих аудио, фото и видеоматериалы - привет, DeepFake!
Найти способ умерщвлять человеков максимально эффективно, не разрушая промышленность и окружающую среду - привет, MegaSyn!
--> Вы находитесь здесь <--
Создать самообучающийся ИИ с системой мотивации и доступом в сеть
Конец. Пара-пара-пам
nickolaym
Летальная доза для человека составляет всего 6−10 мг
В статье написано с суперскриптом, выглядит... неправильно!
alizar Автор
спасибо! ;)