В возрасте 33 лет Мари Мо [Marie Moe] узнала, что её сердце может подвести её в любой момент. Она работала специалистом по компьютерной безопасности в Норвегии. Мари обнаружила, что у неё достаточно распространённая болезнь сердца, нарушающая нормальный пульс и ей нужно устанавливать стимулятор сердца. Хирургическое вмешательство было быстрым и обошлось без осложнений. Уже через несколько недель она смогла выдержать поездку в Лондон с целью прохождения курсов по этическому взлому.
Она чувствовала себя хорошо до тех пор, пока не начала взбираться по лестнице Ковент Гарден, одной из самых глубоких станций лондонской подземки. Внезапно что-то случилось с её сердцем. «Мне показалось, что я умираю,- говорит она. – Это было ужасное ощущение. Я не могла дышать и не понимала, что происходит». В Норвегии кардиологи лишь спустя несколько месяцев выяснили, что случилось: ограничения на частоту пульса в стимуляторе были выставлены некорректно, и когда она перенапряглась, включился безопасный режим, резко уронивший скорость сокращений сердечной мышцы с 160 до 80 ударов в минуту.
Почему это произошло и почему это так долго выясняли? Она не уверена, но она получила доступ к своим собственным медицинским записям и увидела там примечания, свидетельствующие о том, что у программатора, использовавшегося для настройки стимулятора, либо неправильно работает интерфейс, либо есть ошибки в программе.
Она продолжила разбираться в ситуации, нашла инструкцию для своего стимулятора в интернете и узнала, что у её устройства существует возможность удалённого наблюдения параметров. С точки зрения специалиста по компьютерной безопасности беспроводная связь была ещё одним из способов вредоносного воздействия на устройство.
Затем она купила программатор для стимуляторов сердца через интернет и вместе с другими хакерами выяснила, что его можно использовать для обновления кода на её имплантате. Но она не стала взламывать своё собственное устройство – в основном её беспокоил тот факт, что она доверяла своё сердцебиение чужому коду, который можно обновить даже без её ведома. «Я хочу знать, какой код работает моём теле,- говорит она. – Если кто-то захочет его поменять, я хочу иметь возможность принять информированное решение».
Теперь, когда с программой устройства проблем нет, сердце её полно сил; она даже бегала полумарафон в прошлом году. Мо говорит, что в её планы точно не входит отпугивать людей от установки сердечных стимуляторов. Но она хочет изменить обработку кода для таких устройств. Сейчас он закрыт, и у экспертов по безопасности не существует простого способа проверить его и изучить. «Медицинские устройства – это чёрные ящики,- говорит она. – Заглядывать в них нельзя, нет никакой прозрачности, мы не знаем, как они работают».
У бостонского адвоката и пропагандистки открытого кода Кэрен Сэндлер была похожая история. У неё распространённый наследственный дефект под названием "гипертрофическая кардиомиопатия" и её сердце может работать неправильно, выдавая аритмию, что может привести к несчастному случаю. Она носит имплантируемый кардиовертер (дефибриллятор ICD), который, в отличие от стимулятора сердца, включается, только если её нужно при помощи удара током вывести из аритмии. Недавно он по ошибке включился два раза, причём один раз в тот момент, когда она была беременна. Беременность может влиять на изменения ритма работы сердца, а устройство интерпретировало их как угрозу. Как и Мо, Сэндлер хочет иметь возможность изучения кода, управляющего её устройством, отыскивать ошибки в программе и уязвимые для взлома места, но не может. «У меня нет доступа к исходникам, поэтому я не могу ничего с этим сделать»,- говорит она. По её мнению, это очевидный пример проблемы, часто возникающей в современной жизни: закрытый софт необходим для ежедневного выживания и всё равно он часто закрыт законами, охраняющими авторские права, от общественного надзора и обсуждения.
На самом деле доступ к коду или зашифрованным данным может нарушить права изготовителя, согласно «Закону об авторском праве в цифровую эпоху» (Digital Millennium Copyright Act, также известному, как закон против Napster). В 2014 году на курсах компьютерных законов в Стэнфордском центре интернета и общества было рассмотрено дело Сэндлер и трёх других диссидентов от данных: Хьюго Кампоса, поднимающего общественное движение для получения доступа к данным, собранным его ICD, консультанта по безопасности Джея Рэдклиффа, занимавшегося уязвимостями инсулиновых помп и инженера Бена Уэста страдающего диабетом I типа, сумевшего самостоятельно разобраться в работе его устройства, отслеживающего уровень глюкозы, и имплантировавшего себе инсулиновую помпу для улучшения собственного лечения. Его история с помпой затронула массы простых людей из DIY-движения, чьи дети больны диабетом.
В октябре группа добилась ввода временного исключения в закон DMCA. Их проекты и подобные им потенциально могут изменить всю картину, говорит Энди Селларс с курсов по компьютерным законам, руководивший петицией. Вспомните, что смогли исследователи из Университета Западной Виргинии сделать с Volkswagen: «Один человек здесь может добиться больших изменений».
Среди DMCA'шной четвёрки, Кампос один не является инженером – он всего лишь хотел получить доступ к информации, собираемой его ICD, чтобы понять, что может привести к появлениям нарушений в работе сердца. Как и у Сэндлер, у него гипертрофическая кардиомиопатия и он хочет провести всесторонний анализ, чтобы найти связь между его деятельностью (сном, употреблением кофе, танцами) и приступами аритмии, чтобы он мог их избегать. Его ICD постоянно отслеживает работу сердца и отправляет по беспроводной связи информацию к изготовителю, компании Medtronic. Но когда он попросил у компании доступ к этой информации, ответом ему было «нет». Кампос якобы должен спрашивать своего доктора – но у какого доктора найдётся время для проведения такого анализа?
Вместо этого он прошёл тренировочные курсы для инженеров-кардиологов, купил себе такое же устройство для опроса стимулятора, какие используют они и сам во всём разобрался. К его разочарованию оказалось, что одним из факторов, вызывавших приступы, стало виски, после чего он завязал с его употреблением.
В процессе Кампос превратился в активиста, пропагандирующего упрощение доступа к любым данным для всех, кому они нужны. «Вы получаете данные из моего кардиостимулятора, за который я заплатил, который имплантирован в моё тело, с самого интимного варианта технологии, который можно себе представить – и мне же запрещён доступ к нему? Это потрясло меня до глубины души,- говорит он. – Это совершенно неправильно».
Комментарии (90)
MaksVasilev
17.08.2016 11:47-2Какая-то путаница в статье. Не понятно, она несколько раз меняла разные виды имплантиуемых устройств или это просто статья сама себе противоречит?
Вначале говорится о стимуляторе задающем ритм работы сердца, а дальше приводится описание, что у неё не стимулятор вообще, а дефибрилятор, подавляющий припадки аритмии и вообще не задающий ритм.
Не менее странно звучит фраза про снижение ритма сердца стимулятором со 160 при ходьбе по обычной лестнице. Для многих более-менее здоровых людей придётся бежать по лестнице, что бы достичь такого пульса, а дальше по тексту мы узнаём, что девушка бегает марафоны, значит для неё пульс 160 вообще не может быть нормой при ходьбе.
Скорее всего в данном месте должно было быть описание того, что во время подъёма по лестнице у неё случился приступ аритмии/тахикардии с резким и неадекватным увеличением ЧСС до 160, в результате чего сработал дефибрилятор, который погасил желудочковые экстрасистолы и пульс вернулся к нормальным 80 ударам в минуту, именно такой частоте, которой можно ожидать при ходьбе по лестнице у человека, бегающего марафоны.MaksVasilev
17.08.2016 11:51А, извините, разобрался. Упустил один момент — это речь о двух разных людях.
Sunny-s
17.08.2016 23:4080 — это пульс просто идущего по ровной поверхности человека. попробуйте взобраться этажей на 20. Я бегаю четвертьмарафоны, при подъеме на 8 этажей пульс поднимается до 140.
MaksVasilev
18.08.2016 08:27Я бегаю десяток раз в году, в том числе и полумарафоны, остальное время занимаюсь другими видами спорта на выносливость. При подъёме пешком на 8-10 этажей пульс поднимается максимум 110-115. Пульс 160 у меня — это уже граница ПАНО и пешком по лестнице мне его не достичь в принципе. 140 пешком по лестнице за 10 этажей вполне реально, но только с отяжелением, такой пульс у меня достигался с рюкзаком в половину собственного веса.
konstwww
18.08.2016 13:20Все очень индивидуально, зависит от возраста, веса и скорости (по лестнице можно подниматься не спеша, «задумываясь» на каждой ступеньке, а можно чуть быстрее) а так же от самих ступенек. Я тоже пару раз в год бегаю полумарафоны, четвертьмарафоны 1 — 2 раза в неделю, при этом на работе при подъеме на 7-й этаж пульс доходит до 130-140, тогда как при беге со скоростью 13км/ч около 155 после часа бега.
pnetmon
17.08.2016 11:59+3Читая думаешь что это было совсем недавно и статья новостная.
Автор мартовской статьи намекал на другую проблему с ее устройством
https://www.wired.com/2016/03/go-ahead-hackers-break-heart/
Since I’m younger than most pacemaker patients, the default configuration settings were not suitable for me. It took a few months of trial-and-error tweaking before the doctors could get the tuning right, and this was complicated by a software bug in the programming device that they used to adjust the settings of the pacemaker. The bug caused the actual settings of my device to differ from the those displayed on the screen at the hospital that the pacemaker technician was seeing.
>>В возрасте 33 лет Мари Мо [Marie Moe]
В прошлом или позапрошлом году она отметила 37 летие по этой статье http://www.spiegel.de/netzwelt/web/herzschrittmacher-als-sicherheitsrisiko-marie-moe-auf-dem-32c3-a-1069773.html
pengyou
17.08.2016 12:12-10С капитализмом любая идея становится мерзостью, служащей цели извлечения прибыли из поставленных в безвыходную ситуацию людей. Вот и киборгизация тоже.
Roboserv
17.08.2016 13:08+1какой-же совковый бред я только-что прочитал.
pengyou
17.08.2016 14:12-5Это была вершина вашей системы аргументов или её дно?
Roboserv
17.08.2016 14:32+2Если я буду аргументировать на каждую чушь, которую читаю в интернете это превратиться в работу полного дня.
AntkliKruin
22.08.2016 10:34+1В 4 классе советской школы меня научили правилам, регламентирующим использование -тся и -ться. Всем советую.
Roboserv
23.08.2016 23:33А в моей украинской школе вообще не было русского языка, что не мешает мне разговаривать и писать получше большинства россиян, но иногда когда быстро пишу могу перепутать ться/тся. Зато я свободно владею немецким и английским. Дальше что?
Barma2012
17.08.2016 15:00-2Этот пост кажется вам бредом, потому что вы сравниваете социализм (в модели СССР) и капитализм (в модели стран Западной Европы, например). В таком противостоянии капитализм, само собой, эффективнее.
Но это не отменяет его очень серьезных недостатков, один из главных — погоня за прибылью, которая вытесняет всё остальное. В том числе вытесняется и любое иное отношение к людям, кроме потребительского. Неужели вы считаете, что производителю, а тем более продавцу, интересны вы сами, а не ваш кошелек?
Sychuan
17.08.2016 15:41+4Этот пост кажется вам бредом, потому что вы сравниваете социализм (в модели СССР) и капитализм (в модели стран Западной Европы, например). В таком противостоянии капитализм, само собой, эффективнее.
И в какой же модели социализм оказался эффективнее, чем капитализм? Вот скажем, в Индии с начала проведения капиталистических реформ и отказа от госрегулирования, 400 миллионов человек поднялись выше уровня черты бедности. Тоже самое, но еще быстрее происходило в Китае и Вьетнаме.
Но это не отменяет его очень серьезных недостатков, один из главных — погоня за прибылью, которая вытесняет всё остальное.
Ну пошли совдеповские агитки. В чем же погоня за прибылью недостаток? И что она вытесняет? В США в начале века, когда среднее образование было платным, а люди были гораздо беднее, практически все дети учились, как бы бедны они не были потому что существовали фонды и организации, которые обеспечивали им помощь в оплате образования. Надеюсь вы знаете о фонде Билла и Мелинды Гейтс, о премиях Мильнера, университетах и библиотеках Рокфеллера и мноших других миллионеров и миллиардеров?
Неужели вы считаете, что производителю, а тем более продавцу, интересны вы сами, а не ваш кошелек?
Неужели вы считаете, что покупателю, а тем более потребителю, интересны вы сами, а не ваш товар?
Да, я не интересен владельцам Эпла, точно также как они неинтересны мне. И это нормальные отношения обмена между людьми. А что вы ожидаете от них, признания в любви? Какие вам отношения по нраву больше, с государственными чиновниками?ArkturTierry
17.08.2016 19:49+1Ну вот, пошли капиталистические агитки. Это дисциплина спец.олимпиады, не надо так.
По факту, США начала века пришли к Великой Депрессии -и это как раз прямое следствие «родового» порока капитализма, в том числе погоня за прибылью. Понадобился Рузвельт, с его фактически социалистическими замашками и очень удобная для штатов Мировая война, чтобы из Депрессии выйти. Что касается фондов имени Имярек, то интересно знать, сколько составляет бюджет мин.образования штатов а сколько указанные фонды.
На самом деле противопоставление капитализма и социализма некорректно поскольку в химически чистом виде они не встречаются, всегда есть элементы одного в другом (Но не коммунизма -вот он-то с капитализмом действительно антагонистичен, но немножко по другим причинам. И по понятным причинам, коммунизм так и не был построен, ибо Мировая революция выдала epic fail).
Что касается интересов и неинтересов, то вы были бы правы, если бы производство и потребление ТУ не носило глобальный, всеохватывающий характер и каждый не был бы в него вовлечен так или иначе. Вот при натуральном способе хозяйствования ваш тезис 100% ОК, а в нашем реальном мире не совсем.herr_kaizer
17.08.2016 21:00Капитализм виноват?
По факту, последующее вмешательство американского правительства эту депрессию только усугубило, и породилось им же — из-за избыточного роста денежной массы и агрессивной кредитной политикой. В 2008 году лопался тот же самый пузырь, о нём каждый раз предупреждают австрийские экономисты, но сторонники фискальной политики ошибок своих признавать не хотят.ArkturTierry
18.08.2016 16:30+1>Капитализм виноват?
Да, капитализм виноват в собственных кризисах «перепроизводства» (по факту -недостатка покупательской способности населения, которую сейчас лечат кредитами). Это даже не изобретение Маркса, этот факт был отмечен до него и признается большинством экономистов (не-марксистов) в наше время.
Великая Депрессия -кризис капитализма, системный. Один в череде аналогичных, просто очень глубокий. И этот кризис американское правительство успешно оттягивало как могло, реформы Рузвельта действительно помогли вытащить США из серьезной ямы. Без этих мер США из кризиса выбирались бы еще очень долго и не факт что решением в итоге не стала бы революция. Рузвельт в свое время пугал своих капиталистов в стиле, дескать, отдайте сейчас часть, а то сделают революцию и всё отберут.
uzzz
18.08.2016 10:11Фонды и организации – это не особенность и не преимущество капитализма как системы. Во-первых меценатство было и при других формациях, например в средневековой феодальной Европе. Во-вторых государство, по сути некапиталистическими методами, стимулирует к такой деятельность через вычет из налоговой базы.
Roboserv
17.08.2016 15:50+4Погоня за прибылью это главная фишка капитализма — это залог здоровой конкуренции и как следствие победы здравого смысла над мракобесием. А что бы не было злоупотребления есть законы и правила. Интерес к моему кошельку это и есть интерес ко мне. Кошелек мой и балом правит тоже потребитель. У вас уровень мышления отстал на лет 100+. Системы лучше капитализма / свободного рынка пока не придумали. Как придумают, сообщи мне.
В 2016 это не знать этого — это позор, учитывая что капитализму более 100 лет. Когда нужно объяснять такие простые вещи никак иначе кроме как совковостью мышления я это назвать не могу. 80 лет промывания мозгов в совке не прошли зря как я вижу.
geher
17.08.2016 21:59+1> Погоня за прибылью это главная фишка капитализма — это залог здоровой конкуренции и как следствие победы здравого смысла над мракобесием.
Погона за прибылью — залог стремления к монополии.
Потому любая современная экономическая система, использующая капитализм, имеет дополнительные внерыночные и надкапиталистические ограничения. Например, в виде антимонопольгного законодательства.
А чтобы наемные работники не буянили чрезмерно, капитализм разбавляется в значительной мере социализмом.
> Системы лучше капитализма / свободного рынка пока не придумали.
Уже придумали. Комбинированная система.
Свободного рынка благодаря тому же антимонопольному законодательству и ряду других ограничений не существует уже давно.
Чистого капитализма благодаря социальным ограничениям тоже.
> Интерес к моему кошельку это и есть интерес ко мне.
Всего лишь иллюзия. Нет никакого интереса к обладателю кошелька. Есть интерес к некоторым деталям, не более.
> Кошелек мой и балом правит тоже потребитель.
Тоже не больше чем иллюзия.
Спрос вполне управляем.
simki
18.08.2016 03:48+1Комбинированная система.
Тоже так думаю. Если налоги забирают 80% в общественную собственность, это скорее «коммунизм», чем «капитализм». В Китае «коммунизм», без пенсий и социальных программ, а государство поддерживает бизнес, в Европе «капитализм» с налогами до 80% и социалкой позволяющей не работать и нормально жить. Парадокс. Похоже термины просто остались от идеологических противоречий и ничего не значат в реальности.
uzzz
18.08.2016 10:24+1Апеляция к совковости мышления даёт +100 к аргументации.
Системы лучше капитализма / свободного рынка пока не придумали
От той системы в которой живёт западный мир теоретики капитализма в гробу вращаются. Капитализм сильно трансформировался на протяжении 20-го века как раз под влиянием социалистических настроений. Поверьте, вам не понравилось бы жить в свободном рынке и диком капитализме образца конца 19-го века.
В 2016 это не знать этого — это позор, учитывая что капитализму более 100 лет.
Больше двухсот по самым скромным подсчётам.
pengyou
18.08.2016 12:25+1То есть капитализм промывает мозги уже 200 лет? Два века промывания мозгов в капитализме прошли не зря, как я вижу.
Вообще интересно, ненависть к государству рабочих из ваших слов вполне очевидна, то есть, как минимум, вы необъективны. Но это ничего, интереснее другое — то, что вы оперируете фразой «лучше капитализма ничего не придумали», которую изрёк лидер капиталистической страны середины 20-го века. Вы эту фразу просто так говорите, или реально её проверили? Если не проверяли, то вы вообще зомби, у вас уровень мышления так и остался на уровне детского сада. И ненависть тоже детская. Обозвал целую страну и её бывших граждан, пожевал песок, обосрался под себя и радуешься, как ребёнок: «вот как уделал совков, двумя фразами, одна Черчилля, другая моя.»
herr_kaizer
17.08.2016 13:31+7С капитализмом идея становится возможной в первую очередь. Не знаю, как вы, но я предпочту зависеть от предпринимателя, а не лежать в земле.
pengyou
18.08.2016 10:11Нет, не так. В капитализме из вашей многолетней агонии сделают источник бесперебойного питания. А вы будете жить с животным страхом смерти от неуплаты абонентской платы.
Про возможность идеи это вообще смех сквозь слезы. Нет денег — нет возможности. А учитывая текущий баланс владения богатствами мира — денег нет практически ни у кого. Есть только сказки из 19-го века для доверчивых умников и затыкание ртов для всех остальных.
Капиталист — людоед. Богатый — значит украл моё.bobermai
18.08.2016 12:32Два взаимоисключающих параграфа подряд и обида на весь мир. Даже и не знаю, с чего начать, все такое вкусное.
OnelaW
17.08.2016 12:15+2Как по мне, больше опасения вызывают всякие энтузиасты, особливо когда они с чистыми помыслами лезуют на «боевое» устройство. А в случае с сердцем…
Но все же лучше, когда есть энтузиасты которые стремятся познать и улучшить,
miga
17.08.2016 12:25-2Лично у меня еще большие опасения вызывают программисты компаний, занимающихся железом. Те самые люди, которых не взяли в софтверные компании.
nikabc555
17.08.2016 12:44+4С чего вы взяли, что программисты, занимающиеся железом, сначала метили в софтверные компании?
lingvo
17.08.2016 14:25+4А у меня сейчас, как раз в свете IoT, вызывают большие опасения софтверные компании и их программисты, решившие лезть в мир железяк и думающие, что ихний IoT-enabled привод для ворот, написанный на node.js/PHP/Lua, никогда и никого не придавит.
miga
17.08.2016 14:34+1Зато эти ребята приучены к информационной безопасности и не предполагают, что до дебажного разъема злоумышленники никогда не доберутся. С приходом IoT в «железячников» безопасность, приватность и прочие новые и незнакомые понятия вбивать придется очень долго и мучительно.
IronHead
17.08.2016 14:52Ну да, сначала эти выходцы из софта сделают свою ардуину, в которую будут влезать их фреймворки: https://geektimes.ru/company/intel/blog/279128/
А потом и того хуже: https://habrahabr.ru/post/307882/#comment_9755110miga
17.08.2016 14:57А почему бы, собственно, и нет? Что плохого в ардуине/RPi/whatever, на которой бежит linux/windows/android/etc, даже если все что нужно — управлять чайником? Прогресс не стоит на месте, а идет вперед — пока аскеты с PIC пытаются найти лишний бит памяти, дурачки с ардуиной и нодежс делают и продают продукт.
lingvo
17.08.2016 16:17Ничего плохого, если во время нагрева чайника вдруг из-за какого нибудь malloc эта железяка задумается на пару секунд или выпадет в exception и перезагрузится. В крайнем случае выкипит вода.
А вот если данная железяка управляет кардиостимулятором, последствия могут быть похуже…miga
17.08.2016 16:55А о том что будет, если данная железка управляет кардиостимулятором, можно почитать сверху, в самой статье :)
Я как бы не просто так тут ругаюсь, вокруг меня десятки примеров чрезвычайно плохого софта (как приложений, так и прошивок), созданного вендорами железа. Оглянитесь вокруг — наверняка в вашем умном телевизоре от самсунга стоит наиублюдочная прошивка, драйвера звуковой или видеокарты глючат или падают, штатный шелл в новом Galaxy вызывает сначала рвоту, а потом смех и т.д. Безопасность, прайваси, открытость — еще одна отдельная печальная тема.
Я не знаю, в чем истинная причина такого прискорбного положения вещей, недостаток и специфичность кадров — мое предположение.lingvo
17.08.2016 17:23Эээ, подождите, мы о каком «железе» говорим?
Умный телевизор, мобильник и видеокарта — это одно.
Кардиостимулятор, ABS, система управления лифтом, бортовой компьютер Ariane 5, привод управления воротами, контроллер чайника — это другое.
Разница между данными группами железяк — real-time, а точнее во времени реакции на внешние события. В первом случае это время недетерминировано — т.е. если телевизор вдруг прореагирует на 0,5с позже, ничего страшного не произойдет. Видеокарта пропустит один кадр — вы даже вряд ли заметите.
А вот во втором случае накладываются жесткие ограничения. Если процессор ABS начнет «тормозить», то эта ABS просто перестанет выполнять свою функцию, привод для ворот сломает ограничитель, а Ariane 5 уйдет в штопор.
С моей точки зрения проблема есть в том, что программисты железяк первой группы вдруг решили, что они могут также легко программировать железяки из второй, не задумываясь, что такое real-time. Еще бы — интерфейсы нужные появились, фреймворки родные заработали, стоимость вхождения за счет возросших мощностей значительно упала, IoT в тренде…miga
17.08.2016 17:36real-time мне не кажется каким-то Святым Граалем, это всего лишь еще одно ограничение платформы. Точно так же как и соотношение багов на число строк кода и тщательность тестирования — всего лишь метрики, которые вам диктует ваш проект (кофеварку и сайтик на вордпрессе можно запрограмить кое-как, а ракету или бота для HFT — стоит постараться получше). Плохие программисты тут будут работать плохо, а хорошие — хорошо, никаких посконных знаний и умений от них не требуется. И вот это соотношение плохих/хороших мне кажется разным для условных «софтовиков» и «железячников»
roswell
17.08.2016 22:07С моей точки зрения, IT-братия слишком расслабилась с тех самых пор, когда в EULA на выпускаемую продукцию появились несколько пунктов, смысл которых сводится к «вот вам решение*, правда хз** как оно работает, но, если что-нибудь йопнет***, мы вам 50%**** вернём». Своими же словами: ответственности в отрасли очень и очень мало.
madf
17.08.2016 12:23-12Чем больше открытости — тем меньше надежность. А вот почему такую серьёзную штуку так легко можно обновить/внести изменения — это другой вопрос. Надо было делать закрытое оборудование, с невозможностью использовать «где попало», ибо на кану жизнь человека. Ну а про качество разработки и продумку построения алгоритма, чтобы в основе снизить отказоустойчивость и вероятность ошибки — это конечно косяк явный.
lingvo
17.08.2016 12:34+4Чем больше открытости — тем меньше надежность.
Почему? Если будет нормальный контроль за изменениями кода, то есть каждый может смотреть и и тестировать код, но только действительно существенные доработки будут проверяться и коммититься в основное дерево после серии испытательных тестов — это будет работать.
В принципе пример данного принципа уже есть. Например та же операционка реального времени VxWorks, которая работает во многих критических системах, связанных с жизнью человека. Она поставляется клиентам исключительно в виде исходников и поэтому каждый программист, подписавший лицензионное соглашение, может просмотреть тексты, найти уязвимости и баги и даже внести изменения. Далее WindRiver предоставляет баг-трекер, куда можно написать о багах, и они их оперативно устраняют в следующей ревизии. Мы так, кстати, уже несколько раз делали.
Так что в пределах определенных продуктов все вполне возможно.madf
17.08.2016 12:40-6Потому, что не все понимают до конца все процессы в организме и железке, на трупах будите опыт нарабатывать? :D Упс, да экспериментатор умер…
lingvo
17.08.2016 12:52+1По-моему в медицине всю жизнь было так… Но если взять аналогию с лекарствами — все исследования и эксперименты на животных, людях, насколько я знаю, являются открытыми. Также является открытой и формула лекарства. Но производитель оставляет за собой привилегированное право на производство этого лекарства в течении N-лет, и только потом начинают производить генерики.
Можно было бы и с электроникой и ПО для кардиостимуляторов поступить точно также…
unxed
17.08.2016 12:41+6Security through obscurity не работает. Вернее, работает, но с точностью до наоборот — уровень безопасности снижается, когда нет возможности сделать полноценный независимый аудит.
m1n7
17.08.2016 23:41>Чем больше открытости — тем меньше надежность
Интересно, как это вы пришли к такому замечательному выводу?
Jamim
17.08.2016 23:41Прошу Вас, ознакомьтесь, пожалуйста, с особенностями упомянутого выше принципа «Безопасность через неясность» (“Security through obscurity”) и поделитесь своими выводами.
perfect_genius
17.08.2016 12:27+1Разве производителям не выгоднее открывать исходники и тем самым снимать с себя ответственность при происшествиях, мол, вон даже всей общественностью упустили баги?
lingvo
17.08.2016 12:40+2Наверное выгоднее держать их закрытыми, чтобы конкуренты не скопировали ноу-хау. Других причин я не вижу.
Glays
17.08.2016 13:34С другой стороны, если всех заставлять раскрывать исходники, то будет видно, кто у кого скопировал ноу-хау.
C4ET4uK
17.08.2016 23:42Хм, а для вас будет важно, что китайцы скопировали софт, а не сами написали, если они сделают аналогичный продукт на 50% дешевле, сэкономив на разработке?
Glays
18.08.2016 09:49Для меня, как для потребителя, это будет только лучше.
Сейчас они делают тоже самое, только с закрытыми, криво «обратно разработанными» или самописными костылями, где косячат как угодно.
А вот для компаний, владельцев интеллектуальной собственности, облегчится путь доказательства нарушения авторских прав.C4ET4uK
18.08.2016 12:32Таким образом, купив у китайцев лишите прибыли тех, кто вложился в разработку. А по поводу копирования и так все ясно, но китайцам как-то пофиг на авторское право…
Glays
18.08.2016 13:26Ну корейцам, например, запретили в США продавать свою продукцию.
Так что думаю выгода от быстрого использования чужих наработок, скомпенсируется невозможностью скрыть это копирование и большей вероятностью потерять часть рынка.
bobermai
17.08.2016 12:56Я смутно предполагаю, что это снимет разве что моральную ответственность, и то не факт.
NeuroHunter
17.08.2016 21:48Так не работает.
То, что исходники открыты, совершенно не снимает с производителя ответственности за устройство, которое он поставляет.
frig
17.08.2016 12:45+4Далеко не только ПО может повлиять на наше здоровье и жизнь. Те же стимуляторы имеют еще и аппаратную часть, которая тоже может содержать ошибки. Аппаратное обеспечение автомобилей, их конструкция в целом тоже могут содержать ошибки.
Вряд ли просьба предоставить в полном объеме чертежи покупаемого автомобиля для анализа будет воспринята серьезно, хотя и среди покупателей автомобилей есть специалисты, способные оценить конструкторские решения и надежность. Особенно среди конкурентов :)
Черный ящик тоже можно тестировать и если по результатам он выполняет свои функции (проходит краш тесты и выполняет экологические нормы, например), то все нормально. Вряд ли будет иначе.lingvo
17.08.2016 13:05+1С автомобилями, благодаря их распространенности, дело обстоит проще в этом плане — для выявления багов в железе и софте человечество уже давно использует сертификацию, независимые экспертные организации, периодические техосмотры, краш-тесты и т.д. Т.е. человек, покупая машину в салоне, по крайней мере может рассчитывать, что авто его не убьет. Но, как показал скандал с VW, и Теслой, даже это не всегда помогает.
А вот вопрос к миостимулятору есть — кто его сертифицировал? Как устройство с такими багами попало к пациенту? Возможно это все из-за несовершенства законодательства в этой сфере.
sim31r
17.08.2016 21:43Если устройство сертифицировать 50 лет, привлечь армию юристов будут плохие последствия:
1. Миллионы людей умрут, недождавшись стимулятора. Компании боятся выпускать устройство на рынок (засудят же, клиенты люди со слабым сердцем и будут умирать чаще здоровых, каждая смерть праздник юристам, повод срубить миллионы). Оно уже и сейчас так в США, даже после удачного лечения, операции, можно подать в суд ради собственной выгоды, если юрист найдет малейшее нарушение стандарта лечения. Например врач интуитивно знает что надо дать лекарство А, а положено лекарство В, то должен следовать алгоритму и пациент пострадает, но юрист не придерется — парадокс.
2. Устройство станет дорогим и 90% людей не смогут его позволить себе, будут умирать. В каждое устройство будет заложена цена 100500 сертификатов, на 1% труда разработчиков, будет 99% «труда» юристов. В цену устройства будут заложены потенциальные выплаты тем, чей юрист сможет добиться выплаты компенсации (вплоть до злоупотреблений, зная что неизлечим, поставил себе устройство, вывел его из строя, семья получила компенсацию).
3. Станет намного сложнее процесс обновления прошивки, совершенствования. Чтобы выпустить патч, нужно будет бесконечно сертифицировать его, а в это время, в реальном времени будут умирать люди. Это запуск ракеты можно отложить на 20 лет, а с чахлыми органическими телами задержки не приемлемы, не помог умирают.
Wuzaza
17.08.2016 18:46+1Никакого бага в кардиостимуляторе нет — превышение определенной частоты собственных сокращений и должно переводить аппарат в режим принудительного ритма с ЧСС около 60. Длительная работа сердца с частотой 180 смертельно опасна и может достаточно быстро закончится инфарктом миокарда и остановкой сердца. Да резкое снижение ЧСС вызывает неприятные ощущения, тем более если аппарат снабжен кардиовертером. Но тут уж извините. Цена вопроса жизнь.
Vitalik1705
17.08.2016 23:41Думаю, здесь нужно не открывать исходники, а ТЕСТИРОВАТЬ. Утвердить стандарт, который будет жестко устанавливать требования к тестам и выдавать разрешающие документы на приборы только прошедшим это тестирование. Ведь если бы этот баг проявился при тестировании, его можно было бы исправить до применения на человеке.
nafikovr
17.08.2016 23:49Это все давно существует. Мед оборудование проходит жесткую сертификацию. До людей проводится испытание на свиньях (конкретно про стимуляторы и дефибриляторы). Но все баги предсказать в любом случае невозможно.
Vitalik1705
18.08.2016 00:16Но все баги предсказать в любом случае невозможно
В любом случае теперь его обязательно нужно добавить в тестирование.nafikovr
18.08.2016 08:50что добавить. неизвестный баг, который проявился в неизвестных условиях от неизвестно чего?
Vitalik1705
18.08.2016 11:55ограничения на частоту пульса в стимуляторе были выставлены некорректно, и когда она перенапряглась, включился безопасный режим, резко уронивший скорость сокращений сердечной мышцы с 160 до 80 ударов в минуту.
bobermai
18.08.2016 11:59А кардиологи точно согласны с тем, что пульс в 160 для человека со специфическим заболеванием — это нормально?
А то меня вот из экспедиции в горах отправили вниз, когда пульс долго 120 держался — небезопасно это, сверхнагрузки. При том, что я формально здоров.
nafikovr
18.08.2016 12:00если почитать статью, то становится понятно что проблема не конкретно в этом, а вообще в неопределенке с возможными багами. а данная цитата это не баг, а тупо ошибка при настройке. возможно даже человеческий фактор.
NickUrnyshev
17.08.2016 23:41В какое удивительное время мы живем! Читая первые строчки, думал, что это очередной интересный заказ про ближайшее будущее.
vasiliysenin
17.08.2016 23:43Доступ к коду стимулятора, обычному пользователю не нужен. А вот сертификат безопасности нужен.
Другое дело данные о работае сердца, как во втором случае. Их, в каком то смысле, можно сравнить с персональными данными, на которые человек имеет право.
black_semargl
18.08.2016 17:27Но решать это должен сам пользователь, нужно ему или нет.
А то незаметно для него там появится функция выключения при достижении пенсионного возраста.
Seekeer
18.08.2016 10:53>пока не начала взбираться по лестнице Ковент Гарден, одной из самых глубоких станций лондонской подземки. Внезапно что-то случилось с её сердцем. «Мне показалось, что я умираю,- говорит она. – Это было ужасное ощущение. Я не могла дышать и не понимала, что происходит»
А она считала, что кардиостимулятор должен превратить её в спортсменку?
Я эту станцию не посещал, но, думаю, что обычные люди тоже испытывают серьёзные проблемы, когда пытаются её быстро преодолеть.
lingvo
С этой точки зрения можно было бы также придолбаться к софту в системах ABS, ESP и подушек безопасности моего автомобиля — вдруг там есть потенциально опасный баг, который может привести к неправильной работе этих систем и в конце концов — к аварии? Я бы даже мог со всем этим кодом разобраться, так как обладаю нужной квалификацией.
IronHead
Чего уж тут, давайте сразу исходник автопилота теслы…
lingvo
Возможно, благодаря таким явлениям, мы его скоро и увидим…
AlexanderG
А почему, собственно, и нет? Особенно вспоминая историю с исследованием кода Тойоты.
ksil
а что за история?
Sild
Это видимо та, где был специальный, экологически чистый, режим работы двигателя — для тестовых установок.
roswell
Если мне не изменяет память, история с фейковыми показателями при работе двигателей на стендах касалась Volkswagen.
Appolon20
Это было с компанией Volkswagen
Nedelkin
Какие то проблемы с педалью газа.
j_wayne
> Экспертиза выявила одиннадцать тысяч глобальных переменных. Код реализации firmware назван хорошо знакомым всем программистам словом «spaghetti». Анализ цикломатической сложности программы выдал 67 не пригодных для тестирования функций, а ключевая функция определения угла дроссельной заслонки в ходе этого анализа показала какую-то удивительную оценку, при которой не только тестирование, но и вообще какое-либо сопровождение программы невозможно.
https://www.linux.org.ru/forum/talks/9801164/page2
andrejtad
~ 400 глобальных переменных, и прочие антипатерны.
QR-code
Уже было. У VW в некоторых моделях была проблема с растормаживанием колес: машина просто катилась, несмотря на нажатую в пол педаль тормоза. Легко гуглитя по запросу «tiguan abs».
PitBeast
Сообщество пользователей таких устройств может собрать деньги и нанять специалистов, разбирающихся в предметной области.