Пару дней назад Хабр прислал мне письмо про «Технотекст-8». Я про это письмо успешно забыл и вспомнил только сегодня. И внезапно я понял, что это отличный шанс поучаствовать одновременно и в «Технотекст-8» и в «Сезон Heavy Digital» (который я таки пропустил).

Дело в том, что в «Сезон Heavy Digital» не раскрыта тема, которую я считаю актуальной и которая предельно ясна из названия - «Не кибербез, а цифро-ТБ». Казалось бы, в чём разница?

Разница существенная. Безусловно, кибербез имеет разные аспекты, но главное направление состоит в противодействии внешнему нападению и в умении нападать самому. Вобщем, надо быть спецом, как в том фильме, где Хью Джекман должен что-то взломать на скорость и его стимулируют Джон Траволта и Холи Бери, приставив к голове и другим важным органам различные стреляющие и колюще-режущие предметы.

Это универсальное поведение любого безопасника — есть охраняемый объект, есть периметр безопасности, есть высококвалифицированные злодеи, стремящиеся пробить периметр и нанести вред объекту. Нападение может случиться в любое время, включая «никогда», и безопасник должен быть всегда готов отразить атаку. А будет этот объект президентом страны, сервером сталелитейного завода или полками в продуктовом магазине, это уже вторично и сути безопасников не меняет.

ТБшник же, это совсем иное — это скучный и занудный человек, который раз в три месяца проводит инструктаж о том, что на стройке надо носить каску и проверять розетку тестером, прежде чем совать туда пальцы. ТБшник не охраняет ценный объект, на который хотят напасть злобные личности из-за внешнего периметра — он следит за тем, чтобы массовый сотрудник внутри периметра не пострадал от безличных вредных и опасных факторов. Чтобы этот сотрудник не поранился и не навредил себе или производственному процессу.

И надо понимать, что в случае с цифровизацией человеческой деятельности возникают разные факторы, которых раньше не было и от которых не ожидают проблем.

Да, в первую очередь напрашивается мой любимый «цифровой износ» и то, что сотрудники могут пересылать друг другу файлы, которые по дороге будут искажаться. Картинки будут сжиматься в мессенджерах и утрачивать детали, «офисные» документы будут переконвертироваться онлайн-сервисами и отображаться по иному.

Но на этом проблемы не кончаются. Человек может сделать фотографию смартфоном в режиме «овермного К», не понимая что это уже прошло через улучшайзер и с фотографии могло что-то пропасть…

… или что-то появиться.

Да я в курсе, это улучшал не смартфон, но это было 6 лет назад, а сейчас такие фокусы может делать смартфон, ибо «вычислительная фотография».

А ещё могут быть проблемы с интерфейсами, которые сейчас асинхронные и микросервисные, то есть — он может недозагрузиться, а ты уже куда-то нажал. Да и, в конце концов, сперва мы «звонили карманами», потом «лайкали карманами», а сейчас пришло время «останавливать конвейер карманами».

Вы скажите, что это проблема разработчиков интерфейсов, но нет — это проблема тех, кто этими интерфейсами пользуются. И эти люди должны понимать какие могут быть проблемы и учитывать их.

Безусловно, в упоминавшемся ранее «Сезон Heavy Digital» есть статьи, затрагивающие сходные проблемы. Например, в «Подрядчик обманул нас на заводе, но ИИ разоблачил его, а потом сэкономил ещё 170 млн ₽» прямо сказано:

Эксперт видит всё глазами механика в режиме реального времени. У него есть виртуальная указка — она появляется на микродисплее очков. Механик видит, куда смотреть и что делать. Если связь плохая, эксперт отправляет стикеры: зелёная галочка — всё правильно, красный стоп — прекрати действия.

Качество картинки критично. Эксперт должен разглядеть маркировку на гайке, трещину на корпусе, утечку масла. Если скорость интернета падает, картинка может подвисать, но качество остается высоким. В крайнем случае остаётся только звук — это лучше, чем полная потеря связи.

Казалось бы, проблема плохой связи учтена, но нет. Тут рассказано о том, что делает обученный и высокооплачиваемый эксперт, в случае проблем со связью, но не сказано, что делает сильно менее обученный и оплачиваемый механик на месте. Что он должен делать в ситуации, которая якобы «лучше, чем полная потеря связи» и слышит в ухе команду «жми на эту кнопку».

Правильно, механик должен вспомнить инструктаж по ТБ о том, что цифровая связь отличается от аналоговой радиосвязи и что слова, которые он слышит сейчас могли быть произнесены несколько ранее.

Или вот, в статье «Как нейросеть “заглянула” в пиролизную печь» написано

Чтобы использовать OpenCV, пришлось бы сначала преобразовать температурную матрицу в обычное цветное изображение.

При этом часть признаков, которые потенциально могут быть использованы для сборки панорам, могут искажаться из-за особенностей такого преобразования.

А оператор в курсе этого? Объяснили ли ему эту проблему? Показали ли ему примеры таких искажений? А объяснили ли оператору то, что искажение может быть не только из-за оцифровки данных тепловизора, но и из-за поведение GPU на его компьютере. А сколько времени прошло с последнего инструктажа?

При этом, работник деревообрабатывающего производства должен понимать, что древесная пыль взрывоопасна. Работник механического производства должен знать, что болтающиеся волосы и одежда наматываются на валы. Работник использующий электрифицированное оборудование должен знать, что не надо совать руки к проводам.

Если Вам это знание кажется очевидным, то у меня для вас сюорприз — люди очень быстро забывают то, что вы сейчас посчитали очевидным. У них это просто вылетело из головы, в силу обыденности. Они уже закурили не там, они уже полезли не туда, их уже намотало на вал. Это ежедневно действующие обезличенные вредные и опасные факторы и единственный человек, который стоит между работником и травмой — ТБшник.

Не телохранитель со стволом под пиджаком и не кибербезопасник медитирующий на строчки бегущие по экрану, а занудный, противный, вечно лезущий не туда и развешивающий идиотские плакаты ТБшник.

И, кстати, цифро-ТБ выглядит так же как электро-ТБ или пожарное-ТБ, просто факторы другие.

Цифро-ТБ это рассказ о том, как стохастически-глючат и закономерно-искажают цифровые технологии, встроенные в конкретный рабочий процесс. О цветопередаче, о перекодировании, об асинхронности и многом другом.

И, конечно же, о том, как работают модные сейчас ИИшки.

Ведь этот текст писался второпях, в последний момент и у меня не было времени прочитать все 48 статей. Да и лень было. Поэтому, я поболтал с ИИшкой по вопросу «есть ли в этих текстах вот такая тема» и на основании этого сделал вывод о том, что вопрос цифро-ТБ не раскрыт в статьях «Сезон Heavy Digital». А сейчас я рассказываю об этом вам.

Ну, ладно, для меня это лишь часть статьи, сознательная провокация и иллюстративный пример того, что может быть. Я достаточно упёртый и фанатичный, чтобы внимательно прочитать все 48 статей и сделать свои собственные выводы, но я решил сделать свою статью примером описываемых в ней проблем.

Конечно же, я знаю о том, что ИИшка могла получить доступ не ко всем статьям, что могла потерять контекст, что могла нагаллюцинировать. Я понимаю, что исходные данные могут быть не полны. А вот вы этого можете не знать, потому что весь это текст, кроме цитат, набит моими пальцами.

Я сделал это намеренно, но кто-то сделает так просто потому что считает, что никакой проблемы не будет.

А проблема будет, и это не проблема кибербеза, в виде уязвимость нулевого дня или хакера звонящий по телефону чтобы выведать пароль у сотрудника атакуемой организации — это будет обыденное действие, которое прямо сейчас делают миллионы людей. Те самые миллионы людей, которые прямо сейчас могут курить в цехах, лить воду на оголённые провода, ходить без каски по стройке и махать рукавами и вращающегося шпинделя.

И точно так же как с физическими факторами, цифровые факторы - это безличные, непрерывно действующие вредные и опасные факторы производства, которые уже сейчас создают реальные проблемы, но которые до сих пор воспринимают как случайные события.

И чтобы с этим бороться, нужно понять, что против непрерывности и неумолимости вредных и опасных производственных факторов нужна системность цифро-ТБ, которая будет точно так же непрерывно давить в сторону, противоположную той, куда давят вышеуказанные факторы.

Непрерывно, постоянно, с регулярными инструктажами, плакатами и прочей агитацией.

Нет, это не кибербез и безопасники этим заниматься не будут, потому что Холи Бери им за это никуда ничего не приставит. Это придётся делать старым добрым ТБшникам.