Ровно 5 лет назад мы составили топ страшных историй из IT: дипфейки и умные унитазы, взломы и утечки данных… Казалось бы, ничего не изменилось. Как бы не так! Все стало более пугающим…

Техника сегодня и даже пять лет назад – это уже довольно разные вещи. Кардинально она может не отличаться, потому что все еще обладает относительно одинаковыми интерфейсами, хотя со своими особенностями (например, что было вполне ожидаемо, увеличилось количество рекламы, интегрированной везде и всюду). Как и в 2019 нас все еще пугает искусственный интеллект, но теперь его возможности не ограничиваются генерацией нереалистичных дипфейков. ИИ стал гораздо страшнее и уже во многом повлиял на нашу жизнь.

Итак, что же успело нас напугать в 20-х годах?

Новые возможности генеративного ИИ

? Взломщики теперь не просто безлично общаются: все стало серьезнее. Злоумышленники стали использовать ИИ для генерации голосовых и видео- сообщений. Не достаточно попросить записать кружок-подтверждение у друга, который ни с того ни с сего решил «одолжить пять тысяч до зарплаты».

Защититься проще, чем кажется: позвоните или придумайте кодовые слова для внутреннего общения. Без личного подтверждения друга деньги никуда не переводите! Даже на карту по номеру телефона.

В целом, история с генеративным ИИ довольно чувствительная. Уже сейчас у искусственного интеллекта есть потенциал полностью заменить около 300 миллионов работников в Европе и Штатах. А это ли не ужас – остаться ненужным?

Но все же для кого-то развитие генеративных моделей пошло на пользу. Еще пять лет назад ИБ-специалисты не воспринимали ИИ всерьез, но теперь у злоумышленников появилась перспектива автоматизировать свою деятельность. Уже сейчас у них есть возможность автоматической генерации фишинговых писем, эксплойтов и их модификации. Пускай многие вендоры LLM накладывают разные ограничения, чтобы было невозможно такой контент сгенерировать, некоторым все равно удается их обойти.

Политическая пропаганда и потоки дезинформации —  все это тоже стало результатом развития ИИ. Пока люди переживают о силе искусственного интеллекта, увидев слишком правдоподобные картинки президентов в тюремных рубахах, реинкарнации креветочного Иисуса или Папы Римского в пуховике, машина продолжает «бесчувственно творить».

Все тот же Zero-Click

Никто не неуязвим. Zero-Click атаки модифицируются, становясь все менее заметными и все более деструктивными. Чем дальше, тем сложнее — именно поэтому даже при использовании «самых защищенных» технологий типа айфонов, никто не защищен. 

Такие атаки заполонили соцсети (TikTok) и почту, стали чуть ли не регулярным событием — громкие новости про них появляются с периодичностью примерно в 3-4 месяца. А теперь представьте себе, что ваше устройство без причины заражено — уже мурашки ?

Игры тапальщики

? ⚰️ Рассадники вирусов среди и без того наивной аудитории.

В целом, феномен таких игр в качестве основного средства заработка в наше время откровенно настораживает. Пока людям открывается все больше реальных возможностей, чтобы заработать онлайн, они будто бы намеренно ими пренебрегают и продолжают верить вот в такое странное чудо, что за счет нажатий на пушистого виртуального зверя они действительно смогут стать миллионерами. Находится немало недобросовестных искателей выгоды, которые пользуются такой наивностью (исключим создателей игры). 

Проблем с такими играми много: взломы аккаунтов игроков, скам и откровенно странные поступки игроков… 

Дополненная реальность от яблочной компании

? Apple в очередной раз изобрела колесо и выпустила очки дополненной реальности. Но по какой-то причине, их «революция» была с привкусом чего-то зловещего. Хэдсет буквально напугал людей, кто-то жаловался на странные ощущения при использовании. Из-за того, что технология новая, она уязвимее. Страхи не без основания: исследователи из Стэнфордского и Мичиганского университетов предупреждают о потенциальной опасности изменения сознания из-за “passthrough” хэдсетов. А как вам факт того, что несколько условных компаний будет иметь такой большой контроль над тем, как мы видим мир?  

Потребители по-своему решали проблему спортивного интереса — все-таки потрогать и потыкать такой девайс очень хочется. Люди покупали Apple Vision Pro на время, просто поиграться и насладиться киберпанком.

IoT

?‍♀️ ?‍♂️ История ровно такая же как с ИИ и Zero-Click — дома умнеют не по дням, а по часам, и именно поэтому атаки на пылесосы и колонки становятся все искусней. 

Уязвимости Ripple20 были обнаружены в библиотеке Treck TCP/IP и затронули миллионы IoT-устройств — от медицинского оборудования до промышленных систем управления. Они позволяли удаленно выполнять код, то есть могли давать полный контроль над устройствами.

Касательно медицины! За счет PwnedPiper у злоумышленников была возможность получить доступ к пневматическим трубкам. Вещь немного устаревшая, тем не менее именно она продолжает использоваться в западных больницах.

Взлом КИИ

Наверняка, вы помните, что произошло весной: один крупный сервис доставки пострадал от вируса-шифровальщика. Тогда многим пришлось несладко: гибла рассада, выпускницы остались без платьев на праздник, питомцы не могли получить лекарства. У этих людей будто бы жизнь встала на паузу — а это ведь просто сервис доставки! Не ТЭЦ, не система энергоснабжения или суды... Хотя погодите.

Мы стали свидетелями массовой остановки работы аэропортов, банков, больниц одновременно — это обошлось в 5.4 миллиарда долларов. Остаться без желанного растения или застрять в аэропорту — еще переживем, а вот зависимость некоторой жизненно важной инфраструктуры от интернета приводит к экзистенциальному страху ?️

Заключение

? В 2019 году мы вряд ли могли представить, с чем нам придется столкнуться в следующие пять лет. Все очень сильно изменилось: наши страхи в том числе. Мы живем в эпоху, когда можно даже не скачивать неопознанные архивы и экзэшики, чтобы заразить наши телефоны и компьютеры, а из-за обновления антивируса жизнь половины человечества может встать на паузу. Страхи растут пропорционально прогрессу, но в этом есть своя интрига: ведь именно с их помощью мы учимся обращать внимание на важные вопросы. Как нам защититься? Будут ли роботы когда-нибудь умнее нас и займут ли они в итоге наши рабочие места? А если не наши, то может это коснется наших детей?

Мы хотели бы верить, что бояться не стоит, но на всякий случай все-таки будем говорить чату GPT «Спасибо» после каждого запроса :)

За научно-цензурное участие в подготовке текста благодарим друга нашего блога @murzina_a ?

Катерина Смирнова The Terrible

Младшая ведьма Отдела зловещих вещей и явлений, Postapocalypse Technologies