По информации издания «Известия», нейросетевой помощник программиста Copilot от Microsoft и GitHub может использоваться злоумышленниками для создания и копирования хакерских инструментов, а также разработки вредоносного ПО. В том числе из-за того, что этот сервис помогает снизить порог входа в программирование для большего числа пользователей, включая мошенников и непрофессиональных хакеров.
Представитель Microsoft пояснил изданию, что целью Copilot является упрощение жизни и повышение эффективности работы авторов программ. Сервис помогает сэкономить им время для более важных, сложных и творческих задач. С другой стороны, система не проверяет сгенерированный код на «вредность» и на то, что он может быть использован для проникновения на чужие ПК и взлома информационных систем.
Эксперты издания опасаются, что такое резкое повышение доступности профессии программист с помощью Copilot может вызвать всплеск разработки различного вредоносного ПО, которое будет создаваться теперь намного быстрее и продуктивнее.
Одно из решений этой проблемы, которое Microsoft может встроить в Copilot — это возможность отслеживания вредоносного кода, написанного пользователем сервиса и нейросетью. Но компания не заявляла о такой опции. Фактически тут пока что нет даже правил, как, например, в робототехнике. Хотя по логике, программа, создающая другую программу, не должна вредить своими действиями другим программам или пользователям. Сейчас этот сервис вне этики и технически может создавать и копировать любой открытый вредоносный код.
С другой стороны, Microsoft может использовать Copilot для борьбы с киберпреступностью — отслеживать пользователей, которые с его помощью создают вредоносные программы. Но в данном случае нарушается механизм приватности разработчиков. Они сразу поймут проблему и перестанут напрямую его использовать.
В российском подразделении Microsoft «Известиям» уточнили, что Copilot находится на стадии ограниченного технического тестирования, во время которого разработчики получают доступ к продукту по запросу. Компания собирается через некоторое время открыть доступ к данному инструменту разработчика всем желающим. При обучении помощника программиста Copilot разработчики использовали весь доступный в репозиториях сервиса публичный код без учёта типа лицензии и проверки его на этичность.
В начале июля разработчики стали жаловаться, что Copilot вместо нескольких строк нужного кода генерирует десятки строк с цитатами и комментариями из проектов с открытым исходным кодом. GitHub уточнила, что Copilot обычно не воспроизводит точные фрагменты кода, а создает производные работы из ранее полученных входных данных. Компания привела статистику, что это происходит лишь в 0,1% случаев. Немного позже GitHub призналась, что при обучении помощника программиста Copilot разработчики использовали весь доступный в репозиториях сервиса публичный код без учёта типа лицензии.
29 июня Microsoft и GitHub представили нейросетевого помощника программиста Copilot, работающего на базе OpenAI Codex. Решение OpenAI Codex генерирует код значительно более эффективно, чем GPT-3. Алгоритм обучали на датасете из терабайтов общедоступного кода. Copilot вышел в виде плагина редактора Microsoft Visual Studio Code и функции браузерного редактора кода GitHub Codespaces после регистрации в программе тестирования техноческого превью сервиса.
Комментарии (20)
Helfi
29.07.2021 05:40+27Эксперты опасаются, что Visual Studio поможет хакерам быстрее писать вредоносный код
Finesse
29.07.2021 05:44+8Надо запретить StackOverflow, IDE, фрэймворки и языки программирования, ведь они резко повышают доступность профессии программист, что вызывает всплеск разработки различного вредоносного ПО, которое создаётся намного быстрее и продуктивнее.
(сарказм на тему бреда от Известий)
Согласен с комментарием выше, Copilot никак не поможет тому, кто не знает, какой код надо написать.
usa_habro_user
29.07.2021 06:05+4Господи, какой бред! Script kiddies вообще не программируют, как правило, а лишь копипастят (ну, может, иногда покупают) чей-то код, вдобавок сопровожденный подробными инструкциями. А настоящему-то хакеру пользоваться Micro$ofto-вским "Copilot"-ом будет просто "зашквар"; вдобавок, у M$ продукт получился, наверняка, "баговый", потому "no way!"
AllexIn
29.07.2021 07:13+4Является ли написание кода основной и единственное работой программиста?
Поддержка кода - вот основная проблема которая стоит перед программистами. И copilot в этом помогает примерно никак.
corvair
29.07.2021 07:48+1из-за того, что этот сервис помогает снизить порог входа в программирование для большего числа пользователей, включая мошенников и непрофессиональных хакеров.
Поэтому только хардкор, только двоичный код!
Max_JK
29.07.2021 09:08+5Как они хотят отличать вредоносный код от обычного, по названиям переменных?
let illegalAccess = startHacking('microsoft.com') illegalAccess.setBackDoor()
i360u
29.07.2021 09:23+7Вот зачем плодить этот бред, высосанный из пальца? На Хабре сидит куча реальных экспертов. Я и сам, своего рода, эксперт. И никакого особого беспокойства не испытываю. Как и эксперты в оригинальной статье.
sepulkary
29.07.2021 09:41По информации «Известий» "новый сервис может существенно снизить порог входа в программирование для новых специалистов и уменьшить тем самым кадровый голод в отрасли" и "Copilot и подобные сервисы способствуют снижению порога входа в разработку".
Ну, это было бы супер круто, реальный прорыв, но я что-то сомневаюсь. Скорее, Copilot будет еще одним помощником, вроде IntelliSense или Code Lens, не более того.
AnarCom
29.07.2021 14:43На самом деле, я предполагаю, что он может быть даже чутка хуже других "автодополнений", условно часто ли вы пишите код почти с 0? Просто я как представлю, как он пытается дополнить уже существующий код) - это определенно будет интересно увидеть.
oOKIBrTlUTohw4Sc
29.07.2021 11:58В том числе из-за того, что этот сервис помогает снизить порог входа в программирование для большего числа пользователей, включая мошенников и непрофессиональных хакеров.
Это какой то оксиморон, простите. Достаточно умный чтобы написать вредоносную программу, но достаточно тупой, чтобы не смочь сделать это без Copilot.
Да и вообще не понимаю как эта хрень может что-то ускорить. Если вам реально оно что-то ускоряет, то мне кажется либо вы используете неправильный фреймворк или библиотеку (слишком низкоуровневые), либо вы тот еще говнокодер.
major-general_Kusanagi
29.07.2021 13:09-1Одно из решений этой проблемы, которое Microsoft может встроить в Copilot — это возможность отслеживания вредоносного кода, написанного пользователем сервиса и нейросетью
использовать Copilot для борьбы с киберпреступностью — отслеживать пользователей, которые с его помощью создают вредоносные программы
Как будто его не возможно взломать.
cepera_ang
Не нужно быть большим экспертом, чтобы понять, что если Copilot поможет хоть кому-то писать хоть какой-то код, то и "хакерам" поможет писать вредоносный. Впрочем, даже "эксперты" слова которых журналисты пытались притянуть за уши в оригинале говорят тоже самое — прямо читается между строк "да отвалите вы уже со своими глупыми вопросами, конечно можно использовать для создания вредоносного кода — код есть код, но б?"№;, поймите уже, что код написанный теми, кто без Copilot'a бы не осилил — ни на что в глобальной картине не повлияет".