Компромат.Ru ^®

Искусственный интеллект для мошенников

Как киберпреступники создают вредоносные программы при помощи чат-бота ChatGPT

Томас Брюстер

Пользователи подпольных форумов начинают делиться вредоносным ПО, созданным при помощи популярного чат-бота ChatGPT компании OpenAI, а мошенники на сайтах знакомств планируют создавать с помощью этого инструмента ботов, выдающих себя за настоящих девушек. Эксперты предсказывают еще большее вредоносное использование ChatGPT

Исследователи в области кибербезопасности предупреждают, что интернет-мошенники начали использовать ChatGPT, чат-бот на базе ИИ компании OpenAI, для быстрого создания инструментов взлома. Один из экспертов, отслеживающих подпольные форумы, также сообщил Forbes USA, что мошенники тестируют способность ChatGPT создавать других чат-ботов, предназначенных для того, чтобы выдавать себя за девушек и заманивать в ловушку жертв.

Многие первые пользователи ChatGPT забили тревогу по поводу того, что приложение, которое стало популярным всего через несколько дней после запуска в декабре, может создавать программы-вымогатели или вредоносные программы, способные шпионить за тем, какие клавиши нажимает пользователь.

Согласно отчету израильской компании Check Point, занимающейся вопросами безопасности, подпольные криминальные форумы стали набирать популярность. В одном из сообщений на форуме хакер, ранее делившийся вредоносным ПО для Android, продемонстрировал код, написанный ChatGPT, который похищал интересующие его файлы, сжимал их и отправлял по сети. Они продемонстрировали еще один инструмент, который устанавливал на компьютер бэкдор («тайный вход» — дефект алгоритма для удаленного доступа) и мог загружать на зараженный ПК дополнительные вредоносные программы.

На том же форуме другой пользователь поделился кодом Python, который может шифровать файлы, заявив, что приложение OpenAI помогло ему его создать. Он утверждал, что это был первый скрипт, который он когда-либо разрабатывал. Как отметила компания Check Point в своем отчете, такой код может быть использован в безобидных целях, но он также может быть «легко модифицирован для полного шифрования чьего-либо устройства без какого-либо взаимодействия с пользователем», подобно тому, как работают программы-вымогатели. Как отметили в Check Point, тот же пользователь форума ранее продавал доступ к взломанным серверам компании и украденным данным.

Еще один из пользователей также рассказал о злоупотреблении ChatGPT, когда с его помощью были созданы функции торговой площадки даркнета — сродни интернет-магазинам по продаже наркотиков, таким как Silk Road или Alphabay. В качестве примера пользователь показал, как с помощью чат-бота можно быстро создать приложение, отслеживающее цены на криптовалюту для теоретической платежной системы.

Алекс Холден, основатель компании Hold Security, занимающейся киберразведкой, сказал, что видел, как мошенники на сайтах знакомств тоже начинают использовать ChatGPT, пытаясь создать «настоящих людей». «Они планируют создать чат-ботов, которые будут выдавать себя за девушек, чтобы продвинуться дальше в переписках со своими жертвами, — сказал он. — Они пытаются автоматизировать пустую болтовню».

На момент публикации OpenAI не ответила на просьбу о комментарии.

Хотя инструменты, созданные ChatGPT, выглядели довольно простыми, Check Point считает, что это лишь вопрос времени, пока более изощренные хакеры не найдут способ использовать ИИ в своих интересах. Рик Фергюсон, вице-президент по безопасности и анализу угроз американской компании Forescout, сказал, что пока не похоже, чтобы ChatGPT был способен создавать что-то настолько сложное, как «штаммы» вирусов-вымогателей, которые были замечены в серьезных хакерских инцидентах в последние годы. Примером может служить программа-вымогатель Conti, печально известная своим использованием при взломе национальной системы здравоохранения Ирландии. Однако инструмент OpenAI позволит новичкам снизить барьер входа на этот нелегальный рынок, создавая более простые, но столь же эффективные вредоносные программы, добавил Фергюсон.

Он также выразил опасение, что, вместо того чтобы создавать код, крадущий данные жертв, ChatGPT может быть использован для создания веб-сайтов и ботов, которые обманом заставляют пользователей делиться своей информацией. «Это может индустриализировать создание и персонализацию вредоносных веб-страниц, высоконаправленных фишинговых кампаний и афер, основанных на социальной инженерии», — добавил Фергюсон.

Сергей Шикевич, исследователь группы Check Point по анализу угроз, сказал Forbes USA, что ChatGPT станет «отличным инструментом» для российских хакеров, которые не владеют английским языком, чтобы создавать правдоподобные фишинговые письма.

Что касается защиты от преступного использования ChatGPT, Шикевич сказал, что в конечном счете и, «к сожалению», это должно быть обеспечено регулированием. OpenAI внедрила некоторые средства контроля, предотвращая очевидные запросы на ChatGPT для создания шпионских программ с помощью предупреждений о нарушении политики, однако хакеры и журналисты нашли способы обойти эти средства защиты. Шикевич сказал, что компании, подобные OpenAI, возможно, придется юридически заставить обучать свой ИИ выявлять такие злоупотребления.

Перевод Ксении Лычагиной